El judici no es delega · 6 de 12

És comú acceptar que els adolescents, que han crescut amb una pantalla a la mà, noten de seguida quan un text l’ha escrit una màquina, i que n’hi ha prou amb ensenyar-los a desconfiar una mica més. Tanmateix, valdria la pena observar què passa quan se’ls ensenya de debò.

En un institut públic de Catalunya, tretze alumnes de primer de batxillerat van treballar dotze sessions sobre què fa i què no fa la intel·ligència artificial generativa. En acabar, el seu professor, Miquel Àngel Fuentes Arjona, formador en competència digital docent, els va demanar que escrivissin el que creien saber abans i el que sabien ara. Abans deien que la IA «sempre deia la veritat» i que era neutral «perquè és una màquina». Després, que sona convincent, que no és capaç de verificar el que diu, i que ja no és tan fàcil distingir el que ha generat. Era una tasca retrospectiva, en què cada alumne relata el seu propi canvi, i no una mesura d’aprenentatge. Però el que havia canviat, segons ells mateixos, no era la desconfiança, era el repertori. (1)

Desconfiar no és un mètode

Al Colegio Juan de Lanuza de Saragossa, els alumnes de quart i cinquè de primària fan una activitat anomenada «Detectius de frases»: reben dotze targetes, sis generades per una IA i sis atribuïdes a autors o personatges històrics, les classifiquen i expliquen en quins indicis es basen. El criteri d’avaluació que fixen els seus autors, un equip de professors coordinat per Cristian Ruiz Reinales, director de tecnologia del centre, és el que dona sentit a l’activitat sencera: importa més justificar que encertar. (2)

No és una concessió amable. És una decisió sobre què s’està ensenyant. Endevinar l’origen d’un text no és una competència, perquè l’encert no depèn de l’alumne, sinó de com de ben feta o mal feta estigui la falsificació. Justificar sí que ho és, i a més es pot avaluar.

Convé acotar de què parlem quan diem pensament crític, ja que el terme s’ha tornat tan ampli que serveix per a tot i per tant per a res. Una revisió sistemàtica de cinquanta-dos estudis, coordinada per Iliana Guaranda-Arias a la Universitat Estatal de Milagro, el descriu com un conjunt d’habilitats i no tant com a disposicions del caràcter a pensar bé. Algunes d’aquestes habilitats operatives són: analitzar, avaluar evidències i argumentar, a què s’afegeixen identificar biaixos i justificar la decisió pedagògica. (3) Són verbs, i al costat de les actituds necessàries de tenir una mentalitat oberta, curiositat o intenció de buscar la veritat, s’assemblen més a virtuts intel·lectuals que a meres disposicions. I els verbs, les virtuts s’eduquen i s’ensenyen.

Un panell internacional d’experts reunit per investigadors de la Universitat de Linköping, a Suècia, va assolir un consens en la mateixa direcció: per utilitzar la IA de manera responsable l’alumnat necessita aprendre pensament crític, i que el pensament crític és la destresa més important per examinar els biaixos, les dades esbiaixades i els vídeos falsos. (4)

En el segon article d’aquesta sèrie «Sense llum d’avís» vam veure que la fluïdesa d’un text generat no garanteix la seva veritat, perquè el sistema prediu paraules i no comprova fets. En el quart «El deute que no es veu», que com més confiança diposita l’usuari en l’eina, menys escrutini desplega. Tots dos van deixar oberta la pregunta d’aquest: què es fa, en concret, dilluns al matí.

El dubte té fonaments

Avaluar una resposta de la IA sobre la Guerra Civil exigeix saber de la Guerra Civil. Sembla obvi, oi?, doncs les conseqüències no ho són tant.

En la discussió del seu treball, els investigadors de Linköping fan una lectura d’aquest consens que mereix atenció. Recullen l’argument del psicòleg cognitiu Daniel Willingham, segons el qual el pensament crític requereix coneixement de contingut suficient, i sostenen que les dues categories en què s’agrupa el consens del seu panell, el coneixement fonamental sobre la IA i les perspectives crítiques, reflecteixen aquesta interdependència: el coneixement és el fonament sobre el qual s’edifica el raonament i les perspectives crítiques.

Alejandro Espeso-García, de la Universitat Catòlica de Múrcia, arriba a la mateixa conclusió per un altre camí. Sense una base de coneixement assentada en la memòria a llarg termini que permeti auditar i corregir l’algorisme, no hi ha supervisió real, només aparença de supervisió. Per això proposa deixar enrere el model en què la persona es limita a validar el que la màquina produeix, i avançar cap a un altre en què conserva l’autoritat final. (5)

I és que la conseqüència pràctica ja està escrita, amb totes les lletres, en el marc d’alfabetització en IA de Digital Promise, dirigit per Kelly Mills: els sistemes d’IA generativa no s’haurien d’utilitzar per aprendre informació nova sobre un tema, perquè tendeixen a incloure informació subtilment equivocada. (6) Serveixen per treballar sobre el que ja se sap. No per esbrinar el que encara no se sap.

La conclusió que segueix és nostra, i convé dir-ho així. La IA no torna prescindible el coneixement de contingut. El torna més necessari i li canvia la funció: fins ara servia sobretot per produir respostes, i ara serveix a més per auditar-les. Un currículum que es buidi de continguts perquè «això ja ho busca la màquina» deixa l’alumnat sense l’instrument amb què podria discutir-li a la màquina.

Sortir de la pàgina

El 2019, Sam Wineburg, catedràtic d’educació a la Universitat de Stanford, i Sarah McGrew, aleshores doctoranda a la mateixa facultat, van publicar un estudi que hauria de conèixer qualsevol claustre. Van asseure davant d’un ordinador quaranta-cinc usuaris experts d’internet, deu historiadors amb doctorat, deu verificadors professionals de dades i vint-i-cinc estudiants de primer curs, i els van demanar que pensessin en veu alta, amb la pantalla gravada, mentre avaluaven pàgines web sobre assumptes controvertits. (7)

Una de les tasques consistia a valorar dos articles sobre assetjament escolar de dues organitzacions de nom gairebé idèntic: l’Acadèmia Americana de Pediatria, la major associació de pediatres del món, amb seixanta-sis mil membres; i el Col·legi Americà de Pediatres, un grup escindit el 2002, amb uns centenars de membres i un sol empleat a temps complet.

Tots els verificadors van considerar més fiable el lloc de l’Acadèmia. El seixanta per cent dels estudiants va triar el del grup escindit. Els historiadors van dubtar.
El que separava els uns dels altres no era llegir millor. Era llegir menys. Els verificadors abandonaven la pàgina al voltant de mig minut, obrien pestanyes noves i esbrinaven des de fora qui hi havia darrere del que tenien al davant. Els historiadors trigaven gairebé el triple a sortir. Els estudiants, més d’un minut i mig, i nou dels vint-i-cinc no van sortir mai. Aprenien més sobre un lloc, precisament, per abandonar-lo aviat.

Un detall dona la mesura del problema. Set dels deu historiadors van assenyalar les referències del final de l’article com a prova que l’article era fiable. Entre aquelles deu referències n’hi havia una a un diccionari en línia i dues a blogs de notícies.

Wineburg i McGrew anomenen tres pràctiques que expliquen la diferència, i les tres es poden ensenyar. Prendre rumb: orientar-se abans d’entrar en un contingut desconegut, com l’excursionista que mira la brúixola abans de ficar-se al bosc. La lectura lateral: sortir de la pàgina i contrastar la font amb el que altres fonts diuen d’ella. I la contenció del clic: llegir sencera la pàgina de resultats de la cerca abans de clicar el primer.

Aplicació pràctica

A l’aula: la rutina de les tres veus. El projecte del Colegio Juan de Lanuza sosté totes les seves activitats sobre una plantilla que l’alumnat repeteix des de primària fins a batxillerat: «La IA diu, la font diu, jo concloc». Separa el que proposa la màquina del que es pot comprovar i del que decideix la persona, i deixa rastre avaluable. A primària descobreixen i qüestionen; a primer i segon d’ESO experimenten, contrasten i validen; a tercer i quart analitzen i redissenyen; a batxillerat investiguen i comparen eines. (2)

A l’aula: demanar explicacions, no respostes. El mateix equip entrena l’alumnat a demanar a la màquina explicacions locals, sobre un cas concret; selectives, una sola raó que ajudi a millorar; i, a secundària, contrastades, per què aquesta resposta i no una altra. A primària comença amb la pregunta que els alumnes de cinquè fan a una IA que ha resolt malament un problema: en quin pas t’has equivocat. (2)

A l’aula: una sessió de verificació lateral. El projecte CRAFT de la Universitat de Stanford, codissenyat amb professorat de diverses disciplines, publica una lliçó de seixanta minuts sobre com verificar el que respon una IA, amb guia per al docent i full de treball per a l’alumnat, que introdueix la lectura lateral a partir del treball de Wineburg i McGrew. Està pensada per a batxillerat i ciències socials, i és adaptable a quart d’ESO. (8)

Per a l’escola: un estàndard de verificació del centre. Els indicadors del marc de Digital Promise estan redactats com a conductes observables i es poden convertir en acord d’etapa: contrastar diverses perspectives per sostenir la lectura lateral, citar dades i evidències vàlides, i avaluar la credibilitat d’una resposta. (6) Formular-los com a estàndard és proposta nostra a partir del marc, no un instrument pres d’ell.

Per a l’escola: el claustre primer. La revisió de Guaranda-Arias assenyala què hauria d’incloure la formació docent aquí: anàlisi de casos, verificació de fonts, identificació de biaixos i avaluació de respostes generades per IA. Amb una excepció que les seves autores subratllen i que aquest blog no amagarà: la relació entre alfabetització en IA i pensament crític del professorat apareix com a conceptual, sostinguda per estudis majoritàriament documentals o transversals, i no permet afirmar causalitat. (3) El novè article titulat «El que ningú no pot aprendre pel seu compte» se n’ocuparà.

Per acabar

L’escola no ha d’ensenyar a desconfiar de la intel·ligència artificial. A desconfiar s’aprèn sol, tan bon punt un s’emporta el primer disgust, i la desconfiança sense mètode no porta enlloc, perquè qui sospita de tot acaba creient qualsevol cosa. El que l’escola ha d’ensenyar és a comprovar. I comprovar exigeix saber.

Pregunta per continuar pensant. Si demà un alumne lliura un treball correcte, ben escrit i fals, quin procediment concret se li ha ensenyat per adonar-se’n? I en quina matèria se li va ensenyar?

Glossari

• Pensament crític. Conjunt d’habilitats i disposicions que es poden observar i avaluar: analitzar, avaluar evidències, argumentar, identificar biaixos, justificar una decisió i tenir una mentalitat oberta, curiositat o buscar la veritat. No és una mera actitud general de sospita.
• Verificació lateral (o lectura lateral). Estratègia per avaluar la credibilitat d’una font comparant-la amb altres fonts externes. A la pràctica consisteix a abandonar aviat la pàgina que s’està llegint, obrir pestanyes noves i esbrinar qui hi ha darrere.
• Contenció del clic. Pràctica de llegir la pàgina completa de resultats d’una cerca, amb els seus fragments de text, abans de clicar cap enllaç.
• Coneixement de contingut. El que se sap sobre la matèria de què es parla. És la condició que permet detectar un error en una resposta generada: sense ell, l’avaluació es basa en l’aparença del text.
• Plausibilitat. Qualitat d’un text que resulta creïble per la seva forma, la seva fluïdesa i el seu to segur, amb independència que el que afirmi sigui cert.
• Explicabilitat (XAI). Capacitat d’un sistema d’IA d’oferir explicacions comprensibles sobre per què ha produït una resposta determinada. A l’aula es tradueix en ensenyar a demanar aquestes explicacions en lloc d’acceptar la sortida sense més.

Referències

1. Fuentes Arjona, M. À. (2026). Del «Me parece convincente» al «Lo verifico»: una experiencia sobre IA generativa para desarrollar el pensamiento crítico. A Informe ODITE 2026. Claves para una nueva educación. Tendencias, retos y propuestas en la era de la IA. Observatorio de Innovación Educativa y Cultura Digital, Asociación Espiral, Educación y Tecnología.
2. Ruiz Reinales, C. (coord.), Fernández, J., Aguado, R., Guallar, A., i Pérez, G. (2026). IA para pensar mejor: cuando la escuela enseña a dudar, verificar y decidir. A Informe ODITE 2026. Claves para una nueva educación. Tendencias, retos y propuestas en la era de la IA. Observatorio de Innovación Educativa y Cultura Digital, Asociación Espiral, Educación y Tecnología.
3. Guaranda-Arias, I. C., García-Ortiz, L. R., i Guerrero-Zambrano, M. (2026). Alfabetización ética en inteligencia artificial y pensamiento crítico del profesorado: una revisión sistemática reportada conforme a PRISMA 2020. Innova Science Journal, 4(3), 964-974. https://doi.org/10.63618/omd/isj/v4/n3/393
4. Hallström, J., Mannila, L., Nordlöf, C., Heintz, F., Sperling, K., i Stenliden, L. (2026). AI literacy for K-12 education: an international Delphi study. Interactive Learning Environments. https://doi.org/10.1080/10494820.2026.2649553
5. Espeso-García, A. (2025). Inteligencia artificial generativa: entre la potenciación y la externalización cognitiva. Cultura, Ciencia y Deporte, 20(66), secció «The Challenge of Generative AI Literacy». https://doi.org/10.12800/ccd.v20i66.2698
6. Mills, K., Ruiz, P., Lee, K., Coenraad, M., Fusco, J., Roschelle, J., i Weisgrau, J. (2024). AI Literacy: A Framework to Understand, Evaluate, and Use Emerging Technology. Digital Promise. https://doi.org/10.51388/20.500.12265/218
7. Wineburg, S., i McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11), 1-40.
8. Mah, C. (2025). How do I fact-check AI search results? CRAFT: Classroom-Ready Resources About AI for Teaching, Stanford Graduate School of Education i Institute for Human-Centered AI. https://craft.stanford.edu/