El judici no es delega · 8 de 12

Ja ningú no qüestiona que el problema de la intel·ligència artificial és que s’equivoca. Que inventa dades, que atribueix llibres a autors que no els van escriure, que sosté una falsedat amb el mateix aplom amb què sosté una veritat. D’això se’n va ocupar l’article «Sense llum d’avís» d’aquesta sèrie, i, de moment, continua sent un problema real. Però no és l’únic, i probablement tampoc no és el més gran.

Igual que la IA, el plàstic tampoc no es va inventar per ser nociu. Gunther Kress i Theo van Leeuwen, dos dels fundadors de la semiòtica social, recorden que des dels anys trenta el plàstic ha estat celebrat i vilipendiat alhora: per versàtil, per barat i pel que deixa darrere quan ja s’ha utilitzat (1). Ningú no discuteix que sigui útil. El problema sorgeix quan s’acumula.

Jasper Roe, professor de la Facultat d’Educació de la Universitat de Durham, amb Leon Furze, investigador de la Universitat de Deakin a Melbourne, i Mike Perkins, director del Centre d’Investigació i Innovació de la British University Vietnam, proposen prendre’s aquesta comparació seriosament. El que la intel·ligència artificial generativa produeix és, segons la seva formulació, «sintètic, ubic, útil i potencialment tòxic» (1). D’aquí que ho anomenin plàstic digital.

Ni bo ni dolent, i a tot arreu

Haurien pogut escriure una definició, tanmateix van escriure una metàfora, i la van triar amb mètode.

El seu treball, publicat el 2026 a Pedagogies: An International Journal, aplica la teoria de la metàfora conceptual del lingüista George Lakoff i el filòsof Mark Johnson, que sosté que les metàfores no són un adorn del llenguatge sinó l’estructura amb què organitzem el món. El procediment té tres passos: analitzar les propietats del material d’origen, que és el plàstic físic; buscar aquestes mateixes propietats en el material de destí, que és el contingut generat per la IA; i construir després el pont entre tots dos (1). Aquesta és una anàlisi conceptual, sense dades pròpies, que proposa una manera de mirar. No és un estudi empíric.

Tres trets sostenen el pont. El primer és que el contingut generat resulta barat en el punt d’ús: producció ràpida, a escala, en qualsevol format i sovint sense cost directe per a qui l’encarrega. El segon és que és mal·leable, perquè el significat es pot traslladar d’un mode a un altre, del text a la imatge, de la imatge a la veu, de la veu al text. El tercer, i el que dona nom a aquest article, és que és persistent.

I és que la mal·leabilitat té un preu que els autors no amaguen. Un alumne pot produir avui la narració, la il·lustració i la banda sonora d’un mateix treball sense escriure, sense dibuixar i sense gravar res. Això amplia el que pot arribar a dir. També el pot portar a prioritzar l’eficiència sobre la veu pròpia i a dependre de la producció algorísmica fins i tot quan no la necessita (1).

L’avantatge de pensar amb una metàfora, i no amb una definició, és que obliga a fer preguntes que el vocabulari tècnic no obliga a fer. A ningú no se li acut preguntar a un processador de textos de qui són les dades que amplifica. A un oceà ple de plàstic sí que se li pregunta qui el va omplir.

El que queda al fons

El plàstic físic no desapareix: es fragmenta. Els trossos es tornen microscòpics, s’anomenen microplàstics i romanen dècades en abocadors i oceans, alterant l’ecosistema des de dins.

Roe, Furze i Perkins porten la comparació fins al final i parlen de microplàstics digitals. Els fragments de contingut sintètic s’acumulen en les dades d’entrenament dels models següents, i aquí la metàfora deixa de ser una imatge elegant i es converteix en una advertència tècnica: el material que la màquina produeix torna a la xarxa, i de la xarxa s’alimenta la màquina següent (1). És el bucle que va quedar anunciat en el tercer article d’aquesta sèrie.

Per anomenar el final d’aquest bucle, els autors recullen el treball d’Ilia Shumailov i els seus col·legues, publicat el 2024 a Nature: entrenar un model sobre contingut generat de manera recursiva pot conduir al col·lapse del model, un estat en què les sortides es tornen inintel·ligibles i mancades de sentit (1, 3). L’article ho descriu a més amb una expressió que a un claustre li diu més que qualsevol tecnicisme: contaminació del conjunt de dades.

Convé llegir això amb la prudència amb què es llegeix qualsevol projecció. Ningú no afirma que el col·lapse s’hagi de produir, ni quan. El que s’afirma és que el risc procedeix de les propietats del material i no d’un mal ús puntual, i que el rastre ja és mesurable: hi ha adjectius delators, hi ha petjades detectables en la literatura científica i existeix fins i tot un nom popular per a la brossa que inunda els espais en línia, AI slop (1).

La toxicitat, a més, no sempre és subtil. El gener de 2025, Meta va retirar d’Instagram i de Facebook els perfils generats amb intel·ligència artificial que la mateixa empresa havia creat, després de la reacció pública contra els estereotips que aquells personatges reproduïen (1). No va ser una fallada del sistema. Va ser el sistema funcionant.

Ensenyar també a no utilitzar-lo

Arribats aquí, la pregunta deixa de ser sobre la tecnologia i passa a ser nostra. Què cal ensenyar per viure en un ambient així.

La resposta de l’article té nom propi: alfabetització crítica en intel·ligència artificial, CAIL per les seves sigles en anglès. Els autors la distingeixen de manera expressa de l’alfabetització en IA a seques, un terme que, com ells mateixos admeten, es defineix de manera laxa i s’aplica de manera inconsistent, sense definició universal (1). L’adjectiu afegeix tres coses: comprendre els fonaments tècnics, reconèixer les implicacions socials i veure les estructures de poder incorporades en el sistema.

I n’afegeix una quarta que no ha aparegut encara en cap article anterior d’aquesta sèrie, perquè és la més incòmoda. L’alumnat necessita alfabetització crítica, escriuen, en part per poder resistir-se a les tecnologies i rebutjar-les, no només per utilitzar-les o consumir-les (1). Portat a l’aula, el criteri és concret: utilitzar l’eina generativa quan articula millor el que es vol dir, i no utilitzar-la quan el significat es transmet millor sense ella. Decidir no utilitzar-la és part de la competència, no una renúncia a aquesta.

Al darrere hi ha una raó de justícia, i és la que interpel·la de manera més directa un equip directiu. L’article «El món que va cabre a les dades» d’aquesta sèrie va mostrar que donar la mateixa eina a tothom no iguala res, perquè l’accés material no és l’accés epistèmic. El marc d’alfabetització en IA de Digital Promise ho formula des de l’altre extrem del problema: això resulta especialment crucial en el sistema educatiu perquè «es demana als joves que utilitzin sistemes d’IA sense poder triar» quines eines (2). Qui no va triar l’eina difícilment pot carregar en solitari amb la responsabilitat de defensar-se’n.

Res d’això no demana una assignatura nova. Els autors situen l’alfabetització crítica dins del projecte de les multialfabetitzacions, és a dir, dins de llengua, de ciències socials, d’art i de tutoria (1). És el mateix criteri amb què el projecte CRAFT de la Universitat de Stanford dissenya els seus materials, pensats de manera expressa perquè els puguin utilitzar docents de qualsevol disciplina (5). I coincideix amb el que assenyala la revisió sistemàtica de Guaranda-Arias i col·legues, que situa la desinformació i l’acceptació acrítica entre els riscos documentats en els 52 estudis revisats, amb l’excepció, que les seves autores subratllen, que es tracta majoritàriament d’estudis documentals o transversals (4).

Per portar a l’aula i al despatx

A l’aula: l’auditoria de plàstic digital. Durant una setmana, cada alumne registra el contingut que consumeix i anota quin sospita que és sintètic, per què ho sospita i què li aporta. Després es classifica en comú: usos útils, usos indiferents i usos tòxics. Els autors de l’article conviden a portar el concepte a tasques i discussions d’aula, però no descriuen aquesta activitat: la proposta concreta és nostra (1).

A l’aula: veure la bombolla per dins. Somekone, la Social Media Machine del projecte finlandès Generation AI, simula un mur de xarxa social i fa visible en temps real com cada acció de l’usuari, mirar, donar un m’agrada o passar de llarg, genera dades, construeix un perfil i determina el que es recomana després. L’alumnat pot modificar els paràmetres de l’algorisme i comprovar com s’estreny o s’eixampla el que veu. Funciona sencera al navegador i no treu dades de l’aula (6). Treballa de manera directa un dels indicadors del marc de Digital Promise: buscar informació fora de la bombolla de filtre (2).

A l’aula: justificar per escrit la decisió de no utilitzar-la. En un treball amb ús permès d’IA, cada alumne assenyala un punt en què va decidir no utilitzar-la i explica per què el resultat era millor sense ella. És la competència de resistència convertida en tasca avaluable.

Per a l’equip directiu: centrar la justícia com a criteri del pla de centre. Digital Promise proposa quatre moviments per promoure la consciència i l’agència de tota la comunitat: aprendre com funcionen aquestes eines; comunicar a les famílies com s’utilitzen al centre i donar-los la possibilitat d’acceptar-ho o no; ajudar a formular les preguntes que gairebé ningú no sap fer encara; i reclamar els drets propis sobre les dades (2). L’alfabetització crítica no pot quedar en mans del capital cultural de cada família.

Per acabar

El plàstic no és l’enemic. El que ha resultat difícil de gestionar no ha estat la seva existència, sinó la seva acumulació, la seva persistència i la lentitud amb què vam aprendre a conviure-hi. Amb el contingut sintètic som a la fase primerenca d’aquesta mateixa història, i aquesta vegada amb un avantatge: sabem des del principi el que s’està acumulant.

Pregunta per continuar pensant. Si un alumne li lliura un treball fet enterament amb eines generatives, correcte i ben presentat, sabria assenyalar-li un punt en què hauria estat millor no utilitzar-les? I li ho ha ensenyat alguna vegada?

Glossari

• Contingut sintètic. Text, imatge, àudio o vídeo produït per un sistema d’intel·ligència artificial en lloc de per una persona. No significa fals: significa generat.
• Plàstic digital. Metàfora proposada per Roe, Furze i Perkins per al contingut sintètic, per analogia amb el plàstic físic: creat per humans, barat, ubic, mal·leable, persistent, útil i potencialment tòxic.
• Microplàstics digitals. Fragments de contingut sintètic que s’acumulen en les dades amb què s’entrenen els models següents i degraden a poc a poc la qualitat de l’ecosistema informatiu.
• Col·lapse del model. Deteriorament que pot patir un sistema entrenat de manera recursiva sobre contingut generat per altres sistemes, fins a produir sortides inintel·ligibles.
• Alfabetització crítica en IA (CAIL). Capacitat d’analitzar i utilitzar els sistemes d’IA comprenent els seus fonaments tècnics, les seves implicacions socials i les estructures de poder que incorporen, inclosa la de decidir no utilitzar-los.
• Multialfabetitzacions. Enfocament pedagògic que amplia la lectura i l’escriptura tradicionals a tots els modes amb què avui es crea significat: imatge, so, vídeo i les seves combinacions.
• Bombolla de filtre. Efecte pel qual un sistema de recomanació estreny el que una persona veu fins a deixar-la exposada gairebé només a continguts afins al seu perfil.

Referències

1. Roe, J., Furze, L. i Perkins, M. (2026). Digital plastic: a metaphorical framework for Critical AI Literacy in the multiliteracies era. Pedagogies: An International Journal, 21(2), 185-199. https://doi.org/10.1080/1554480X.2025.2557491
2. Mills, K., Ruiz, P., Lee, K., Coenraad, M., Fusco, J., Roschelle, J. i Weisgrau, J. (2024). AI Literacy: A Framework to Understand, Evaluate, and Use Emerging Technology. Digital Promise. https://doi.org/10.51388/20.500.12265/218
3. Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R. i Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631, 755-759. Citat a (1). https://doi.org/10.1038/s41586-024-07566-y
4. Guaranda-Arias, I. C., García-Ortiz, L. R. i Guerrero-Zambrano, M. (2026). Alfabetización ética en inteligencia artificial y pensamiento crítico del profesorado: una revisión sistemática reportada conforme a PRISMA 2020. Innova Science Journal, 4(3), 964-974. https://doi.org/10.63618/omd/isj/v4/n3/393
5. CRAFT. Classroom-Ready Resources About AI For Teaching. Stanford Graduate School of Education i Institute for Human-Centered AI. Principi de multidisciplinarietat. https://craft.stanford.edu/
6. Generation AI. Somekone, the Social Media Machine. Consorci de les universitats de Hèlsinki, Oulu i Finlàndia Oriental, Codeschool Finland i Heureka. https://www.gen-ai.fi/en/tools/somekone