El judici no es delega · 11 de 12

La majoria de les vegades l’escola va per darrere de la llei, la intel·ligència artificial no és una excepció, i quan la norma europea arriba de veritat a l’escola ja fa temps que se l’esperava. És una idea tranquil·litzadora, ja que situa la urgència en un futur indeterminat, però en aquest cas és just al revés.

El Reglament europeu d’intel·ligència artificial es va aprovar el juny de 2024 amb un calendari escalonat (1). El juliol de 2026, un segon reglament conegut com a Òmnibus Digital va moure les dates: els sistemes que més s’han comentat en educació, els que decideixen admissions o avaluen aprenentatges, no seran exigibles fins al 2 de desembre de 2027 (2). Aquest ajornament es va rebre en molts llocs com un respir general. Però realment no ho és, ja que l’obligació que afecta de manera més directa una escola no es va ajornar, i és vigent des del 2 de febrer de 2025.

Un centre es governa en tres plans: el que la llei decideix per ell, el que es firma a la porta i el que s’escriu a dins.

Dos rellotges diferents

El Reglament europeu no classifica eines: classifica usos. Una mateixa aplicació pot ser irrellevant en un context i estar sotmesa a controls estrictes en un altre, segons el que es decideixi sobre ella. Per això la pregunta de claustre no és «podem utilitzar aquesta aplicació?», sinó «per a què la farem servir?».

En educació, l’annex III del Reglament situa en el nivell d’alt risc quatre usos concrets: determinar l’accés o l’admissió a un centre, avaluar els resultats de l’aprenentatge, determinar el nivell educatiu adequat per a una persona, i supervisar i detectar comportaments penalitzats durant els exàmens (1). Alt risc no significa prohibit. Significa permès amb obligacions plenes de supervisió humana, qualitat de les dades, traçabilitat i documentació, i significa que la responsabilitat no desapareix perquè la decisió l’hagi proposada una màquina.

Hi ha a més una prohibició sense termini ni matís, vigent des del febrer de 2025: no es pot utilitzar IA per inferir emocions de l’alumnat en centres educatius, llevat de motius mèdics o de seguretat (1). Qualsevol producte que ofereixi «mesurar l’atenció» d’una classe és fora de la llei europea, amb independència de com de bé funcioni.

Aquí és on els dos rellotges se separen. L’Òmnibus Digital, en vigor des del 27 de juliol de 2026, va ajornar fins al desembre de 2027 les obligacions en referència a aquests usos d’alt risc (2). Però no va tocar l’article 4, que obliga els proveïdors de sistemes d’IA i també els responsables del seu desplegament a adoptar mesures perquè el seu personal tingui un nivell suficient d’alfabetització en la matèria (1).

Aquesta distinció decideix si l’article és aplicable a una escola, i convé llegir-la a poc a poc. Un centre que contracta una eina desenvolupada per un altre no és proveïdor: és responsable del desplegament. L’Òmnibus va suavitzar la redacció, que va passar de garantir un nivell a adoptar mesures que el promoguin, amb la qual cosa el centre ja no respon del resultat, però sí d’haver fet alguna cosa (2). Al costat d’aquesta obligació convé posar una dada: segons els resultats de TALIS 2024 recollits en el Marc AILit de l’OCDE i la Comissió Europea, tres de cada quatre professors afirmen que no tenen els coneixements que necessiten per ensenyar amb IA (3).

El rellotge de la tecnologia s’ha aturat fins al desembre de 2027. El de les persones fa més d’un any que està en marxa.

Ningú no regala una eina

Hi ha una dada de l’informe de Digital Promise sobre alfabetització en IA que a qualsevol equip directiu li resultarà familiar: moltes eines d’IA es comercialitzen al professorat de manera deliberada, per saltar-se els qui administren el centre (5). No és una anècdota comercial. És el mecanisme pel qual una escola acaba amb dotze aplicacions en ús i cap criteri comú sobre cap.

El mateix informe proposa quatre factors per decidir si s’adopta una eina: accessibilitat i equitat, propietat i privacitat de les dades, transparència i impacte (5). I hi afegeix un recordatori incòmode: el centre controla la tecnologia que proporciona, però molt menys la que l’alumnat porta de casa (5).

Sobre les dades, Carles Sierra, director de l’Institut d’Investigació en Intel·ligència Artificial del CSIC i expresident de l’Associació Europea d’IA, és concret. Complir el Reglament General de Protecció de Dades i la Llei Orgànica 3/2018 obliga a informar tota la comunitat educativa de cinc coses: quines dades es recullen, amb quina finalitat, qui les tracta, durant quant de temps i quins drets tenen les persones sobre aquestes dades (4). Cinc preguntes que un proveïdor hauria de respondre per escrit abans que ningú no firmi res. I quan aquestes dades són de menors l’exigència augmenta. Arlet Brufau i Centelles i Albert Sabater Coll, de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya, recorden que aquestes dades poden ser titularitat de menors d’edat, cosa que necessita garanties especialment reforçades (4).

Sembla exigent, oi?, doncs hi ha qui ja ho compleix. El projecte finlandès Generation AI, dirigit pel professor Matti Tedre de la Universitat de l’Est de Finlàndia, va guanyar el Premi de Competències Digitals de la Unió Europea de 2026, lliurat a Brussel·les el 30 de juny (6). Les seves aplicacions funcionen en local, al navegador de l’usuari, no rastregen qui les utilitza, compleixen els requisits del RGPD i no transfereixen dades fora de l’aula (6).

Cap d’aquestes quatre garanties no és una proesa tècnica. Són decisions de disseny que es van prendre perquè algú les va posar com a condició, i el projecte es defineix a si mateix com a dissenyat des dels drets de la infància (7). La pregunta en triar una eina no és si és bona. És què s’emporta a canvi.

Un document que es pugui complir

El pas natural és escriure aleshores una política de centre, i és on més documents es malmeten, perquè es redacten com un reglament disciplinari i acaben sent «paper mullat».

José Antonio Bowen i C. Edward Watson, en la seva guia sobre docència amb IA, enumeren sis punts mínims: quan es permet l’ús i per què, si cal lliurar les instruccions donades a la màquina, com s’acredita aquesta ajuda, una advertència sobre els límits de la IA, la transparència sobre l’ús de detectors, i la responsabilitat última de l’alumne sobre el seu treball (8). Com que està pensat per a una assignatura universitària, la seva aplicació a primària i secundària requereix adaptació.

Les seves dues advertències, en canvi, valen en qualsevol etapa. La primera: «una prohibició total probablement fracassarà», de la mateixa manera que les calculadores no van eliminar la necessitat d’aprendre a multiplicar, encara que van obligar a explicar millor per què calia aprendre-ho (8). La segona, més fina: una política que només enumera el que és permès i el que és prohibit desmotiva, perd oportunitats i augmenta la inequitat (8). Com a esquelet institucional serveixen els cinc principis que vint-i-quatre universitats britàniques del Russell Group van acordar el juliol de 2023: alfabetitzar en IA alumnat i personal; capacitar el personal per acompanyar aquest ús; adaptar ensenyament i avaluació garantint l’accés equitatiu; sostenir el rigor acadèmic; i compartir bones pràctiques (8).

Dels principis a un document real hi ha un salt, i el corpus té un cas escolar documentat. El districte escolar d’Iowa City va constituir un grup de treball amb responsables del districte, direccions de centre i docents, i va elaborar unes pautes d’ús responsable que inclouen definicions, usos permesos, usos prohibits, responsabilitats de l’alumnat i del personal, resposta davant d’incompliments, i consideracions de transparència i comunicació (5). Preveuen alinear-les amb el codi acadèmic i amb les polítiques del consell escolar, i identificar un docent per edifici que impulsi la feina (5). Aquí hi ha l’arquitectura completa: què diu el document, amb qui s’escriu, amb què s’articula i qui el sosté després.

Per saber si una eina concreta compleix existeix un instrument en espanyol. El Model PIO Educació, sigles de Principis, Indicadors i Observables, publicat per l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya el juny de 2025, és una autoavaluació aplicable a qualsevol sistema d’IA que s’utilitzi o es vulgui utilitzar al centre (4). És un qüestionari de resposta binària, amb opció de «no s’aplica», que recorre set principis: transparència, justícia i equitat, seguretat, responsabilitat, autonomia, privacitat i sostenibilitat (4). El seu cicle d’observació, debat i acció gira al voltant d’una pregunta de tres paraules, «ho hem fet?», i tres instituts de la província de Girona ja l’utilitzen per elaborar el seu protocol d’IA (4).

Miquel F. Oliver Trobat i els seus col·legues de la Universitat de les Illes Balears, l’experiència dels quals va aparèixer a l’article 9 d’aquesta sèrie, arriben a la conclusió que ordena la resta: els principis que guien l’ús de la IA no es poden imposar des de fora, sinó que s’han de construir des de la pràctica, el diàleg i el consens professional (4). El document no és el final del procés. És l’acta d’un debat que ja s’ha tingut.

Per portar al centre

Per a l’equip directiu: guió d’elecció d’eines. Deu preguntes. De Digital Promise, les quatre de decisió: accessibilitat i equitat, propietat i privacitat de les dades, transparència i impacte (5). De Sierra, les cinc de dades, que es demanen al proveïdor per escrit: quines dades, per a què, qui les tracta, quant de temps i quins drets hi caben (4). I la desena, que imposa la norma i no admet negociació: aquest ús entra en algun dels quatre supòsits d’alt risc de l’annex III, o infereix emocions de l’alumnat? (1)

Per a l’equip directiu: els apartats del document de centre. Començar pels sis d’Iowa City, separant de manera explícita el que fixa la norma, que no es debat, del que decideix la comunitat, que sí (5). I fixar d’entrada la data de revisió, perquè un calendari que s’ha mogut una vegada pot tornar-se a moure.

Per al claustre: una sessió d’autoavaluació. Triar una eina que ja s’estigui utilitzant, passar-li el qüestionari del Model PIO i discutir en grup els indicadors on la resposta sigui «no» (4). Sierra recorda que per començar n’hi ha prou amb una enquesta o un registre mínim, i que cal «transformar els docents en investigadors, en els Tycho Brahe de la IA» (4).

Per acabar

Governar la IA en un centre educatiu no consisteix a esperar que la norma obligui. L’ajornament no eximeix de res, ja que els usos continuen sent els mateixos i els riscos també. El Marc AILit ho condensa en una frase que serveix de criteri: els sistemes d’IA «s’han de comprendre, auditar i regular» (3). Comprendre és formació, auditar és adopció, regular és política de centre. Les tres són decisions de direcció, i cap no es pot subcontractar al proveïdor.

Si una família preguntés per escrit quines eines d’IA utilitza el centre amb els seus fills, quines dades recullen i qui les va autoritzar, en quant de temps es podria respondre, i qui firmaria aquesta resposta?

Glossari

• Reglament d’IA (AI Act). Reglament (UE) 2024/1689, primera norma general sobre intel·ligència artificial a la Unió Europea. Organitza les obligacions segons el risc de l’ús, no segons la tecnologia.
• Sistema d’alt risc. Ús permès però subjecte a obligacions plenes de supervisió humana, qualitat de dades i documentació. En educació inclou admissió, avaluació d’aprenentatges, determinació del nivell educatiu i vigilància d’exàmens.
• Responsable del desplegament. Organització que utilitza un sistema d’IA desenvolupat per un altre amb finalitats professionals. Una escola que contracta una eina educativa ocupa aquesta posició, no la de proveïdor.
• Obligació d’alfabetització (article 4). Deure dels proveïdors i dels responsables del desplegament d’adoptar mesures que promoguin un nivell suficient de coneixement sobre IA entre els qui utilitzen aquests sistemes. Vigent des del febrer de 2025.
• RGPD. Reglament General de Protecció de Dades de la Unió Europea, de 2016, desenvolupat a Espanya per la Llei Orgànica 3/2018. Regula quines dades personals es poden recollir, amb quina finalitat i amb quins drets per a les persones afectades.
• Model PIO. Instrument d’autoavaluació ètica i legal de sistemes d’IA, elaborat per l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya. Les seves sigles corresponen a principis, indicadors i observables.
• Política d’ús acceptable. Document de centre que defineix quins usos d’una tecnologia es permeten, quins es prohibeixen, qui respon de què i com es revisa l’acord.

Referències

1. Parlamento Europeo y Consejo de la Unión Europea (2024). Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea, L 202. http://data.europa.eu/eli/reg/2024/1689/oj
2. Parlamento Europeo y Consejo de la Unión Europea (2026). Reglamento (UE) 2026/1744, de 8 de julio de 2026, por el que se modifica el Reglamento (UE) 2024/1689 (Òmnibus Digital sobre IA). Diario Oficial de la Unión Europea, 24 de juliol de 2026.
3. OCDE i Unió Europea (2026). Cómo preparar a los alumnos para la era de la IA: Marco de competencias sobre IA para la educación primaria y secundaria (Marco AILit). OECD Publishing, París. https://doi.org/10.1787/65cd27d4-en
4. Muñoz, J. M., Lorenzo, N., Suñé, X., Prats, M. À., i López, C. (coords.) (2026). Informe ODITE 2026: Claves para una nueva educación. Tendencias, retos y propuestas en la era de la IA. ODITE, Asociación Espiral, Educación y Tecnología. https://ciberespiral.org/es/odite/
5. Mills, K., Ruiz, P., Lee, K., Coenraad, M., Fusco, J., Roschelle, J., i Weisgrau, J. (2024). AI Literacy: A Framework to Understand, Evaluate, and Use Emerging Technology. Digital Promise. Estratègia 1, «Provide Guidance for Adoption and Evaluation». https://doi.org/10.51388/20.500.12265/218
6. Universitat de Hèlsinki (2026). Europe’s best AI literacy initiative for education comes from Finland [Notícia institucional, 1 de juliol de 2026]. https://www.helsinki.fi/en/news/artificial-intelligence/europes-best-ai-literacy-initiative-education-comes-finland
7. Generation AI (2022-2026). AI education for children and young people [Web del projecte, secció «Per a docents»]. https://generation-ai-stn.fi/en/
8. Bowen, J. A., i Watson, C. E. (2024). Teaching with AI: A Practical Guide to a New Era of Human Learning. Johns Hopkins University Press.