{"id":52187,"date":"2026-09-21T14:43:32","date_gmt":"2026-09-21T14:43:32","guid":{"rendered":"https:\/\/impulseducacio.org\/?p=52187"},"modified":"2026-09-21T14:53:05","modified_gmt":"2026-09-21T14:53:05","slug":"alucinaciones-ia-escuela","status":"publish","type":"post","link":"https:\/\/impulseducacio.org\/es\/alucinaciones-ia-escuela\/","title":{"rendered":"La alucinaci\u00f3n no es una aver\u00eda del sistema, es su forma de funcionar"},"content":{"rendered":"

<\/div>
<\/div>
<\/div>

Sin luz de aviso<\/h1><\/h1><\/div>
<\/div><\/div><\/div>

Compartir<\/h4>
<\/i><\/a><\/span><\/i><\/a><\/span><\/i><\/a><\/span><\/i><\/a><\/span><\/div><\/div>
<\/div><\/div><\/div>
<\/div>
<\/div>
<\/div>
<\/path><\/svg><\/div>
<\/div><\/div><\/div>
<\/div><\/div><\/div><\/div><\/div>

21 September 2026<\/p>\n<\/div>

<\/div><\/div><\/div><\/div>

La alucinaci\u00f3n no es una aver\u00eda del sistema, es su forma de funcionar<\/h2>\n<\/div>
<\/div><\/div><\/div><\/div><\/div>
<\/span><\/a><\/span>
<\/a><\/span><\/div>
<\/div>
<\/i>M\u00c1S INFO.<\/span><\/a><\/div><\/div><\/div>

El juicio no se delega \u00b7 2 de 12<\/p>\n<\/div><\/div><\/div><\/div>

Un trabajo bien presentado, con su bibliograf\u00eda ordenada, sus a\u00f1os, sus vol\u00famenes y su DOI. El docente comprueba la primera referencia y no la encuentra. Comprueba la segunda y tampoco. A la cuarta ya sabe lo que va a encontrar en las dem\u00e1s. Lo que descoloca en esa escena no es el error, que los alumnos cometen desde que existe la escuela, sino el acabado, porque nadie inventa una cita y se toma la molestia de ponerle un identificador digital cre\u00edble. La m\u00e1quina s\u00ed. Y no lo hace para enga\u00f1ar a nadie.<\/h5>\n<\/div>
<\/div><\/div><\/div><\/div>

Suele decirse que estas herramientas se equivocan y que los ingenieros ir\u00e1n puliendo el fallo versi\u00f3n tras versi\u00f3n. Es una idea razonable, pues es lo que hemos visto ocurrir con casi todas las tecnolog\u00edas que han entrado en la escuela. Con esta no funciona as\u00ed. Lo que llamamos alucinaci\u00f3n no es una aver\u00eda que pueda separarse del resto: es el mismo mecanismo que hace que la herramienta cumpla su funci\u00f3n.<\/p>\n<\/div>

<\/div>
\"al\u00b7lucinacions<\/span><\/div><\/div><\/div><\/div>

Lo que no est\u00e1 escrito en ninguna parte<\/h3>\n

En el art\u00edculo anterior vimos que un modelo de lenguaje calcula qu\u00e9 palabra es m\u00e1s probable a continuaci\u00f3n y repite el c\u00e1lculo hasta terminar la frase. De ah\u00ed se deriva una consecuencia que conviene analizar despacio: un sistema as\u00ed producir\u00e1 una continuaci\u00f3n aunque no haya nada que continuar. Jos\u00e9 Antonio Bowen y C. Edward Watson lo explican con precisi\u00f3n en Teaching with AI: \u201ccomo estos modelos generan ordenando probabilidades sobre la palabra o el p\u00edxel siguiente, tienden a generar datos falsos y a fabricar referencias inexistentes, y esa posibilidad est\u00e1 incorporada en la parte generativa del sistema, igual que el sesgo lo est\u00e1 en su entrenamiento\u201d.<\/p>\n

Los dos problemas se pueden reducir, advierten los mismos autores, pero ser\u00e1n dif\u00edciles de eliminar, porque son consecuencia directa de la forma en que estos sistemas aprenden. No estamos ante un descuido de programaci\u00f3n que alguien no ha tenido tiempo de corregir.<\/p>\n

\u00bfY por qu\u00e9 inventa m\u00e1s sobre unas cosas que sobre otras? Marc Alier, profesor e investigador de la Universitat Polit\u00e8cnica de Catalunya, lo formula en el Informe ODITE 2026 de la manera m\u00e1s \u00fatil para un claustro: la calidad de las respuestas es inconstante, y lo es de forma especial en los \u00e1mbitos donde los datos de entrenamiento son limitados o incompletos. Sobre lo que la humanidad ha escrito mil veces, el terreno est\u00e1 abonado. Sobre lo que casi nadie ha escrito, el modelo sigue teniendo que decir algo, y lo dice.<\/p>\n

Y aqu\u00ed est\u00e1 precisamente el problema. Un coche avisa cuando falla algo, con una luz en el salpicadero. En un modelo de lenguaje no hay ninguna luz de aviso: ning\u00fan indicador interno se enciende cuando el sistema pasa de recuperar un patr\u00f3n bien asentado a rellenar un hueco. Las dos operaciones son la misma operaci\u00f3n. Ray Gallon, escritor y educador, presidente y cofundador de The Transformation Society, lo resume en su entrevista del mismo informe recordando que la m\u00e1quina predice el siguiente grupo de letras y que por eso comete errores, \u00abalucinaciones, que no lo son, en un sentido psicol\u00f3gico\u00bb. La palabra que se ha elegido para nombrar este fen\u00f3meno sugiere una percepci\u00f3n alterada, algo que le pasa a una mente sana en un mal d\u00eda. Pero en realidad no tiene nada que ver con eso.<\/p>\n<\/div><\/div><\/div><\/div>

Ning\u00fan indicador interno avisa cuando la m\u00e1quina pasa de evocar datos firmes a inventar contenido.<\/h6>\n<\/div><\/div><\/div>
\"al\u00b7lucinacions<\/span><\/div><\/div><\/div><\/div>

<\/h3>\n

El tono no es un dato<\/h3>\n

Si\u00a0el aviso no llega de dentro, tendr\u00e1 que llegar de fuera. Y ah\u00ed aparece la segunda dificultad, que es nuestra y no de la m\u00e1quina.<\/p>\n

Cuando leemos, usamos la forma como pista del fondo. Un texto ordenado, sin titubeos, con vocabulario preciso y estructura clara, nos parece m\u00e1s fiable que uno vacilante, y en el trato entre personas esa pista funciona razonablemente bien, porque quien duda suele dudar en voz alta. Alejandro Espeso-Garc\u00eda, autor de una revisi\u00f3n sobre potenciaci\u00f3n y externalizaci\u00f3n cognitiva publicada en Cultura, Ciencia y Deporte, recoge que la fluidez y el tono seguro de estas respuestas inducen a aceptarlas bajo la premisa de que, si se lee bien, debe de ser verdad. La pista sigue ah\u00ed, pero ha dejado de informar de nada. Bowen y Watson lo dicen en una l\u00ednea: \u201cun texto con tono autorizado puede seguir siendo un sinsentido\u201d.<\/p>\n

Parece un aviso para despistados, \u00bfverdad?, pues resulta que funciona al rev\u00e9s. Los mismos autores recogen la experiencia de un instituto alem\u00e1n documentada por Haverkamp en 2022, donde se ense\u00f1aron al alumnado los fallos de la herramienta y despu\u00e9s se le permiti\u00f3 usarla en los ex\u00e1menes. Ning\u00fan estudiante se apoy\u00f3 solo en ella, y varios buscaron informaci\u00f3n adicional por su cuenta. Sin embargo, los estudiantes con menos seguridad en el contenido de la materia o en su propio razonamiento obtuvieron peores resultados, por adoptar el texto generado sin someterlo a cr\u00edtica.<\/p>\n

Ese resultado merece detenerse. Quien m\u00e1s necesita la ayuda es quien menos preparado est\u00e1 para juzgarla, porque para detectar que una afirmaci\u00f3n es falsa hay que saber algo sobre el asunto. Verificar exige saber.<\/p>\n

Tambi\u00e9n lo descubre el alumnado cuando se le da ocasi\u00f3n. Miquel \u00c0ngel Fuentes Arjona, docente de secundaria en un centro p\u00fablico de Catalu\u00f1a y formador en competencia digital docente, documenta en el Informe ODITE 2026 una experiencia de doce sesiones en 1.\u00ba de Bachillerato en la que sus alumnos reconstruyeron por escrito qu\u00e9 pensaban antes y qu\u00e9 piensan ahora. Sobre las alucinaciones, part\u00edan de que era \u00abun problema del programa\u00bb y de que la herramienta \u00absiempre dec\u00eda la verdad\u00bb. Al final hablan de \u00abrespuestas cre\u00edbles, pero err\u00f3neas\u00bb y constatan que el sistema \u00abno es capaz de verificar la informaci\u00f3n\u00bb. Conviene tomar estos datos por lo que son: trece alumnos, un solo trimestre, y una recogida retrospectiva que el propio autor advierte que no es un dise\u00f1o de test previo y posterior. No es una medida de eficacia. Es algo m\u00e1s modesto y m\u00e1s interesante: la voz de quienes han cambiado de criterio explicando por qu\u00e9.<\/p>\n<\/div><\/div><\/div><\/div>

\"al\u00b7lucinacions<\/span><\/div><\/div><\/div>
El alumnado descubre en el aula que las respuestas veros\u00edmiles a menudo esconden afirmaciones completamente err\u00f3neas.<\/h6>\n<\/div><\/div><\/div><\/div>

El mismo gesto que inventa es el que crea<\/h3>\n

Llegados aqu\u00ed, la pregunta del claustro suele ser cu\u00e1ndo estar\u00e1 resuelto. Y la respuesta inc\u00f3moda es que resolverlo del todo tendr\u00eda un precio que quiz\u00e1 no queramos pagar.<\/p>\n

Bowen y Watson dedican un cap\u00edtulo entero de su libro a la creatividad, y el argumento es este: la capacidad de combinar ideas y palabras como ning\u00fan humano las habr\u00eda combinado es la misma capacidad que produce las referencias inventadas. Las alucinaciones pueden ser peligrosas, escriben, \u00abpero son tambi\u00e9n un rasgo de la creatividad\u00bb. Cuando a un modelo se le a\u00f1aden inhibiciones para que afirme menos cosas sin comprobar, se\u00f1alan a prop\u00f3sito de una herramienta concreta, disminuyen las invenciones y disminuye tambi\u00e9n su inter\u00e9s creativo. Ese es el intercambio real, y no lo decide la escuela.<\/p>\n

Lo que s\u00ed decide la escuela es qu\u00e9 hace mientras tanto. Si la invenci\u00f3n no se va a eliminar, la verificaci\u00f3n deja de ser una precauci\u00f3n que se a\u00f1ade al final y pasa a ser la mitad del trabajo. As\u00ed lo plantea la revisi\u00f3n sistem\u00e1tica de Iliana Guaranda-Arias y sus colegas de la Universidad Estatal de Milagro, en Ecuador, que analiza cincuenta y dos estudios y sit\u00faa la verificaci\u00f3n de fuentes, la autor\u00eda y la integridad acad\u00e9mica dentro de lo que llaman alfabetizaci\u00f3n \u00e9tica en inteligencia artificial, junto a la formaci\u00f3n del profesorado en el an\u00e1lisis de casos. Los propios autores advierten que predominan los dise\u00f1os documentales y transversales y que no puede establecerse causalidad. Es un mapa de qu\u00e9 ense\u00f1ar, no una prueba de que ense\u00f1arlo funcione.<\/p>\n

Y hay una \u00faltima vuelta, la m\u00e1s dif\u00edcil de ver desde fuera. Espeso-Garc\u00eda observa que el riesgo mayor no es que la herramienta invente hechos, sino que produzca en quien la usa una alucinaci\u00f3n de competencia: la persona confunde haber obtenido una respuesta coherente con haber entendido el asunto. La m\u00e1quina no tiene luz de aviso. Nosotros tampoco.<\/p>\n<\/div><\/div><\/div><\/div>

El principal riesgo educativo es confundir la coherencia del texto generado con la comprensi\u00f3n real.<\/h6>\n<\/div><\/div><\/div>
\"al\u00b7lucinacions<\/span><\/div><\/div><\/div><\/div>

<\/h3>\n

Qu\u00e9 hacer con esto<\/h3>\n

En el aula<\/strong>. Cristian Ruiz Reinales, director de Tecnolog\u00eda y profesor de Inform\u00e1tica en el Colegio Juan de Lanuza de Zaragoza, documenta en el Informe ODITE 2026 una actividad de 6\u00ba de Primaria llamada \u00abDetectives de citas\u00bb: el alumnado comprueba si una cita atribuida a alguien aparece en fuentes fiables o solo en p\u00e1ginas sin autor\u00eda, y termina formulando sus propias reglas del tipo \u00absi no hay fuente, entonces no la doy por v\u00e1lida\u00bb. En el mismo proyecto funciona una rutina transversal que puede adoptarse ma\u00f1ana en cualquier materia, \u00abIA dice \/ Fuente dice \/ Yo concluyo\u00bb, que obliga a separar por escrito lo que propone la herramienta, lo que puede comprobarse y lo que el alumno concluye con su criterio.<\/p>\n

Para secundaria y bachillerato, Bowen y Watson proponen una tarea m\u00e1s exigente: encargar un trabajo con apoyo de la herramienta y pedir despu\u00e9s que se verifiquen todas las citas, que deben existir y decir lo que la herramienta dice que dicen, entregando juntas las referencias originales y las corregidas. El trabajo de verificaci\u00f3n se convierte as\u00ed en el objeto de evaluaci\u00f3n, no en un requisito previo que nadie mira.<\/p>\n

Para el equipo directivo<\/strong>. La plantilla de pol\u00edtica de centro de Bowen y Watson incluye dos puntos que suelen faltar en las normas de uso que se est\u00e1n aprobando: una advertencia expl\u00edcita sobre los l\u00edmites de la herramienta y una regla clara sobre la responsabilidad \u00faltima del alumno respecto de lo que entrega. Los mismos autores avisan de que una norma construida solo con prohibiciones desmotiva, pierde oportunidades y puede aumentar la desigualdad, porque quien ya sabe usar la herramienta la usar\u00e1 igual. La diferencia entre prohibir citar sin verificar y ense\u00f1ar a verificar parece peque\u00f1a sobre el papel. En la pr\u00e1ctica es la diferencia entre una norma y una competencia. Pau Garc\u00eda-Mil\u00e0, empresario y divulgador, lo formula en su entrevista del informe con una f\u00f3rmula que sirve de br\u00fajula: \u00abque aprendan a desconfiar bien\u00bb.<\/p>\n<\/div><\/div><\/div><\/div>

\"al\u00b7lucinacions<\/span><\/div><\/div><\/div>
Encadenar pasos l\u00f3gicos emula el razonamiento, pero no disipa la opacidad de su mecanismo interno.<\/h6>\n<\/div><\/div><\/div><\/div>

<\/h3>\n

Para terminar<\/h3>\n

La escuela lleva d\u00e9cadas ense\u00f1ando a evaluar fuentes, y esa competencia no ha caducado. Lo que ha cambiado es que antes el texto poco fiable sol\u00eda parecerlo, y ahora no lo parece nunca. La verificaci\u00f3n no es un tr\u00e1mite a\u00f1adido al uso de estas herramientas. Es la mitad del uso.<\/p>\n

Para seguir pensando<\/strong>. De las tareas que hemos puesto este curso, \u00bfcu\u00e1ntas se pueden aprobar sin haber comprobado ni una sola afirmaci\u00f3n? Y una segunda, para la reuni\u00f3n de equipo: cuando un alumno entrega una cita inventada, \u00bfqu\u00e9 estamos evaluando exactamente, su honestidad o su capacidad de comprobar?<\/p>\n<\/div><\/div><\/div><\/div>

Verificar fuentes deja de ser un tr\u00e1mite a\u00f1adido para convertirse en el eje central de la evaluaci\u00f3n.<\/h6>\n<\/div><\/div><\/div>
\"al\u00b7lucinacions<\/span><\/div><\/div><\/div><\/div>
<\/div>
Valora el post \n\n
\n \n
\n \n
\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n <\/div>\n \n
\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n <\/div>\n<\/div>\n \n\n
\n 5\/5 - (5 votes) <\/div>\n <\/div>\n<\/h5>\n<\/div><\/div><\/div><\/div><\/div>

Compartir<\/h4>
<\/i><\/a><\/span><\/i><\/a><\/span><\/i><\/a><\/span><\/i><\/a><\/span><\/div><\/div>
<\/div><\/div><\/div><\/div><\/div>

Te puede interesar<\/p>\n<\/div>

<\/div><\/div><\/div>
<\/i>Subscr\u00edbete<\/span><\/a><\/div>
<\/div><\/div><\/div>