{"id":52315,"date":"2026-09-29T09:49:54","date_gmt":"2026-09-29T09:49:54","guid":{"rendered":"https:\/\/impulseducacio.org\/?p=52315"},"modified":"2026-09-29T09:50:15","modified_gmt":"2026-09-29T09:50:15","slug":"sesgos-de-la-ia-antes-del-algoritmo","status":"publish","type":"post","link":"https:\/\/impulseducacio.org\/es\/sesgos-de-la-ia-antes-del-algoritmo\/","title":{"rendered":"El sesgo algor\u00edtmico no empieza en el algoritmo"},"content":{"rendered":"

<\/div>
<\/div>
<\/div>

El mundo que cupo en los datos<\/h1><\/h1><\/div>
<\/div><\/div><\/div>

Compartir<\/h4>
<\/i><\/a><\/span><\/i><\/a><\/span><\/i><\/a><\/span><\/i><\/a><\/span><\/div><\/div>
<\/div><\/div><\/div>
<\/div>
<\/div>
<\/div>
<\/path><\/svg><\/div>
<\/div><\/div><\/div>
<\/div><\/div><\/div><\/div><\/div>

29 September 2026<\/p>\n<\/div>

<\/div><\/div><\/div><\/div>

El sesgo algor\u00edtmico no empieza en el algoritmo<\/h2>\n<\/div>
<\/div><\/div><\/div><\/div><\/div>
<\/span><\/a><\/span>
<\/a><\/span><\/div>
<\/div>
<\/i>M\u00c1S INFO.<\/span><\/a><\/div><\/div><\/div>

El juicio no se delega \u00b7 3 de 12<\/p>\n<\/div><\/div><\/div><\/div>

Suele decirse que la m\u00e1quina, al menos, es imparcial. No tiene prejuicios porque no tiene opiniones, no tiene intereses porque no cobra, y por eso en m\u00e1s de un claustro se la recibe como el \u00fanico participante neutral de la conversaci\u00f3n. Nadie program\u00f3 ese prejuicio. Y est\u00e1 ah\u00ed de todos modos.<\/h5>\n<\/div>
<\/div><\/div><\/div><\/div>

Esta es una idea razonable, y era la que ten\u00eda el alumnado de 1.\u00ba de Bachillerato que particip\u00f3 en la experiencia documentada por Miquel \u00c0ngel Fuentes Arjona, docente de secundaria en un centro p\u00fablico de Catalu\u00f1a y formador en competencia digital docente, recogida en el Informe ODITE 2026. Al empezar, preguntados por los sesgos, varios respondieron que la IA \u00abera neutral porque es una m\u00e1quina\u00bb, alguno que era totalmente objetiva, y dos reconocieron que no sab\u00edan qu\u00e9 significaba la palabra sesgo. Al terminar la secuencia hablaban de discriminaci\u00f3n, de estereotipos y del origen de los datos y de las decisiones de quien los dise\u00f1a (4).<\/p>\n<\/div>

<\/div>
\"biaixos<\/span><\/div><\/div><\/div><\/div>

Alguien eligi\u00f3 qu\u00e9 entraba<\/h3>\n

Conviene volver un momento al mecanismo del art\u00edculo anterior<\/a><\/span> y darle una vuelta m\u00e1s. Un modelo de lenguaje ordena probabilidades sobre la palabra siguiente a partir de un conjunto enorme de textos. Pero ese conjunto no cay\u00f3 del cielo. El Marco de Alfabetizaci\u00f3n en IA que la OCDE y la Comisi\u00f3n Europea public\u00f3 en 2026 lo formula con una precisi\u00f3n que merece leerse despacio: los sistemas se entrenan para identificar patrones entre elementos de datos que los seres humanos han seleccionado, categorizado y priorizado (1).<\/span><\/p>\n

Tres verbos, tres decisiones. Seleccionar es decidir qu\u00e9 entra y qu\u00e9 se queda fuera. Categorizar es decidir qu\u00e9 cosas cuentan como la misma cosa. Priorizar es decidir qu\u00e9 pesa m\u00e1s. Ninguna de las tres es la decisi\u00f3n de discriminar a nadie, y el resultado discrimina igual. Por eso el mismo marco sostiene que \u00aben los sistemas de IA existe un sesgo intr\u00ednseco\u00bb, que puede adem\u00e1s reflejar sesgos sociales presentes en los datos de entrenamiento o en el dise\u00f1o de los algoritmos, y que las personas pueden agravarlos o mitigarlos, de forma accidental o deliberada, durante el dise\u00f1o, el desarrollo, las pruebas y el uso (1).<\/span><\/p>\n

El marco de alfabetizaci\u00f3n en IA que Kelly Mills y sus colegas publicaron en 2024 en Digital Promise, organizaci\u00f3n estadounidense sin \u00e1nimo de lucro dedicada a la equidad educativa, recoge ejemplos que el propio alumnado detecta y que van bastante m\u00e1s all\u00e1 del t\u00f3pico. Sistemas de reconocimiento facial que aciertan m\u00e1s con rostros blancos que con los dem\u00e1s. Sistemas que no reconocen las voces infantiles. Asistentes de voz con timbre femenino por defecto, que refuerzan una norma de g\u00e9nero que nadie lleg\u00f3 a escribir en ninguna parte (2).<\/span><\/p>\n

Hay un mecanismo m\u00e1s fino, y es el que conviene entender antes de firmar un contrato con un proveedor. Un modelo que reparte oportunidades puede no usar la raza, ni la religi\u00f3n, ni el g\u00e9nero, ni la edad, y discriminar exactamente igual a partir del c\u00f3digo postal y del nivel de estudios de la familia, que funcionan como sustitutos de las variables prohibidas (2).<\/span><\/p>\n

Parece que la soluci\u00f3n pasar\u00eda por recoger m\u00e1s datos, \u00bfverdad?, pues resulta que no. El mismo texto advierte de que los intentos de corregir la infrarrepresentaci\u00f3n recogiendo m\u00e1s informaci\u00f3n sobre comunidades ya vulnerables han causado da\u00f1os a\u00f1adidos, y plantean problemas serios de consentimiento y de vigilancia (2).<\/span><\/p>\n<\/div><\/div><\/div><\/div>

Seleccionar, categorizar y priorizar datos de entrenamiento introduce sesgos sociales sin necesidad de programarlos expresamente.<\/h6>\n<\/div><\/div><\/div>
\"sesgos<\/span><\/div><\/div><\/div><\/div>

La lengua en la que se pens\u00f3<\/h3>\n

El desequilibrio no es solo de categor\u00edas. Tambi\u00e9n es geogr\u00e1fico y ling\u00fc\u00edstico.<\/p>\n

Jasper Roe, profesor de la Facultad de Educaci\u00f3n de la Universidad de Durham, con Leon Furze y Mike Perkins, sostiene en un art\u00edculo publicado en 2026 en Pedagogies: An International Journal que la ausencia de sistemas producidos localmente lleva a depender de modelos de grandes corporaciones entrenados sobre bases de datos centradas en Occidente y en lengua inglesa. Los autores recogen para describirlos la idea de las \u00abm\u00e1quinas de cultura\u00bb, sistemas que gravitan hacia las generalidades culturales y ling\u00fc\u00edsticas dominantes (3). Aunque conviene decir de qu\u00e9 tipo de trabajo se trata, porque marca hasta d\u00f3nde llega: es un an\u00e1lisis conceptual, sin datos propios, que propone un marco para pensar. No es un estudio emp\u00edrico.<\/p>\n

Traducido a un aula, el efecto se vuelve reconocible. Carles Sierra, profesor de investigaci\u00f3n del CSIC, director del Instituto de Investigaci\u00f3n en Inteligencia Artificial y expresidente de la Asociaci\u00f3n Europea de IA, lo ilustra en el Informe ODITE 2026 con un caso que cualquier docente puede imaginar: un sistema que reconociera \u00fanicamente acentos castellanos podr\u00eda discriminar a los alumnos con otras pronunciaciones. Y a\u00f1ade uno que da todav\u00eda m\u00e1s que pensar en un centro educativo, el del sesgo de confirmaci\u00f3n: un sistema que privilegia los patrones previsibles ya presentes en los datos penaliza o invisibiliza las respuestas originales, creativas o minoritarias del alumnado, confirmando solo aquello que ya figuraba en el registro (4).<\/p>\n

Queda una segunda capa, bastante menos comentada. El sesgo no procede \u00fanicamente de lo que entr\u00f3, sino tambi\u00e9n de lo que se ajusta despu\u00e9s. Roe, Furze y Perkins recuerdan que las distorsiones pueden introducirse no desde los datos de entrenamiento sino desde los propios desarrolladores, que supervisan y corrigen la salida del modelo una vez entrenado (3). El Marco de Alfabetizaci\u00f3n en IA lo confirma desde otro \u00e1ngulo: parte del entrenamiento puede incluir aprendizaje por refuerzo, en el que el sistema mejora por ensayo y error guiado por valoraciones y recompensas (1). Alguien decide qu\u00e9 respuesta merece recompensa.<\/p>\n

El corpus es el mundo que cupo en los datos. El ajuste es la mano que despu\u00e9s recorta los bordes.<\/p>\n<\/div><\/div><\/div><\/div>

\"sesgos<\/span><\/div><\/div><\/div>
Los modelos basados en corpus dominantes penalizan las variantes ling\u00fc\u00edsticas locales y la creatividad minoritaria.<\/h6>\n<\/div><\/div><\/div><\/div>

Dos alumnos, la misma herramienta<\/h3>\n

Llegados a este punto, la pregunta deja de ser t\u00e9cnica y pasa a ser nuestra. Si todos los alumnos del centro tienen la misma herramienta abierta en la misma pantalla, \u00bfest\u00e1n en la misma situaci\u00f3n?<\/p>\n

Roe, Furze y Perkins responden que no, y el argumento es el m\u00e1s \u00fatil de todo su art\u00edculo. Distinguen entre el acceso material y el acceso epist\u00e9mico. El primero consiste en tener el dispositivo, la conexi\u00f3n y la licencia. El segundo consiste en conocer los supuestos culturales incorporados en la herramienta, saber que est\u00e1n ah\u00ed y poder interrogarlos. Quien no dispone del segundo queda, en los t\u00e9rminos de Paulo Freire que los autores recuperan, como recipiente pasivo de un conocimiento que no est\u00e1 en condiciones de transformar (3).<\/p>\n

Y es que la brecha no separa solo pa\u00edses, separa pupitres. Los mismos autores se\u00f1alan que quien no puede pagar los modelos de suscripci\u00f3n recurre a las herramientas gratuitas, de calidad potencialmente menor (3). En un aula ordinaria eso significa que dos alumnos que entregan el mismo trabajo no han usado la misma m\u00e1quina, ni han tenido la misma capacidad de discutir lo que la m\u00e1quina les dijo.<\/p>\n

De ah\u00ed que el consenso internacional apunte donde apunta. El estudio Delphi coordinado por Jonas Hallstr\u00f6m, de la Universidad de Link\u00f6ping, cerr\u00f3 tres rondas de consulta con acuerdo en solo ocho de veintitr\u00e9s enunciados. Dos de esos ocho vienen al caso: que el alumnado necesita aprender sobre las limitaciones de estos sistemas, por ejemplo las debidas al sesgo, y que el pensamiento cr\u00edtico es la habilidad m\u00e1s importante para examinar sesgos, datos sesgados y deepfakes (5).<\/p>\n

Interesa igual de mucho aquello en lo que no hubo acuerdo. El enunciado que propon\u00eda que el alumnado necesita abrir la caja negra de la IA no alcanz\u00f3 consenso (5). Nadie pide que una chica de quince a\u00f1os audite un modelo. Lo que se pide es que sepa que dentro hay decisiones humanas y que pueda preguntar por ellas, porque, seg\u00fan recordaba uno de los panelistas, sin una comprensi\u00f3n b\u00e1sica de c\u00f3mo se produce el sesgo el sistema sigue siendo para el alumnado una caja negra m\u00e1gica ante la que no cabe ninguna agencia (5).<\/p>\n<\/div><\/div><\/div><\/div>

Tener el dispositivo no garantiza comprender ni discutir los supuestos culturales de la m\u00e1quina.<\/h6>\n<\/div><\/div><\/div>
\"sesgos<\/span><\/div><\/div><\/div><\/div>

<\/h3>\n

Qu\u00e9 hacer con esto<\/h3>\n

En el aula, en primaria<\/strong>. Olga Armengol Pastall\u00e9, maestra de entorno digital en la Escola Sant Nicolau de Sabadell, documenta en el Informe ODITE 2026 el proyecto \u00ab\u00bfDetectamos insultos con la IA?\u00bb, desarrollado con 52 alumnos de 5.\u00ba de Primaria y dos docentes en codocencia. El alumnado construy\u00f3 primero un mural con palabras e insultos racistas, machistas y hom\u00f3fobos, recogidos en clase y en casa con ayuda de las familias, y entren\u00f3 despu\u00e9s con ellos un clasificador en Learning ML, programando la interfaz en Scratch 3.0 para observar los porcentajes de acierto. Un alumno lo resumi\u00f3 mejor que cualquier definici\u00f3n: la IA aprende como nosotros, \u00absi le damos datos malos, tambi\u00e9n se equivoca\u00bb (4). La evaluaci\u00f3n fue formativa, con r\u00fabricas y diario de aprendizaje, no un dise\u00f1o controlado.<\/p>\n

En el aula, en secundaria<\/strong>. El proyecto finland\u00e9s Generation AI, financiado por el Consejo de Investigaci\u00f3n de Finlandia y premiado en 2026 con el Premio Europeo de Competencias Digitales, ofrece de forma gratuita la aplicaci\u00f3n Teachable Machine, que no es la herramienta hom\u00f3nima de Google. Funciona en el navegador, en local, sin recoger datos personales, y permite entrenar un clasificador de im\u00e1genes con los ejemplos que el propio grupo elija. La actividad consiste en entrenarlo con un conjunto deliberadamente desequilibrado y comprobar a qui\u00e9n reconoce peor. As\u00ed, seg\u00fan formula el propio proyecto, la IA se presenta como un sistema dise\u00f1ado y moldeado por personas, y no como una caja negra opaca (6).<\/p>\n

Para el equipo directivo<\/strong>. Dos criterios antes de adoptar cualquier herramienta. El primero lo enuncia Digital Promise sin rodeos: los sistemas cuyo funcionamiento interno no puede examinarse no deber\u00edan emplearse en decisiones de alto impacto, y merece la pena preguntarse cu\u00e1les lo son en un centro (2). El segundo es la pregunta que casi nunca se le hace al proveedor: \u00bffunciona igual de bien con el alumnado que tenemos nosotros (4)?<\/p>\n

Para el claustro<\/strong>. La revisi\u00f3n sistem\u00e1tica de Iliana Guaranda-Arias y sus colegas de la Universidad Estatal de Milagro, en Ecuador, sit\u00faa la identificaci\u00f3n de sesgos entre los contenidos que deber\u00eda incluir la formaci\u00f3n del profesorado, junto al an\u00e1lisis de casos y la verificaci\u00f3n de fuentes, con la advertencia de que el predominio de dise\u00f1os descriptivos impide establecer causalidad (7).<\/p>\n<\/div><\/div><\/div><\/div>

\"sesgos<\/span><\/div><\/div><\/div>
Entrenar modelos con datos propios en la escuela permite comprobar c\u00f3mo se originan los errores algor\u00edtmicos.<\/h6>\n<\/div><\/div><\/div><\/div>

<\/h3>\n

Para terminar<\/h3>\n

El sesgo de la IA no es un fallo moral de la m\u00e1quina ni la maldad de quien la program\u00f3. Es el resultado acumulado de decisiones razonables tomadas por separado: qu\u00e9 datos se recogen, c\u00f3mo se agrupan y qu\u00e9 se premia al ajustar el modelo. Por eso no se corrige exigiendo buenas intenciones. Se corrige ense\u00f1ando a preguntar qu\u00e9 falta, qui\u00e9n no aparece y en qu\u00e9 lengua se pens\u00f3 esto. Es una competencia, y las competencias se ense\u00f1an.<\/p>\n

Para seguir pensando<\/strong>. De nuestros alumnos, \u00bfqui\u00e9nes est\u00e1n hoy en condiciones de notar lo que la herramienta ha dejado fuera, y qui\u00e9nes no? Y si esa diferencia sigue la l\u00ednea de lo que cada uno tiene en casa, \u00bfqu\u00e9 parte puede compensar el centro este curso?<\/p>\n<\/div><\/div><\/div><\/div>

El sesgo se corrige ense\u00f1ando a preguntar qui\u00e9n no aparece y qu\u00e9 datos faltan.<\/h6>\n<\/div><\/div><\/div>
\"sesgos<\/span><\/div><\/div><\/div><\/div>

Glosario<\/h4>\n