Las herramientas de IA a veces pueden dar resultados que no representan a toda la población, es decir, que son parciales o discriminatorios y esto sucede porque aprenden de la información que se les proporciona.

Dado que los seres humanos son los que entrenan a la IA pueden hacerlo con datos que llevan prejuicios sociales, culturales e históricos, en esos casos la IA puede no solo repetirlos, sino incluso amplificarlos.

Como docentes, es fundamental entender que estos sesgos pueden tener un impacto en cómo se evalúa a los estudiantes, en los contenidos que se les muestran o en las recomendaciones que se les hacen. “Nuestra mirada crítica es esencial.»

Ejemplos de sesgos: imágenes creadas con IA que muestran profesiones sólo con hombres o imágenes de personas con discapacidad y mostrar sólo personas con sillas de ruedas.