La emergencia de la inteligencia artificial generativa y su capacidad para replicar algunas de las funciones cognitivas superiores exclusivas del ser humano nos hace olvidar que es una tecnología construida socialmente y que, lejos de ser objetiva o neutral, refleja los sesgos y prejuicios de sus creadores. Así, perpetúa e, incluso, amplía desigualdades en grupos históricamente discriminados.
En una sociedad caracterizada por la polarización, que parece sustentarse en certezas incuestionables, ¿es la juventud consciente de esas desviaciones? En un estudio reciente realizado por el Parque de las Ciencias de Andalucía y la Universidad de Granada, hemos analizado la influencia del género, la edad y el nivel educativo en la percepción del alumnado de educación secundaria sobre las posibles desigualdades generadas por la IA.
Las chicas perciben menos sesgos
De modo general, la investigación concluye que los estudiantes tienen una percepción media-alta de los sesgos implícitos en la inteligencia artificial. Sin embargo, esta percepción es menor en las chicas que en los chicos cuando nos centramos en prejuicios de género y etnia.
El nivel educativo es otro factor relevante: el alumnado de bachillerato tiene menor conciencia de los sesgos de género, de procedencia, generacionales, económicos y por diversidad funcional que sus compañeros de educación secundaria y formación profesional.
Es necesaria mayor concienciación
Estos resultados, obtenidos a través de cuestionarios a 440 estudiantes de educación secundaria, bachillerato y formación profesional, evidencian la importancia de abordar la evaluación crítica y ética de la IA como una de las principales competencias de la alfabetización en esta tecnología emergente.
El impacto transformador de esta tecnología en la sociedad y en la propia educación suscita un replanteamiento de los métodos de enseñanza y aprendizaje actuales, ya que la formación en inteligencia artificial no es actualmente una materia obligatoria en el sistema educativo formal.
¿Se ignora la dimensión ética de la IA?
Investigaciones recientes apuntan que la información que la juventud tiene sobre la inteligencia artificial procede, en muchos casos, de los medios de comunicación y las series de ficción. El predominio de esta fuente de información genera concepciones poco realistas. Todo ello favorece la ignorancia de la dimensión ética de la IA.
Otros estudios demuestran que la concienciación social y ética de los jóvenes sobre la aplicación de la inteligencia artificial es limitada. La pérdida de empleo es el aspecto que más les preocupa, mucho más que los posibles sesgos discriminatorios y de control que podría conllevar la tecnología.
Asimismo, personas expertas en investigación educativa inciden en el desinterés del alumnado preuniversitario sobre las consideraciones éticas de la IA y muestran, a través de estudios empíricos, la percepción positiva de la juventud sobre la inteligencia artificial, un desarrollo tecnológico al que definen como imparcial y justo.
Formación temprana, la mejor medicina
Frente a estas actitudes, existe una corriente académica amplia focalizada en la implementación eficaz, ética y segura de la IA en la educación. Entre los retos de futuro identificados por la investigación educativa, están la falta de comprensión y conciencia del alumnado sobre las cuestiones éticas asociadas a la IA y el desconocimiento del profesorado sobre los sesgos y el funcionamiento de los algoritmos.
A esto se suma que los docentes, aunque están preocupados por el impacto pernicioso de la IA en la juventud, carecen de formación para educar sobre sus aspectos éticos.
El potencial de la IA para mejorar la educación
La IA se utiliza ampliamente en diferentes ámbitos sociales. La educación no es una excepción. Un informe realizado por la UNESCO aporta pruebas sobre su potencial para mejorar la educación mediante la automatización de tareas como la evaluación, la personalización del aprendizaje o la aplicación de la realidad aumentada, la realidad virtual, los chatbots o la gamificación.
Los futuros distópicos y las visiones pesimistas se disuelven con un presente protagonizado por la formación en la dimensión técnica, humana y ética de la inteligencia artificial desde la infancia.
Todo tiene una sombra de vaguedad y error, como aseguraba Bertrand Russell, y la IA no va a estar exenta de ello. La clave está en seguir investigando sobre sus potencialidades y limitaciones y, sobre todo, en educar de forma inclusiva y equitativa a la juventud para que afronte con espíritu crítico los desafíos que nos depara el futuro.
Sobre las autoras
Lourdes López Pérez, Jefa de Sección de Divulgación Científica. Área de especialización: educación y comunicación social de la ciencia, Parque de las Ciencias; Elba Gutiérrez-Santiuste, Profesora Titular de Universidad, Dpto. de Pedagogía, Universidad de Granada y María de Fátima Poza Vilches, Profesora Titular del Departamento de Métodos de Investigación y Diagnóstico en Educación. Universidad de Granada.
Este artículo fue publicado originalmente en The Conversation. Ir al artículo original.