Marcela Guerrero
Si bien el concepto de “Inteligencia Artificial” lleva años en nuestro imaginario, es a raíz del creciente desarrollo de la inteligencia artificial generativa y herramientas como el Chat GPT, que esta ha adquirido dimensiones difíciles de predecir, lo que nos lleva a preguntarnos por su impacto en las personas y nuestra sociedad en el mediano y largo plazo. Su carácter inminente y su impacto potencial, ha llevado a algunos estudiosos a calificarla como una tecnología disruptiva (Alier-Forment y Llorens-Largo, 2023).
Ahora bien, para definir un evento como disruptivo, podríamos seguir la definición de Benyakar (2016), quien refiere que un evento se consolida como disruptivo cuando desorganiza, desestructura o provoca discontinuidad. Asimismo, Benyakar identifica ciertas cualidades que potencian la capacidad disruptiva de un evento, algunas de las cuales parecen, en efecto, también presentarse con la IA: ser inesperado, interrumpir un proceso normal y habitual indispensable para nuestra existencia o para mantener el equilibrio, minar el sentimiento de confianza en los otros, contener rasgos novedosos no codificables ni interpretables según los parámetros que ofrece la cultura, amenazar la integridad física propia o de otros significativos, y distorsionar o destruir el hábitat cotidiano. No obstante, según este autor, la desorganización y lo que ocurra con ella no le pertenecen al evento en sí, sino que dependen del sujeto que lo vive.
Por lo tanto, siguiendo el razonamiento de este autor, es importante no perder de vista que el impacto de la IA dependerá de la manera en que la gestionemos y consigamos integrarla en nuestras vivencias y nuestro funcionamiento cotidiano
Al respecto, la UNESCO reconoce el impacto potencial y vertiginoso de la IA en el funcionamiento general de nuestro mundo y nuestra sociedad; reconociendo las múltiples oportunidades, riesgos y desafíos que ofrece y que evolucionan a un ritmo más veloz que los debates sobre las políticas y los marcos regulatorios. Así, Gabriela Ramos Subdirectora General de Ciencias Sociales y Humanas de la UNESCO plantea que:
La tecnología de inteligencia artificial aporta grandes beneficios en muchos ámbitos, pero sin unas barreras éticas corre el riesgo de reproducir los prejuicios y la discriminación del mundo real, alimentar las divisiones y amenazar los derechos humanos y las libertades fundamentales. (Ramos, 2023)
Con esta finalidad, la UNESCO hace un llamado a los gobiernos para que abandonen el modelo de autorregulación actual y establezcan los marcos institucionales y legales necesarios que permitan gobernar estas tecnologías, garantizando así su contribución al bienestar de las personas. De esta manera, propone algunas recomendaciones basadas en cuatro valores fundamentales: (1) respeto y protección de los derechos humanos, las libertades fundamentales y la dignidad humana; (2) sociedades que vivan de manera pacífica, justa e interconectada; (3) garantía de la diversidad e inclusión; y (4) sostenibilidad ambiental.
Asimismo, la UNESCO hace referencia a once áreas clave para las acciones políticas que es necesario tener en cuenta, dentro de las cuales se consideran la educación y la investigación. En este campo, las recomendaciones son claras al sugerir la necesidad de proporcionar una educación adecuada en materia de IA que incluya programas de sensibilización y que priorice la participación de los grupos marginados. Además, se destaca el desarrollo de habilidades éticas como la comunicación, el trabajo en equipo, la alfabetización básica, la aritmética, la codificación y las habilidades digitales
Por su parte, Lazalle (2024) recalca que una propuesta educativa que permita a las personas trabajar con la inteligencia artificial debe asumir que esta es inevitable y que es necesario reflexionar sobre dónde ubicaremos las capacidades cognitivas del ser humano cuando nos relacionemos con máquinas que tendrán otras muy superiores a las nuestras
En términos generales, en las distintas aproximaciones y reflexiones sobre este tema, se reconoce la oportunidad que ofrece la IA generativa en el contexto educativo para personalizar el aprendizaje. Esta tecnología proporciona una serie de herramientas con el potencial de automatizar y simplificar algunas tareas del personal docente, como la evaluación, la detección de plagio, la gestión y la retroalimentación. Además, permite atender las particularidades del alumnado, respondiendo de manera más eficaz a sus distintos ritmos de aprendizaje, intereses, limitaciones y capacidades
No obstante, tal como refiere Bozkurt et al. (2023), la irrupción de la IA generativa conlleva también el reto de reflexionar sobre el papel de la educación para preparar a las personas para un mundo en constante cambio y en el que esta tecnología estará presente en todos los aspectos de la vida (ya sea el trabajo, como los estudios, el ocio, las relaciones personales, etc.) Esto último implica comprender cómo funciona la IA, así como los beneficios y riesgos de su uso.
Por ejemplo, un elemento que es necesario tener en cuenta es que la IA generativa, no tiene un funcionamiento equivalente al razonamiento humano. Por el contrario, tal como describen García Peñalvo, Llorens-Largo y Vidal (2024), se basa en lenguajes de modelo de gran tamaño con una base probabilística. Por lo tanto, estas herramientas no tienen capacidad de razonamiento ni de comprensión y la información que nos ofrecen se compone de datos susceptibles de contener fallos que necesitan ser contrastados.
Si bien la IA es capaz de imitar la consciencia humana, no cuenta con los matices del pensamiento humano, tal como señala Slavoj Zizek (2023). Este autor, da un paso más y nos habla de lo que él denomina la “Idiotez artificial” para referirse al peligro de que el lenguaje humano pierda estas características que lo diferencian de la IA y que en su interacción con los chatbots, las personas reales terminen hablando como chatbots, pasando por alto todos estos matices, la reflexividad, las ironías, etc. diciendo obsesivamente y con precisión lo que creen que quieren decir.
Podríamos decir entonces que las personas necesitamos nuevos conocimientos, habilidades, competencias y valores para la vida y el trabajo en la era de la IA. En particular, en la educación universitaria, un uso adecuado y responsable de la IA tiene el potencial, no sólo, de enriquecer los procesos de aprendizaje, sino también de mejorar la eficiencia institucional. Además, puede abrir caminos para desarrollar métodos pedagógicos más eficaces y responder de manera más ágil a los desafíos educativos contemporáneos. Esto conlleva un proceso interesante y complejo para la generación de nuevas herramientas y su integración en la educación.
De este modo, podríamos recalcar la necesidad de capacitar tanto al profesorado como al estudiantado para un uso correcto y ético de tales herramientas en los procesos de educación-aprendizaje. Así también cabe recalcar la importancia de fomentar el pensamiento crítico en el alumnado, de manera tal que se mantenga esta esencia del pensamiento humano, alejado de la “idiotez artificial” que señala Zizek.
Por lo tanto, gestionar el impacto de la IA sobre la educación exige un ejercicio de repensarla, a la luz de las nuevas herramientas que puedan surgir desde la IA generativa y en este ejercicio de repensar la educación universitaria, García Peñalvo, Llorens-Largo y Vidal (2024) sugieren tener en cuenta la siguiente reflexión:
El sistema educativo, con especial mención al sistema universitario actual, está diseñado para un mundo con escasez de información, en el que en la etapa vital en la que las personas se formaban, acudían a los centros educativos para adquirirla y guardarla para el momento en que se necesitase. Ahora, sin embargo, se vive en una sociedad con acceso inmediato y a demanda de una sobreinformación (verdades o tautologías, medias verdades o indeterminaciones y falsedades o contradicciones). Los centros educativos, más concretamente las universidades, siguen manteniendo su compromiso con la sociedad de creación, transmisión y preservación del conocimiento, pero ¿sabrán dar respuesta al reto que representa la llegada de unas aplicaciones “inteligentes” que han causado un tremendo terremoto informacional cuando no están más que en sus albores?
De este modo, proponen que integrar la IA en la educación de manera adecuada requiere una aproximación holística al avance de esta tecnología, considerándola no solo como una herramienta técnica, sino como un fenómeno sociotecnológico. Por lo tanto, para repensar la educación, es necesario un proceso de construcción colaborativa de soluciones y medidas con la participación de todas las personas implicadas (estudiantado, profesorado y la comunidad en general). En ese sentido, un modelo participativo permite aprovechar la experiencia de las personas como un recurso en la toma de decisiones y, por ende, en la generación de medidas, estrategias y herramientas que integren los múltiples aristas y puntos de vista relacionados con la temática, así como la dimensión más humana en los procesos de enseñanza-aprendizaje.
Atendiendo a estas necesidades, Coglobal, en alianza con la Universidad de Málaga, está diseñando un proceso participativo para integrar la inteligencia artificial en los procesos universitarios de enseñanza-aprendizaje. Consideramos que la participación del profesorado, el estudiantado y el personal técnico de apoyo a la docencia en el diseño de políticas para el uso de la IA facilitará una apropiación reflexiva y crítica de las normas para un uso responsable, ético e inclusivo de esta herramienta. Como resultado de este proceso, se espera generar recomendaciones que sean de utilidad para la Universidad de Málaga y otras universidades interesadas.
Este proyecto se desarrolla en el marco del programa Digital Democracy Accelerator organizado por la red global People Powered, con el apoyo de la Open Society Foundations.
Referencias:
Benyakar, M. (2016) Lo disruptivo y lo traumático. Vicisitudes de un abordaje clínico. Buenos Aires, Universidad Nacional de San Luis.
http://www.neu.unsl.edu.ar/wp-content/uploads/2018/03/Discruptivo-traumatico.pdf
Bozkurt, A. (2023). Generative artificial intelligence (AI) powered conversational educational agents: The inevitable paradigm shift. Asian Journal of Distance Education, 18(1), 198-204.
https://doi.org/10.5281/zenodo.7716416
García-Peñalvo, F. J., Llorens-Largo, F., & Vidal, J. (2024). La nueva realidad de la educación ante los avances de la inteligencia artificial generativa. RIED-Revista Iberoamericana de Educación a Distancia, 27(1), 9-39.
https://doi.org/10.5944/ried.27.1.37716
Lazalle, J.M (2024). Reeducar para gobernar la Inteligencia Artificial. En C.Gómez Cotta (coord.). Ethic. uevas Realidades. Educación y empleo en tiempos de IA y automatización (pp. 12-13). Madrid: Ethic
https://nuevasrealidades.ethic.es/wp-content/uploads/2024/02/Nuevas-Realidades-2024.pdf
Llorens-Largo, F., Vidal, J. & García-Peñalvo, F. J. (2023) Ya llegó, ya está aquí, y nadie puede esconderse: La inteligencia artificial generativa en educación. Aula Magna. Dic 8
https://cuedespyd.hypotheses.org/14389
Unesco. (2023). Key Facts: UNESCO’s Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO
https://unesdoc.unesco.org/ark:/48223/pf0000385082
Zizek, S.j (2023). La idiotez artificial. Project Syndicat, Mar 23 https://www.project-syndicate.org/commentary/ai-chatbots-naive-idiots-no-sense-of-irony-by-slavoj-zizek-2023-03/spanish
