Todos los estudios muestran que la IA es dañina en los procesos de enseñanza
El filósofo y académico de la UAI dice que «los estudiantes no están utilizando la IA para ampliar y potenciar su desarrollo cognitivo, sino que están exteriorizando su cognición».
Desde hace unas semanas Daniel Loewe —doctor en Filosofía, especializado en moral y ética, académico de la U. Adolfo Ibáñez— ha venido escribiendo una serie de columnas en este diario sobre los efectos de la inteligencia artificial (IA) al interior de las salas de clases. Estas nuevas tecnologías, ha señalado, generan distorsiones severas en el desarrollo de las capacidades cognitivas.
No se trata, en todo caso, de una historia antitecnológica. El autor de «Cómo y cuándo morir» (2024) apunta a algo más trascendente: aprender, en un sentido literal, es ampliar nuestras perspectivas, «ver otro mundo». Si delegamos aquello en la IA no hay procesos de aprendizaje, ni tampoco despliegue de habilidades.
«A menudo se sostiene que la IA puede llevar a mejorar la educación de los más desaventajados. Lo dudo. Más bien, el riesgo es que lleve a una educación de dos clases. Una con IA, más barata y con menores requerimientos docentes para los desaventajados, y una sin IA, con bibliotecas, libros de papel y profesores de carne y hueso para los más privilegiados. Por lo demás algo así ya está sucediendo. En Silicon Valley florecen los colegios Waldorf, que es donde los tecnófilos envían a sus hijos», dice.
«Es una tentación irresistible»
—¿Por qué sostienes que la IA debe estar fuera de los procesos educativos?
—Esa pregunta asume demasiado. ¿Por qué debería la IA ser parte de los procesos educativos? Quien propone una modificación debe hacerlo en base a argumentos y evidencia, es decir, lleva la carga de la prueba. Y a pesar de lo nuevo que son los modelos de IA, toda la evidencia disponible indica que resulta dañina en la educación. La IA oficia como un atajo irresistible para casi todos. Nuestros cerebros devoran el 20% de la energía que producimos. Por lo mismo, están diseñados para ahorrar cada vez que pueden. Por ejemplo, tendemos a no realizar tareas cognitivas si no es necesario, descansamos en herramientas que las hagan por nosotros. Hoy la IA permite, por primera vez en la historia, elaborar por completo un trabajo complejo sin que si fuera hecho por nosotros. Esta es una tentación irresistible a la que pocos cerebros se resisten.
—¿No estás negando la experiencia internacional? Algunos estudios señalan que los estudiantes que usan IA, en el corto plazo, mejoran notas y tienen más tiempo libre; pero a la larga sacan peores rendimientos en pruebas mensuales y otros exámenes.
—Todos los estudios muestran que la IA es dañina en los procesos educativos: al trabajar con ella menos actividad cerebral y no se recuerda lo realizado. Según otro estudio bastan 10 minutos de su uso para posteriormente darse por vencido más rápido y abandonar las tareas a la primera dificultad. Y es que rápidamente nos acostumbramos a las respuestas inmediatas y no estamos dispuestos a esforzarnos. El único análisis serio que indicaba que era positiva en la educación acaba de ser retractado por la editorial «Nature Springer» por fallas metodológicas.
—¿Cuál ha sido tu experiencia en el aula con los estudiantes?
—Mis experiencias y las de mis colegas se cubren con la evidencia. Lamentablemente el uso más extendido es para hacer trampa. Presentar como propio trabajos hechos por IA, o incluso usarla en exámenes. Hay que considerar que los estudiantes que están comenzando sus estudios universitarios han utilizado IA durante casi toda su educación media. Pero en las universidades se están cambiando los sistemas de evaluación. Privilegiando el ensayo escrito en clases y las pruebas orales. Pero eso implica la pérdida de instrumentos educativos tan valiosos como los ensayos en que los estudiantes deben aplicar tiempo y esfuerzo. Hay también usos más positivos en que se integra en la metodología de las clases, por ejemplo, como input para el trabajo o sparring. Pero un uso controlado que, lamentablemente, debe ser supervisado. En todo caso, no me queda claro que agreguen algo nuevo al proceso educativo.
—En tus columnas has dicho que hay un problema más profundo: entender la educación como habilitadora de logros.
—Es que la educación es mucho más que eso. El objetivo no es obtener una buena nota porque habilite para conseguir un buen empleo. La educación es un proceso, o como sostiene el pragmatista norteamericano John Dewey, la educación es la vida. Entender de ese modo va a contrapelo de toda esa estructura social que tiende a considerar solo su valor instrumental.
—¿Cuáles son los límites entonces?, porque la IA ya es parte de nuestra realidad.
—Platón se refería a la escritura, la técnica más exitosa de la humanidad, como un «farmakon», es decir simultáneamente un remedio que resguarda la memoria, y un veneno que la destruye. Y si bien es cierto que la escritura ha ido de la mano de la pérdida de la oralidad, es indudable que sus ventajas superan con mucho sus desventajas. Sin esa técnica no podemos funcionar de modo autoviable, ni desplegar nuestra autonomía. Pero la IA no es como la escritura. Aunque indudablemente tendrá enormes efectos en muchas áreas, resta total incertidumbre sobre cuáles serán. Pero sí sabemos que su uso en la educación daña el desarrollo de las mentes de los niños y adolescentes. Entonces, ¿deberíamos adoptarla en la educación porque «es parte de nuestra realidad»? Sería, para volver a la metáfora platónica, darles de beber veneno a los niños y jóvenes sabiendo que los estamos dañando porque beber veneno está de moda.
—Claro, además tampoco es que sea un fenómeno nuevo.
—Hace 10 años el desafío ante el catastrofismo de nuestros celulares y tabletas era introducidos en los procesos educativos. Hoy sabemos el enorme daño que hemos causado a una generación completa. No importa qué índice vea: ha aumentado la depresión, la ansiedad, ha disminuido el rango de atención, etc. Y hoy tratamos de desterrar esta tecnología del aula.
—Hay algo de lo que se habla poco: la pérdida del mérito, no solamente en el ámbito educativo, sino también en la vida profesional.
—Un estudio sobre más de medio millón de evaluaciones en la Universidad de Texas muestra que a partir del año 2022, cuando se lanzó ChatGPT, se incrementó radicalmente el porcentaje de buenas notas. Esta sería una buena noticia si indicara mayor desarrollo de habilidades y adquisición de conocimiento. Pero no es así. Al desglosar queda claro que las notas que aumentan son de los trabajos para la casa. Otros estudios muestran que los estudiantes que utilizan IA son incapaces de recordar las tareas que supuestamente realizaron. Y es que sin esfuerzo y sin experiencias significativas, nada de lo realizado queda en la memoria. Los estudiantes no están utilizando la IA para ampliar y potenciar su desarrollo cognitivo, sino que están exteriorizando su cognición.
—Y nuestras sociedades se basan, en mayor o medida, en la narrativa del esfuerzo y el mérito son importantes.
—Es un elemento social estabilizador. Pero el mérito requiere ser medido. Las notas, las evaluaciones, los rankings, son las aproximaciones que utilizamos para medirlo. Ello es importante en muchos contextos. Por ejemplo, en la adjudicación de becas de excelencia, o de plazas de estudio y trabajo. Si mediante el uso de IA las calificaciones de los estudiantes se desvinculan de sus capacidades y conocimientos, no podemos distinguir entre los buenos estudiantes, los regulares y los mediocres. Esto no es teoría, lo acaba de vivir la UNAM (México) en cuyo proceso de selección universitaria descubrieron un uso masivo de IA, y aun no saben qué hacer con casi 160 mil postulantes. Si las asignaciones no se remiten al mérito, las consecuencias se dejarán sentir en todas las esferas de la sociedad: ¿se atendería con gusto con un médico que obtuvo su título preguntándole a ChatGPT?
«Puede ser el término del capitalismo»
—Buena parte de tus aprensiones se centran en el mundo educativo, ¿pero cómo analizas el desarrollo de la IA en el ámbito adulto-profesional?
—La IA traerá enormes cambios que hoy no podemos especificar. Indudablemente muchos son positivos. Pienso por ejemplo en la eficiencia para detectar cáncer en fase temprana. Los desafíos más inmediatos y extensos refieren al empleo. Todos los estudios auguran una fuerte pérdida de empleos. Y si bien estas pérdidas han ocurrido en otras revoluciones productivas, el modo que después de un tiempo se han creado nuevos empleos en otras áreas, con la IA parece ser algo especial: ella no es solo una herramienta productiva, es decir una agente productivo, es decir uno que decide y actúa. Esto lleva a una mucho mayor obsolescencia del trabajo humano. Si estimamos el capital dejar de invertirse en la compra de trabajo, ello llevará a desigualdades brutales entre unos pocos superricos y todos los demás. Una expresión extrema de la lógica de que el ganador se lo lleva todo. Así, puede ser el término del capitalismo como lo conocemos.
—¿Crees que las universidades chilenas están conscientes de las consecuencias de la IA?
—Yo diría que en muchas universidades hay nerviosismo por integrarla sin saber ni por qué, ni para qué, ni cómo. Un tipo de ansiedad por no quedarse sin bailar en la fiesta. Pero esto es entendible, dado que toda la evidencia indica que la IA tiene efectos negativos en la educación. En el modo hoy típicamente parroquial, a veces tratamos de imitar lo que hacen las mejores universidades del mundo, pero como vamos con retraso, se limita lo que ya están desechando.
—El decano de Artes Liberales de tu universidad, dijo que «el sistema universitario chileno quedó anclado en el siglo XX. Las universidades siguen preparando alumnos para un mundo que ya cambió».
—El diagnóstico es correcto: el mundo cambia y ello exige ciertas adecuaciones. En nuestro mundo caracterizado por la incertidumbre, donde no sabemos que trabajos perdurarán, se requiere cierta flexibilidad educativa que permita combinar conocimientos y habilidades variadas. Pero ello no implica que haya que integrar la IA al proceso educativo. Por el contrario, lo que se sigue es que los estudiantes desarrollen las capacidades y habilidades que les permitan lidiar con los desafíos de este nuevo mundo, también los de la IA. La pregunta es ¿qué habilidades y capacidades no pueden ser realizadas por las máquinas? Yo diría que la capacidad de análisis que permita evaluar el trabajo de la IA, el conocimiento de la naturaleza humana y habilidades relacionadas, responsabilidad, y sobre todo imaginación y creatividad.
—¿Deberíamos sentirnos tranquilos de que las empresas desarrolladoras de IA estén contratando filósofos?
—De ninguna modo. Digámoslo así: la filosofía entrega elementos para enfrentar una serie de preguntas y aspectos centrales del desarrollo de la IA: preguntas sobre cognición, consciencia, ética, entre otras. Pero no por ello se tienen las intenciones correctas. Siguiendo a Aristóteles, no aprendemos a tocar flauta leyendo libros o viendo tutoriales, sino tocando. Yo mismo puedo decir en el caso de las disposiciones valóricas hacia la IA: el conocimiento filosófico no garantiza que la IA se desarrolle de un modo ético apropiado. Hay estudios que muestran que la disposición moral a evaluar de los filósofos no es mayor que la de la gente común.
—¿Cuál crees que es la mejor analogía para entender nuestro futuro con la IA? Algunos apuntan a Frankenstein —el monstruo surgido del desarrollo científico que traspasa todos los límites—; otros hablan de Prometeo —quien le roba el fuego a los dioses para el desarrollo humano pero es atrozmente castigado—.
—Frankenstein y Prometeo se relacionan con la hibris, la arrogancia desmedida que nos lleva a desafiar a los dioses. Yo no creo que el hibris sea una categoría relevante para entender el fenómeno de la IA. Buscamos siempre ir más allá, dar un paso más en terrenos desconocidos e inciertos, así hemos llegado a nuestro presente impresionante desarrollo. Más que hibris, la IA se parece al aprendiz de brujo que Goethe, aburrido de sus tareas, hechiza una escoba para que traiga baldes de agua y realice la limpieza. Pero la escoba empieza a traer más y más agua hasta inundarlo todo el que el aprendiz pueda evitarlo. En el poema de Goethe el hechicero vuelve y deshace el hechizo. Yo temo, sin embargo, que en nuestro mundo no hay hechiceros que vayan a ser capaces de desandar lo andado. En ese caso, si sobrevivimos, solo nos quedará arrepentirnos porque, citando a lady Macbeth, lo que está hecho ya no puede ser deshecho.
En muchas universidades hay nerviosismo por integrar la IA sin saber ni por qué, ni para qué, ni cómo. Un tipo de ansiedad por no quedarse sin bailar en la fiesta.
