Los cinco riesgos de la IA que las universidades deben gestionar
Un informe de Southern New Hampshire University sostiene que los líderes universitarios deben construir estrategias de IA que aborden cinco retos.
La adopción de inteligencia artificial en la educación superior avanza a un ritmo que deja a las instituciones frente a decisiones nuevas y de peso. En ese marco, un informe del Center for Higher Education Policy and Practice (CHEPP), el centro de políticas de Southern New Hampshire University, sostiene que los líderes universitarios necesitan desarrollar estrategias de IA que aborden de manera explícita los riesgos de la tecnología, y ofrece una hoja de ruta para hacerlo.
El punto de partida es el diagnóstico. El informe identifica cinco riesgos que toda estrategia de IA debería contemplar: las alucinaciones e inexactitudes que todavía producen los modelos de lenguaje; las amenazas a la privacidad de los datos; la “descarga cognitiva” excesiva, es decir, la delegación de tareas de pensamiento en la herramienta al punto de interferir con el aprendizaje real; los sesgos incorporados en los algoritmos, y los costos ambientales asociados al consumo de agua y energía de los data centers.
Los 5 riesgos para toda estrategia de IA
1. Alucinaciones e inexactitudes. El informe las describe como todavía frecuentes cuando se usan modelos de lenguaje. En el apartado de recomendaciones agrega que este tipo de fallas hace necesaria la evaluación crítica y la validación de lo que la IA produce, y menciona la “continua falibilidad de las herramientas existentes”.
2. Amenazas a la privacidad de datos. El informe las enumera como un riesgo directo. A lo largo del documento vincula este punto con la seguridad de los datos y, en particular, con la privacidad de los datos de los estudiantes.
3. “Descarga cognitiva” excesiva. El informe la define como una delegación en la herramienta que interfiere con el aprendizaje real, y la asocia de manera explícita con problemas de integridad académica.
4. Sesgos algorítmicos. El informe los describe como posibles sesgos incorporados en los algoritmos que podrían perpetuar inequidades existentes.
5. Costos ambientales. El informe los atribuye al consumo de agua y energía de los data centers de la IA.
Frente a ese diagnóstico, el informe propone una respuesta concreta: que los líderes institucionales conformen un equipo interinstitucional de IA, un “taskforce”, encargado de trabajar sobre seis frentes. Entre ellos, centrar a los estudiantes y al aprendizaje en las políticas institucionales, ofrecer lineamientos claros sobre el uso responsable de la tecnología, formar a estudiantes, personal y docentes para asegurar la “fluidez en IA” en toda la comunidad, invertir en infraestructura de datos, priorizar la transparencia sobre cómo se usa la IA, y actuar con cautela al reemplazar vínculos humanos por herramientas automatizadas.
El documento enmarca esa hoja de ruta en una idea de fondo: que el rol de los líderes universitarios nunca fue tan importante, porque son ellos quienes fijan la agenda de IA de cada institución. Para la institución, esa agenda debe construirse de un modo que proteja la autonomía del estudiante, la relevancia y la integridad académica, y la calidad de la experiencia educativa.