En un colegio particular pagado de Santiago, estudiantes utilizaron aplicaciones de inteligencia artificial (IA) para crear imágenes falsas de sus propias compañeras, un hecho conocido como “fake nudes”. Este acto no solo vulnera la intimidad y la dignidad de las niñas y adolescentes involucradas, sino que también pone de manifiesto una alarmante falta de regulación y educación sobre el uso ético de estas tecnologías en las instituciones educativas.
No es un hecho aislado. Casos similares de violencia digital de género han surgido en diversas partes del mundo, incluyendo España, Estados Unidos y Perú. La masificación de estas herramientas hace que las personas con un dispositivo móvil puedan generar contenido falso de manera rápida y sencilla. Entonces: ¿está preparada la sociedad para enfrentar las implicaciones de este uso?
La IA ha demostrado ser una herramienta de enorme potencial en el ámbito educativo, desde personalizar el aprendizaje y facilitar tareas docentes, hasta proporcionar apoyo técnico a estudiantes con discapacidad. Sin embargo, cuando se utiliza sin un marco ético y regulatorio adecuado, puede convertirse en un gran riesgo.
Es fundamental que el poder legislativo aborde de manera urgente la creación de leyes y normativas que regulen el uso de tecnologías basadas en IA, especialmente aquellas que pueden ser utilizadas para manipular imágenes y datos personales.
La educación es la primera línea de actuación. El currículum debe incluir saberes y contenidos sobre el uso responsable de la tecnología, la protección de la privacidad y el respeto por la dignidad humana, incluyendo entornos digitales.
El profesorado y roles directivos también deben recibir formación continua sobre los avances tecnológicos y sus implicancias éticas. Deben estar equipados no solo para detectar y abordar casos de abuso.
Asimismo, las familias juegan un papel central en la educación respecto al uso de la tecnología por parte de los niños, niñas y adolescentes. Es vital tener consciencia de las aplicaciones y herramientas que se manejan. La supervisión y la conversación sobre el respeto y la empatía en el entorno digital son esenciales para prevenir abusos. Educar por sobre prohibir.
El caso del colegio mencionado en el comienzo es una llamada de atención a la necesidad urgente de una respuesta integral que incluya regulación, educación y concientización. La IA y otras tecnologías avanzadas pueden ser un gran aporte en la educación del siglo XXI, pero solo si se asegura que sean utilizadas de manera ética y responsable.
