La Cámara Chilena de Inteligencia Artificial plantea que el caso evidencia la necesidad urgente de establecer protocolos claros para el uso de agentes automatizados e inteligencia artificial en sistemas críticos, sin frenar la innovación tecnológica.
La Cámara Chilena de Inteligencia Artificial (CCHIA) manifestó su preocupación ante la situación informada por el comité de jueces civiles, que alertó sobre el ingreso masivo de cerca de 40 mil escritos en tribunales civiles en un período inferior a tres días, mediante el uso de herramientas automatizadas, situación que fue calificada por los magistrados como un eventual caso de abuso procesal.
Para la CCHIA, este episodio constituye una señal de alerta que debe ser abordada desde una perspectiva de gobernanza tecnológica, seguridad, responsabilidad y uso ético de la inteligencia artificial, especialmente cuando estas herramientas interactúan con plataformas que forman parte de servicios esenciales para la ciudadanía y el funcionamiento de las instituciones.
«Este caso demuestra que la discusión no debe centrarse únicamente en si se utilizó o no inteligencia artificial. El verdadero desafío es establecer bajo qué condiciones, con qué controles y dentro de qué marco de responsabilidad pueden utilizarse sistemas automatizados para interactuar con plataformas institucionales críticas», señaló Pedro Herrera, abogado especializado en Derecho e Inteligencia Artificial y Secretario de la CCHIA.
La organización enfatiza que la inteligencia artificial y la automatización pueden generar importantes beneficios para la modernización del Estado, la eficiencia de los procesos y la reducción de tareas repetitivas. Sin embargo, su implementación debe estar acompañada de reglas de uso, mecanismos de supervisión, límites técnicos y responsabilidades claramente definidas.
Desde la CCHIA sostienen que prohibir de manera general el uso de inteligencia artificial podría resultar una respuesta insuficiente frente a un problema que, en realidad, requiere avanzar hacia una adecuada gobernanza de estas tecnologías. En este sentido, consideran necesario diferenciar entre el uso legítimo de herramientas de automatización para mejorar procesos y aquellas prácticas que puedan generar impactos negativos sobre sistemas, instituciones o terceros.
«Más que establecer prohibiciones generales, creemos que Chile necesita avanzar hacia una cultura de uso responsable de la IA. Esto implica definir protocolos, establecer límites de operación, implementar mecanismos de autenticación y monitoreo, y contar con sistemas capaces de detectar comportamientos anómalos o cargas masivas que puedan afectar la continuidad de servicios críticos», agregó Pedro Herrera.
La CCHIA considera especialmente relevante que las instituciones públicas y privadas que incorporen inteligencia artificial, agentes autónomos o sistemas automatizados desarrollen políticas específicas de gobernanza de IA, incluyendo evaluación de riesgos, trazabilidad de las acciones ejecutadas, mecanismos de auditoría y protocolos de respuesta ante incidentes.
Asimismo, la organización plantea que la transformación digital debe avanzar de manera paralela al fortalecimiento de la ciberseguridad. En plataformas de alta relevancia institucional, resulta fundamental contar con medidas que permitan distinguir entre un uso intensivo y legítimo de una herramienta y una actividad automatizada que pueda comprometer el funcionamiento normal de los sistemas.
La Cámara Chilena de Inteligencia Artificial reafirma, finalmente, su disposición a contribuir al debate nacional sobre el uso responsable de estas tecnologías y a colaborar con instituciones públicas, privadas y académicas en la construcción de estándares que permitan aprovechar los beneficios de la inteligencia artificial, resguardando al mismo tiempo la seguridad, la confianza y el adecuado funcionamiento de los servicios digitales.
«Lo que falló acá no fue la inteligencia artificial, sino que un sistema crítico careciera de límites técnicos frente a un uso a esa escala. Ese es el estándar que deberíamos exigir, que la seguridad de una plataforma pública no dependa únicamente de cómo cada usuario decida utilizarla.», concluyó Pedro Herrera.
Sobre la Cámara Chilena de Inteligencia Artificial (CCHIA)
La Cámara Chilena de Inteligencia Artificial es una organización que busca impulsar el desarrollo y la adopción responsable de la inteligencia artificial en Chile, promoviendo la colaboración entre empresas, profesionales, instituciones y actores del ecosistema tecnológico, con foco en la innovación, la formación, la gobernanza y el uso ético de estas tecnologías.
