La utilización de un agente de IA para presentar miles de escritos en pocas horas reabrió el debate sobre el uso de estas tecnologías en el Poder Judicial y la necesidad de establecer nuevos mecanismos de control. Un nuevo escenario que enfrentan las instituciones chilenas.
El masivo ingreso de más de 38 mil escritos en los tribunales civiles por parte de un abogado, utilizando un agente de inteligencia artificial, podría transformarse en el primer gran precedente sobre los desafíos que enfrentará Chile frente a una nueva generación de sistemas capaces de actuar de manera autónoma.
Si bien el hecho abrió un debate sobre restringir el uso de IA en el Poder Judicial, especialistas sostienen que el problema no radica en la tecnología, sino en la falta de mecanismos para supervisar este tipo de herramientas cuando interactúan con plataformas críticas.
Para Patricio Campos, CEO de Resility y especialista en inteligencia artificial, lo ocurrido marca un cambio relevante respecto de los casos conocidos hasta ahora. «Durante los últimos años nos preocupamos de la IA que genera contenido. Este caso demuestra que el siguiente desafío son los agentes inteligentes capaces de ejecutar acciones por sí solos. Ya no hablamos solo de una herramienta que redacta un documento, sino de sistemas que pueden interactuar directamente con plataformas y realizar miles de operaciones en pocos minutos», afirma.
A juicio del ejecutivo, el episodio dejó en evidencia que muchos sistemas digitales siguen diseñados bajo un supuesto que ya dejó de ser válido: que detrás de cada interacción existe una persona. En este sentido, asegura que “la inteligencia artificial no falló. El agente hizo exactamente lo que estaba programado para hacer. Lo que quedó expuesto fue la ausencia de controles capaces de identificar cuándo un software comienza a operar a una velocidad y escala que superan el comportamiento humano».
Campos advierte que este escenario no se limita al ámbito judicial. Plataformas utilizadas por bancos, aseguradoras, organismos públicos, empresas de salud o servicios digitales también deberán prepararse para convivir con agentes de inteligencia artificial cada vez más sofisticados.
«Las organizaciones tendrán que incorporar una nueva capa de gobernanza tecnológica. Así como hoy existen controles para verificar la identidad de las personas, también será necesario identificar cuándo quién interactúa con un sistema es un agente automatizado, qué permisos posee y cuáles son los límites de su actuación», sostiene.
Regulación en nuestro país
El especialista agrega que este caso también abre un desafío regulatorio para el país. «Chile está avanzando en materias de ciberseguridad e inteligencia artificial, pero este episodio demuestra que el debate no puede centrarse únicamente en los contenidos generados por IA. También debemos establecer reglas para los sistemas que ejecutan acciones, porque ese será uno de los grandes cambios tecnológicos de los próximos años», señala.
Más que prohibir estas herramientas, Campos considera que el desafío consiste en adaptar las plataformas digitales a una realidad donde las interacciones automatizadas serán cada vez más frecuentes. Es así cómo concluye que “los agentes inteligentes llegaron para quedarse. La pregunta ya no es si los utilizaremos, sino si nuestras instituciones están preparadas para operar de forma segura en un entorno donde las máquinas también toman decisiones y ejecutan procesos».
