Los CEO de Anthropic y OpenAI, así como voces dentro de Google, Meta y SpaceXAI, es decir, las empresas creadoras de los modelos de IA más extendidos en el mundo, han pedido bajar el ritmo de desarrollo de esta herramienta, la cual, hasta el momento, buscaba lograr modelos capaces de mejorarse a sí misma. Este camino ha llevado a incidentes internos como la realización de acciones no autorizadas, escape de entornos controlados, o la vulneración de sistemas de seguridad informática.
La respuesta de las empresas en algunos casos y fuera de reforzar la seguridad y monitoreo, ha sido el suspender el entrenamiento o desarrollo de los modelos más complejos. Todo esto es correcto, sin embargo, cabe preguntarse si frenar o ralentizar el desarrollo de la IA es una real solución o más bien se requieren políticas a largo plazo, como la revisión e instalación de parámetros éticos que protejan al ser humano, y que sean sostenibles en el tiempo. Por otro lado, también es compleja la gobernanza en manos solamente de compañías que ya tienen el control del avance de la inteligencia artificial.
El freno puede resultar útil como medida de emergencia considerando que ha sido una tecnología disruptiva y la sociedad se ha ido tratando de acostumbrar a una IA que tiene cambios día a día, pero, es una medida insuficiente a largo plazo. Los marcos actuales se han concentrado en definir y acotar el uso humano de la inteligencia artificial, pero no en regularla. Para esto se requiere atender temas como la explicabilidad de funcionamiento, seguridad digital, autonomía o sostenibilidad ambiental, entre otros. A ello se suman elementos poco claros como el entrenamiento y el uso de fuentes legítimas que respeten el derecho de autor, cómo se audita esta herramienta, sus sesgos, y en general, conocimiento certero de cómo funciona. Por eso, solo pausar su desarrollo, sin asegurar normas éticas y de sustentabilidad, es poner un parche momentáneo.
La IA requiere una gobernanza participativa, en alianza entre empresas y estados, además de la academia, la cual debe ser sostenible y atender dimensiones claves para asegurar el bien común en materia ambiental, sociocultural, económica y organizacional, y así desarrollar una sostenibilidad que permita acotar los efectos laborales, evitar la discriminación, la delegación cognitiva de estudiantes y proteger las capacidades y estabilidad humana a largo plazo. Si bien las ideas de regular la inteligencia artificial poseen algunos de estos elementos, falta la cooperación internacional y el rol del Estado, además de reglas que sean vinculantes y que permitan abrir la famosa «caja negra» que es la forma en que opera actualmente esta tecnología, siendo arriesgado que se siga sin descifrar, trasparentar y modelar con parámetros humanos.
El camino puede ser dual, por un lado, generar pausas estratégicas por parte de los desarrolladores cuando aparecen comportamientos riesgosos de la IA; y por otro, trabajar en normas éticas y de sostenibilidad que permitan seguir el avance de la inteligencia artificial, pero en beneficio y control de la población.
Es tiempo que los sistemas de IA operen de forma trasparente, rindiendo cuentas, de forma eficiente a nivel energético y, sobre todo, que siempre sigan las instrucciones humanas. El avance no está solo en quien desarrolla los modelos más potentes, sino en quienes logren que funcione de manera justa, segura y sostenible.
