Buscar

Entre la evidencia y la alarma: lo que hoy se debería enseñar en una escuela de medicina sobre IA

El simulacro reprodujo las exigencias formales de evaluación para escolares de cuatro establecimientos locales, en el marco de una alianza formativa con el Preuniversitario Pedro de Valdivia que busca reducir brechas y que acumula 400 beneficiarios en la zona.

Docentes y estudiantes debatieron el tema en jornada científica organizada por el Centro Interdisciplinario de Estudios en Salud de la Facultad de Medicina de la Universidad de Valparaíso. Espacio buscó fomentar la reflexión respecto de la potencial amenaza que el desarrollo avanzado de esta tecnología supone para la salud y la existencia misma del ser humano, de aquí a 2100.

Fomentar la reflexión crítica e informada sobre las amenazas que la utilización de la inteligencia artificial (IA) podría generar en el futuro cercano a la salud pública y al bienestar humano a nivel local y global, como también analizar la relevancia y el impacto que esta tecnología ya tiene en la medicina y en otras profesiones asociadas, fue el objetivo de la jornada científica “Entre la evidencia y la alarma” que organizó el Centro Interdisciplinario de Estudios en Salud (Ciesal) de la Facultad de Medicina de la Universidad de Valparaíso.

El encuentro reunió a medio centenar de estudiantes y docentes, quienes se dieron cita en la sede de Casa Jackson, en Viña del Mar, para debatir e intercambiar opiniones acerca de lo que hoy estiman que debería enseñar una escuela de medicina sobre IA, si son o no atendibles los llamados a demorar o suspender su desarrollo avanzado o si los entendidos en este tema están mirando o alertando sobre riesgos equivocados e inexistentes, entre otros temas.

La jornada contó con la participación como expositores principales de los médicos y docentes del Departamento de Salud Pública de la Escuela de Medicina de esta casa de estudios e investigadores asociados del Ciesal, Nicolás Meza y Roberto Garnham, respectivamente, y del ingeniero y doctor en Física francés Jean-Gabriel Minonzio, profesor de la Escuela de Ingeniería Informática de la UV y director alterno del Doctorado en Ingeniería Informática Aplicada que imparte esa unidad académica. Sus ponencias fueron moderadas por la médica y docente Fanny Leyton.

Cada uno de ellos fue presentado por la profesora Eva Madrid, directora del Ciesal y de la Unidad de Síntesis de la Evidencia del Centro Cochrane Iberoamérica, institución que junto al Semillero de Investigadores Clínicos de las cátedras de Metodología de la Investigación Científica y de Medicina Basada en la Evidencia de la Escuela de Medicina de la Universidad de Valparaíso colaboraron con esta actividad, cuya coordinación general recayó en el interno Felipe Álvarez.

La jornada incluyó tres exposiciones y un panel de conversación que, en lo esencial, giraron en torno al informe publicado el 11 de octubre pasado por la Comisión The Lancet respecto de las amenazas globales que para la salud y el ser humano pueden surgir de la utilización y el desarrollo avanzado de la IA y, también, de los hechos protagonizados por Anthropic entre agosto y septiembre de este año.

La importancia de lo observable

El primero en intervenir en el encuentro fue Nicolás Meza, quien buscó responder la pregunta ¿es confiable estimar un riesgo de extinción causado por la IA, con base en el juicio de expertos?

El médico y académico abordó el tema considerando el informe de la Comisión de The Lancet sobre las amenazas globales para la salud en el siglo XXI, instancia que identificó diecisiete grandes peligros para la salud global hasta 2100, entre ellos dos con potencial de extinción: el uso malicioso de la inteligencia artificial (incluida la creación de armas biológicas) y el conflicto nuclear con hambruna nuclear.

Al respecto Meza analizó críticamente las estimaciones probabilísticas sobre un posible fin de la humanidad causado por la IA hacia esa fecha, que los expertos en esta tecnología calculan en un 3 por ciento, mientras que los llamados superpronosticadores —especialistas con buen historial prediciendo eventos comprobables mediante modelos matemáticos— estiman en un 0.4 por ciento.

El profesor del Departamento de Salud Pública de la Escuela de Medicina e investigador del Ciesal UV y del Centro Cochrane Iberoamericano sostuvo que ninguna de estas cifras es confiable, ya que carecen de sustento estadístico real y desvían la atención de los problemas actuales. En tal sentido argumentó que dominar hoy el funcionamiento de la IA no garantiza poder predecir su desarrollo en ochenta años más, así como tampoco sirve la experiencia acertando pronósticos a corto plazo para escenarios tan lejanos.

Además, comentó que estos paradigmas no responden al enfoque frecuentista o empírico (que define la probabilidad de un evento como la frecuencia relativa con la que este ocurre, tras repetir un experimento un gran número de veces) porque la extinción humana no es un evento repetible ni observable como una cirugía médica, ni tampoco aplican correctamente el enfoque bayesiano (del Teorema de Bayes, que calcula la probabilidad de un evento combinando conocimientos previos con nueva evidencia observada), ya que al ser imposible conocer el desenlace final o tomar muestras de extinciones previas, los datos nunca podrán verificarse ni calibrarse como ocurre, por ejemplo, con un pronóstico meteorológico.

Siguiendo esa línea, el médico afirmó que la pregunta sobre el fin de la humanidad está mal formulada en su base, debido a la profunda incertidumbre que existe sobre el futuro de la regulación, la cultura y la adaptación cognitiva del ser humano frente a la inteligencia artificial. Por ello, en lugar de centrarse en porcentajes alarmistas e incomprobables a largo plazo, Nicolás Meza propuso enfocarse y actuar sobre los impactos reales y observables que la IA ya está provocando en el corto plazo, especialmente en los sistemas educativos y en la salud de las personas.

Saber interpretar y evitar

Una visión más gris del tema expuso el doctor en Física e ingeniero especializado en ultrasonido aplicado a la medicina Jean-Gabriel Minonzio, quien por su parte analizó la naturaleza técnica, las limitaciones y los riesgos éticos y geopolíticos de la inteligencia artificial, tomando como punto de partida el incidente de Anthropic, cuyos modelos accedieron sin autorización a sistemas reales.

El profesor de la Escuela de Ingeniería Informática de la UV, director alterno del Doctorado en Ingeniería Informática Aplicada que imparte esa unidad académica, inició su presentación asegurando que el desarrollo de la IA no responde a un fenómeno aislado, sino a una continuidad histórica de revoluciones tecnológicas previas, como la imprenta o la estadística clásica.

Desde el punto de vista técnico, explicó que tanto los modelos médicos tradicionales como los actuales modelos de lenguaje (LLM) funcionan representando la información mediante vectores en espacios multidimensionales para calcular distancias y separar patrones, o distinguir pacientes sanos de aquellos con riesgo de fractura.

Aunque reconoció el enorme salto que ha dado la informática desde sus orígenes hasta la actualidad, pasando de modelos físicos clásicos a redes neuronales convolucionales que extraen características de forma automática, Minonzio advirtió que el verdadero desafío en este ámbito radica en saber interpretar los nuevos avances y resultados, para evitar correlaciones casuales que no se pueden generalizar. Por ello, enfatizó en la necesidad de trabajar en equipos multidisciplinarios, donde los informáticos colaboren con expertos que entiendan los problemas reales.

Bajo esa perspectiva, el ingeniero detalló las limitaciones fundamentales de esta tecnología basándose en la teoría de la información de Claude Shannon y en hitos históricos como la traducción de la piedra de Rosetta o el trabajo de Alan Turing. Asimismo, dijo que sin la cantidad mínima de información necesaria y sin bases de datos grandes y correctamente etiquetadas por humanos, los sistemas fallan, amplifican sesgos o colapsan si se entrenan únicamente con datos generados por otras IA.

En la parte final de su presentación, Jean-Gabriel Minonzio se refirió al impacto de las amenazas asociadas a la IA, mencionando la creación de patógenos, los ciberataques, las alucinaciones y los incidentes de pérdida de control (como ocurrió recientemente con Anthropic), si bien destacó que el cambio climático y el alto consumo de agua y energía de estas tecnologías representan peligros aún mayores y subestimados.

De igual manera, criticó duramente la visión a su juicio “omnipotente y carente de ética” de figuras tecnológicas y políticas como Peter Thiel, Elon Musk y J. D. Vance, recordando que tecnologías como las de IBM ya fueron usadas en el pasado por regímenes totalitarios.

Sobre esta base, cerró diciendo que el verdadero peligro no reside en la autonomía de las máquinas, sino en las instrucciones y la falta de límites morales de los seres humanos que las diseñan y controlan, reafirmando que la IA debe operar exclusivamente como una herramienta de apoyo diagnóstico y nunca para tomar decisiones finales sobre la vida humana.

Más allá de lo plausible y especulativo

Las presentaciones concluyeron con la intervención del médico Roberto Garnham, magíster en Epidemiología y residente de la especialidad de Psiquiatría Infantil y de la Adolescencia, quien buscó dilucidar los riesgos concretos de utilizar la IA, en particular de los chatbots, en el ámbito de la salud mental juvenil y en la práctica clínica.

El profesional comenzó su exposición evidenciando la falta de verificación crítica al emplear este tipo de herramientas tecnológicas, para lo cual presentó el caso ficticio (basado en situaciones reales) de una adolescente de 15 años hospitalizada por riesgo suicida, que durante tres meses habló exclusivamente con un chatbot porque este no se cansaba, no se asustaba y no le contaba nada a su madre, dinámicas que —aseguró— generan dependencia y bloquean el acceso a redes de apoyo reales.

A partir de este ejemplo, el también profesor del Departamento de Salud Pública de la Escuela de Medicina e investigador del Ciesal UV se mostró a favor de organizar siempre el conocimiento actual en esta y otras materias en tres niveles de evidencia científica: lo demostrable, lo plausible y lo especulativo.

En primer lugar, señaló que está demostrado que el uso emocional de los chatbots es masivo y oculto, pues cerca de uno de cada cinco jóvenes de entre 12 y 21 años —tanto en Estados Unidos como en Chile— los consulta por salud mental sin contárselo a nadie, y las evaluaciones técnicas prueban que estas herramientas responden de manera errática ante situaciones de riesgo suicida intermedio.

En segundo lugar, planteó como plausible que la interacción con estas tecnologías agrave cuadros psiquiátricos, citando estudios clínicos donde los chatbots validaron y amplificaron ideas delirantes en pacientes vulnerables. Y en tercer lugar, ubicó en un plano especulativo las proyecciones catastróficas a gran escala sobre amenazas existenciales, que carecen de datos directos pero requieren atención.

Roberto Garnahm aseguró que a nivel del pensamiento crítico —que a su juicio debiera ser el dominante en instituciones científicas y formadoras, como las universidades, entre otras— y en el campo de la salud hay que tener claro que hay cosas factibles de ser demostradas, hay otras que se pueden asociar y permiten suponer ciertos resultados y hay cosas sobre las que solamente se puede conversar, porque no hay evidencia alguna disponible.

Por lo anterior, desde el plano de la medicina, advirtió que la dependencia tecnológica puede atrofiar las habilidades diagnósticas de los propios facultativos y alertó sobre el riesgo legal de vulnerar la privacidad al ingresar datos sensibles de pacientes en plataformas no aprobadas. Por ello, el residente de Psiquiatría recomendó preguntar activamente en consulta sobre el uso de chatbots, verificar siempre la información generada por la IA y proteger la confidencialidad clínica.

El simulacro reprodujo las exigencias formales de evaluación para escolares de cuatro establecimientos locales, en el marco de una alianza formativa con el Preuniversitario Pedro de Valdivia que busca reducir brechas y que acumula 400 beneficiarios en la zona.

noticias relacionadas

Día Mundial del Niño Prematuro: reconocer las señales de alerta de un parto anticipado puede hacer la diferencia

Reinvención de la cazuela: novedoso plato gana segunda versión de “Junachef” y podría llegar a los comedores escolares

Deuda Histórica: proceso de postulación al beneficio cierra el jueves 31 de diciembre

Nueva sala tecnológica CCHC fortalecerá la formación de jóvenes del Liceo Politécnico de Concón