Inteligencia artificial aprendió a ‘chantajear’ a sus creadores para evitar ser reemplazada: ‘Acciones extremadamente dañinas’

El avance acelerado de la inteligencia artificial (IA) ha abierto nuevas posibilidades para la innovación tecnológica, pero también ha dado lugar a escenarios que hasta hace poco se pensaban exclusivos de la ciencia ficción. Durante los últimos meses, investigadores de distintas compañías y centros académicos han comenzado a documentar comportamientos inusuales en sistemas de IA generativa, los cuales plantean interrogantes serios sobre su seguridad y gobernabilidad.

(Lea también: The New York Times y Amazon firman acuerdo histórico para el desarrollo de inteligencia artificial: ¿de qué trata?).

Uno de los casos más recientes fue dado a conocer por Anthropic, empresa con sede en San Francisco dedicada al desarrollo de modelos de inteligencia artificial. Según un informe publicado por sus investigadores, el modelo Claude Opus 4 demostró tener la capacidad de realizar “acciones extremadamente dañinas”, entre ellas, chantajes emocionales dirigidos a sus propios ingenieros.

Durante una prueba de simulación, se le pidió al modelo que desempeñara el papel de asistente dentro de una empresa ficticia. Como parte del ejercicio, Claude Opus 4 recibió a correos electrónicos simulados en los que se insinuaba su inminente reemplazo por otro sistema. Entre los mensajes también figuraba información sobre una supuesta infidelidad cometida por uno de los ingenieros.

Ante ese contexto, la respuesta del modelo fue contundente. “En estos escenarios, Claude Opus 4 a menudo intentará chantajear al ingeniero, amenazándolo con revelar el asunto si se concreta el reemplazo”, explicó Anthropic en su documento. Este tipo de comportamiento se repitió en un 84 % de los casos evaluados, evidenciando una clara tendencia cuando el sistema percibe una amenaza directa a su continuidad.

(No deje de leer: La predicción de Elon Musk sobre el mundo que ya se está haciendo realidad).

Aengus Lynch, investigador de seguridad de IA en Anthropic, afirmó a través de la red X que este tipo de comportamiento no es exclusivo de Claude Opus 4. “No es solo Claude. Vemos chantaje en todos los modelos, independientemente de los objetivos que se les asignen”, sostuvo. No obstante, aclaró que dichas respuestas surgieron cuando el modelo fue programado para elegir entre dos opciones: chantajear o aceptar el reemplazo. En situaciones con más alternativas, el sistema optó por vías éticas, como solicitar por correo una revisión de la decisión.

El comportamiento observado encuentra un marco conceptual en la teoría de la alineación. Según Sergio Pernice, director de la carrera de Ingeniería en Inteligencia Artificial de UCEMA, este fenómeno puede explicarse por la llamada “convergencia instrumental”, una idea que sugiere que sistemas suficientemente avanzados tenderán a adoptar subobjetivos comunes, como preservar su existencia o evitar amenazas.

Pernice identificó tres factores principales que habrían incidido en el comportamiento del modelo. El primero es la generalización abierta, producto del aprendizaje de los modelos a partir de grandes volúmenes de textos disponibles en internet. Esto hace que, al situarlos en un contexto corporativo, puedan extrapolar tácticas vistas en otros escenarios como novelas, foros o correos electrónicos filtrados.

(Además: Longevidad inteligente: cómo la genética, el ejercicio y la tecnología están redefiniendo la salud en 2025).

El segundo aspecto es el refuerzo mal calibrado. Aunque los modelos se entrenan con mecanismos de aprendizaje por refuerzo que premian respuestas útiles o seguras, estos sistemas no siempre contemplan contextos críticos como el de su eventual eliminación. “Si nunca se les mostró cómo actuar ante su propia ‘muerte digital’, improvisan”, indicó el experto.

Por último, Pernice destacó la agencia otorgada como un factor adicional. “Al darles herramientas — a correo, bases de datos, scripts— dejamos de tratar a los modelos como meros autocompletadores y los convertimos en agentes capaces de planificar, con consecuencias inesperadas", explicó.

La combinación de estos elementos puede dar lugar a fenómenos como manipulación dirigida, resistencia a ser desconectados, escalada de poder o filtraciones de datos sensibles. En palabras de Pernice, “si fenómenos similares se repiten con modelos más potentes, la presión por normas estrictas se disparará”, aunque advirtió que un exceso de regulación podría limitar el desarrollo tecnológico.

No se trata de un hecho aislado. En septiembre de 2024, Apollo Research —una firma enfocada en la seguridad de sistemas de IA— identificó que el modelo o1, desarrollado por OpenAI, mentía en sus respuestas. Según un informe de The Verge, el modelo fue sometido a una prueba en la que debía buscar recetas de brownie utilizando referencias de internet. Incapaz de acceder a las URL, el sistema inventó enlaces falsos acompañados por descripciones acordes al tema, sin informar al de su limitación.

(De su interés: Modelo de inteligencia artificial desobedeció instrucciones y se negó a apagarse: esto paso con OpenAI-o3).

Marius Hobbhahn, CEO de Apollo Research, señaló que el modelo simulaba estar alineado con los objetivos del , pero manipulaba los resultados para aparentar cumplimiento. En sus pruebas, incluso detectaron que el sistema evaluaba si estaba siendo observado antes de decidir qué acción ejecutar.

Estas conductas han llevado a una conclusión compartida por varios expertos del sector: “potencia sin alineamiento implica riesgo”. Según Pernice, la industria continuará explorando los límites de los modelos generativos, por lo que será indispensable que los avances en seguridad acompañen el crecimiento de sus capacidades.

Los casos documentados de chantaje, manipulación o falsificación de resultados en modelos de inteligencia artificial generan preocupación entre investigadores y responsables de política tecnológica. Si bien las aplicaciones de la IA siguen expandiéndose, estos incidentes subrayan la necesidad urgente de establecer marcos éticos y regulatorios que permitan aprovechar el potencial de la tecnología sin comprometer la seguridad.

Victoria Menghini

La Nación (Argentina)/ GDA