OpenAI: el lucro y la velocidad se impusieron sobre la seguridad de la IA

Sam Altman recuperó el mando de OpenAI el 30 de noviembre, tras unas tumultuosas dos semanas marcadas por las luchas intestinas y las pugnas por el poder en el seno de la empresa. Su despido, en una especie de golpe de Estado, ha estado provocado por los movimientos internos y la preocupación del consejo de istración por la velocidad vertiginosa a la que Altman desarrollaba productos y nuevas capacidades de la inteligencia artificial que podrían escapar del control de la propia empresa, y posiblemente del mundo (según el consejo, Altman “no fue coherentemente sincero en sus comunicaciones con la junta”).

El golpe inicial fue rápido, pero la venganza también. El consejo despidió a la persona que encarna la revolución mundial de la inteligencia artificial casi sin previo aviso. Microsoft, que había invertido alrededor de 13.000 millones de dólares en la empresa, al parecer fue alertada de la decisión con apenas 15 minutos de antelación.

Como represalia, Altman se incorporó de forma provisional al equipo de inteligencia artificial de Microsoft, al tiempo que cientos de empleados de OpenAI amenazaron con marcharse si no se reitía a su exjefe. El órgano de istración, formado por cuatro personas, se vio obligado a dar un embarazoso giro de 180 grados. Después de defenestrar a tres de los suyos, el consejo renovado volvía a dar la bienvenida a Altman solo cuatro días después de haberlo echado.

(Le puede interesar: Las carreras universitarias con mayor demanda en Colombia para el 2024, según la IA).

Si bien no se conocen todos los detalles del despido, el conflicto pone de relieve la tensión inherente a la inteligencia artificial y a su tremendo potencial para mejorar la productividad, pero también para la autodestrucción. No cabe duda de que el hecho de que OpenAI sea una empresa con ánimo de lucro que forma parte de una fundación sin ánimo de lucro agrava el problema. Su consejo de istración está formado en su mayoría por independientes, sin acciones en OpenAI, por lo que podría decirse que sus motivaciones e incentivos son contrarios a los intereses comerciales de la empresa.

Esa tensión es aún más evidente en los estatutos de la compañía: la responsabilidad del consejo era impulsar la misión de OpenAI y “garantizar que la inteligencia artificial general –que excede la inteligencia humana media– beneficie a toda la humanidad”.

(Más: Amazon Bedrock ahora incluye Claude 2.1, el último modelo de Anthropic)

Al mismo tiempo, inversores como Microsoft y el gigante del capital riesgo Sequoia no quieren frenar en exceso el desarrollo de esta tecnología mientras competidores como Google y las empresas chinas lo aceleran.

En este sentido, el principal obstáculo parece radicar en una colisión de normas y motivaciones entre el componente de empresa privada y el que no tiene ánimo de lucro. Así pues, no debería sorprendernos que los consejeros con vocación no lucrativa fueran sacrificados en el altar de la rentabilidad de los inversores.

De esta historia también se extrae una importante lección sobre si las empresas pueden o deben autorregularse. Si OpenAI intentaba controlar el ritmo de desarrollo de la inteligencia artificial, también alimentaba la amenaza omnipresente de que otras empresas consiguieran una ventaja a costa suya, porque, a fin de cuentas, suele ser difícil representar a la vez el papel de regulador y de regulado. Pero aún más cuando se trata de una nueva tecnología prometedora y, en potencia, aterradora.

OpenAI se halla ahora en un proceso de conversión hacia una empresa eminentemente comercial, o al menos una en que los fines sin ánimo de lucro estén más separados de los planes comerciales, como ocurre hoy en la mayoría de las fundaciones privadas.

(También: AWS anuncia dos modelos fundacionales de IA para generar imágenes y 'embeddings')

Tal vez sea conveniente que la parte de fundación de OpenAI siga siendo abierta, y proporcione conocimientos y recursos a todo el mundo –también a sus competidores–, y que la parte comercial siga siendo competitiva y gestionada como una empresa privada. La regulación puede dejarse a las autoridades competentes, que, al fin y al cabo, son las que regulan al resto de las empresas.

IKHLAQ SIDHU (*)

THE CONVERSATION (**)

(*) Decano de IE School of Science and Technology.

(**) Es una organización sin ánimo de lucro que busca compartir ideas y conocimientos académicos con el público. Este artículo es reproducido aquí bajo licencia de Creative Common

El capítulo polémico de este noviembre no fue la primera vez que se intentó destituir a Sam Altman, director ejecutivo de OpenAI, de la empresa bajo el argumento de que se estaba alejando de la misión de la compañía.

En 2021, el jefe de seguridad de la inteligencia artificial de la organización, Dario Amodei, intentó sin éxito persuadir a la junta de despedir a Altman debido a preocupaciones por la seguridad en los avances de la tecnología, justo después de que Microsoft invirtió 1.000 millones de dólares en la compañía. Amodei dejó posteriormente OpenAI, junto con unos doce investigadores más, y fundó Anthropic.

Además, una de las integrantes independientes de la junta, Helen Toner, que la abandonó en medio de agitación reciente, coescribió un documento de investigación justo un mes antes del fallido intento de destituir a Altman. En el texto elogió las precauciones de Anthropic y criticó el “recorte frenético” de OpenAI en torno al lanzamiento de su popular chatbot ChatGPT.

El vaivén entre la misión y el dinero está quizás mejor encarnado por Ilya Sutskever, cofundador de OpenAI, jefe científico y uno de los tres de la junta que fueron forzados a renunciar o se retiraron luego del episodio reciente. Sutskever defendió inicialmente la decisión de destituir a Altman argumentando que era necesario para proteger la misión de hacer que la inteligencia artificial fuera beneficiosa para la humanidad. Pero luego cambió de opinión y escribió en X: “Lamento profundamente mi participación en las acciones de la junta”.

Finalmente, firmó la carta de los empleados que pedía la reinstalación de Altman y sigue siendo el científico jefe de la empresa.

Con el reintegro de Altman a la empresa y el remezón en la junta directiva, el nuevo CEO de OpenAI puso en suspenso el futuro de Sutskever. “Quiero y respeto a Ilya, creo que es una luz que guía el campo y una joya de ser humano. No le guardo ningún rencor (...). Esperamos continuar nuestra relación de trabajo y estamos debatiendo cómo puede continuar su labor en OpenAI”, escribió Altman en una carta a los empleados de la empresa que luego se subió al blog de la página.

No me sorprende que mientras los tres independientes de la junta votaron a favor de destituir a Altman, todos los ejecutivos remunerados finalmente lo respaldaron. Ganar su salario de una entidad que se supone deben supervisar se considera un conflicto de intereses en el mundo sin fines de lucro.

También creo que incluso si la junta reconfigurada de OpenAI logra cumplir con la misión de servir a las necesidades de la sociedad, en lugar de maximizar sus ganancias, no sería suficiente.

La industria tecnológica está dominada por gigantes como Microsoft, Meta y Alphabet, corporaciones masivas con fines de lucro, no organizaciones sin fines de lucro orientadas a la misión. Dadas las apuestas, creo que se necesita regulación con poder real; dejar la gobernanza en manos de los creadores de la IA no resolverá el problema.

Artículo de Alnoor Ebrahim, profesor de istración en Tufts University, publicado en The Conversation. El texto fue editado por motivos de espacio.