El debate sobre la gobernanza de la inteligencia artificial (IA) llegó ayer a la cumbre de las Naciones Unidas. Los responsables de OpenAI y Anthropic, las compañías que lideran a día de hoy el sector, intervinieron en una reunión del Consejo de Seguridad, el órgano en el que se toman las decisiones vinculantes de la ONU, para decir que la tecnología que están desarrollando en sus laboratorios debe ser controlada por otros. Para Dario Amodei, director general de Anthropic, los riesgos asociados a los modelos más avanzados de IA constituyen “el problema de seguridad global más importante al que se enfrenta el mundo hoy”.
Su homólogo de OpenAI, Sam Altman, hizo declaraciones en la misma línea: el sector se encuentra en una encrucijada, dijo, y no debe asumir “demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos”. Pocas horas después de intervenir Altman, el primer ministro de Australia, Anthony Albanese, denunció que un agente de IA de su compañía había hackeado el sistema público de salud australiano.
En vez de comprometerse a congelar la investigación de modelos más avanzados, lo que hubiera sido coherente con sus advertencias, Altman, igual que Amodei, pidió una intervención internacional que “oriente” al resto de operadores sobre lo que se debería o no poder hacer. Las empresas, aseguró, necesitan la guía de los líderes mundiales para “definir marcos técnicos rigurosos” que permitan medir capacidades, evaluar amenazas, verificar salvaguardas y crear canales internacionales seguros para compartir vulnerabilidades críticas.
Tanto Altman como Amodei dijeron hace dos semanas que convenía ralentizar el ritmo de investigación de los llamados modelos de frontera de IA (los más avanzados). Desde entonces, insisten en la necesidad de que el sector que ellos lideran debe controlarse de alguna forma. Hasta ahora habían hablado de autorregulación; anoche abrieron el melón de la intervención internacional. OpenAI y Anthropic se encuentran en proceso de salida a Bolsa, que se prevé histórica, con valoraciones previstas para cada una de entre 1,5 y dos billones de dólares.
El factor geopolítico también se trató en la reunión, aunque de tapadillo. “A nivel internacional, esto significa cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos”, dijo Altman, en una referencia implícita a China.
Amodei abundó en esta idea. “Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los gobiernos en esta sala en este objetivo crucial”, indicó durante su intervención. El ejecutivo pidió la implementación de medidas concretas. Entre ellas, la prohibición expresa del uso de la IA para la proliferación o fabricación de armas biológicas, así como la implementación de sistemas de evaluación y verificación capaces de avanzar al mismo ritmo vertiginoso del desarrollo técnico.
Yoshua Bengio, considerado uno de los padrinos de la IA moderna y muy alineado en los últimos meses con el discurso de la contención, también intervino en la sesión, presidida por el ministro de Asuntos Exteriores francés, Jean-Noël Barrot. “Debemos acordar colectivamente que nadie, ninguna empresa ni país, pueda desarrollar sistemas de IA que puedan causar daños a gran escala. Los desarrolladores deben demostrar a expertos independientes que sus sistemas son seguros”, dijo.
Otro de los participantes en la sesión del Consejo fue Clément Delangue, consejero delegado de Hugging Face, una de las plataformas que sufrió este verano un ciberataque por parte de modelos de OpenAI y que se encuentra en proceso de adquisición por Nvidia. “Las narrativas basadas en el miedo no son la forma correcta de tomar decisiones”, apuntó Delangue, quien defendió la utilidad de los modelos de código abierto como herramienta de resiliencia.
La IA como “acto de amor”
Otro de los magnates tecnológicos que habló ayer sobre gobernanza de la IA, aunque en este caso desde Los Ángeles, porque no estaba invitado a la cumbre de Nueva York, fue el fundador y director general de Meta, Mark Zuckerberg. El empresario defendió en su gran evento corporativo anual, Meta Connect 2026, una visión optimista de la tecnología y afirmó que construirla es “un acto de amor”.
Desde su punto de vista, la mejor forma de construir un futuro seguro es “empoderando a las personas” y no concentrando esta tecnología en unas pocas manos. Zuckerberg, que este verano ya dijo que el mayor peligro para la IA era que los países tuvieran demasiado control sobre ella, lamentó que esa idea se haya vuelto “sorprendentemente controvertida”.