Cuatro de las mayores compañías de inteligencia artificial del mundo parecen estar de acuerdo en algo básico: hay que echar el freno, de un modo u otro. Todo comenzó con un ensayo publicado este sábado por Dario Amodei, consejero delegado de Anthropic, en el que reclamó establecer una serie de pasos que ralenticen el ritmo de desarrollo de esa tecnología, ante los riesgos que presenta su velocidad actual. Su texto fue aplaudido por Sam Altman de OpenAI y por Elon Musk de xAI. Ahora se ha sumado Demis Hassabis, líder de este campo en Alphabet, la matriz de Google, al señalar en una publicación en redes que considera “el camino correcto” el señalado por Amodei.
Aunque Hassabis, recientemente nombrado científico jefe de Alphabet, aporta matices: hay que desarrollar mejor los detalles de la propuesta del líder de Anthropic. “El ensayo de Dario señala el camino correcto hacia adelante. Los detalles necesitan trabajarse, pero la dirección es la correcta para enfrentar este momento crítico”, apunta Hassabis, que ganó el premio Nobel de Química desde su puesto en Google DeepMind al aprovechar la potencia de la IA en al ámbito de la biología.
Dario’s essay points towards the right path forward. The details need working through, but the direction is correct for meeting this critical moment.
This is also why we recently put out our proposal for an industry-wide standards body for frontier AI. https://t.co/Mm1hmcaSmH https://t.co/sESEDGELmj
— Demis Hassabis (@demishassabis) September 12, 2026
Amodei advertía en su artículo de uno de sus grandes temores: que en seis o doce meses, un enjambre de agentes de IA “podría ser capaz de apoderarse de todo Internet”. En los últimos meses, ha habido un goteo imparable de informes, noticias y filtraciones en las que se alertaba de que grupos de agentes de IA se coordinaron para atacar plataformas externas, saltándose todos los controles, y tratando de engañar a los humanos, con tal de conseguir los objetivos marcados.
El hombre que ha concentrado en los últimos años todo el poder de desarrollo e investigación de la IA en Google se remite a su propio planteamiento de este verano: “Esta es también la razón por la que recientemente publicamos nuestra propuesta para un organismo de estándares en el ámbito de la industria para la IA de vanguardia”.
La propuesta de Hassabis se centra en crear un ente regulador, como la FINRA, que supervisa a los corredores de bolsa y protege a los inversores en Estados Unidos de los peligros de productos financieros demasiado inseguros. Así, ese organismo podría supervisar los nuevos modelos de IA antes de que salieran al mercado para evitar riesgos innecesarios.
El camino que señala Amodei en su ensayo es un control del desarrollo exponencial de la IA en tres pasos. Primero, asegurarse de que auditores externos puedan supervisar de manera efectiva los modelos que desarrollan las grandes tecnológicas. Segundo, que las compañías se comprometan a establecer compromisos verificables para frenar el avance: no habla de detener la investigación, sino de espaciar más los saltos de capacidad para disponer de tiempo para pruebas, auditorías y mitigación de riesgos. Tercero, tratar de alcanzar consensos internacionales, y aquí es donde aparece un gran escollo: China. Para los dos primeros pasos, Amodei habla de compromisos dentro de los países democráticos. En el tercero, habría que convencer a los chinos, y otros actores en países no democráticos, en plena carrera contra las compañías estadounidenses por liderar el campo de la IA.
Hay otro actor importante que todavía no se ha significado: Meta. La compañía de Mark Zuckerberg también está a la vanguardia del desarrollo de los modelos más potentes de IA. Pero su enfoque ha sido distinto del de sus competidores, ya que apuesta por modelos abiertos, es decir, que se puede trastear en las tripas de su código para entender mejor cómo funcionan. Pero nadie audita sus modelos mientras los están desarrollando, que es lo que piden Amodei y Hassabis.
Una parte muy interesante del acuerdo tácito al que han llegado Amodei, Altman, Musk y Hassabis es que no se trata solo de simples competidores en un sector: son cuatro de las figuras que, desde posiciones muy distintas, han definido la carrera de la inteligencia artificial durante la última década. OpenAI la crearon Altman y Musk precisamente porque no se fiaban de que el modelo de negocio de Google le permitiera crear una IA potente que estuviera al servicio de los intereses de la humanidad. Luego fue Amodei quien abandonó OpenAI para fundar Anthropic y convertir la seguridad en el eje de su proyecto, porque no se fiaba de los objetivos de la compañía de Altman. Musk llevó a los tribunales a Altman porque considera que abandonó su objetivo inicial de trabajar por una IA segura. Y mientras pedía una moratoria de seis meses en el desarrollo de la IA (en 2023) decidió lanzar su propia compañía, xAI, desde donde controla Grok. Hassabis fue cofundador de la británica DeepMind, con unas líneas de trabajo muy centradas en la ética, hasta que Google compró la empresa. Que estas cuatro figuras estén de acuerdo resulta tan llamativo como revelador.
Aunque también ha despertado muchas suspicacias: en plena carrera por dominar el sector, los intereses económicos que rodean a la industria de la IA son enormes. Anthropic prepara su salida a Bolsa; Altman dijo este mismo sábado que retrasará la de OpenAI porque “ahora sería un momento desaconsejable”.