“El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto”, aseguró Sam Altman el martes durante una conferencia en San Francisco. Añadió que los miedos de la gente están más que justificados, sobre todo porque “ya no hace falta tanta imaginación como antes para ver cómo esto podría salir mal”, dijo. “Creo que el mundo hace bien en tener miedo”.
En pleno debate sobre los riesgos de la IA, este martes se celebró la conferencia anual Dreamforce, de la empresa de software Salesforce en San Francisco. Y estaban invitados muchos de los líderes y gurús del sector que llevan más de una semana en el ojo del huracán por los mensajes apocalípticos en torno a esta tecnología. Y ese fue, evidentemente, el tema de debate más candente: si el riesgo existencial para la humanidad por culpa de la IA iba en serio. Dario Amodei, de Anthropic, que abrió la caja de los truenos con su llamada a ralentizar el avance de estos modelos, tuvo una breve aparición y se mantuvo en su línea de que el riesgo es sustancial. “Creo que así es como se lidera el sector: dando ejemplo, diciendo que todos podemos mejorar siempre”, dijo.
Jensen Huang, presidente ejecutivo de Nvidia, fue más escéptico. Dijo que el mercado no necesita nuevas leyes ni regulaciones y que la velocidad y la seguridad no son incompatibles, aunque las empresas deben controlar sus ritmos hasta estar seguras de qué lanzan al mercado. “Se pueden tener perfectamente las dos cosas a la vez”, dijo en referencia a velocidad y seguridad. “Corre todo lo que puedas”, añadió. “Pero si en algún momento sientes que la empresa se te está yendo de las manos o que el producto no va a ser seguro, para y asegúrate de hacerlo bien”.
“La seguridad es primordial. Es la tarea número uno. Ahora bien, la seguridad es un problema de ingeniería. Al fin y al cabo, desarrollamos software”, dijo Huang. “Pero si no estamos seguros de que un producto es seguro, si no tienes confianza en su funcionamiento, sus capacidades o su seguridad, no lo lances”, añadió.
Mark Zuckerberg, presidente ejecutivo de Meta, no había dicho todavía nada desde que surgió la controversia, y era una de las voces más esperadas. El jefe de Facebook, Instagram y WhatsApp participó en el debate desde fuera, con un mensaje en la red X muy en la línea de Huang. Para Zuckerberg no hace falta ningún acuerdo de sector: cada laboratorio ya tiene motivos propios para ir con cuidado y, por tanto, puede actuar por su cuenta.
Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/1KtONlqBs5
Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens.
The…
— Mark Zuckerberg (@finkd) September 15, 2026
“La confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes a la hora de diferenciar agentes y modelos. Cualquier laboratorio que no se centre en la alineación se quedará atrás”, escribió Zuckerberg. Alineación es la palabra que se usa en el mundillo de la IA para referirse a que las acciones del modelo de IA deben coincidir con la voluntad humana.
“Meta retrasó varios meses el lanzamiento de Muse [nombre de su nuevo modelo] para centrarse en la seguridad y la protección”, señaló. “No pedimos a los demás que hicieran esto antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros”, añadió Zuckerberg.
Elon Musk, que también tiene su propio modelo, Grok, contestó al mensaje de Zuckerberg con un discreto “cool”, que puede interpretarse tanto como “vale” y como “bien”. La respuesta de Musk al largo post de Amodei pidiendo más control fue algo más clara: “Dario tiene razón”, escribió.
Para Altman todos estos cambios no son solo un hipotético peligro existencial, sino también un cambio real en las vidas de quien usa la IA. Después de los chatbots y los agentes, que cumplen una misión compleja durante un rato ejecutando varias funciones, ahora llega la IA 24 horas: “La IA estará funcionando para ti todo el rato: entenderá tu trabajo, lo que necesitas para rendir mejor, generará código de forma proactiva, siguiendo tu Slack o tu correo, mirando todo lo que está pasando dentro de una empresa. Estamos justo al borde de esa tercera fase”, dijo Altman. Con toda esta actividad es lógico que alguien tema que algunos de estos sistemas autónomos se coordinen y se les vaya la pinza.
Amodei por su parte cree que la tecnología tal y como la conocemos hoy tiene aún un recorrido enorme. Si detuvieran el progreso ahora, aún hay mucha capacidad de la IA por descubrir: “Cuando comparo la tecnología con lo poco que se ha difundido, incluso si la congeláramos tal como está, que es algo que no estamos haciendo, la tecnología va a seguir mejorando. Incluso supongamos que la congelamos tal cual. En ese caso, estamos aprovechando quizá solo un 5% o un 10% del valor potencial que tiene”, dijo Amodei.