Anthropic contactó con la teóloga y filósofa Carmody Grey (Londres, 43 años), profesora de la Universidad Radboud (Países Bajos). La compañía creadora del chatbot Claude quería invitarla a San Francisco para participar en algo llamado “colaboración de investigación con las tradiciones de sabiduría” para “orientar la formación moral de los sistemas de IA”. Después de varias conversaciones, Grey dijo que no. Su decisión sorprendió a sus colegas. ¿Qué pequeño humano dice que no a estos gigantes que pretenden dominar el mundo? Grey lo contó en un largo ensayo en el Financial Times. Pero lo que a ella le parece más importante no es su decisión sobre Anthropic, sino la conquista mundial aparentemente imparable de la IA. “Quiero hablar del usuario, de la adicción y la deshumanización, sobre nuevas formas de violencia y explotación”, dice Grey.
En conversación con EL PAÍS, cuenta por qué es un problema que las grandes empresas de la IA impongan su relato y cómo evitarlo. En el fondo, escribe Grey, “existen para vender un producto”. Por eso, añade, es tan importante cambiar de preguntas cuando hablamos de la IA: “Tenemos que pensar en sus efectos”, que son muchos: “Concentra el poder, difumina responsabilidad, esquilma la naturaleza, expropia culturas y lenguas con ánimo de lucro y probablemente nos haga más solos y tontos”, dice.
Pregunta. Anthropic le propuso colaborar con “tradiciones de sabiduría”. Suena rarísimo.
Respuesta. Es rarísimo. La manera en que está planteado ya es sospechosa. ¿Qué tradición ha dicho que quiera colaborar con Anthropic? Este tipo de presunción me incomodaba ya de entrada. Se pusieron en contacto conmigo para ver si me interesaría ir a un encuentro en San Francisco. Luego tuvimos una primera conversación en la que compartí unas ideas iniciales y me invitaron formalmente. Me lo pensé mucho. Hablé con varios colegas, hice una reflexión bastante profunda y decidí que no podía hacerlo.
P. ¿Por qué?
R. Por esa sensación de que era una invitación a puerta cerrada, en su terreno y en sus términos.
P. ¿Le querían contratar?
R. Lo dudo. Ya les habían avisado de que yo era crítica y enseguida dije que no iba a colaborar.
P. Hay muchos titulares sobre empresas de IA que contratan filósofos. ¿Es un interés sincero o interesado?
R. La gente con quien hablé en Anthropic era impresionante y seguro que tenían buena fe. Me cayeron bien, les respetaba. Sentí auténtica tristeza cuando decidí apartarme.
P. ¿Eran filósofos o informáticos?
R. Eso no puedo contestarlo. Pero eran de muy arriba. Tenían una curiosidad filosófica sincera. Luego, en algunas empresas como Google, sí quieren de verdad tener a gente que sepa de ética. Pero en otros lugares hay un interés comercial tan evidente en usar la filosofía para vender el producto que es inevitable que su manera de acercarse a las humanidades acabe siendo instrumental. Pueden ser conscientes de ello o no. Estoy segura de que algunos sí lo son, sobre todo quienes están más en la parte de negocio. Tienen una maquinaria de comunicación muy sofisticada, saben cómo montar un relato de seriedad intelectual y moral.
P. ¿Y los filósofos que fichan por una empresa de IA están vendidos o se lo creen?
R. Si alguien que ha estudiado filosofía decide irse a trabajar a una empresa de IA, al menos queda claro a quién sirve. Yo no lo haría. Pero si hay quien decide hacerlo, allá cada cual. Pero no deberían llamarse filósofos, sino más bien alguien con formación filosófica que trabaja para una empresa de IA. Lo importante es que quede claro a quién sirve su trabajo. Hacer un trabajo que en realidad sirve a intereses empresariales, disfrazado de neutralidad académica: eso es con lo que hay que tener cuidado. Está claro que el trabajo académico nunca es del todo puro ni desinteresado, pero eso no debería impedirle aspirar a toda la objetividad y la independencia posibles.
P. ¿Hay alguna colaboración entre la IA y las humanidades que le parece bien?
R. Sí. Creo muchísimo en que la universidad hable con el mundo fuera de la academia. Cuando rechacé la invitación a San Francisco, hice una contrapropuesta. Invité a esas personas de Anthropic a tener una charla conmigo en la BBC. No aceptaron. Así que en absoluto me negué a hablar con ellos. Creo muchísimo en el diálogo; la filosofía vive del diálogo. Hice lo que a mí me parecía la propuesta más constructiva para un diálogo auténtico: transparente, con rendición de cuentas, fiable y en un terreno neutral.
P. Sigue siendo difícil entender por qué estas empresas quieren tanto hablar con filósofos y teólogos.
R. La versión favorable es que son gente lista. Se han dado cuenta de que la IA es existencial y que plantea preguntas del nivel más básico sobre qué es un ser humano, qué es una máquina, dónde está la frontera, qué es la consciencia.
P. Pero eso ya es interpretar.
R. Totalmente. Estoy dando su versión. También saben que la manera en que se despliega esta tecnología tiene unas consecuencias enormes para el futuro de la humanidad. Y por eso quieren hablar con la gente que se dedica intelectualmente a preguntas existenciales y morales. Esa es la justificación formal de por qué quieren implicar a gente como yo. Un poco como el gobierno que tiene un asesor de ética. Ahora bien, en la práctica ya han decidido de antemano qué preguntas filosóficas son las que debemos preguntarnos. Son preguntas que nos invitan a poner nuestra atención filosófica en el producto. Pero es el foco equivocado. Las preguntas morales y filosóficas más urgentes que plantea la IA no son sobre la IA. Son sobre los efectos de la IA en las personas y el planeta, sobre el poder, sobre quién responde, sobre la adicción, la soledad y nuestra capacidad de valorar nuestra humanidad.
P. Las preguntas que le planteaba Anthropic eran más bien si la IA es una entidad nueva, si un modelo de lenguaje tiene carácter o si puede sufrir.
R. Muchos académicos creen que esas son las preguntas importantes. Yo preferiría preguntar: ¿deberíamos estar antropomorfizando a Claude, para empezar? Pero me pareció que esa conversación no la querían tener. Un ejemplo: imaginemos que hablamos de racismo. Y alguien dice: “La pregunta importante es si una persona de otra raza es realmente humana”. Aunque la respuesta a la que lleguemos todos sea que sí, está claro que esa persona quería sembrar una duda, y eso revela su actitud de fondo. Ya enseñas cómo piensas solo con la pregunta que haces. Esa es la clave. La pregunta crea la conversación. Si la conversación que quieres tener es sobre Claude, pues claro que preguntas si Claude es consciente. Si Claude es tu producto, esa es la pregunta adecuada. Pero, ¿y si hacemos una pregunta muy distinta: quién se beneficia de que la tecnología de los modelos de lenguaje se desarrolle, diseñe, anuncie y cuente así? ¿A quién perjudica? Estas preguntas llevan a conversaciones distintas. Esa es la aportación de las humanidades: asegurarse de que hacemos las preguntas correctas. No va solo de dar con las respuestas correctas, sino de asegurarse de tener la conversación correcta, que sirva de verdad al bien común. Y cuando los filósofos se van a trabajar a una empresa de IA, tienen que aceptar que es la empresa quien decide por ellos las preguntas.
P. Por eso dice que el mérito de la encíclica sobre la IA de León XIV es cambiar de tema.
R. Exacto. Hay que cambiar de tema. La IA no es el tema central. El humano es el tema central.
P. Pero ni el Papa ha logrado cambiar de tema. Seguimos hablando de la IA en los términos de Silicon Valley.
R. A mí me habría gustado escribir el ensayo sin mencionar a Anthropic. Yo no elegí el titular ‘La filósofa que dijo que no a Anthropic’. Me gustaría de verdad discutir de las preguntas filosóficas directamente, por sí mismas, sin tener que justificarlas remitiéndome a lo que pasó con Anthropic. Pero no pude, porque la actualidad no funciona así.
P. Está claro.
R. Silicon Valley sabe cómo dominar los titulares. Tienen una maquinaria de marketing excepcional. Saben cómo conseguir que la conversación sea sobre ellos. Claro que me gustaría formar parte del cambio. No hace falta que toda la conversación pase por Silicon Valley. De hecho, no debe pasar por ahí. Necesitamos que los académicos de humanidades, y también la gente corriente, ejerzan su propio juicio, libre e independiente. No quiero estar hablando de Anthropic todo el rato. No es la conversación que toca. Necesitamos hablar de las personas. De su dignidad, su sufrimiento, sus vulnerabilidades. Y necesitamos hablar de este planeta y de lo que le están haciendo nuestras tecnologías. Y lo más importante: no podemos dejar que la IA nos distraiga de preguntas más importantes. La amenaza existencial más grave no es la IA. Es el calentamiento global y la destrucción de la naturaleza. Si Silicon Valley sigue llevando la conversación hacia la IA, moriremos por distracción. Seremos como el conductor que estaba arreglando algo del salpicadero y mientras el coche chocó.
P. ¿Sus colegas alucinaron cuando dijo que no?
R. Se sorprendieron, sí. El primer borrador del ensayo no era personal sobre Anthropic. El FT me pidió que lo incluyera, presuntamente porque saben cómo vender periódicos. No lo escribí para promocionarme. No debía ser sobre mí.
P. Dentro de cinco años, ¿cómo sabremos si las humanidades estuvieron a la altura del momento o se dejaron comprar?
R. En el nivel más obvio, universidades e intelectuales deben mantener una independencia real. Cuando las empresas de IA comparten su investigación, los académicos deberían desconfiar igual que desconfían cuando las grandes petroleras comparten su investigación sobre energía. Esto no es lo mismo que decir que no deben hablar con empresas de IA. Claro que debe haber un diálogo activo, real y sincero. Pero no puede ser un diálogo en los términos que ponen las empresas de IA, a puerta cerrada, haciendo y respondiendo las preguntas que marcan ellas. La otra señal, y esta sería el éxito total, sería que el debate que tenemos sobre la IA empezara a hacerse otras preguntas: ¿qué hace que una vida humana tenga sentido?, ¿qué la hace bonita?, ¿cómo contribuye la IA a eso, o cómo lo socava?, ¿nos está haciendo más humanos o menos?
P. ¿Por qué evita el contacto con los chatbots?
R. Los uso muy de vez en cuando, normalmente para traducir algo, si no tengo a una persona real a mano que lo haga. Pero evito usarlos de forma rutinaria, incluso cuando me vendrían muy bien. Cuando cuento a la gente cuál es mi postura, ponen los ojos en blanco y piensan que desacredita todo mi argumento. Pero mi respuesta es sencilla. Imagina que hubiera un robot que hiciera que no tuvieras que levantarte. Te lo traería todo, te llevaría a todas partes, te lo haría todo. Poco a poco irías perdiendo tus capacidades físicas. Muchos usos de la IA tienen el mismo efecto sobre nuestro cerebro y nuestra capacidad de relacionarnos. Cada vez estamos más solos y somos más tontos. Es tremendamente corrosivo. Con las tecnologías, no nos damos cuenta de los costes de oportunidad. En el caso de los chatbots, son invisibles pero demoledores. ¿Con quién no estás hablando? ¿Qué relaciones no estás teniendo? ¿Qué libros no estás leyendo? ¿A qué sitios no estás yendo? ¿Qué facultades tuyas se están muriendo por falta de uso? ¿Qué hábitos que dan vida estás perdiendo? ¿Y si, al perderte todo eso, te estás perdiendo de alguna manera el sentido mismo de la vida? La vida humana está hecha de relación. Relación con los demás, con el mundo natural, con nosotros mismos y también con algo sagrado, que algunos llaman Dios. Esas relaciones son la clave de la plenitud. La IA las pone en riesgo. Me gustaría que tuviéramos una conversación sobre cómo podemos ayudar a que esas relaciones florezcan. Esa es una conversación no solo para filósofos y teólogos, sino para todos.