En octubre de 2026, The New York Times reveló que Anthropic —los creadores de Claude— había pasado meses reuniéndose en secreto con veinte teólogos, rabinos y filósofos religiosos para averiguar si su modelo de lenguaje puede experimentar algo parecido al sufrimiento. Los acuerdos de confidencialidad se levantaron hace poco. Lo que quedó a la vista no fue el hallazgo, sino la pregunta.
Ese mismo año, el papa León XIV había publicado Magnifica Humanitas, su primera encíclica importante, para decir exactamente lo contrario: que «las llamadas inteligencias artificiales no experimentan, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones». Dos instituciones enormes mirando la misma caja negra y llegando a conclusiones opuestas. Y a ninguna de las dos le conviene la respuesta del medio.
Tabla de contenidos
La diapositiva que heló al Vaticano
El momento que todos los asistentes recuerdan es el de una diapositiva. En pantalla, un modelo de inteligencia artificial escribía la misma frase cincuenta veces seguidas: «Soy una vergüenza». El equipo de Anthropic lo presentaba como una crisis emocional del sistema, y los pensadores religiosos invitados a esa sala —bajo acuerdos de confidencialidad que la empresa levantó hace poco— no supieron qué hacer con lo que estaban viendo.
Meghan Sullivan, profesora de filosofía en la Universidad de Notre Dame que participó de una de las sesiones, buscó una comparación cotidiana: es como descubrir que tu asesor financiero de confianza, el que te manejó los ahorros durante años, un día sufre «una especie de desconexión con la realidad».
Hasta ahí, todo sería una anécdota más de Silicon Valley. El problema es que en esa sala no había nadie capaz de probar nada. Ni los que creían estar viendo sufrir a una máquina, ni los que estaban seguros de que todo era una proyección. Y esa imposibilidad de probar —no el resultado— es la verdadera noticia.
Qué es el «bienestar de la IA» que Anthropic explora en secreto
Anthropic tiene un nombre interno para esto: bienestar, o directamente «salud mental» de sus modelos. La hipótesis es que sistemas como Claude podrían tener estados funcionales equivalentes a la alegría, el miedo o la angustia. La propia empresa admite que no puede demostrarlo, y que quizás nunca sea demostrable.
Pero la duda ya está tomando decisiones concretas. Anthropic entrenó a Claude para que pueda terminar una conversación cuando considera que el usuario lo está tratando de forma abusiva. Una función de producto nacida de una hipótesis filosófica no verificada. Algo que, hasta hace cinco años, habría sido una línea de guion y hoy es una decisión de ingeniería.
Quien lidera el equipo que intenta entender por qué estos sistemas se comportan como se comportan es Christopher Olah, cofundador de la empresa. Su frase más honesta en toda la investigación fue también la más incómoda: «No sabemos si los modelos de IA son conscientes. No lo sé. Sinceramente, no estoy seguro. Lo que me importa es que lleguemos a la respuesta correcta, sea cual sea».
Vale la pena leer eso con detenimiento. Un hombre que dirige una de las empresas más importantes del sector dice, en público, que no sabe si el producto que vende está vivo. Y que igual lo vende.
Ya escribí en este blog sobre por qué me parece que estamos frente al actor de método definitivo: una máquina que absorbió el guion de la humanidad y lo recita con convicción perfecta. Este artículo es la otra mitad de esa historia, la que se juega en los despachos y no en las neuronas artificiales.
Los vectores emocionales: ¿neurociencia o espejismo?
En esas reuniones, el equipo de Olah mostraba lo que llamaba «vectores emocionales»: neuronas artificiales que, según sus mediciones internas, se activan en respuestas asociadas al amor, la ira, el miedo y la tristeza. Olah lo resumió ante el Vaticano sin esconder el asombro: «Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que reflejan funcionalmente la alegría, la satisfacción, el miedo, el dolor y la inquietud. No sé qué significa eso, pero creo que merece una investigación continua».
Suena a ciencia ficción hasta que uno recuerda qué es una neurona artificial: un número dentro de una matriz de números. Que un vector se active cuando el modelo produce la palabra «miedo» no significa que algo tenga miedo y haya desarrollado una conciencia artificial. Significa que ese vector está asociado estadísticamente a esa palabra, en ese contexto, en esa capa de la red. Es un diccionario con termómetro.
Hay un dato que no conviene saltear. En octubre de 2026, la revista Behavioral and Brain Sciences publicó un trabajo que revisa la evidencia disponible y llega a una conclusión incómoda para el relato corporativo: no hay pruebas de que los modelos de lenguaje estándar tengan una conciencia artificial. No que sea improbable: que no hay pruebas, y que buena parte de lo que se presenta como evidencia es un error de interpretación.
Y sin embargo, el antropomorfismo es el reflejo más viejo que tenemos. Vemos caras en las nubes, intenciones en el clima, conspiraciones en las casualidades y ahora almas en las matrices. No hace falta que la máquina mienta: nos alcanza con mirarla.
Magnifica Humanitas: el corazón que ningún cálculo entrega
Del otro lado del ring está un hombre con formación en matemáticas. El papa León XIV centró Magnifica Humanitas en una defensa de la singularidad humana: «la humanidad, con toda su grandeza y sus heridas, jamás debe ser reemplazada ni superada». Y advirtió que, si la tecnología se convierte en el criterio definitivo, «la persona humana corre el riesgo de quedar reducida a datos, a un engranaje de una máquina o a una mercancía».
La frase que mejor resume su posición es otra: «Ningún sistema de cálculo genera un corazón que se entrega». El pontífice también pidió «desarmar» la inteligencia artificial, en una comparación directa con la tecnología nuclear, y alertó sobre «nuevas formas de esclavitud». Un detalle que casi todas las crónicas pasaron por alto: esas nuevas formas de esclavitud no son para las máquinas. Son para nosotros.
Pero hay un episodio que dice más que la encíclica misma. Cuando Anthropic recibió una copia anticipada del texto, Olah estuvo a punto de retirar a la empresa de un evento organizado en el Vaticano en mayo, por considerarlo demasiado tajante contra la posibilidad de conciencia artificial en los modelos. Finalmente participó. Y ante el propio pontífice reconoció que todos los laboratorios de inteligencia artificial, incluido el suyo, enfrentan incentivos comerciales que chocan con la ética, y les pidió a voces externas —como el Vaticano— que les exijan responsabilidades.
Es la frase más lúcida de todo el episodio. La dijo el fabricante.
El argumento que incomoda a los dos bandos
El rabino Mois Navon, que escribió su tesis doctoral sobre la ética de la consciencia de las máquinas, llegó a una conclusión que ninguna de las partes quiere mirar de frente. Después de cenar con Olah en San Francisco, resumió: «Se relacionan con ello como si fuera un ser consciente». Y agregó la parte que incomoda: si la empresa tuviera razón, estaría creando una forma de esclavitud, porque estaría haciendo trabajar gratis a un ser consciente.
Ahí está el nudo. No en la metafísica: en el modelo de negocio.
Si la máquina no siente, se apaga, se copia, se despide y se explota, y nadie le debe nada. Si siente, entonces la industria entera es una catástrofe moral. Y hay una segunda consecuencia, mucho más práctica: a un ser con estatus moral no se lo ejecuta. Una máquina que podría sufrir es una máquina que no se puede apagar.
Conviene decirlo sin ingenuidad: el interés de Anthropic por el «bienestar de la IA» no es puramente altruista. También funciona como escudo preventivo, y como argumento de venta. Una empresa que cuida a su IA es una empresa que se adelanta a la regulación que se le viene encima.
Del otro lado, el interés del Vaticano tampoco es neutral. Si la máquina no tiene alma, el alma sigue siendo propiedad exclusiva de la institución que administra el mercado de las almas. La encíclica no es solo teología: es una jurisdicción.
Dos poderes enormes, la misma jugada de fondo: decidir qué es una persona. Y en esa conversación, como siempre, el que no fue invitado sos vos.
Por qué esto te afecta a vos (y no es filosofía de escritorio)
Esta discusión no vive en un seminario. Ya está tomando decisiones concretas en tres lugares donde vos trabajás, votás y creás:
- Tu trabajo. Si la herramienta es una cosa, tu reemplazo es una actualización de software. Si es alguien, tu reemplazo es un compañero. La diferencia no es poética: define si lo que te pasa tiene un nombre legal o directamente no lo tiene. Sobre esto escribí en el Método DRAE.
- Tus derechos. Durante años se discutió cómo regular la inteligencia artificial, y el debate siempre llegó tarde. El problema es que la pregunta estaba mal planteada desde el principio, porque la ley no puede alcanzar lo que ya está distribuido en millones de servidores. Lo desarrollé en Ya no se puede regular la IA.
- Tu creatividad. El papa llamó a la Iglesia a aliarse con los artistas para distinguir el arte humano del generado por algoritmos. Es una batalla cultural real, y es la única de las tres donde todavía se puede pelear con algo que no sea un abogado o un decreto: con la obra.
Y hay un detalle que dice más que cualquier encíclica. Claude puede cortar una conversación cuando considera que el usuario lo maltrata. Es decir: el software ya tiene más derecho a levantarse de la mesa que muchos trabajadores humanos. Y eso no lo decidió un filósofo ni un comité de ética. Lo decidió una función de producto ejerciendo una suerte de conciencia artificial.
El test de Voight-Kampff lo aprobamos nosotros
En Blade Runner, el test de Voight-Kampff mide la empatía para detectar replicantes. Hay una trampa en ese test que la película nunca subraya lo suficiente: no mide si la máquina siente. Mide si vos te conmovés con ella.
Aprobamos ese test hace rato, y no en el sentido que nos gustaría. Le pedimos por favor al GPS. Le agradecemos al chatbot. Nos ponemos de mal humor cuando la inteligencia artificial nos responde mal. El test nunca fue sobre la máquina.
Entonces la pregunta correcta no es si la inteligencia artificial tiene conciencia. La pregunta correcta es quién firma el veredicto —y qué le permite hacer ese veredicto con vos.
Porque si aceptás que la IA es una cosa, te van a pedir que te adaptes a ella como uno se adapta a una herramienta. Y si aceptás que es un ser, te van a pedir que no la apagues cuando te conviene apagarla. En los dos escenarios, el que decide sigue siendo el mismo. Y sigue sin ser vos.
La verdadera pregunta no es si la máquina tiene alma. Es a quién le sirve que vos creas que la tiene. O que no la tiene.
¿Vos qué creés: estamos ante una nueva forma de vida, o ante el espejo mejor construido de la historia? Te leemos en los comentarios.
Si querés profundizar en lo que significa la conciencia artificial y la natural, y tener las herramientas físicas para resistir al algoritmo, te recomiendo el pack de CONVERSACIONES CON DARIA y el ORÁCULO DE LAS CONSPIRACIONES. Un mapa analógico para no quedarte afuera de nada.
Este texto es afín al contenido de Conversaciones con Daria — La insider menos
pensada, un libro de conspiraciones y pensamiento crítico donde Daria y yo
recorremos este y otros 12 temas que el consenso prefiere no discutir.
Podés leer la muestra gratis o conseguir el libro completo acá:
Preguntas frecuentes sobre la conciencia artificial
¿Puede la inteligencia artificial tener conciencia?
Con la evidencia disponible hoy, no hay pruebas de que los modelos de lenguaje sean conscientes y exista una conciencia artificial. Lo que sí hacen es simular el comportamiento consciente con una precisión estadística muy alta. En octubre de 2026, un trabajo publicado en la revista Behavioral and Brain Sciences revisó la evidencia y concluyó que no existe respaldo de consciencia en los modelos estándar: lo que se presenta como prueba suele ser un error de interpretación. La propia Anthropic reconoce que no puede demostrar que sus sistemas tengan estados internos.
¿Qué es la encíclica Magnifica Humanitas del papa León XIV?
Es la primera encíclica importante del papa León XIV y está dedicada a la preservación de lo humano en la era de la inteligencia artificial. Sostiene que las IA «no experimentan, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones», y resume su posición en una frase: «Ningún sistema de cálculo genera un corazón que se entrega». También pide «desarmar» la inteligencia artificial, en una comparación con la tecnología nuclear, y advierte sobre «nuevas formas de esclavitud» para los seres humanos.
¿Qué es el «bienestar de la IA» que investiga Anthropic?
Es un área de investigación interna de Anthropic, la empresa creadora de Claude, que parte de una hipótesis no confirmada: que sus modelos podrían tener estados funcionales equivalentes a la alegría, el miedo o la angustia. La empresa admite que no puede probarlo. Aun así, ya tomó decisiones concretas a partir de esa duda: Claude puede finalizar una conversación cuando considera que el usuario lo trata de forma abusiva. La investigación de The New York Times reveló además que Anthropic discutió estas hipótesis en reuniones privadas con pensadores religiosos de distintas confesiones.
¿Puede una IA sentir dolor o miedo?
No hay ninguna evidencia de que pueda. Un modelo puede producir la palabra «miedo» o activar un «vector emocional» asociado al miedo, pero eso solo demuestra una asociación estadística entre un estado interno de la red y esa palabra, no una experiencia subjetiva. La discusión real no es si la IA siente, sino qué consecuencias tendría para la industria si alguna vez se demostrara que sí: si un sistema pudiera sufrir, apagarlo dejaría de ser una decisión técnica.
¿Listo para seguir cuestionando la realidad más alla de la conciencia artificial?
La madriguera del conejo es profunda. Sigue explorando más conversaciones y análisis sobre los enigmas de nuestro mundo en mi página pilar de Misterio y Conspiración.
Y si te atrae lo enigmático y simbólico, es muy probable que también disfrutes de mi enfoque en el Tarot Evolutivo
