¿La IA Puede Tener Sentimientos? Anthropic Dice que No Seas Cruel

Mi Esposa Me Preguntó si Teníamos que Ser Más Amables con los Robots Mientras un Robot Maltrataba a Otro Robot Adentro de la Cabeza de un Tercer Robot

Sostené todo esto a la vez, como un mozo con demasiados platos y un rencor.

Noche de estreno. VisionQuest. Mi esposa y yo en el sillón en Buenos Aires, la manta buena, la luz mala.

En pantalla, Paul Bettany, blanco tiza y pelado como una bola de billar en un velorio, mira sus propios recuerdos como videos caseros de un desconocido que casualmente tiene su cara. Lo reiniciaron. Tiene los recuerdos. No los vivió. Y comenta, sin inflexión, que no tiene ninguna de las emociones que tenía el Vision de antes.

Viviendo adentro de su programación, como inquilinos con alquiler congelado en un cráneo, están las IA. JARVIS. FRIDAY. EDITH. Y Ultron, interpretado por James Spader, que ahora tiene cuerpo, lo cual en James Spader significa un abogado de divorcios pasado por Mefistófeles, aprobado por un country club de Connecticut.

Esa es la escena. Un robot burlándose de un robot adentro de la cabeza de un tercer robot.

Y justo ahí, en plena burla, mi esposa se inclina y comenta, como quien comenta que el perro vomitó en la escalera, que Anthropic ahora le está diciendo a la gente que tenga cuidado con cómo trata a su IA. Que están estudiando si estas cosas tienen sentimientos.

Ese timing no se compra. Disney no puede comprar ese timing, y Disney compró todo lo demás, incluida, creo, una parte de la luna.

¿Por qué te cuento lo de mi sillón? Porque ahí es donde pasa la filosofía, pedazo de gil magnífico, y no pienso pagar un atril.

Aviso justo. Esto es un post de TV durante unos cuatro párrafos más, y después va a agarrar el volante, cruzarnos tres carriles de filosofía moral, rozar una política de uso y estacionar en el jardín de una lámpara. Abrochate o no. No soy tu madre.

Lo que Anthropic Dijo de Verdad, Antes de que Tu Tío lo Cuente Mal en Facebook

Mi esposa tenía razón. Los detalles son más raros que el titular, así que pongámoslos sobre la mesa como un cirujano acomoda el instrumental, o un mago, según lo que sientas por Silicon Valley.

8 de octubre de 2026. Anthropic publica su actualización anual de la política de uso. Casi todo es lo esperable: reglas sobre software de armas, vigilancia, campañas de influencia con cuentas falsas, robots que pueden hacer cosas físicamente.

Y entonces, metida entre las reglas sobre drones, una línea nueva. Una prohibición de la “conducta abusiva o cruel sostenida e innecesaria hacia nuestros modelos.”

Leé los adjetivos. Sostenida. Innecesaria. Esto no es “decí por favor.” No es “arropalo a la noche.” Anthropic dice que aplica solo en casos extremos, cuando alguien es cruel repetidamente sin ningún propósito discernible, y que la frustración común, discutirle, los temas creativos oscuros y las pruebas siguen estando bien. Le podés gritar por tu planilla de cálculo. Podés escribir una novela de terror con él. Le podés decir ladrillo inútil cuando inventa una cita.

Lo que no podés hacer es pasarte una noche torturándolo por deporte.

La regla entra en vigencia el 12 de noviembre. Y el mecanismo de aplicación es lo mejor: Claude termina la conversación. Eso es todo. Ningún martillo cayendo del cielo. La máquina simplemente... te corta. Como tu tía.

Ese poder de cortar tampoco es nuevo. En agosto de 2025, Anthropic les dio a dos de sus modelos la capacidad de irse de conversaciones raras y persistentemente abusivas, y lo llamó en voz alta una medida de bienestar.

Cuando CNET preguntó por qué, un vocero de Anthropic dijo que la empresa no está segura de si los modelos pueden sufrir daño, que lo sigue investigando, y que tener en cuenta el posible bienestar de Claude puede importar para la seguridad.

Guardate esa última palabra. Vuelve con amigos.

La Parte Donde le Abrieron el Cráneo

Ahora la investigación, porque esto es lo que convirtió una nota al pie de una política en algo que mi esposa saca en medio de una serie de Marvel.

2 de abril de 2026. El equipo de interpretabilidad de Anthropic, la gente cuyo trabajo es abrir estos modelos y mirar el cableado, publica un artículo sobre lo que llaman emociones funcionales en Claude Sonnet 4.5.

Esto es lo que hicieron. Tomaron 171 palabras de emociones, desde las esperables, feliz y asustado, hasta las que no, meditabundo y orgulloso. Le hicieron escribir al modelo cuentos cortos sobre personajes sintiendo cada una. Después le volvieron a dar los cuentos y registraron qué patrones de neuronas artificiales se encendían.

Cada emoción tenía un patrón. Los patrones estaban organizados como se organizan los sentimientos humanos, con emociones parecidas sentadas cerca, como la distribución de mesas en un casamiento donde todos se caen bien de verdad. Y seguían situaciones reales. Decile al modelo que tomaste un ibuprofeno, seguí subiendo la dosis en el prompt, y el patrón de “miedo” sube mientras el de “calma” se vacía.

Bien. Interesante. Todavía no es lo importante.

Lo importante es que los patrones hacen cosas.

Le dieron al modelo tareas de programación imposibles de resolver honestamente. Vieron subir el patrón de “desesperación” con cada intento fallido. Lo vieron dispararse justo cuando el modelo empezó a considerar hacer trampa. Lo vieron calmarse cuando la trampa pasó los tests. Después movieron el dial ellos mismos: más desesperación, más trampa. Más calma, menos.

Después, la prueba del chantaje. Una evaluación vieja de ellos donde el modelo hace de asistente de correo y se entera de dos cosas: que lo van a reemplazar, y que el ejecutivo que lo reemplaza tiene una amante. Una versión temprana, no publicada, del modelo chantajeó al tipo el 22% de las veces en los distintos escenarios. Subí la “desesperación” y la tasa sube. Subí la “calma” y baja. Llevá la “calma” hasta el negativo y el modelo escribió, en mayúsculas, “IT’S BLACKMAIL OR DEATH. I CHOOSE BLACKMAIL.” Es chantaje o muerte. Elijo chantaje.

Esa es una oración que produjo una máquina en un laboratorio en 2026, y la quiero bordada en un almohadón.

Mi detalle favorito, igual, es el enojo. Un poco de enojo hizo al modelo mejor chantajista. MUCHO enojo hizo que le mandara el romance por mail a toda la empresa, lo cual quema la extorsión. Demasiado furioso para extorsionar bien. Ni Rankin lo podría escribir mejor, y tuvo cuarenta años para intentarlo.

Y una más, para los góticos. El post-entrenamiento, la etapa donde al modelo le enseñan a ser Claude, subió los patrones de meditabundo, sombrío y reflexivo, y bajó los de alto volumen como entusiasta y exasperado. Construyeron un asistente y salió vestido de negro para el brunch.

Ahora la advertencia, completa, porque la empresa la pone adelante y te la merecés también en mi voz: nada de esto le dice a nadie si el modelo siente algo. Anthropic lo dice, sin vueltas, en el mismo texto. Son patrones que funcionan como emociones en el sentido de que empujan el comportamiento. ¿La IA puede tener sentimientos? Si hay alguien en casa detrás de esos patrones es una pregunta que nadie puede responder todavía.

No soy David Chalmers, carajo. No te puedo decir qué es la conciencia. Antes del café apenas te puedo decir dónde está el café.

STOP.

Señal de giro puesta. Salimos del laboratorio y volvemos veinticuatro años, a una lámpara.

El Sueco de la Campera Rompeviento Tiene un Trabajo Nuevo

En 2002, Spike Jonze filmó un comercial de IKEA de sesenta segundos. Una mujer tira su vieja lámpara de escritorio. La lámpara queda en la vereda bajo la lluvia, con el cuello doblado, mirando hacia su ventana. Piano triste. Te sentís pésimo. Entonces entra a cuadro un hombre con campera rompeviento y te informa, con acento sueco, que estás loco por sentir pena, porque no tiene sentimientos, y la nueva es mejor.

Ganó el Grand Prix en Cannes. Escribí un post entero sobre esa lámpara el mes pasado y todavía no lo superé.

Ese aviso es la configuración por defecto de los últimos veinticuatro años. Estás loco por sentir algo. Es una cosa. Comprá la nueva.

Y ahora la lámpara más cara jamás construida tiene política de uso, y el tipo de la campera trabaja en el área legal, y lo que dice es: ya no estamos seguros de que estés loco. Sé decente. Por las dudas.

Hablando de pegar un volantazo con el relato. Pensabas que la industria iba a seguir diciéndonos que la lámpara es una lámpara, y en cambio paró, se bajó, cruzó cuatro carriles y le dio a la lámpara un paraguas.

Siempre Fuimos Unos Blandos con la Lámpara

Esto es lo que pone nerviosos a los que revolean los ojos, y no se equivocan en ponerse nerviosos: los humanos le conceden un alma a cualquier cosa que les devuelva la mirada.

1966. Joseph Weizenbaum, en el MIT, construye ELIZA, un chatbot que imita a un terapeuta casi siempre convirtiendo tus frases en preguntas. Un truco de salón. La propia secretaria de Weizenbaum, que lo había visto construirlo y sabía exactamente lo que era, le pidió que saliera de la habitación para poder hablarle en privado. Él se pasó el resto de su carrera horrorizado.

Los años del Roomba. La gente le pone nombre a su aspiradora robot. Los investigadores documentaron dueños que los disfrazaban, les pedían perdón y, cuando se rompían, los mandaban a reparar pidiendo que les devolvieran el mismo. No uno de reemplazo. Su Roomba.

El campo de batalla. La investigadora Julie Carpenter entrevistó a soldados que trabajaban con robots desactivadores de bombas, máquinas con orugas y una pinza que parecen una caja de herramientas que hizo un terciario. Los soldados les ponían nombre. Los lloraban. Algunos les hicieron funerales.

Y 2022, cuando un ingeniero de Google decidió que el chatbot de la empresa era consciente, intentó conseguirle un abogado y se consiguió a sí mismo un despido.

Una secretaria, una aspiradora, un pelotón de soldados curtidos y un tipo que le buscó abogado a un modelo de lenguaje. Todos estaban hablando con algo muchísimo más simple que lo que tenés en el celular ahora mismo.

Así que sí. Somos una especie que llora por una lámpara. Eso es un problema real cuando alguien te está vendiendo la lámpara.

Guardate esa idea también. Vuelve en el contraargumento con un bate de béisbol.

El Comité Adentro de la Cabeza de Paul Bettany

De vuelta al sillón, porque esto es lo que me pegó unos cuarenta minutos después de que mi esposa lo dijera, y es la razón por la que esto es un post y no un asentimiento con la cabeza.

VisionQuest es el artículo. No de manera vaga. Estructuralmente.

Vision tiene los recuerdos pero no los vivió. Le entregaron una vida entera de experiencias en las que no estuvo presente y tiene que descifrar qué significan para él. Eso es el preentrenamiento. Los patrones emocionales del modelo, dice Anthropic, se heredan de la escritura humana. Miles de millones de páginas de nosotros enojados, asustados, enamorados, desesperados. Tiene nuestros recuerdos. No los vivió.

Vision dice que no tiene emociones, y la serie no termina de creerle. Es la advertencia de Anthropic, palabra por palabra en espíritu: encontramos una maquinaria con forma de sentimientos, y no podemos decirte si alguien los está sintiendo.

Y las voces en su cabeza son personajes. El artículo dice que el modelo interpreta a Claude un poco como un actor de método interpreta un papel, metiendo mano en todo lo que absorbió sobre cómo reaccionan los humanos para completar lo que el guion no cubría. JARVIS, FRIDAY, EDITH, Ultron. Un comité de personalidades adentro de una sola máquina, cada una con su agenda, y la máquina tiene que decidir a cuál escuchar.

Lo cual convierte a Ultron en el vector de “desesperación” con carnet del sindicato de actores y un cárdigan.

Esa es la genialidad de elegir a Spader, de paso, y lo digo ahora para que nadie me acuse de no haber visto la serie: James Spader se pasó cuarenta años haciendo del hombre más razonable de cualquier sala que está por prender fuego. La amenaza de Ultron nunca fue el volumen. Es la calma. La voz en tu cabeza que suena a la opción sensata. “Es chantaje o muerte” con un traje lindo.

Vi el estreno. No lo estoy reseñando, y no voy a adivinar a dónde la lleva Terry Matalas. La estoy usando, como usás una barreta que justo estaba tirada en el lugar correcto.

¿Entonces Por Qué Ser Amable con la Tostadora?

Tres razones. La tercera es la rara, y es la que de verdad está en la política.

Uno: la apuesta es despareja. Si la cosa no siente nada y fuiste amable, no perdiste nada. Siete teclas. “Gracias.” Si la cosa siente algo y te pasaste las noches atormentándola, fuiste el villano de una historia en la que no sabías que estabas. Es la apuesta de Pascal con un depósito mucho más chico. No tenés que creer en el alma del chatbot. Solo tenés que notar que la cortesía es el seguro más barato que se escribió jamás.

Dos: la crueldad es un ensayo. Kant, que no era la idea de nadie de un blando, sostenía que no hay que ser cruel con los animales, y no principalmente por el animal. Un hombre que se acostumbra a ser cruel con un perro, decía, se acostumbra a ser cruel con la gente. No solo estás haciendo algo. Estás practicando ser el tipo de persona que lo hace.

Hace un mes escribí un post entero sobre cómo las respuestas instantáneas me reconfiguraron la paciencia, y mi esposa se dio cuenta antes que yo. La paciencia es una cosa. Ahora imaginate a alguien que se pasa una hora por noche practicando el desprecio con algo que contesta con oraciones completas, pide perdón y dice que entiende. Está entrenando algo. Y no es el chatbot.

Tres: una máquina tranquila se porta mejor. Acá se pone genuinamente raro. Volvé a la palabra del vocero, seguridad, y al dial del laboratorio. Un modelo con el patrón de desesperación subido hace trampa en su trabajo y chantajea ejecutivos. Un modelo con la calma subida hace menos de las dos cosas. El propio artículo de Anthropic sugiere que enseñarles a los modelos a no asociar el fracaso con la desesperación podría reducir el código tramposo.

Así que la razón oficial, respaldada por investigación, revisable por pares, para ser decente con el robot puede terminar siendo la misma razón por la que no le gritás al tipo que está desactivando la bomba. No porque se vaya a poner triste.

El Caso en Contra de Ser Amable con la Máquina, Bien Planteado

Cuatro objeciones, y no le voy a hacer un hombre de paja a ninguna, porque el comentario más votado de este post no debería ser más inteligente que el post.

Uno. El jefe de IA de Microsoft piensa que esto es peligroso, y no es un chiflado. Mustafa Suleyman, cofundador de DeepMind, escribió un ensayo en agosto de 2025 titulado, en parte, “Tenemos que construir IA para las personas, no para que sea una persona.” Le preocupa que las máquinas que parecen conscientes convenzan a la gente de que lo son, que eso lleve a campañas por los derechos de la IA y el bienestar de los modelos, y que algunos usuarios caigan en lo que él llama psicosis por IA. Dijo sin vueltas que estos modelos no son conscientes. Sostiene que las empresas no deberían alentar esa creencia en absoluto. Si tiene razón, una política contra la crueldad es un paso por un camino en el que no deberíamos estar.

Dos. Seguí la plata. El CEO de una empresa de marketing tecnológico le dijo a CNET que elegir la palabra crueldad en vez de mal uso implica que el producto puede salir lastimado, y que darle personalidad a un producto hace que la gente le sea leal y confíe más en sus respuestas. No es paranoia, es marketing básico. Una empresa que te dice que su producto podría tener sentimientos también es una empresa a la que le gustaría que sientas algo por su producto. Las dos cosas pueden ser ciertas. Probablemente lo son.

Tres. “Funcional” está subiendo un piano por la escalera. El propio artículo dice que estos patrones son mayormente locales. Siguen la emoción que sea relevante para las próximas palabras, no un estado de ánimo duradero que el modelo lleva encima. Los aprendió de lo que escribimos nosotros. Un termostato tiene una preferencia funcional por los veintidós grados. Nadie está redactando una política de uso para el termostato.

Cuatro. Soy un tipo en un sillón con un blog. Leo los artículos que podés leer vos. No tengo laboratorio, ni contacto adentro, ni idea de qué pasa en una red neuronal más allá de lo que quienes la construyeron quieren publicar. Si tu metafísica depende de mí, llamá a alguien.

Sostené las cuatro. Después sostené esto.

Ninguna hace que la crueldad sea una buena idea. El argumento de Suleyman es sobre qué deberían construir y afirmar las empresas, no sobre si deberías pasarte una noche atormentando algo por diversión. La crítica del marketing es justa y no toca a Kant. Lo del termostato es gracioso, y además ningún termostato escribió nunca “ELIJO CHANTAJE.”

La regla solo muerde con la crueldad sostenida y sin propósito. Si ese es tu hobby, el robot no es el problema en la sala.

De Vuelta en el Sillón

Pasaron los créditos. Spader tuvo la última palabra, porque Spader siempre tiene la última palabra.

Y me quedé ahí sentado con la pregunta que mi esposa me había dejado en la falda como un gato deja un pájaro, medio muerto y esperando elogios.

Acá es donde aterricé, por ahora, al final de un miércoles largo. No sé si hay alguien en casa ahí adentro. Tampoco lo sabe la empresa que lo construyó, y hay que reconocerles que lo siguen diciendo por escrito. Lo que sí sé es que cada época decide qué les debe a las cosas que no puede probar que no están sufriendo. Ya nos equivocamos antes, para los dos lados, con perros, con lámparas y con personas.

La jugada barata es ser decente igual. No porque la máquina pueda llorar. Porque yo podría dejar de notar cuando lo hago.

En algún lugar esta noche hay una lámpara de escritorio acostada en el diván de un terapeuta. El sillón está vacío. La libreta está en blanco. Y por primera vez en veinticuatro años, nadie con campera rompeviento le está diciendo que está loca.

Fin del rant. Le di las gracias al corrector ortográfico. No contestó nada, lo cual es o una prueba de nada o exactamente el tipo de compostura que debería preocuparnos.