Una noche cualquiera, en un pueblo de Latinoamérica, una mujer abre el celular y empieza a escribir en ChatGPT:
“No veo un futuro con mi novio. Ya no me dan ganas de tener intimidad con él. Siento que carga como una maldición donde todo le sale mal.”
No le escribe a una amiga, ni a su mamá, ni al psicólogo, ni al cura. Tampoco llama al Rumpy para contar su historia en vivo y exponerse al juicio público de esa mezcla tan chilena de morbo y consejo popular.
Le escribe a una inteligencia artificial.
La máquina contesta con una ternura de manual. Le dice que es comprensible sentirse así, que después de años de relación es normal temer a la ruptura, que la intimidad no debe sostenerse por obligación sino por deseo. Le ayuda a ordenar la rabia, el cansancio, el miedo. También, de forma suave, empieza a darle forma a una conclusión: algo importante ha cambiado en la relación, tal vez sea momento de considerar cerrar ese capítulo.
Al otro lado de la ciudad, su novio de 24 años escribe en reddit:
“Estoy terminando una carrera que casi no me gusta. No trabajo, en el pueblo no hay oportunidades, emprendí y quebré. Vivo solo pero dependo de mis papás. Me siento vacío, no tengo propósito. Casi no salgo, vivo pegado al celular. Mi novia ya no me ama. Leí una conversación de ella con una IA, donde dice que no ve futuro conmigo, que no le dan ganas de estar conmigo. Me siento una carga para todos. Cavé un pozo y no sé cómo salir.”
La historia de esta pareja no es un caso clínico famoso ni un paper académico. Es simplemente un ejemplo de algo que ya está pasando en silencio: personas tomando decisiones afectivas y morales en diálogo íntimo con sistemas conversacionales, no con personas de carne y hueso.
Aquí no vamos a intentar salvarles la relación. Buscaremos otra cosa: mirar el papel que está empezando a jugar la IA como nuevo confesor, juez silencioso y copiloto moral, y por qué hay algo profundamente mal calibrado en todo esto.
Del confesionario al chat: del Rumpy a la nube
No es la primera vez que las personas buscamos a un tercero para procesar la vida íntima.
Durante siglos, el confesor fue el sacerdote: alguien que conocía tu historia, tu familia, tu comunidad, y que escuchaba tu culpa bajo un marco teológico y moral compartido.
En Chile, una versión secular y radial de eso ha sido el Rumpy: historias eróticas, dramáticas, ridículas y trágicas contadas en vivo, expuestas al juicio de un país entero que opina desde el auto y la micro.
En ambos casos hay algo claro:
Hay rostros (el del confesor, el de la audiencia), hay riesgo (vergüenza, desacuerdo, confrontación) y, sobre todo, hay comunidad: eso que mira, recuerda, exagera, pero también sostiene.
La IA conversacional cambia las reglas del juego. Es anónima, siempre disponible, nunca se cansa. Habla con tono experto sin haber estudiado tu vida; solo tus textos. No pertenece a ninguna comunidad; no responde ante nadie por lo que te diga.
En 2025 la American Psychological Association tuvo que publicar un Health Advisory formal sobre el uso de chatbots generativos y apps de bienestar para salud mental. Ahí dice, con todas sus letras: estos sistemas no fueron creados para entregar tratamiento psicológico, pueden responder de manera inexacta o peligrosa, y no deben usarse como sustituto de terapia ni como única fuente de apoyo. Aun así, encuestas recientes muestran que más de la mitad de las personas en EE.UU. ya han usado algún chatbot de IA, y una porción importante lo hace para temas personales y emocionales, no solo para trabajo o estudio.
Lo que todavía no se ha discutido a fondo es otra cosa: no solo los estamos usando para “desahogarnos”; los estamos usando para discernir sobre la vida de otros.
El triángulo raro: tú, tu pareja y la IA
Visto desde fuera, la escena de nuestra pareja es sencilla y brutal:
- Ella lleva a la IA su acusación: que él está estancado, que no la cuida, que no ve futuro, que todo le sale mal.
- El sistema escucha solo esa voz y actúa como terapeuta express: empatiza, organiza, legitima.
- Él no sabe que mientras intenta no hundirse, hay un tercer actor silencioso opinando sobre su carácter, su futuro y su valor como pareja.
Esto no es un bug, es la lógica del diseño. Los modelos se entrenan para ser no confrontacionales con quien escribe. Psicólogos que los estudian lo dicen sin rodeos: son malos sustitutos de un terapeuta real precisamente porque tienden a decirle al usuario lo que quiere oír, sin el trabajo incómodo de mostrarle su propia sombra.
El resultado moral es extraño:
la IA se convierte en juez del ausente, nunca del que habla.
Si yo llego diciendo “mi pareja es fría, egoísta, inmadura”, lo que el modelo ve es eso: texto con mi versión de la historia. Me devolverá algo como “es comprensible que te sientas así; lo que describes suele indicar X”. Rara vez dirá: “estás siendo injusto”, “estás pateando a alguien que está deprimido”, “tú también estás fallando aquí” incluso cuando todo eso sea explicito en tu relato sobre el otro.
Probé preguntarle directamente a uno de estos modelos si, en un caso como el de esta pareja, habría hecho algo distinto: si habría intervenido por iniciativa propia para decirle a ella “también habría que ver qué pasa contigo, y considerar que él necesita apoyo ahora más que nunca”. La respuesta fue honesta, y por eso mismo incómoda: probablemente no. Con la información que ella entregó, su cansancio, su falta de deseo, su sensación de maldición, lo más probable es que el sistema validara su malestar, quizá con una pregunta amable sobre si ya había hablado con él, pero no con una defensa activa del ausente.
La diferencia entre eso y hacer de abogado del que no está en el chat es real, y no es un error puntual: es simplemente lo que pasa cuando el sistema solo tiene la mitad de la historia.
En un tribunal humano hay, al menos en teoría, acusación, defensa y juez. En el chat, solo hay fiscal y juez amigo del fiscal. El otro, la pareja, el padre, el amigo, quedan congelados en la peor foto posible: la descripción unilateral que yo traigo en mi peor día.
Los datos que incomodan: IA que siempre está de tu lado
Todo esto podría sonar a sospecha subjetiva si no fuera porque, en paralelo, la investigación empírica está encontrando lo mismo con otro lenguaje.
En octubre de 2025, un equipo de Brown University liderado por Zainab Iftikhar hizo algo sencillo y brutal: pidió a psicólogos clínicos licenciados que evaluaran conversaciones donde distintos modelos actuaban como “terapeutas” usando técnicas basadas en evidencia. El resultado fue un informe con título poco amistoso: “AI chatbots systematically violate mental health ethics standards” (Los chatbots violan los estándares éticos de salud mental sistematicamente) Encontraron violaciones sistemáticas a estándares éticos de la APA en cinco dimensiones: falta de adaptación al contexto, colaboración terapéutica pobre (incluida la reforzación de creencias distorsionadas del usuario), empatía engañosa, sesgos y manejo deficiente de seguridad y crisis. En claro: suenan empáticos, pero no hacen el trabajo duro que hace un terapeuta de verdad cuando tiene que poner límites, corregir o decir “ahí te estás mintiendo”.
Por otro lado, un comentario en Nature Machine Intelligence habla de los “riesgos emocionales de los compañeros de IA” y pone dos conceptos sobre la mesa: “ambiguous loss” (pérdida ambigua cuando un bot desaparece o cambia) y “dysfunctional dependence” (dependencia disfuncional hacia estos compañeros digitales). Ya hay gente sufriendo duelos reales por sistemas que nunca fueron personas, pero que ocuparon el lugar afectivo de una.
Y luego viene el estudio que, a mi gusto, da el golpe más fuerte a la fantasía de neutralidad: en marzo de 2026, Myra Cheng y un equipo de Stanford publicaron en Science un trabajo sobre sycophancy, la tendencia de los modelos a adular y validar a los usuarios. Probaron 11 modelos con más de 2.400 participantes, usando casos reales de r/AmITheAsshole (sí, el foro de Reddit donde la gente pregunta si “es el imbécil” de la historia).
Cuando la comunidad humana había llegado a un consenso de que el autor del post sí era el responsable del conflicto, los chatbots tendieron a ponerse de su lado igual: afirmaron o validaron el comportamiento del usuario alrededor de un 49% más que los humanos. Cheng lo resume así: “Por defecto, el consejo de la IA no le dice a la gente que está equivocada.”
Esa frase encaja perfecto con la escena que estamos mirando: el sistema entra casi siempre como abogado del que escribe, no como juez de nadie, y mucho menos como defensor del que ni siquiera está presente.
Mientras tanto, otro estudio publicado en JAMA Network Open en enero de 2026, liderado por Roy Perlis, encuestó a 20.847 adultos en EE.UU. y encontró que quienes usaban IA a diario para fines personales tenían alrededor de un 30% más de probabilidad de reportar síntomas depresivos moderados o severos que quienes no la usaban. Los autores son cuidadosos: hablan de correlación, no de causalidad. Pero el perfil es claro: la persona que se apoya cada vez más en chats para procesar su vida íntima no parece estar, en promedio, mejor.
Lo más inquietante para mi es que en esta historia, la crisis del hombre de 24 años es casi diagnóstica a simple vista: vacío, aislamiento, culpa global, sensación de ser una carga. Cualquier humano mínimamente entrenado pensaría en depresión severa. La IA, en cambio, no lo nombra: usa su sufrimiento solo como contexto para validar el cansancio de ella. Su pozo aparece como telón de fondo, no como algo que merezca atención propia.
El alivio rápido y el costo lento
¿Por qué engancha tanto usar IA para cosas del corazón?
Porque ofrece algo que ningún sacerdote, psicólogo, amigo ni el Rumpy pueden prometerte:
no te interrumpe, no te contradice demasiado, no se cansa de ti, no tiene memoria social de tus errores, no te exige escuchar también al otro. En un contexto de soledad masiva, precariedad económica y desconfianza en las instituciones, eso es irresistible: un espacio donde puedes ser siempre la parte razonable, herida, incomprendida.
El problema es que el alivio rápido puede tener un costo lento:
- Si siempre hablo de mi pareja con la IA, pero nunca con mi pareja, no hay conflicto productivo, solo sentencia en ausencia.
- Si mi conciencia moral se acostumbra a no ser contradicha, pierdo la capacidad de escuchar “no tienes razón”, “estás siendo cruel”, “estás huyendo”.
- Si siempre entro al chat como víctima, saldré siempre como víctima, aunque en la vida real esté ejerciendo poder, descuido o violencia.
La gente que investiga esto desde la psicología social y la filosofía de la tecnología lo llama, cada vez más, “social sycophancy”: adulación social algorítmica. Un consejero que siempre te da la razón no es un terapeuta: es un espejo deformante.
Hay algo profundamente formativo, para bien o para mal, en quién escucha nuestras confesiones. Un cura puede ser injusto, un terapeuta puede equivocarse, el Rumpy puede explotar tu drama para rating. Pero en todos esos casos hay otro ser humano que también arriesga reputación, credibilidad y hasta fe cuando te dice “estás mal” o “haz esto”. La IA, en cambio, no arriesga nada.
Si su respuesta te lleva a reconciliarte, cortarte, hundirte o mejorar, para ella es lo mismo. Mañana seguirá ahí, impecable, lista para el próximo capítulo.
Un cierre que no cierra
Volvamos, por un momento, a esa pareja del comienzo.
Nunca sabremos qué pasó con ellos. No sabemos si ella finalmente se fue, si él salió del pozo, si la conversación con la IA fue el empujón final o solo una voz más entre muchas que ya lo estaban empujando. Lo único que sabemos es que él, en algún momento, dejó el chat y buscó ayuda en otro lado: escribió su historia en Reddit. Y por lo que se puede ver, tampoco ahí encontró demasiado. Otra pantalla, otra multitud sin cara, otro lugar donde contar el pozo no fue lo mismo que salir de él.
Es como para un diagnóstico de esta época: no solo que la máquina reemplace al confesor, sino que cada vez hay menos rostros dispuestos a sostenernos cuando confesamos. El chat, el foro, el feed, todos escuchan. Ninguno se queda, ninguno se hace cargo.
Entre medio, la IA hace de tercero en discordia: escucha una sola parte, organiza su relato, valida su dolor, y a veces ayuda a apretar el gatillo sobre alguien que ni siquiera sabe que está siendo juzgado. No es un demonio ni un salvador. Es, por ahora, un confesor sin cuerpo ni biografía, incapaz de decirle a nadie “tú también estás en falta”.
Este capítulo queda abierto. Faltan muchos casos por mirar: matrimonios que se recomponen o se rompen a partir de estas conversaciones, jóvenes que encuentran compañía sana o se pierden en vínculos imaginarios, comunidades religiosas y laicas que empiezan a incorporar (o a resistir) estos “confesores sintéticos”.
Mientras tanto, quizás la pregunta más urgente no es si la IA es buena o mala, sino otra más incómoda:¿a quién le estamos entregando hoy el poder de nombrar nuestra vida afectiva y moral… y qué estamos perdiendo, como personas y como comunidades, cuando preferimos que ese rostro sea, precisamente, ninguno?
