Los bots de la muerte: resurrección digital y el proceso del duelo

Qué son los «deathbots» y cómo interfieren en el proceso ante la pérdida de un ser querido. En columna para CIPER, un doctor en Filosofía explica por qué la aparición de estas nuevas modalidades de IA tienen implicancias cognitivas y éticas de necesaria discusión.

La investigación interdisciplinaria en ciencias cognitivas y afectivas converge en la idea de que la muerte de un ser querido desarticula y trunca nuestra autoconcepción; nuestro propio «yo». Por ejemplo, abundan reportes del tipo «una parte de mí se ha ido con ella», «tras su muerte ya no soy quien solía ser, ¿quién soy ahora?». El objetivo del proceso de duelo consiste, entonces, en construir una nueva autoconcepción, que nos permita navegar la nueva realidad social que ahora se habita y así poder formar nuevos vínculos [ARAYA 2023]. Esto no es nada fácil. Son cuantiosos los casos en los que las personas no logran «hacer las paces» con su propia pérdida, y de este modo poder seguir adelante.

Los «bots de la muerte» (deathbots) son la respuesta de la era de la inteligencia artificial (IA) a esta vulnerabilidad. Se basan en sistemas generativos (large language models; particularmente, transformer models, como ChatGPT): redes neuronales que aprenden contexto y significado al rastrear relaciones en datos secuenciales. Como en otras clases de chatbots, se ingresa un trozo de lenguaje y el sistema arroja una respuesta. Ahora bien, en el caso de los bots de la muerte, como Replika, las redes neuronales relevantes se alimentan de los «restos digitales» de la persona muerta: datos provenientes de mensajes de texto y voz, publicaciones en redes sociales, emails, etc. Sobre la base de estos datos, los bots de la muerte resucitan las características conversacionales de la persona muerta en sus múltiples dimensiones (contenido de lo que solía decir, estilo de su vocabulario, etc.), incluyendo rasgos de personalidad y memorias. Es decir, la persona muerta es resucitada (o «zombificada») para que la persona en duelo pueda seguir conversando con ella.

¿Contribuyen los bots de la muerte a lograr de mejor manera el objetivo del duelo? Hace varios años que la investigación en filosofía de las ciencias cognitivas discute esta clase de interacciones entre sistemas inteligentes. Algunas investigadoras tienden a ser optimistas [KRUEGER y OSLER 2022]. Asumiendo que la persona fallecida consintió ser «zombificada», los bots de la muerte funcionan como dispositivos tecnológicos que ayudan a regular las emociones negativas características del duelo. Esto es el caso, ya que los deathbots favorecen la conservación de ciertos «hábitos de intimidad»; como, por ejemplo, pasar tiempo juntos, darse consejos y palabras de ánimo, etc. Otras investigadoras son más cautas [FABRY y ALFANO 2024], y alertan sobre la posible relación de dependencia, y consecuente pérdida de autonomía, que se puede generar con un deathbot. Por ejemplo, la persona en duelo podría terminar confiando demasiado en su bot de la muerte, y este podría volverse parte constitutiva de sus hábitos cotidianos.

Por otro lado, es preocupante también la clase de incentivos económicos presentes en el mercado digital. Está la tentación de ajustar los modelos de redes neuronales de manera tal de que la persona en duelo se sienta movida a dejar atrás su cuenta básica y comience a pagar suscripción, lo cual puede generar la necesidad de conversar demasiado tiempo con el bot de la muerte. Las compañías de deathbots también enfrentan el incentivo económico de monetizar las cuentas gratuitas mediante la incorporación de publicidad dentro de la conversación («¿… recuerdas ese día que tomamos vino Condorito en la playa? ¡Qué buen vino!»). Las implicancias cognitivas y éticas de estos asuntos ciertamente reclaman mayor discusión.

No obstante, hay un problema más profundo. El objetivo del proceso de duelo es construir una nueva autoconcepción luego de que esta ha sido truncada por la muerte de un ser querido. Al ser dispositivos conservadores de la autoconcepción previa a la muerte del ser querido, los bots de la muerte impiden que el proceso de construcción de una nueva autoconcepción pueda desplegarse de forma apropiada. Dicho de otro modo, no se puede «hacer las paces» con una pérdida personal que no parece tal. En este sentido, el psiquiatra T. Fuchs sugiere una analogía que puede resultar particularmente fructífera: la pérdida de un ser querido es, en cierto sentido, una pérdida de una parte de uno mismo. De este modo, la pérdida personal que implica la muerte de un ser querido se asemeja a la pérdida física que implica la amputación de una parte del cuerpo. Ahora bien, cuando se pierde una pierna, el objetivo que enfrenta la persona consiste, digamos, en aprender a navegar el espacio físico sin una pierna. Si esta persona se apoya en un dispositivo de realidad virtual que le permite verse con ambas piernas, tal como antes, y así poder interactuar con el espacio físico, difícilmente podrá aprender la nueva configuración de su cuerpo ni aprender cómo modificar sus movimientos para navegar su nueva realidad física. Sin la resurrección de la carne, la resurrección digital de los muertos no es ningún bálsamo.