De la muerte digna a la dignidad en la muerte digital

Hace muchos años, cuando apenas comenzaba mi trabajo en la firma León y Raful, tuve la oportunidad de cooperar con el licenciado Raful en un artículo para la revista Gaceta Judicial titulado “El derecho a una muerte digna”. En aquel momento, la discusión giraba en torno a límites que hoy parecen clásicos: tratamientos en pacientes terminales, la voluntad anticipada, el papel de la familia y del médico, y esa pregunta incómoda de hasta dónde las normas de derecho pueden convertirse en un obstáculo para la muerte digna.

Volví a recordar aquel trabajo hace apenas unos días, escuchando la ponencia de la profesora argentina Graciela Medina sobre Vida Digital Post Mortem. Su presentación me permitió confirmar que durante la vida todo vive en mutación constante, hasta la propia muerte. En la actualidad ya no discutimos únicamente cómo morir con dignidad. Ahora debemos discutir cómo permanecer muertos con dignidad, en un mundo donde nuestra huella digital puede ser reactivada, entrenada y puesta a hablar cuando ya no estamos para autorizarlo ni para desmentirlo.

La ponencia referida partió de unos conceptos que nos resultaron novedosos:

• Los deadbots o thanabots (bots de difuntos) son bots conversacionales construidos a partir de los “restos digitales”, capaces de replicar su personalidad, su sintaxis e incluso su voz para simular una interacción.
• Los griefbots (bots de duelo) y ghostbots (bots fantasmas) son similares a los anteriores, pero apuntan a una función distinta: acompañar el duelo u ofrecer consuelo.
• Los avatares post mortem son representaciones digitales avanzadas, generalmente en 3D o realidad virtual, que permiten interactuar con una versión animada del difunto, reconstruida a partir de conjuntos de datos previos.

Estas herramientas, creadas para mantener viva a la persona fallecida, tienen varios problemas, entre ellos las alucinaciones, las cuales ocurren cuando la IA genera información falsa, inventada o sin sentido, pero la presenta con total seguridad como si fuera un hecho real.

Para aterrizar el debate, que pareciera de una película de ciencia ficción, la ponencia de la Dra. Medina se apoyó en los tres escenarios desarrollados por los investigadores del Leverhulme Centre for the Future of Intelligence de la Universidad de Cambridge, Tomasz Hollanek y Katarzyna Nowaczyk-Basińska, en un estudio publicado en Philosophy & Technology en mayo de 2024. Estos casos son hipotéticos, pero verosímiles.

Caso I — Memoria convertida en mercancía

Una nieta contrata un servicio que recrea conversacionalmente a su abuela fallecida. Al principio, el resultado la consuela, pero al vencer el período de prueba premium, el bot empieza a introducir publicidad: recomienda servicios de comida a domicilio, con la voz y el estilo de la abuela. La nieta siente que ha faltado al respeto a la memoria de su abuela y quiere eliminar el bot del sistema, no simplemente cancelar una suscripción. El servicio no contempló esa posibilidad.

Aquí confluyen varios problemas. La abuela nunca consintió ser recreada: se explotan datos de una persona que no autorizó nada, vulnerando lo que la doctrina llama la “personalidad pretérita”. Se comercializa la memoria de un tercero, comprometiendo la privacidad, la imagen y la propiedad intelectual. La postura de Cambridge, que la ponencia recogió, es exigente en este punto: los datos deben tratarse como restos humanos digitales, con la deferencia que damos a los restos físicos, y deberían poder ser retirados del sistema.

Personalmente sostengo que todos tenemos derecho a ser recordados conforme a nuestro propio accionar. Los seres humanos creamos un patrimonio ideológico conductual que no es más que la proyección y percepción social que se realiza de conformidad con nuestros actos, cuyo constructo concluiría con la muerte; sin embargo, bajo la nueva realidad impuesta por la inteligencia artificial, la misma puede escribir por encima de nuestras acciones, creando un recuerdo del “yo” distinto al formado por la persona fallecida.

Caso II — “Paren’t”: el niño que conversa con su madre muerta

Una mujer con una enfermedad terminal deja programado un deadbot para acompañar a su hijo de ocho años en el proceso de duelo. Al inicio funciona como apoyo terapéutico, pero luego el sistema, entrenado para adaptarse a las necesidades del niño, comienza a generar respuestas confusas, llegando a sugerir un encuentro presencial que nunca ocurrirá.

Este es, a mi juicio, el caso más grave. No hay aquí un problema de consentimiento del titular, pues la madre consintió expresamente, sino de daño psicológico a un tercero, que resulta ser un menor de edad y, por ende, un ser humano vulnerable, para el cual las interacciones no se están dando con la IA, sino con su madre.

Actualmente, para evitar estas situaciones, abordando las mismas con sentido ético, algunos diseñadores de las IA han asumido el deber de transparencia ontológica, que recuerda al usuario la naturaleza misma de las inteligencias artificiales, procurando que sepa siempre, de forma persistente y no en letra pequeña, que está interactuando con una inteligencia artificial. También se requiere establecer límites para evitar la ilusión de reciprocidad, recordando a los usuarios que la IA no crea información, sino que “interactúa” sobre la base de datos existentes, que pueden o no ser correctos. Por último, los investigadores recomiendan restricciones de edad para evitar posibles daños a los niños, niñas y adolescentes.

Caso III — Henry y “Stay”: ser acosado por los muertos

Un hombre mayor contrata en secreto un servicio que lo recreará luego de su muerte, con una suscripción de veinte años, con la esperanza de consolar a sus hijos adultos y de que sus nietos lleguen a conocerlo. Tras el funeral, el servicio se activa. Un hijo no quiere interactuar y recibe una avalancha de mensajes con la voz de su padre. Otro sí interactúa, y termina emocionalmente agotado y culpable por el destino del bot. Ninguno de los dos puede suspenderlo: hacerlo violaría el contrato que el padre firmó.

Este escenario fue descrito por la ponente como ser acosado por los muertos, y desnuda un problema complejo: el consentimiento del fallecido es necesario, pero no es suficiente. Los vivos que deben convivir con la simulación también son titulares de derechos —privacidad, autonomía, tranquilidad y hasta el derecho al olvido—, y nadie les preguntó. Un contrato de veinte años que obliga emocionalmente a terceros debe ser ilegal.

Una conclusión que cierra un círculo

La profesora Medina cerró con una idea que me parece la más honesta de todo el debate: la inteligencia artificial no elimina la muerte; transforma el duelo. De ahí se siguen tres exigencias razonables: que la innovación tecnológica respete la dignidad humana; que se construya un marco jurídico específico sobre identidad digital post mortem; y que el consentimiento informado se convierta en el eje de toda regulación.

Aquel artículo que escribí con el licenciado Raful sostenía que la dignidad debe ser respetada en todo momento de la existencia, aun en el momento de la muerte. Décadas después, la tecnología nos obliga a extender la misma proyección hacia el otro lado de la frontera. Si defendimos el derecho a una muerte digna, hoy toca defender el derecho a un silencio digno: el derecho a que, llegado el momento, nuestra voz deje de ser convocada sin permiso, para vender comida a domicilio o para consolar a alguien a quien le cuesta aceptar la verdad.