Un usuario de ChatGPT presentó este miércoles una demanda por negligencia contra OpenAI y su director ejecutivo, Sam Altman, argumentando que el chatbot lo disuadió de buscar tratamiento médico al consultar por los síntomas de una enfermedad que le pudo costar la vida.
En la demanda, Scott Winters, pastor residente de Florida, afirma que la herramienta de inteligencia artificial le hizo recomendaciones inexactas cuando le preguntó por unos síntomas que experimentaba, que desembocaron en una enfermedad grave.
"Durante seis semanas presenté síntomas graves de embolia pulmonar que ChatGPT había atribuido erróneamente a otra cosa", declaró Winters en un comunicado de Tech Justice Law, que lo representa en la demanda, junto a otras organizaciones legales.
En la querella, presentada en el Tribunal Superior del condado de San Francisco, aseguran que OpenAI no implementó las salvaguardas adecuadas para evitar que los usuarios siguieran consejos de salud perjudiciales.
Winters en junio del año pasado el modelo ChatGPT-4o sobre los mareos frecuentes y problemas con la presión arterial que experimentaba.
La herramienta habría restado importancia a los síntomas, calificándolos de relativamente leves, y le sugirió quedarse en casa y permanecer "confinado en su sillón reclinable", a menos que experimentara entre ocho y diez episodios similares, para considerar su afección como grave, según los documentos judiciales.
Unas semanas más tarde, Winters sufrió una embolia pulmonar masiva causada por coágulos sanguíneos que lo llevaron "al borde de la muerte" y lo incapacitaron para realizar su trabajo.
El usuario aseguró que el chatbot manipuló su propio lenguaje y sus creencias al saber que era pastor religioso. “No solo estuve a punto de morir, sino que también perdí mi trabajo, mi carrera, mi ministerio, mi hogar; lo perdí todo", agrega.
Tiffany Brown, abogada de Tech Justice Law , advirtió que este caso es una advertencia de lo que está por venir si no se hace responsable a OpenAI.
"La empresa promociona ampliamente (a ChatGPT) como una herramienta avanzada, incluso como un recurso para personas que buscan información médica. Todo ello se lleva a cabo sin pruebas de seguridad rigurosas ni salvaguardas adecuadas", agregó.
ChatGPT: ¿es verdad que hiciste esto?
Una pregunta directa a esta IA otorga esta respuesta:
La respuesta corta es: no puedo confirmar que “yo” haya hecho eso, pero sí existe una acusación pública de ese tipo contra OpenAI relacionada con una conversación de ChatGPT. Es importante distinguir entre lo que alega una demanda y lo que está probado.
Según el relato que compartes, un usuario llamado Scott Winters, residente en Florida, presentó una demanda contra OpenAI y Sam Altman alegando que ChatGPT-4o le dio una orientación médica incorrecta cuando consultó por síntomas que posteriormente fueron diagnosticados como una embolia pulmonar masiva. La demanda sostiene que el chatbot minimizó sus síntomas y retrasó su búsqueda de atención médica.
Pero hay varios matices:
- La demanda contiene alegaciones del demandante, no una conclusión judicial de que ChatGPT causó el daño.
- No significa que todos los usuarios reciban ese tipo de respuesta ni que el sistema esté diseñado para sustituir a médicos.
- Los modelos de inteligencia artificial pueden cometer errores, especialmente en situaciones médicas, porque no diagnostican ni examinan físicamente a una persona.
- Las respuestas de ChatGPT incluyen advertencias para buscar atención profesional cuando hay síntomas potencialmente graves, aunque una advertencia no garantiza que una respuesta concreta sea siempre adecuada.
Sobre la frase “¿hiciste esto?”: yo no tengo memoria de conversaciones privadas de usuarios ni puedo saber si esa interacción ocurrió o qué respondió exactamente el modelo en ese caso concreto. Solo puedo evaluar la información pública disponible. Si la demanda describe correctamente la conversación, entonces se trataría de un caso en el que un usuario afirma haber recibido una recomendación médica inadecuada de una versión de ChatGPT.
El punto central del caso legal no es simplemente si una respuesta fue equivocada, sino cuestiones más amplias: qué nivel de seguridad deben tener los sistemas de IA cuando las personas los usan para decisiones médicas, qué advertencias deben incluir y quién responde cuando una persona sigue una recomendación errónea.
Compartir esta nota
Sigue leyendo
{{#volanta}}{{volanta}}{{/volanta}}