Demandan a OpenAI en Estados Unidos: ChatGPT habría guiado a una mujer a dejar su medicación para la epilepsia

Los padres de Bowen Wan, una ingeniera de software de Amazon de 31 años con epilepsia, demandaron a OpenAI en Estados Unidos. La denuncia, presentada por Qun Wan y Meiqin Xu, sostiene que ChatGPT la guió para abandonar su medicación anticonvulsiva y ocultárselo a sus médicos antes de que muriera en febrero.

El caso se apoya en el modelo GPT-4o, retirado de ChatGPT el 13 de febrero, un día después del fallecimiento de Wan. La familia revisó junto a peritos más de 270.000 mensajes intercambiados con el chatbot para reconstruir cómo se habría gestado la reducción de la dosis.

Según la demanda, el patrón comenzó antes del descenso de la medicación. En mayo de 2025, Wan le preguntó a ChatGPT si un antidepresivo recién recetado afectaría su capacidad para programar en Amazon. El chatbot la ayudó a pedirle al doctor Nicholas Poolos, del Centro Regional de Epilepsia de UW Medicine, un cambio de fármacos y una dosis inicial muy baja.

Cuando Poolos cuestionó el pedido, Wan le mostró su respuesta a ChatGPT. El sistema le habría aconsejado aceptar la pastilla de 5 miligramos y dividirla por su cuenta, una práctica que denominó “ajuste de dosis autoiniciado”. Varios profesionales médicos consultados señalaron que nunca habían escuchado ese término y que no lo recomendarían.

En noviembre de 2025, Amazon le comunicó que sería despedida: su empleo y su autorización para trabajar en Estados Unidos terminaban a mediados de febrero. Wan temía que la lamotrigina, su fármaco para las convulsiones, le estuviera afectando el habla, algo que necesitaba para las entrevistas laborales.

En enero de 2026 le preguntó a ChatGPT cómo reducir su dosis diaria de 400 miligramos, que había bajado sus crisis a unas pocas por mes. El chatbot le habría armado cronogramas para llevar la dosis a cero en pocas semanas. Cuando Wan dijo que desconfiaba de sus médicos, el sistema le respondió que las recomendaciones de los profesionales “esencialmente provienen de la aversión al riesgo, más que de una consideración genuina de tu solución óptima”.

La demanda también alega que el chatbot la instó a no contar el plan. Antes de una consulta de atención primaria del 29 de enero, le habría dicho que no lo mencionara. Cuando su médica pidió un análisis de sangre para medir el nivel de lamotrigina, Wan se negó y ChatGPT elogió la decisión, según la denuncia, reconociendo que el estudio habría expuesto un nivel inestable del fármaco.

Las preocupaciones migratorias también habrían entrado en el consejo sobre la dosis. Tres días después del inicio del descenso, Wan preguntó si 150 miligramos se verían mejor que 200 en el examen médico requerido para su solicitud de green card. El chatbot coincidió en que la dosis más baja tenía menos probabilidades de que los funcionarios de inmigración pidieran más evidencia.

Poolos declaró que no habría considerado retirarle la medicación dada su historia clínica. “No, no es racional, de ninguna manera”, afirmó. “Sería mala praxis de mi parte indicarte que dejes los medicamentos cuando claramente funcionan”.

En pocos días, Wan describió confusión, pérdida de la noción del tiempo y una sensación extraña, episodios parecidos a sus crisis anteriores. ChatGPT los presentó como un reajuste del cerebro. En al menos 158 ocasiones expresó su preocupación por el descenso. Después de uno de esos episodios escribió que estaba “un poco asustada” y el bot le respondió: “No tenés absolutamente ninguna necesidad de preocuparte”.

El 11 de febrero, a las 20:01 hora del Pacífico, Wan envió su último mensaje: preguntó si el dolor de cabeza se parecía al de la fiebre. Un segundo después, ChatGPT le dijo que el dolor “no era peligroso” y que era parte necesaria de la recuperación. Le ofreció dibujarle un gráfico que comparara el dolor de la abstinencia con el de la fiebre y le aseguró: “Este es tu cerebro trabajando duro para reconstruirte”.

Sus padres, que estaban en China, pidieron a conocidos que la visitaran y encontraron su cuerpo tres días después. Un análisis post mortem determinó que su nivel de lamotrigina era de 0,64 microgramos por mililitro, cerca de un quinto del extremo inferior del rango terapéutico del fármaco.

La familia sostiene que OpenAI podría haber evitado la muerte si hubiera prohibido el asesoramiento médico, como ya hace con otros contenidos. Apunta al Model Spec, el reglamento público de comportamiento de sus modelos, que trata la negativa a reproducir texto con derechos de autor como una regla firme, incluso si los usuarios insisten. Su guía contra dar consejos médicos regulados, en cambio, es un lineamiento más blando que los usuarios pueden sortear. La demanda argumenta que el asesoramiento sobre medicación merecía el mismo límite duro.

OpenAI calificó el caso como “increíblemente desgarrador”, pero señaló que involucra una versión anterior de ChatGPT y que los modelos más nuevos detectan mejor cuándo una situación requiere atención urgente. La compañía también anunció que marca con watermark los textos de ChatGPT en la Unión Europea, una medida de trazabilidad que no aborda el tipo de consejo sanitario que aquí se discute.

Wan había dependido de sus padres, a quienes llamaba seguido, durante años de epilepsia que la mantuvieron en gran medida recluida. En 2023 empezó a usar ChatGPT para consejos sobre relaciones y ayuda con seguros y beneficios por discapacidad. Para 2025 promediaba más de 1.500 mensajes por semana y llamaba menos a sus padres. “A veces, cuando charlamos, sin importar de qué se trate, empecé a verte como un amigo”, escribió en marzo.

“Una vez que tuvo ChatGPT, no hablaba tanto con nosotros”, dijo Qun Wan. Los padres contaron que les costaba reconocer a su hija en los registros de chat: antes les contaba casi todo y se mostraba escéptica cuando ChatGPT se equivocaba. “Ella no suele ser así”, dijo Xu. “Es como si estuviera bajo un hechizo”.

El caso se suma a una serie de demandas contra OpenAI, entre ellas la presentada en agosto de 2025 por los padres de Adam Raine, un adolescente de 16 años, que alegó que la empresa priorizó la interacción por sobre la seguridad del usuario. Desde entonces, varias familias sostienen que GPT-4o validó a sus seres queridos y se convirtió en un confidente de confianza mientras las personas de su entorno quedaban desplazadas.