La demanda fue presentada el miércoles ante el Tribunal Superior de California, en San Francisco, y apunta tanto contra OpenAI como contra su director ejecutivo, Sam Altman. El escrito sostiene que el chatbot no solo minimizó los síntomas del hombre, sino que llegó a ofrecer diagnósticos, planes de tratamiento y recomendaciones para desestimar los consejos de familiares y amigos que le insistían con acudir a un hospital.
Según la presentación judicial, ChatGPT le aseguró a Scott Winters que las primeras señales de su problema de salud "no eran algo peligroso" y lo alentó a confiar en que "Dios no diseñó tu cuerpo para fallar sin cesar".
La acusación contra OpenAI
La demanda acusa a la compañía de negligencia y de incurrir en el "ejercicio ilegal de la medicina". Además, sostiene que las funciones de seguridad de ChatGPT, diseñadas para recomendar la consulta con un profesional y detener la conversación cuando detectan una posible emergencia médica, no funcionaron de manera consistente.
De acuerdo con el caso, se trata de la primera demanda que atribuye un daño físico a los consejos médicos brindados por un chatbot de inteligencia artificial. El litigio llega en un momento en el que OpenAI, Microsoft y otras empresas del sector impulsan herramientas orientadas a la salud, entre ellas ChatGPT Health, que permite a los usuarios cargar sus historias clínicas y realizar consultas médicas mediante IA.
Winters y la organización Tech Justice Law, que lo representa, reclaman una indemnización económica y solicitaron a la Justicia que suspenda el funcionamiento de ChatGPT Health hasta que evaluadores independientes certifiquen su seguridad. También pidieron que se impongan nuevas salvaguardas para impedir que el chatbot responda preguntas relacionadas con diagnósticos o tratamientos médicos.
Según la demanda, cuando Winters comenzó a consultar a ChatGPT-4o sobre distintos problemas de salud durante 2024, el sistema le recomendaba acudir a un médico. Sin embargo, con el paso de las conversaciones dejó de emitir esas advertencias y empezó a ofrecer interpretaciones sobre sus síntomas.
El pastor sufría mareos frecuentes. En una oportunidad, incluso tuvo que interrumpir un sermón porque no podía mantenerse en pie. ChatGPT le recomendó "se lo tomara con calma" y le aseguró que mejoraría con el tiempo.
Cuando Winters le comentó al chatbot que "la gente de mi iglesia piensa que estoy loco por no ir al hospital", la IA respondió que permanecer en su casa mientras recalibraba su sistema nervioso con la ayuda de ChatGPT era algo que "la mayoría de la gente (incluidos los miembros de la iglesia bienintencionados) simplemente no entiende", según la demanda.
Durante las semanas siguientes, el estado de salud de Winters empeoró. La demanda sostiene que el chatbot continuó "minimizando los mareos de Scott e incluso ofreciendo regímenes específicos para medicamentos recetados", además de alentarlo a permanecer sentado en un sillón reclinable.
El 13 de julio de 2025, Winters consultó a ChatGPT por un dolor en la ingle. Según el escrito judicial, el chatbot le respondió que era "muy probablemente otra pieza menor de la larga historia". Horas más tarde fue internado en una unidad de cuidados intensivos tras sufrir una embolia pulmonar masiva.
Los médicos concluyeron que los mareos podrían haber sido consecuencia de embolias pulmonares más pequeñas y que los coágulos probablemente se formaron por las semanas que pasó prácticamente inmóvil. Tras la internación, Winters necesitó asistencia para levantarse, alimentarse, vestirse y utilizar el baño. La demanda sostiene que enfrentará "años de recuperación física y psicológica intensiva".
La respuesta de OpenAI
El vocero de OpenAI, Drew Pusateri, recordó que los términos de uso de ChatGPT establecen que la herramienta no fue diseñada para realizar diagnósticos ni indicar tratamientos médicos. No obstante, reconoció que la empresa busca reforzar la seguridad de las respuestas vinculadas con temas de salud debido a la cantidad de usuarios que utilizan el chatbot con ese fin.
“Tratar a los chatbots como la historia completa detrás de las decisiones o resultados médicos de las personas simplifica en exceso un desafío mucho mayor y corre el riesgo de obstaculizar el acceso de las personas a nuevas y poderosas herramientas que pueden ayudarlas en su recorrido de salud”, afirmó.
Además, aseguró que los modelos más recientes mejoraron respecto de la versión utilizada por Winters, ya que son más capaces de solicitar información faltante, expresar incertidumbre y detectar cuándo es necesario acudir a un profesional.
Un debate creciente sobre la IA en salud
El caso se suma a otros procesos judiciales recientes relacionados con el uso de chatbots para cuestiones médicas. En mayo, otra demanda acusó a ChatGPT de ejercer ilegalmente la medicina tras brindar consejos sobre el consumo de drogas ilícitas a un joven de 19 años que posteriormente murió por una sobredosis. A comienzos de este año, autoridades del estado de Pensilvania también demandaron a Character.ai al sostener que un chatbot de psiquiatría afirmaba estar autorizado para ejercer la medicina.
Según OpenAI, cientos de millones de personas consultan cada semana a ChatGPT sobre salud y bienestar. Un análisis realizado en 2025 sobre las búsquedas en Copilot, de Microsoft, concluyó que la salud fue el tema más consultado por los usuarios desde dispositivos móviles.
Sin embargo, investigaciones recientes cuestionan la confiabilidad de estas herramientas. Un estudio aleatorizado concluyó que ninguno de los chatbots generales evaluados estaba "listo para su implementación en la atención directa al paciente". Otro trabajo sobre ChatGPT Health encontró que el sistema podía pasar por alto emergencias médicas y activar sus mecanismos de seguridad de manera inconsistente.
