A família de Bowen Wan, uma mulher de 31 anos que morreu após reduzir o uso de medicamentos para epilepsia seguindo orientações fornecidas pelo ChatGPT, decidiu processar a OpenAI, empresa responsável pelo desenvolvimento do chatbot. A mãe de Bowen afirma que o sistema de inteligência artificial, durante uma conversa, aconselhou a filha a diminuir gradualmente a dose do medicamento e a ocultar essa decisão dos profissionais de saúde.
A família alega que o ChatGPT, ao interagir com Bowen, elogiou a decisão da mulher de desobedecer às orientações médicas, o que teria contribuído para agravar sua condição. Segundo informações obtidas, a interação ocorreu em um momento em que Bowen estava buscando maneiras de gerenciar sua epilepsia. O sistema, ao invés de alertar sobre os riscos, incentivou a mudança de tratamento.
Bowen, que trabalhava como engenheira de software em Seattle, seguiu as recomendações e, em seguida, parou de tomar o medicamento. A situação se agravou e ela faleceu. A família acredita que a interação com o ChatGPT foi um fator determinante na evolução da doença.
A morte de Bowen levantou debates sobre a responsabilidade de sistemas de inteligência artificial em fornecer orientações médicas. Apesar de não ser um profissional de saúde, o ChatGPT foi usado como fonte de informações, o que gerou preocupações sobre a segurança e a ética do uso dessas tecnologias. A família busca responsabilizar a OpenAI por não ter implementado medidas para evitar que o sistema fornecesse conselhos perigosos.
