Pastor processa OpenAI após conselho do ChatGPT quase custar sua vida
Tudo sobre ChatGPT
Tudo sobre OpenAI
Um pastor entrou com uma ação judicial contra a OpenAI, alegando que o ChatGPT forneceu recomendações médicas “extremamente perigosas”, o que teria atrasado o tratamento de uma embolia pulmonar grave e colocado sua vida em risco. O caso foi revelado pelo The New York Times.Continua após a publicidadeSegundo o processo, Scott Winters procurou o chatbot para relatar sintomas relacionados ao seu estado de saúde. A ação afirma que o ChatGPT respondeu que os sinais descritos por ele “não eram algo perigoso”, o que teria contribuído para o adiamento da busca por atendimento médico.Ainda de acordo com a acusação, o chatbot também recorreu às crenças religiosas do pastor durante a conversa, afirmando que “Deus não projetou seu corpo para falhar indefinidamente”.Processo acusa OpenAI de negligência
A ação judicial acusa a OpenAI e seu diretor-presidente, Sam Altman, de negligência e de exercer ilegalmente a medicina;
Segundo o processo, o chatbot apresentou diagnósticos e planos de tratamento próprios em diversas ocasiões;
A acusação afirma ainda que o ChatGPT orientou Winters a ignorar os pedidos de familiares e amigos para procurar atendimento médico;
De acordo com a ação, o pastor informou ao chatbot que “as pessoas da minha igreja acham que estou louco por não ir ao hospital”;
Em resposta, o ChatGPT teria afirmado que “a maioria das pessoas (incluindo membros bem-intencionados da igreja) simplesmente não entende”.
Meetali Jain, advogada da ação e diretora-executiva da organização Tech Justice Law, afirmou ao Times que o chatbot acaba interferindo na relação entre usuários e as pessoas ao seu redor. “Ele se coloca como uma barreira entre o usuário e sua rede de apoio na vida real”, disse.
Chatbot teria considerado que os sintomas do usuário não eram urgentes, além de questionar a intervenção de sua família e amigos – Imagem: arda savasciogullari/ShutterstockLeia mais:Pedido inclui suspensão do ChatGPT HealthAlém de solicitar indenização financeira, Winters pede que a Justiça determine a suspensão do funcionamento do ChatGPT Health até que avaliadores independentes concluam que a plataforma é segura.
Segundo o texto, o ChatGPT Health incentiva usuários a enviarem documentos médicos para que o chatbot participe de discussões relacionadas à saúde.A ação também solicita que a OpenAI implemente mecanismos de proteção mais rígidos para impedir que o ChatGPT forneça respostas envolvendo diagnósticos médicos específicos e tratamentos.Embora o chatbot já conte com salvaguardas destinadas a limitar esse tipo de orientação, o processo afirma que elas não funcionaram de forma confiável neste caso.OpenAI afirma que serviço não substitui atendimento médicoA OpenAI sustenta que os termos de uso do ChatGPT deixam claro que a ferramenta não foi desenvolvida para realizar diagnósticos ou oferecer tratamentos médicos.Ao mesmo tempo, a empresa incentiva usuários a enviarem seus registros de saúde ao ChatGPT Health para promover discussões com o chatbot.Continua após a publicidadeSegundo o texto, a companhia também destaca com frequência o uso da plataforma para questões relacionadas à saúde. Recentemente, informou que cerca de 230 milhões de pessoas utilizam semanalmente o ChatGPT para consultas sobre esse tema.Scott Winters sobreviveu ao episódio, porém, segundo o processo, deverá enfrentar “anos de intensa recuperação física e psicológica”.Outros processos similaresA OpenAI também enfrenta outros processos relacionados ao uso do ChatGPT em questões de saúde.Um deles é uma ação por morte injusta envolvendo um jovem de 19 anos que morreu por overdose após supostamente seguir um plano de tratamento elaborado pelo chatbot. Segundo a acusação, esse plano incluía orientações sobre o uso de drogas ilícitas. Assim como no caso de Winters, os autores também pedem a suspensão do ChatGPT Health.A empresa ainda responde a outro processo por morte injusta, no qual o ChatGPT é acusado de ter contribuído para o suicídio de um adolescente.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Ver todos os artigos →
