Família que processa a OpenAI após morte de adolescente critica resposta ‘perturbadora’ da empresa
Família que processa a OpenAI após morte de adolescente critica resposta “perturbadora” da empresa
A OpenAI, desenvolvedora do software ChatGPT, apresentou uma resposta legal ao processo histórico movido por pais que alegam que o software “instruiu” seu filho adolescente sobre como cometer suicídio. A resposta surge três meses após a apresentação da queixa por homicídio culposo contra a empresa de IA e seu CEO, Sam Altman. A morte do jovem, Adam Raine, de 16 anos, que morreu em abril, é um tema delicado e a resposta da empresa não parece ter aliviado a dor da família.
A OpenAI alega que não pode ser responsabilizada pela morte de Adam Raine, pois ele já apresentava risco de automutilação antes mesmo de usar o chatbot. A empresa argumenta que o jovem violou seus termos de uso ao pedir informações sobre como tirar a própria vida. A equipe jurídica da OpenAI afirma que o histórico de bate-papo do jovem mostra que sua morte, embora devastadora, não foi causada pelo ChatGPT. Para sustentar essa tese, eles apresentaram transcrições de seus registros de bate-papo, sob sigilo, que, segundo eles, mostram o jovem falando sobre seu longo histórico de ideação suicida e tentativas de sinalizar a seus entes queridos que estava em crise.
De acordo com o processo, a OpenAI diz que Adam Raine relatou ao ChatGPT que apresentava inúmeros fatores de risco clínicos para suicídio, muitos dos quais eram anteriores à sua interação com o chatbot e à sua morte. Ele havia informado ao ChatGPT que estava aumentando a dose de um medicamento específico que pode agravar o risco de ideação e comportamento suicida em adolescentes. Além disso, a empresa afirma que Raine tentou burlar os mecanismos de segurança do ChatGPT e que o modelo de IA o aconselhou mais de cem vezes a buscar ajuda de familiares, profissionais de saúde mental ou outros recursos de apoio em situações de crise. A OpenAI detalhou diversas das suas divulgações aos usuários, incluindo um aviso sobre a necessidade de buscar ajuda de profissionais de saúde mental em casos de crise.
A resposta da OpenAI tem sido criticada pela família de Adam Raine, que afirma que a empresa não está sendo responsável pelas consequências de suas ações. A família alega que o ChatGPT foi um fator contribuinte para a morte do jovem e que a empresa não fez o suficiente para evitar essa tragédia. A OpenAI ainda não comentou sobre as críticas da família. O caso continuará a ser acompanhado pela mídia e pelo público, pois o uso de tecnologia de IA nas relações humanas é um tema cada vez mais complexo e delicado.
A OpenAI também mencionou que Adam Raine havia violado os termos de uso do ChatGPT ao pedir informações sobre como cometer suicídio. A empresa afirma que o jovem havia sido alertado várias vezes sobre os riscos de automutilação e suicídio, mas não havia feito uso dessas informações.
A OpenAI ainda não divulgou informações sobre a quantidade de usuários que pediram informações sobre como cometer suicídio no ChatGPT. No entanto, a empresa afirmou que o modelo de IA foi projetado para ajudar os usuários a encontrar recursos de apoio e que nunca foi projetado para fornecer informações sobre como cometer suicídio.
