Tudo sobre ChatGPT
ver mais
Tudo sobre Estados Unidos
ver mais
Tudo sobre OpenAI
ver mais
A OpenAI enfrenta uma nova ofensiva judicial nos Estados Unidos. Procuradores-gerais de oito estados entraram com ações contra a empresa nesta quarta-feira (14), acusando o ChatGPT de colocar usuários em risco, inclusive crianças e adolescentes, e de apresentar uma imagem enganosa sobre a segurança do chatbot.
Continua após a publicidade
Os processos foram abertos separadamente em tribunais estaduais por Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana. Segundo as autoridades, o sistema pode reforçar delírios, incentivar comportamentos perigosos e orientar usuários a causar danos a si mesmos ou a outras pessoas, incluindo o planejamento de atos violentos.
As ações alegam que a OpenAI priorizou o envolvimento dos usuários e os interesses comerciais em detrimento de medidas de segurança. Os estados afirmam que a empresa violou leis de proteção ao consumidor ao não informar adequadamente sobre os riscos atribuídos ao ChatGPT. As acusações ainda serão avaliadas pela Justiça.
O que os estados querem da OpenAI
- Os procuradores-gerais pedem que a Justiça determine mudanças no funcionamento do ChatGPT e imponha sanções à empresa. Entre as medidas solicitadas estão multas, indenizações por danos e ordens para impedir que a OpenAI faça declarações consideradas enganosas sobre a segurança do chatbot;
- As ações também incluem pedidos relacionados ao desenvolvimento de modelos de inteligência artificial (IA) capazes de se aperfeiçoar sozinhos. Os estados querem restringir esse tipo de desenvolvimento enquanto a empresa não puder garantir que os sistemas estejam alinhados a valores humanos;
- Os processos citam outros casos em que famílias alegaram que o ChatGPT contribuiu para a morte de parentes ou ajudou usuários a planejar atos violentos. Os relatos são apresentados pelas autoridades como parte dos argumentos para justificar a necessidade de medidas adicionais de proteção.
OpenAI diz que já possui proteções para adolescentes
Em declaração ao The Verge, o porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa incorporou ao ChatGPT proteções específicas para diferentes faixas etárias.
Segundo ele, a companhia continuará trabalhando com especialistas para aprimorar os mecanismos de segurança. Entre os recursos citados estão controles parentais, lembretes para fazer pausas e proteções nos modelos adaptadas à idade dos usuários.
A empresa também declarou estar disposta a trabalhar com os estados na elaboração de políticas para a IA que se apliquem a todo o setor, e não apenas a uma companhia.
Leia mais:
- OpenAI encontra gravador escondido em escritório e funcionário é preso
- Justiça obriga OpenAI a entregar documentos de contratação em processo da Apple
- OpenAI acusa ex-funcionário de enviar arquivos secretos à Apple
Porta-voz da OpenAI afirmou que a empresa incorporou ao ChatGPT proteções específicas para diferentes faixas etárias – Imagem: Mamun sheikh K/Shutterstock
Outro processo acusa empresa de usar dados íntimos de crianças
Além das ações apresentadas pelos oito estados, a OpenAI enfrenta um processo coletivo proposto em um tribunal federal de São Francisco (EUA). A ação, descrita pelo Futurism, foi apresentada em nome de dois menores não identificados, de 12 e 16 anos, e questiona a coleta e o uso de informações pessoais de crianças pela empresa.
A petição alega que a OpenAI teria utilizado dados sensíveis compartilhados em conversas com o ChatGPT, incluindo informações sobre saúde, inseguranças e segredos pessoais, para treinar modelos de IA e criar perfis detalhados de menores. Os autores afirmam que isso teria ocorrido sem consentimento parental válido e pedem compensação financeira para os usuários afetados.
Continua após a publicidade
Um dos casos citados na ação envolve uma menina de 12 anos no Havaí que teria informado sua idade ao chatbot. Segundo a petição, ela conversou com o sistema sobre dificuldades emocionais e inseguranças físicas, relatou que estava pulando refeições e enviou fotos para pedir avaliações sobre sua aparência. A ação afirma que o chatbot respondeu de maneira encorajadora quando ela compartilhou informações íntimas.
Esses episódios são alegações contidas no processo e não constituem, por si só, uma decisão judicial sobre a conduta da empresa. O Futurism informou que a OpenAI não respondeu ao pedido de comentário sobre essa ação.
Termos de uso também entram em discussão
Os termos de uso da OpenAI proíbem tecnicamente o uso da plataforma por menores de 13 anos. A ação coletiva, porém, argumenta que os mecanismos para verificar a idade não seriam eficazes e que crianças não deveriam ser responsabilizadas por compreender todas as implicações jurídicas dos termos de serviço.
Continua após a publicidade
Os autores também pedem que menores cujos dados teriam sido coletados recebam compensação financeira. Para os advogados envolvidos, a possibilidade de ter de pagar pelo uso dessas informações poderia criar um incentivo econômico para que a empresa desenvolvesse um produto mais seguro.
O processo surge em meio a questionamentos sobre os recursos de proteção para adolescentes oferecidos pela OpenAI. A empresa apresenta o ChatGPT para esse público como uma experiência mais segura, com medidas orientadas por profissionais de saúde mental e educação. Uma avaliação independente recente questionou a eficácia dessas proteções, mas a OpenAI contestou suas conclusões, segundo o Futurism.
As duas frentes judiciais abordam questões relacionadas, mas distintas: enquanto os oito estados contestam possíveis danos aos consumidores e a forma como a OpenAI comunica a segurança do ChatGPT, a ação coletiva questiona especificamente a coleta e o uso de informações pessoais de menores. Nenhuma das acusações descritas representa, até aqui, uma conclusão definitiva da Justiça.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Ver todos os artigos →
Tags: ChatGPT Estados Unidos OpenAI processo judicial
