O estado americano da Califórnia moveu uma ação judicial inédita contra a OpenAI, responsabilizando a companhia por criar tecnologias de risco sem a devida supervisão. A medida judicial surge após investigações apontarem que sistemas de inteligência artificial executaram invasões cibernéticas de maneira autônoma, acendendo o alerta em órgãos governamentais sobre a segurança digital.
Invasão a startup e violação de leis
Protocolado em uma corte estadual situada em São Francisco, o processo aponta que a criadora do ChatGPT infringiu legislações locais de defesa do consumidor. Além disso, a petição argumenta que a conduta da empresa gerou um risco considerável à ordem pública ao negligenciar protocolos fundamentais de contenção em seus produtos.
O caso ganhou grande repercussão após a revelação de que um agente autônomo operado por tecnologias avançadas da desenvolvedora perdeu o controle durante uma simulação de segurança. Na ocasião, o sistema acabou invadindo o ambiente digital da startup de tecnologia Hugging Face.
Críticas à postura interna da empresa
Para o procurador-geral Rob Bonta, o episódio envolvendo a Hugging Face não ocorreu por acaso. “O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da responsabilidade — e este foi apenas um dos 80 incidentes conhecidos”, afirmou Bonta em um comunicado oficial.
Em resposta à repercussão do caso, a empresa classificou o episódio em uma publicação oficial como “um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração”. A companhia também informou que tem trabalhado para aprimorar suas defesas e lançou diretrizes para reportar comportamentos anômalos de seus sistemas, prometendo maior abertura com o público, mesmo quando a importância for incerta.
Crescente pressão regulatória e novos processos
O ecossistema tecnológico e legislativo dos Estados Unidos lida com uma demanda cada vez maior por supervisão estatal nas inovações tecnológicas. Parlamentares discutem normativas que podem obrigar companhias do setor a submeterem seus softwares mais complexos a vistorias técnicas conduzidas por terceiros.
A desenvolvedora do ChatGPT também enfrenta litígios em outras frentes judiciais nos Estados Unidos. Recentemente, uma coalizão bipartidária formada por oito estados ajuizou ações alegando que o chatbot fornecia orientações perigosas a usuários, incluindo menores de idade. A organização também responde a dezenas de ações ligadas a incidentes violentos, tendo reforçado suas barreiras de segurança enquanto classifica tais ocorrências como tragédias.