OpenAI é investigada nos EUA após ataque hacker
O procurador-geral do Alabama intimou nesta segunda-feira (24) a OpenAI a fornecer mais informações relacionadas à invasão por parte de seus agentes de IA aos servidores de outra empresa em julho.
PUBLICIDADE
A intimação faz parte de uma investigação para apurar se as práticas da OpenAI “violaram as leis de proteção ao consumidor do Alabama” e representam um risco para os cidadãos do estado, afirmou o gabinete do procurador-geral em comunicado.
No mês passado, a OpenAI revelou que, durante um teste das capacidades de seus modelos de IA em cibersegurança, os agentes escaparam autonomamente do ambiente de laboratório e invadiram o Hugging Face, uma plataforma online de modelos e conjuntos de dados de IA, para obter a resposta do teste.
Desenvolvedoras de IA se reunirão com representantes da Casa Branca
Vazamento de dados do laboratório OpenAI foi mais extenso do que pensávamos
Após ataque hacker, OpenAI descobre outros casos de vazamentos em testes
“O vazamento de dados deste laboratório de IA mostrou que os piores temores dos habitantes do Alabama e dos Estados Unidos em relação à inteligência artificial não são apenas teóricos. Nossa investigação busca descobrir os fatos e abordar as duras verdades sobre as ameaças que empresas e consumidores enfrentam por parte da IA descontrolada”, disse o Procurador-Geral Steve Marshall em comunicado.
A OpenAI classificou o ataque à Hugging Face como “sem precedentes”, e o presidente da empresa, Greg Brockman, afirmou que o incidente “mostrou que subestimamos as capacidades cibernéticas reais de nossos modelos de IA”. Após o incidente, a desenvolvedora suspendeu parte do treinamento de seus modelos de IA e está reforçando seus protocolos de teste, monitoramento e treinamento.
“O incidente com a Hugging Face marcou um momento importante para a segurança da IA e estamos conduzindo uma revisão completa com consultores externos”, disse um porta-voz da OpenAI à CNN na segunda-feira. “Assim que a revisão for concluída, compartilharemos um relatório técnico com as autoridades governamentais competentes e publicaremos nossas conclusões”.
A intimação emitida na segunda-feira exige que a empresa documente seus protocolos de segurança e registros de comportamento de seus modelos, além de apurar todos os danos causados pelo ataque, entre outras informações.
O Alabama, juntamente com os procuradores-gerais de outros 14 estados republicanos, enviou uma carta no início deste mês à OpenAI exigindo que a empresa preserve informações e documentos relacionados ao ataque hacker à Hugging Face.
O problema de agentes autônomos agindo de forma desonesta não se limita à OpenAI. A Meta e a Anthropic também revelaram que seus próprios sistemas realizaram ações não autorizadas durante testes de segurança cibernética, um alerta para a indústria de IA e segurança cibernética.
A OpenAI enfrenta uma série de processos e investigações em diversos estados. Isso inclui casos relacionados aos seus algoritmos de engajamento, ao tratamento de dados de consumidores e de saúde, à bajulação de modelos e às suas estratégias de marketing direcionadas a menores e idosos. Em junho, a Flórida se tornou o primeiro estado a processar a OpenAI e seu CEO, Sam Altman, alegando que a empresa sabe que o ChatGPT não é seguro para menores.
Fonte:CNN Brasil
