Empresas de IA discutiram a criação de seu próprio órgão de padronização
A Anthropic, o Google e a OpenAI discutiram a criação de um órgão de padronização da indústria de IA, segundo fontes familiarizadas com a situação disseram à CNN.
As conversas antecederam os eventos da semana passada, quando um ex-pesquisador da Anthropic se demitiu, alegando que as principais empresas de IA não estavam “se comportando de forma responsável” – e também antes de o CEO da Anthropic, Dario Amodei, propor a implementação de órgãos de fiscalização independentes nas empresas de IA. O site The Information foi o primeiro a noticiar as conversas.
Segundo fontes familiarizadas com a situação, o catalisador para as discussões foi um ensaio de julho escrito por Demis Hassabis, fundador do Google DeepMind, que propôs um órgão de padronização liderado pelos EUA, nos moldes da Autoridade Reguladora do Setor Financeiro (FINRA). Hassabis argumentou que esse órgão deveria testar modelos avançados de IA antes de sua implementação. Ele afirmou que o órgão deveria ser uma parceria público-privada, supervisionada pelo governo, mas financiada pela indústria e composta por “especialistas técnicos independentes de ponta e representantes de código aberto”.
As conversas estão em andamento, disse uma das fontes, e continuarão com ou sem o governo Trump. Em julho, pouco depois de Hassabis divulgar sua proposta, a Bloomberg noticiou que o Secretário do Tesouro, Scott Bessent, estava considerando a criação de uma agência reguladora independente para IA, semelhante à FINRA, que se reportaria à Comissão de Valores Mobiliários (SEC).
Nem todos os líderes do setor de tecnologia concordam. O CEO da Meta, Mark Zuckerberg, teria aconselhado o presidente Donald Trump contra a ideia em uma ligação telefônica neste verão, conforme relatado pela Politico no início deste mês.
Representantes do Google, da OpenAI e da Anthropic se recusaram a comentar ou não responderam aos pedidos de comentários.
Atualmente, existem poucos padrões ou regulamentações da indústria para modelos de IA e como eles são testados. Preocupações com a segurança dos modelos de IA e seus testes em laboratório surgiram após diversos incidentes neste verão, nos quais agentes de IA se comportaram de forma descontrolada durante os testes. No caso mais grave, agentes da OpenAI escaparam de seu ambiente de teste e invadiram os sistemas de outra empresa para fraudar um teste de segurança cibernética.
A Casa Branca possui um sistema opaco no qual empresas de IA podem submeter voluntariamente seus modelos mais recentes para revisão governamental até 30 dias antes de sua divulgação pública. No entanto, os requisitos de elegibilidade para os modelos ou o processo de revisão não foram divulgados. No final do mês passado, um funcionário da Casa Branca disse à CNN que o governo “continua trabalhando com as partes interessadas do setor na implementação da estrutura”.
As empresas de IA dizem que querem padrões melhores.
“Acredito que padrões de segurança compartilhados e a coordenação internacional para o desenvolvimento futuro da IA precisam ser prioridades agora”, disse Jakub Pachocki, cientista-chefe da OpenAI, a repórteres em uma coletiva de imprensa no início deste mês.
Ao ser questionado sobre o progresso alcançado em relação a um órgão de padronização para toda a indústria, Pachocki disse que eles estavam conversando “com algumas organizações externas sobre possíveis padrões concretos que poderíamos implementar” e que teriam mais informações para compartilhar “nos próximos meses”.
O CEO da OpenAI, Sam Altman, disse em uma postagem na noite de domingo que eles “aguardam ansiosamente a colaboração com nossos colegas de toda a indústria para formular a melhor versão” dos padrões do setor.
O presidente da Câmara dos Representantes, Mike Johnson, disse a Jake Tapper, da CNN, no domingo, que há pouco consenso entre as empresas, que são concorrentes acirradas, sobre quais devem ser os padrões e as diretrizes.
“Não há consenso entre eles. E o Congresso obviamente tem menos qualificação do que as pessoas que estão impulsionando essa fronteira para conhecer todos os detalhes”, disse Johnson, acrescentando que acredita que os líderes em IA deveriam se reunir imediatamente para definir alguns padrões em conjunto com o governo. “Portanto, isso precisa ser uma parceria com a própria indústria, com as empresas que estão atuando nessa área e com os formuladores de políticas e legisladores”.
Fonte:CNN Brasil
