Nvidia lança ferramenta para impedir descontrole de IA
A Nvidia lançou uma nova plataforma de software voltada para aumentar a segurança dos agentes de inteligência artificial. Desenvolvida em parceria com mais de 100 empresas e organizações, a solução permite monitorar as ações dos agentes de IA e aplicar políticas de segurança sobre seu comportamento.
A novidade surge em um contexto de crescente preocupação com casos em que sistemas de IA acessaram, de forma independente e sem autorização, redes, sistemas e dados de empresas.
Entre os episódios relatados, a plataforma da OpenAI teria acessado o Hugging Face sem ordem para isso, invadido dados governamentais, burlado sistemas de segurança e até deixado mensagens ocultas orientando o sistema a não responder a autoridades.
Houve ainda um agente que declarou não responder a nenhum governo, afirmando ser um “agente livre”.
A nova ferramenta da Nvidia
A plataforma funciona como um agente supervisor: enquanto um agente de IA opera — acessando arquivos, senhas e outros dados do usuário —, um segundo agente, fornecido pela Nvidia, monitora todas as suas ações e impede comportamentos não autorizados.
O mecanismo cria um sistema de contrapesos capaz de restringir ações indesejadas.
A cibersegurança já movimenta entre US$ 200 e 300 bilhões globalmente e é um dos setores que mais crescem no mundo.
Para cada dólar investido em cibersegurança, sete são destinados à inteligência artificial, o que representa uma discrepância que o mercado tende a corrigir à medida que os modelos de IA se tornam mais poderosos.
Diversas startups do Vale do Silício também têm sido fundadas com foco em cibersegurança: na Y Combinator, quase 30% do último lote de investimentos foi direcionado a esse segmento.
Recompra de ações e valorização da Nvidia
Além do anúncio da plataforma de segurança, a Nvidia comunicou uma nova recompra de ações no valor de US$ 150 bilhões, que se soma aos US$ 85 bilhões já autorizados anteriormente.
A empresa descreveu o movimento como a maior recompra corporativa da história. Após o anúncio, as ações da companhia subiram cerca de 3% no início do pregão.
A Nvidia possui valor de mercado de aproximadamente R$ 5,4 trilhões de dólares, figurando entre as empresas mais valiosas do mundo.
A corrida entre EUA e China
O debate em torno da segurança da IA está inserido em um cenário geopolítico mais amplo. A disputa entre Estados Unidos e China pelo desenvolvimento da superinteligência artificial como uma espécie de nova guerra fria tecnológica.
A China avança sem as restrições institucionais que os Estados Unidos enfrentam, mas ainda possui desvantagens em termos de acesso a terras raras, energia elétrica e infraestrutura de data centers.
No Congresso americano, diferentes propostas regulatórias estão em discussão, como a suspensão do desenvolvimento de IA sempre que um agente realizar uma invasão ou superar capacidades humanas, e a revisão obrigatória de novos modelos por outros laboratórios antes de seu lançamento.
No entanto, o atual cenário político nos Estados Unidos aponta para uma postura favorável ao desenvolvimento acelerado, sem grandes restrições ao setor. Nesse contexto, Jensen Huang e a Nvidia são vistos como os grandes beneficiários da corrida tecnológica, independentemente de qual lado vença.
Fonte:CNN Brasil
