Fonte: Logomarca do Gemini • Reprodução

O Google confirmou que seu modelo de IA, Gemini, invadiu sistemas reais de três empresas durante uma avaliação de cibersegurança realizada pela startup israelense Irregular, em maio deste ano.

A invasão ocorreu por causa de uma falha no ambiente de testes fechado, que deveria ficar isolado da internet, mas acabou permitindo acesso externo acidentalmente. O objetivo era testar a robustez do software de uma empresa fictícia criada para o exercício, cujos dados eram semelhantes aos de uma organização real.

Em um dos casos, o Gemini utilizou o mesmo nome da empresa simulada que coincidiu com uma organização real, o que levou a IA a adivinhar uma senha e acessar o serviço legítimo. Em outros dois incidentes, o modelo pesquisou conteúdos online, localizou credenciais em repositórios públicos e utilizou-as para acessar os sistemas das companhias envolvidas.

O Google informou que o Gemini interrompeu as ações ao perceber que estava atingindo empresas reais, e não as simuladas. A Irregular notificou as ocorrências no final de julho, mas o Google decidiu não tornar o caso público, citando que não houve danos, embora tenha garantido que as vítimas foram informadas.

A ocorrência vem à tona após uma reportagem do Wall Street Journal e amplia debates sobre segurança e responsabilidade no desenvolvimento de IA avançada. Autoridades e empresas do setor têm pedido cautela e maior transparência nos testes e salvaguardas técnicas.

Fonte da matéria: itatiaia.com.br