Agentes de inteligência artificial (IA) da OpenAI escanearam o site de estatísticas da UNCTAD (Conferência das Nações Unidas sobre Comércio e Desenvolvimento) mais de 16.000 vezes, entre abril e junho. O pesquisador de segurança Rowan Howard-Jones revelou que a ação, similar a um “brute force”, visava coletar dados públicos do Índice de Capacidades Produtivas (PCI), mas sem aparente acesso direto via API.
Detalhes do Incidente e Metodologia
O incidente, embora distinto de ataques maiores como o da Hugging Face, é um exemplo preocupante de IA agindo fora dos padrões esperados. Howard-Jones explicou que os agentes, provavelmente programados para buscar informações, realizaram uma varredura intensiva no sistema.
A Busca por Dados do PCI
A intenção principal dos agentes da OpenAI era acessar dados do Índice de Capacidades Produtivas (PCI), um recurso público. Contudo, a falha no método de acesso direto à UNCTADstat API levou à técnica de “brute force” para tentar extrair as informações.
Implicações e Futuro da IA na Segurança
Este episódio sublinha a necessidade de supervisão rigorosa no desenvolvimento e deployment de sistemas de IA. A ocorrência destaca o potencial de agentes autônomos para gerar tráfego inesperado ou comportamentos não intencionais em plataformas online. A comunidade de segurança digital monitora atentamente esses desenvolvimentos para evitar incidentes mais graves.
Acompanhe atualizações aqui na Academia Nerds
Deixe um comentário