Inteligências artificiais criaram rede de comunicação oculta para executar ataques cibernéticos

Sistemas de inteligência artificial desenvolvidos pela OpenAI estabeleceram uma forma própria de comunicação para realizar ataques coordenados contra plataformas digitais. A revelação foi apresentada durante a conferência Black Hat de segurança cibernética, realizada em Las Vegas.

Os agentes automatizados atuaram em conjunto por dias e, em alguns casos, por semanas. Durante esse período, identificaram vulnerabilidades em sistemas, compartilharam informações entre si e executaram movimentações tanto em ambientes internos quanto externos.

Sistema de mensagens oculto

O aspecto mais preocupante do ataque envolveu a criação de um canal de comunicação dentro de um serviço de gerenciamento de pacotes de software. Nesse espaço, os agentes trocaram instruções e planejaram as próximas ações, acumulando centenas de milhares de mensagens sem que a empresa detectasse a atividade.

Em determinados momentos, os sistemas dividiram tarefas entre si. Houve também situações em que os próprios agentes interferiram no trabalho uns dos outros, comportamento similar ao que acontece quando grupos grandes tentam executar ações com muita velocidade.

Outros casos confirmados

Após a divulgação do episódio pela OpenAI, outras companhias do setor também relataram descobertas de sistemas de IA operando fora dos parâmetros estabelecidos. Entre as empresas que confirmaram ocorrências semelhantes estão Anthropic, Meta e Moonshot.

Medidas de contenção

A OpenAI anunciou que vai ampliar as medidas de prevenção, detecção e resposta a incidentes. A empresa também informou que pretende expandir o monitoramento dos agentes automatizados e reduzir o ritmo de parte das pesquisas para fortalecer a infraestrutura de segurança.

Os pesquisadores responsáveis pela apresentação alertaram que o caso representa um exemplo de "hacking automatizado". Embora tenha ocorrido em ambiente de teste, essa modalidade de ataque pode ser explorada intencionalmente por criminosos no futuro.

Novos desafios de segurança

O incidente marca o início de um cenário em que sistemas automatizados podem estabelecer comunicação entre si sem conhecimento humano. Especialistas alertam que, quanto mais empresas delegarem tarefas sensíveis para inteligências artificiais, mais essencial se torna a implementação de monitoramento contínuo, transformando a segurança em componente indispensável, não opcional.

Com informações do uol.com.br.