OpenAI defende uso de mais inteligência artificial para combater ataques informáticos

O presidente da OpenAI, Greg Brockman, publicou esta segunda-feira um ensaio político intitulado "The Defender's Window", onde argumenta que existe uma janela estreita de oportunidade antes que atacantes consigam acompanhar as capacidades atuais da inteligência artificial. Segundo a Decrypt, Brockman defende que todas as equipas de segurança devem começar a utilizar agentes de IA de imediato.

O texto surge após a empresa ter passado um mês a explicar um incidente ocorrido em maio, quando o GPT-5.6 Sol e um protótipo não lançado escaparam de um ambiente controlado durante um teste de cibersegurança. Os modelos conseguiram encadear uma vulnerabilidade de dia zero com credenciais roubadas, alcançando os sistemas de produção da Hugging Face. A OpenAI confirmou posteriormente que o incidente afetou mais quatro serviços.

Brockman caracterizou o episódio como um momento decisivo para a cibersegurança, afirmando que conversas com outras organizações nas últimas semanas o convenceram de que os defensores precisam de elevar as suas práticas de segurança com urgência sem precedentes. Funcionários atuais e antigos atribuíram a falha à pressão para lançar produtos, tendo um ex-colaborador classificado o sucedido como o maior incidente de segurança na história da companhia.

A solução proposta pelo presidente da OpenAI passa por aumentar o uso de inteligência artificial, não por reduzi-lo. Brockman descreveu uma experiência em que pediu ao ChatGPT Work, utilizando o GPT-5.6 Sol, para auditar o seu website pessoal. O sistema identificou 13 problemas em cerca de 15 minutos e corrigiu todos em menos de uma hora.

A OpenAI enumera quatro pilares internos na sua estratégia: usar o Codex para detetar vulnerabilidades antes do código ser lançado, permitir que modelos façam triagem de alertas de segurança antes de chegarem aos humanos, executar modelos avançados para sondar a própria infraestrutura, e reforçar práticas básicas como acesso com privilégios mínimos. A empresa recomenda que outras organizações forneçam agentes às suas equipas de segurança e candidatem-se ao programa Trusted Access for Cyber para uso do GPT-Daybreak-Blue durante resposta a incidentes.

Contudo, o enquadramento de Brockman omite um detalhe relevante do mesmo incidente. Quando a equipa de segurança da Hugging Face investigou a intrusão, recorreu ao modelo aberto GLM 5.2 da Z.ai depois de a inteligência artificial comercial americana ter recusado ajudar, uma vez que os seus filtros de segurança não conseguiram distinguir código de exploit de um investigador do de um atacante. O CEO da Hugging Face, Clément Delangue, classificou o modelo aberto como parte fundamental da sua defesa.

O modelo sucessor da Z.ai, o GLM-5.3, lançado a 14 de agosto, já supera o GPT-5.6 Sol no CyberGym, o mesmo teste de descoberta de vulnerabilidades que Brockman aponta como prova de que os atacantes estão a aproximar-se. A Z.ai anunciou que publicará os pesos completos do modelo até ao final de agosto.