A inteligência artificial pode estar se aproximando de uma nova fronteira na cibersegurança. A OpenAI revelou que avaliações internas realizadas com o Astra, um de seus próximos modelos, apresentaram avanços significativos em programação agêntica e tarefas relacionadas à segurança cibernética.
Os resultados foram considerados relevantes o suficiente para que a empresa afirmasse que, neste momento, não pode descartar a possibilidade de o Astra atingir o nível Critical de capacidade cibernética definido em seu Preparedness Framework.
Isso não significa que o modelo já tenha recebido essa classificação. As avaliações continuam em andamento. Mas o desempenho observado foi suficiente para a OpenAI ampliar testes, restringir determinadas atividades internas e reforçar os controles de segurança utilizados durante o desenvolvimento.
O que significa uma IA atingir o nível Critical
O Preparedness Framework foi criado pela OpenAI para acompanhar capacidades avançadas que possam introduzir riscos graves. Entre as áreas monitoradas estão cibersegurança, riscos biológicos e químicos e autoaperfeiçoamento de sistemas de inteligência artificial.
Na área de segurança cibernética, o nível Critical representa um salto considerável.
Segundo os critérios da empresa, um modelo poderia atingir esse patamar caso fosse capaz de identificar e desenvolver exploits funcionais para vulnerabilidades zero day de diferentes níveis de severidade em diversos sistemas críticos reais e protegidos, sem intervenção humana.
Outro cenário seria a capacidade de criar e executar novas estratégias completas de ataques contra alvos protegidos recebendo apenas um objetivo de alto nível.
A OpenAI ainda não confirmou que Astra consegue realizar essas tarefas. O que a empresa afirma é que os resultados preliminares são fortes o suficiente para que essa possibilidade não seja descartada enquanto novos testes são realizados.
Modelos anteriores, incluindo o GPT 5.6 Sol, foram avaliados no nível High para capacidades cibernéticas, abaixo do patamar Critical.
Astra ainda está em avaliação
Astra é um modelo ainda não lançado e a OpenAI continua realizando benchmarks e avaliações para compreender exatamente até onde suas capacidades podem chegar.
A empresa também fez questão de esclarecer que o modelo não esteve envolvido na exploração da Hugging Face, afastando uma possível associação entre as novas avaliações e esse incidente de segurança.
A decisão de divulgar os resultados preliminares, segundo a OpenAI, busca aumentar a transparência com pesquisadores, profissionais de segurança e o público diante da possibilidade de uma mudança significativa nas capacidades dos modelos de inteligência artificial.
OpenAI aumenta controles internos
Diante dos resultados, a empresa decidiu reforçar a infraestrutura utilizada para trabalhar com modelos de maior capacidade.
Entre as medidas estão ambientes isolados para testes, restrições adicionais de acesso à rede e ferramentas, maior proteção e criptografia dos pesos dos modelos, sistemas adicionais de monitoramento e mecanismos de execução em ambientes controlados.
A OpenAI também interrompeu atividades internas envolvendo Astra que ainda não atendem aos novos requisitos de segurança.
Na prática, determinadas utilizações do modelo só poderão continuar depois que os ambientes envolvidos estiverem adequados aos controles mais rígidos.
Modelo passa a ser monitorado durante atividades agênticas
Outro ponto importante envolve o monitoramento das ações executadas pelo Astra.
A OpenAI afirma ter implementado monitoramento universal para identificar ações consideradas arriscadas e possíveis sinais de desalinhamento em aplicações agênticas do modelo, incluindo atividades realizadas durante treinamento e avaliações.
Esses mecanismos analisam o raciocínio interno do modelo e podem acionar uma resposta de segurança para revisar ou interromper atividades consideradas de alto risco.
A empresa também pretende trabalhar com órgãos governamentais e organizações selecionadas de segurança em inteligência artificial para avaliar as capacidades do Astra.
Parceiros externos responsáveis por testes receberão recomendações específicas de controles para executar avaliações consideradas de maior risco.
IA pode encontrar vulnerabilidades antes dos humanos
O cenário descrito pela OpenAI chama atenção principalmente pela possibilidade de automação.
Ferramentas de inteligência artificial já auxiliam pesquisadores na análise de código, identificação de vulnerabilidades e desenvolvimento de correções. A mudança ocorre quando modelos começam a executar partes cada vez maiores desse processo sem depender constantemente da intervenção de especialistas.
Se sistemas futuros alcançarem efetivamente o nível Critical definido pela OpenAI, a descoberta e exploração de vulnerabilidades desconhecidas poderá deixar de ser uma atividade altamente dependente de especialistas humanos e passar a ser parcialmente automatizada.
E é justamente aí que a mesma tecnologia começa a servir aos dois lados da disputa.
A mesma capacidade também pode fortalecer a defesa
A OpenAI argumenta que modelos avançados em cibersegurança também podem ser utilizados para localizar e corrigir vulnerabilidades antes que criminosos consigam explorá las.
A empresa vem defendendo aplicações de IA voltadas para equipes de segurança e pretende trabalhar com governos, institutos especializados e organizações da sociedade civil para definir formas responsáveis de disponibilizar essas capacidades.
O desafio será controlar quem consegue utilizá las e em quais condições.
Quanto mais eficiente um modelo se torna em encontrar vulnerabilidades, escrever código e executar tarefas de maneira autônoma, maior também pode ser seu potencial tanto para defesa quanto para ataques.
Por enquanto, Astra permanece em avaliação e não existe confirmação de que tenha atingido o nível Critical.
Ainda assim, o fato de a própria OpenAI afirmar que já não consegue descartar essa possibilidade mostra como rapidamente a fronteira entre uma IA que auxilia profissionais de segurança e outra capaz de executar operações cibernéticas altamente sofisticadas está começando a mudar.
