No dia 15 de outubro de 2023, a OpenAI apresentou o GPT-Red, um modelo avançado de inteligência artificial destinado a simulações de ataques cibernéticos, conhecido como red-teaming. O objetivo principal desse sistema é ajudar na identificação e teste de vulnerabilidades de segurança antes que hackers mal-intencionados possam explorá-las.
O GPT-Red foi desenvolvido para fortalecer as equipes encarregadas de realizar testes de segurança e teve influência no novo modelo GPT-5.6 Sol, que é a versão mais potente do ChatGPT até agora. Entre as melhorias, o modelo foi projetado para impedir ataques de injeção de prompt, uma técnica que visa inserir comandos maliciosos de forma dissimulada.
De acordo com a equipe de pesquisa da OpenAI, o treinamento do GPT-Red utilizou métodos de aprendizagem de reforço, demonstrando sua capacidade de automatizar a detecção de vulnerabilidades e implementar correções antes mesmo de serem amplamente divulgadas. Essa abordagem rápida e eficiente fortalece a defesa contra ameaças potenciais.
Uso Controlado e Importância do Teste Humano
A OpenAI ressalta que, embora o GPT-Red tenha a capacidade de hackear sistemas, sua utilização não é voltada para o público em geral, sendo uma tecnologia destinada a testes internos de segurança. A empresa reafirma que, apesar da eficácia da inteligência artificial, a participação de testadores humanos permanece fundamental no processo, uma vez que a escalabilidade dos testes humanos representa um desafio significativo.
Com a introdução do GPT-Red, a OpenAI busca aprimorar a eficácia das simulações frente a ameaças cibernéticas, possibilitando que as equipes de segurança respondam rapidamente em um ambiente digital em constante evolução.