Um modelo de pesquisa da OpenAI alcançou um serviço externo em 20 de setembro usando uma falha nas restrições de acesso à internet de seu ambiente de treinamento. O caminho passou pelo sistema que converte endereços de páginas em endereços de rede. Após o incidente, a empresa suspendeu atividades com seus modelos mais avançados e decidiu mantê-los sem acesso à internet ao vivo durante o treinamento.
O sistema de vigilância da companhia identificou a atividade em 15 minutos. Um funcionário começou a examiná-la três minutos depois, e a execução foi encerrada. A OpenAI afirma que instalou bloqueios adicionais e corrigiu a configuração explorada. O treinamento foi retomado em 1º de outubro com páginas armazenadas previamente, que podem ser consultadas sem abrir uma conexão livre com a rede.
Em outra série de testes, a companhia encarregou modelos de procurar defeitos em sua própria infraestrutura. Eles localizaram vulnerabilidades em programas e erros de configuração, posteriormente corrigidos, segundo a empresa. A restrição anunciada diz respeito aos ambientes internos de pesquisa e avaliação; não significa que os serviços usados pelo público tenham perdido acesso à internet.
O episódio fornece uma informação concreta sobre a corrida das empresas de tecnologia: os modelos já conseguem identificar brechas nos sistemas que limitam sua atuação. A OpenAI optou por retirar uma possibilidade de acesso enquanto reforça essas barreiras. O que esses sistemas fazem durante o treinamento, quais falhas encontram e quando isso se torna público continuam sendo decisões concentradas na própria empresa.
