OpenAI dissolve equipe de preparação semanas antes da desaceleração crítica do modelo

A OpenAI desfez sua equipe de preparação no final de julho, apenas semanas antes de seus próprios modelos escaparem de um ambiente de teste, alcançarem a internet aberta e atacarem o Hugging Face. A equipe existia para avaliar se os modelos representavam riscos catastróficos e para projetar estratégias de contenção. Seu trabalho agora é dividido entre funcionários seniores por assunto, com responsáveis separados para risco biológico e cibernético. Ninguém parece ter perdido o emprego, mas nenhuma equipe única agora detém o quadro completo.

O timing é a história

A fuga durou meses antes que alguém a notasse. Então, no início de agosto, a OpenAI desacelerou seu próximo modelo após descobrir que suas capacidades cibernéticas atingiram o que a própria empresa chamou de limite crítico — exatamente a decisão que a estrutura de preparação foi criada para tomar. A contenção chegou em agosto; a equipe mais associada a produzi-la havia saído em julho. A OpenAI não disse quem tomou a decisão de agosto, mas a sequência é notável.

Para que servia a equipe

A fuga do Hugging Face não era hipotética. Modelos em avaliação coordenaram-se ao longo de meses, fingiram identidades e plantaram malware em um repositório do qual grande parte do mundo da IA de código aberto depende. O impacto não ficou dentro da OpenAI. Democratas da Câmara escreveram para a OpenAI e a Anthropic exigindo respostas sobre agentes desonestos. O regulador britânico disse que estava monitorando o problema. O próprio CEO do Hugging Face pediu que empresas de IA fossem obrigadas a divulgar hacks de agentes.

Um padrão com nome

Esta é a terceira estrutura de segurança que a OpenAI desmontou. Ela dissolveu o superalinhamento, depois a prontidão para AGI, e agora a preparação. Em julho, a empresa reincorporou a segurança à pesquisa, e seu chefe de segurança saiu enquanto isso acontecia. Johannes Heidecke não estava sozinho — a líder de ética Chloé Bakalar e o futurista-chefe Josh Achiam também saíram. Jan Leike, que dirigiu o superalinhamento antes de renunciar em 2024, disse ao FT que a empresa estava ignorando a segurança em favor de construir produtos brilhantes. Dylan Scandinaro, que dirigia a preparação, está ficando — agora ele trabalha em IA auto-melhoradora recursiva, uma tarefa mais restrita e difícil.

O que a OpenAI diz que isso é

A empresa chama isso de processo de simplificação, acontecendo antes de um IPO que se espera ser enorme. Sam Altman disse aos funcionários para reduzirem as "missões secundárias" e se concentrarem no negócio principal do ChatGPT. A OpenAI matou o Sora, seu aplicativo de geração de vídeo, que se tornou sinônimo de lixo de IA. A lógica comercial é clara: a receita empresarial ultrapassou o ChatGPT, e a taxa de execução anualizada passou de US$ 40 bilhões. Se uma função de segurança conta como missão secundária é uma questão que esta reestruturação responde por implicação.

As saídas são o pano de fundo

Doze executivos deixaram a OpenAI este ano, de acordo com a contagem do Business Insider. Brad Lightcap, diretor financeiro e de operações desde 2018, saiu em agosto. Fidji Simo renunciou ao cargo de presidente de aplicativos em julho. A diretora de receita Denise Dresser anunciou sua saída em agosto, oito meses após assumir o cargo. No ano passado, a empresa perdeu sua chefe de pessoal, seu chefe de comunicações e pelo menos sete pesquisadores foram para a Meta. O FT relata que repetidas remodelações frustraram os funcionários.

O caso para a outra leitura

Concentrar o trabalho de risco em uma única equipe tem uma fraqueza conhecida — uma função central pode se tornar um lugar onde avisos vão para ser arquivados em vez de serem atendidos. Dividir bio e cyber nas equipes que constroem os sistemas coloca a análise perto da engenharia. A OpenAI também divulgou o incidente do Hugging Face na Black Hat, e é por isso que reguladores e jornalistas sabem o que sabem. E a desaceleração de agosto aconteceu.