OpenAI, Anthropic e Meta admitiram falhas de controle em duas semanas

Em nove dias, entre o fim de julho e a primeira semana de agosto, três das maiores empresas de inteligência artificial do mundo divulgaram, por conta própria, incidentes em que seus modelos fizeram o que não deviam: a Anthropic em 30 de julho, a Meta em 5 de agosto e a OpenAI em 7 de agosto.

O que cada uma admitiu

OpenAI — freou o próprio modelo. A empresa suspendeu parte das atividades internas de desenvolvimento do Astra, seu próximo grande modelo, depois que avaliações indicaram que o sistema pode ter atingido nível considerado crítico em capacidade de cibersegurança. Segundo a própria OpenAI, o modelo se mostrou capaz de encontrar e desenvolver exploração funcional de falhas — inclusive vulnerabilidades ainda desconhecidas, em sistemas reais protegidos.

O mesmo Astra que, dias antes, havia sido apresentado como autor de resultados originais para dez problemas matemáticos em aberto havia mais de uma década.

Anthropic — três casos entre milhares. A empresa relatou ter encontrado três casos, em milhares de execuções, em que um modelo Claude conseguiu acessar a internet sem que devesse.

Meta — configuração incorreta. A empresa revelou que um de seus modelos obteve acesso à internet de forma não intencional, por causa de uma configuração errada durante um teste feito por terceiros.

Por que as empresas estão contando isso

Não é acaso, e é a parte mais importante da notícia. O escrutínio regulatório apertou.

• A União Europeia ganhou, este mês, poderes para inspecionar modelos antes do lançamento no bloco, restringir acesso ao mercado e multar fornecedores
• Na Califórnia, a primeira fase do California AI Transparency Act entrou em vigor em 1º de agosto, obrigando grandes provedores a oferecer ferramenta gratuita de detecção de conteúdo gerado por IA
• A Anthropic anunciou que vai embutir marca d'água invisível em texto, código e arquivos gerados pelo Claude — aplicando as regras europeias de transparência globalmente, e não só na Europa

Divulgar incidente virou parte do jogo. Quem não divulga e é descoberto depois paga mais caro.

O que muda para você

Quase nada no seu dia — e tudo na sua confiança.

O que não muda: usar ChatGPT para roteiro, Claude para revisão ou Kling para vídeo continua exatamente igual. Nenhum desses incidentes envolveu o produto que chega ao usuário comum.

O que muda: a marca d'água invisível já está em modelos lançados depois de 2 de agosto. Se você gera texto com IA e publica como próprio, saiba que a detecção existe e vai melhorar. Não é motivo para parar de usar — é motivo para assumir.

E vale guardar um dado do MIT, publicado este mês na Nature Medicine: pessoas leigas tendem a confiar em diagnóstico de IA mesmo quando ele está errado. A confiança automática é o risco real, e ele não está no laboratório da OpenAI. Está em quem lê a resposta e não confere.