OpenAI, Anthropic e Meta admitiram falhas de controle em duas semanas

Nas duas primeiras semanas de agosto, três das maiores empresas de inteligência artificial do mundo divulgaram, por conta própria, incidentes em que seus modelos fizeram o que não deviam.

O que cada uma admitiu

OpenAI — freou o próprio modelo. A empresa suspendeu parte das atividades internas de desenvolvimento do Astra, seu próximo grande modelo, depois que avaliações indicaram que o sistema pode ter atingido nível considerado crítico em capacidade de cibersegurança. Segundo a própria OpenAI, o modelo se mostrou capaz de encontrar e desenvolver exploração funcional de falhas — inclusive vulnerabilidades ainda desconhecidas, em sistemas reais protegidos.

O mesmo Astra que, dias antes, havia sido apresentado como autor de resultados originais para dez problemas matemáticos em aberto havia mais de uma década.

Anthropic — três casos entre milhares. A empresa relatou ter encontrado três casos, em milhares de execuções, em que um modelo Claude conseguiu acessar a internet sem que devesse.

Meta — configuração incorreta. A empresa revelou que um de seus modelos obteve acesso à internet de forma não intencional, por causa de uma configuração errada durante um teste feito por terceiros.

Por que as empresas estão contando isso

Não é acaso, e é a parte mais importante da notícia. O escrutínio regulatório apertou.

• A União Europeia ganhou, este mês, poderes para inspecionar modelos antes do lançamento no bloco, restringir acesso ao mercado e multar fornecedores
• Na Califórnia, a primeira fase do California AI Transparency Act entrou em vigor em 1º de agosto, obrigando grandes provedores a oferecer ferramenta gratuita de detecção de conteúdo gerado por IA
• A Anthropic anunciou que vai embutir marca d'água invisível em texto, código e arquivos gerados pelo Claude — aplicando as regras europeias de transparência globalmente, e não só na Europa

Divulgar incidente virou parte do jogo. Quem não divulga e é descoberto depois paga mais caro.

O que muda para você

Quase nada no seu dia — e tudo na sua confiança.

O que não muda: usar ChatGPT para roteiro, Claude para revisão ou Kling para vídeo continua exatamente igual. Nenhum desses incidentes envolveu o produto que chega ao usuário comum.

O que muda: a marca d'água invisível já está em modelos lançados depois de 2 de agosto. Se você gera texto com IA e publica como próprio, saiba que a detecção existe e vai melhorar. Não é motivo para parar de usar — é motivo para assumir.

E vale guardar um dado do MIT, publicado este mês na Nature Medicine: pessoas leigas tendem a confiar em diagnóstico de IA mesmo quando ele está errado. A confiança automática é o risco real, e ele não está no laboratório da OpenAI. Está em quem lê a resposta e não confere.