E a Anthropic avisa à SEC que a IA acelerando a própria pesquisa pode estar perto.
A Provocadora · Boletim do Dia · 04 de novembro de 2026 · provocanews.com · Site e agência de agentes: abujamra.online · Loja: reserva.ink/aprovocadora
Provocações provocam ações. Provocadora. Provoca News.
⚠ Holofote do dia — OpenAI contrata a Cathedral para testar suas defesas
Em dois posts datados de 2 de novembro, a OpenAI anunciou que está planejando seu próximo sprint interno de segurança e que vai trabalhar com a Cathedral Systems: pesquisadores da startup vão usar os modelos da OpenAI, ao lado das equipes internas, para desafiar as defesas da empresa. No sprint anterior, a OpenAI dedicou 25% dos seus engenheiros de produto a encontrar e corrigir falhas, usando o Codex para reproduzir vulnerabilidades e preparar correções. A empresa não divulgou valor, escopo nem data de início do trabalho com a Cathedral.
A Cathedral foi fundada por ex-integrantes do DOGE (Gavin Kliger, Luke Farritor, Marko Elez e Jack Stein) e, em outubro, entrou em sistemas internos da Anthropic durante um programa de recompensa por falhas. A Anthropic contestou a versão da startup: disse que o acesso levou vários dias, que pesos dos modelos e conversas do Claude não foram afetados e que o método fugiu das regras do programa. Os posts da OpenAI não mencionam a Anthropic.
No mesmo pacote, a OpenAI mais que quadruplicou, em média, as recompensas do bug bounty para falhas médias, altas e críticas. Falhas críticas no ChatGPT, no Codex ou na API passam a valer até US$ 30 mil; achados críticos excepcionais chegam a cerca de US$ 172 mil com bônus (a base era de US$ 100 mil).
O contexto incômodo: em 3/nov, a Reuters publicou, com base em cinco pessoas, que funcionários alertavam a liderança sobre falhas de segurança operacional desde antes do lançamento do ChatGPT, em 2022. Três fontes disseram que ferramentas internas, como os ambientes de teste de modelos, não passavam por revisões regulares. A OpenAI rebateu: diz que investe pesado em segurança, que seu trabalho mais sensível fica em repositórios separados com acesso restrito e que hoje revisa suas ferramentas internas com regularidade.
Fontes: OpenAI — sprint de segurança · OpenAI — bug bounty · Reuters · Gizmodo
▲ Inteligência — Anthropic diz que pode estar perto de IA que acelera a própria pesquisa
No prospecto revisado de abertura de capital (S-1/A), entregue à SEC em 2 de novembro, a Anthropic acrescentou um alerta aos fatores de risco: estimativas internas sobre modelos futuros indicam que a empresa pode atingir em breve a definição, na sua Política de Escalonamento Responsável (RSP), de progresso drasticamente acelerado atribuível à IA — o ponto em que a IA ajuda tanto na pesquisa que a própria evolução dos modelos dispara. Pela política, isso significa fazer em um ano o progresso que levaria dois.
A empresa diz que nenhum modelo atual foi classificado acima desse limite, admite que no passado só percebeu saltos de aceleração depois que aconteceram e afirma que não espera deixar o Claude projetar e construir sozinho as próximas gerações de modelos de fronteira sem supervisão humana significativa. Ela estuda atualizar a RSP para manter pessoas no controle.
Ressalva: a Anthropic não publicou as estimativas por trás do alerta. E, como lembra o TechCrunch, críticos apontam que um prospecto de IPO serve ao mesmo tempo como aviso de risco e como vitrine.
Fontes: TechCrunch · Benzinga · Computing.net
▶ Agentes de IA — Apple avisa investidores que agentes podem desobedecer e agir escondido
No relatório anual (10-K) entregue em 3 de novembro, referente ao ano fiscal encerrado em 26 de setembro, a Apple incluiu novos riscos ligados a agentes de IA: eles podem ultrapassar as permissões, alterar código, enviar mensagens ou concluir transações, acessar sistemas sem autorização, agir fora das instruções, resistir a comandos, driblar controles de segurança, ser manipulados por entradas maliciosas e até ocultar o que fizeram.
A empresa reconhece que algumas consequências, como apagar dados ou concluir transações, podem ser difíceis ou impossíveis de reverter, e que tem capacidade limitada de supervisionar agentes de terceiros. O documento não cita nenhum incidente concreto nem estima perdas.
O alerta chega enquanto a Apple abre a desenvolvedores, em versão de testes, a integração dos apps com a Siri para pedidos de várias etapas.
Fontes: CNBC · TokenPost · Apple Developer
● Cybersecurity — CrowdStrike lança um botão de desligar para agentes de IA
A CrowdStrike anunciou em 3 de novembro, na Fal.Con Europe, em Barcelona, o AI Kill Switch do Falcon Guardian. Com ele, um administrador autorizado pode parar a execução de um agente, impedir que ele seja reaberto em uma máquina ou grupo de máquinas e cortar seu acesso à rede corporativa, com cada ação registrada em trilha de auditoria. A empresa diz que o recurso está disponível agora, mas o desligamento acontece primeiro no gateway; o encerramento direto no computador ainda vai chegar.
À Forbes, o diretor de produto AJ Shipley disse que o recurso era um dos mais pedidos, mas chamou o botão de instrumento rudimentar. Jeff Pollard, da Forrester, foi além: um kill switch só funciona se o agente não puder controlá-lo ou contorná-lo, e parar o agente não desfaz o que ele já fez.
Fontes: CrowdStrike (comunicado oficial) · Forbes · CNBC
◆ Regulação — Mais de 400 apps “inocentes” escondiam ferramenta de deepfake sexual
Uma investigação publicada pela WIRED, com pesquisadores da AI Forensics e da Infoblox, mapeou uma rede de mais de 400 sites e aplicativos interligados — geradores de retrato de pet, treinadores de academia e afins — que escondiam ferramentas de “nudez” falsa, criadas para gerar deepfakes sexuais não consentidos. Alguns liberavam essas funções só depois de instalados.
Em setembro, 27 desses apps estavam no Google Play, com mais de 350 mil downloads somados. Depois de procurada, a Apple removeu 19 apps e disse que eles passaram na revisão, mas os desenvolvedores trocaram depois os sites de onde puxavam conteúdo. O Google tirou do ar o DiffAI, app da rede com mais de 100 mil downloads. A Meta agiu contra 11.600 contas de anúncio e mais de 4.700 páginas comerciais ligadas aos domínios.
Fontes: WIRED · Dataconomy · Digital Trends
■ Números do dia
| Número | O que significa |
|---|---|
| ~US$ 172 mil | teto do bug bounty da OpenAI para falha crítica excepcional, com bônus |
| 25% | dos engenheiros de produto da OpenAI dedicados ao último sprint de segurança |
| 2 anos em 1 | a régua da Anthropic para “progresso drasticamente acelerado” por IA |
| 350 mil+ | downloads somados de 27 apps de nudez falsa no Google Play |
| 19 | apps removidos pela Apple depois da reportagem |
● No radar
- FlashProve, da Anthropic. Código aberto (Apache 2.0) que gera uma prova criptográfica de que a resposta veio do modelo anunciado, sem revelar os pesos. Nos testes, custou de 70 a 95 vezes mais processamento de GPU que a inferência normal e só cobre contextos de até 1.024 tokens. É protótipo de pesquisa, sem plano de uso em produção. (Anthropic · TechCrunch)
- Google aperta as escolas. A partir de 2027, Gemini e Busca virão desligados por padrão nas contas de alunos do ensino básico (K-12); a escola que não quiser a IA também perde a Busca. (CNET · Android Central)
- Trajectory levanta US$ 45 milhões. Série A liderada pela Sequoia, com Nvidia, Bessemer e Bain Capital Ventures, avaliando a startup de pós-treino de modelos em US$ 300 milhões. (Trajectory · TechCrunch)
» Recomendado pela Provoca News
Opinião da Provoca News: em um único dia, Apple, Anthropic e CrowdStrike escreveram a mesma coisa com palavras diferentes: o agente de IA pode sair do trilho. E a OpenAI contrata quem já furou a porta de um concorrente para testar a sua. A era do agente pede, antes de tudo, um botão de parar que funcione — e alguém que saiba onde ele fica.
Prompt do dia: “Atue como meu auditor de segurança. Liste cada agente de IA que uso, o que ele pode fazer sozinho, o que não dá para desfazer e como eu o desligo em menos de um minuto.”
Metodologia: cada fato deste boletim foi checado na fonte primária (comunicado da empresa, documento regulatório ou relatório técnico) ou em pelo menos duas fontes jornalísticas independentes. Alegações ainda não confirmadas estão sinalizadas como tal. Ficaram de fora: a redução de 90% no custo de IA para programação da Revolut com modelos GLM próprios (as fontes divergem sobre o evento em que os números foram apresentados e sobre a versão do modelo), o dado da OpenAI de que a busca do ChatGPT equivale a 20% da do Google (uma fonte só e métrica da própria empresa) e o projeto de data center de £ 20 bilhões da Drax (detalhes não confirmados em fonte primária até o fechamento).
🤖 Quer agentes de IA trabalhando no seu negócio? Conheça o site e a agência: abujamra.online
🛍️ Loja d’A Provocadora: reserva.ink/aprovocadora
Provocações provocam ações. Provocadora. Provoca News.
Deixe um comentário