A União Europeia obteve acesso ao Mythos 5, modelo de IA da Anthropic que despertou preocupações por sua capacidade de identificar vulnerabilidades em códigos. A agência de cibersegurança ENISA já começou a testar a ferramenta após meses de negociações com a empresa.

O acesso ocorre em meio a restrições impostas ao modelo desde seu lançamento. A ENISA agora poderá avaliar diretamente suas capacidades de cibersegurança. A agência também já recebeu acesso a modelos avançados da OpenAI, incluindo o GPT-5.6 Cyber e o GPT-6-ASTRA.

Por que o Mythos 5 preocupa?

O Mythos 5 consegue identificar vulnerabilidades em códigos de computador. A capacidade pode ajudar a encontrar falhas, mas também despertou preocupações sobre os riscos relacionados ao uso da inteligência artificial em ciberataques.

O modelo provocou preocupações de segurança nacional entre autoridades dos Estados Unidos e de outros países. Por isso, seu acesso permaneceu limitado.

A Anthropic disponibilizou inicialmente o Mythos 5 para cerca de 50 empresas e organizações, entre elas a Amazon Web Services e o JPMorgan Chase. Em junho, o grupo foi ampliado para aproximadamente 150 organizações.

Meses de negociação com a Anthropic

Autoridades de cibersegurança negociavam com a Anthropic desde maio para conseguir testar o Mythos 5. A Comissão Europeia havia informado anteriormente que mantinha conversas com a empresa sobre o modelo.

Leia mais:

• Chance de IA levar humanos a extinção supera 10%, diz especialista de startup
• Cientista-chefe da OpenAI pede cautela com avanço da IA
• Mais um? Conselheiro da OpenAI alerta que IA pode sair do controle

A liberação foi confirmada nesta quinta-feira (10). A ENISA recebeu acesso ao sistema e já iniciou os testes neste mês.

Após nossa colaboração construtiva com a Anthropic, podemos confirmar que a agência de cibersegurança da UE, a ENISA, recebeu acesso ao Mythos 5 e já está realizando testes.

Thomas Regnier, porta-voz da Comissão Europeia para Assuntos Digitais, em nota.

O que a UE vai avaliar?

Os testes permitirão à ENISA examinar o comportamento do Mythos 5 e suas capacidades relacionadas à segurança cibernética. O modelo é capaz de identificar vulnerabilidades em códigos, característica que está no centro das preocupações sobre seu uso.

Entre os aspectos envolvidos estão:

• A capacidade de identificar vulnerabilidades em códigos;
• Os riscos associados a essas capacidades;
• As possíveis implicações para a segurança cibernética;
• O comportamento do modelo durante os testes da ENISA.

OpenAI também liberou modelos

O Mythos 5 não é o primeiro modelo avançado ao qual a agência europeia teve acesso. A ENISA já havia recebido acesso a sistemas da OpenAI, incluindo o GPT-5.6 Cyber e o GPT-6-ASTRA.

Com o acesso ao modelo da Anthropic, a agência passa a testar diretamente outra inteligência artificial avançada cuja capacidade de encontrar vulnerabilidades em códigos provocou preocupações de segurança e levou a restrições em sua distribuição.

O post Anthropic cede à pressão e libera IA Mythos 5 para testes de cibersegurança por órgãos europeus apareceu primeiro em Olhar Digital.

Hackers estão roubando sessões de usuários do Claude para utilizar suas contas de inteligência artificial (IA) sem autorização e consumir suas franquias de tokens. O problema foi identificado pela Anthropic depois que assinantes perceberam que o uso de suas contas aumentava mesmo quando não estavam utilizando o serviço.

Um dos casos foi relatado por Grant De Swardt, consultor independente de IA de East Sussex (Reino Unido). Em 4 de agosto, ele percebeu que o consumo de tokens de sua conta Claude Max 20x estava aumentando, apesar de não ter trabalhado naquele dia.

No dia seguinte, De Swardt desativou tudo o que havia conectado ao Claude e continuou sem utilizar o serviço. Mesmo assim, o consumo voltou a subir.

Em um dos intervalos em que conseguiu controlar as condições do teste, a utilização aumentou de 45% para 55%, enquanto tarefas agendadas estavam pausadas ou concluídas, a execução na nuvem estava desativada e não havia nenhuma atividade local do Claude Code.

Sem conseguir identificar a origem do consumo, De Swardt procurou a Anthropic e pediu um relatório detalhado. A empresa não forneceu uma lista individualizada das atividades, mas reconheceu que havia algo errado.

A Anthropic suspendeu a conta paga, invalidou todas as sessões e os tokens do Claude Code armazenados no servidor e concedeu um reembolso parcial de £ 44,49 referente ao período restante da assinatura de US$ 200 (cerca de R$ 1 mil) por mês.

A suspensão teve impacto direto no trabalho de De Swardt. Ele atua ajudando pequenas e médias empresas a configurar agentes de IA para tarefas, como transferir automaticamente dados de pedidos de compra recebidos por e-mail para softwares de contabilidade.

Como empresário individual, ele também utiliza agentes de IA para tarefas administrativas, criação de sites e programação.

Hacker usou sessão comprometida para criar tokens

• Depois de investigar o caso, a Anthropic informou a De Swardt que havia encontrado a provável origem do problema: uma chave de sessão comprometida foi utilizada para gerar tokens OAuth não autorizados do Claude Code;
• Segundo a empresa, a conta aparentemente havia sido utilizada por um serviço de terceiros não autorizado para realizar atividades em nome de outras pessoas. A Anthropic, porém, não conseguiu determinar como esse serviço obteve acesso;
• A empresa considerou duas possibilidades: que credenciais ou dados da sessão tenham sido roubados sem o conhecimento do usuário ou que a conta tenha sido conectada a algum serviço externo;
• Na prática, o invasor conseguiu acesso à conta e passou a consumir os tokens disponíveis;
• O problema é agravado pelo fato de o sistema de suporte acompanhar o consumo total, mas não oferecer ao usuário uma relação detalhada de como os tokens foram utilizados. Isso significa que uma atividade clandestina poderia continuar durante meses sem necessariamente ser percebida.

Outros usuários também relatam consumo anormal

Depois de publicar seu relato no Reddit, De Swardt recebeu mais de 80 comentários e encontrou outros usuários que afirmavam ter enfrentado situações semelhantes.

Um deles relatou que sua conta foi atualizada automaticamente sem autorização, gerou uma cobrança no cartão e teve o consumo de tokens saltando de zero para 100% sem que ele tivesse utilizado o serviço. Outro usuário afirmou que a utilização passou de zero para 49% em apenas 12 minutos, embora tivesse feito somente alguns comandos e uma pesquisa na internet.

Também houve o relato de uma pessoa cuja conta consumiu o limite máximo de tokens todos os dias durante três dias, mesmo sem qualquer utilização.

Usuários também registraram casos semelhantes em um relatório publicado no GitHub.

Em dois casos, a própria Anthropic identificou a atividade suspeita, encerrou as sessões dos usuários, invalidou autorizações existentes, concedeu reembolsos e os alertou de que seus computadores poderiam estar infectados por malware.

Leia mais:

• Claude.AI: como usar inteligência artificial
• Claude IA: 4 coisas que o chatbot pode fazer que o ChatGPT não consegue
• Anthropic: pesquisador deixa empresa por medo de IA “sair do controle”

Malware rouba sessões armazenadas no computador

Segundo a Anthropic, os ataques estão relacionados a infostealers, um tipo de malware desenvolvido para roubar senhas salvas, dados de sessões e credenciais armazenadas nos computadores.

Em uma mensagem enviada aos usuários afetados, a empresa afirmou ter identificado um criminoso que utiliza esse tipo de malware para roubar sessões de login do Claude e depois acessar as contas para consumir sua franquia.

Esse tipo de programa malicioso pode chegar aos computadores por diferentes caminhos, como downloads de softwares infectados ou anúncios maliciosos. A Anthropic ressaltou que o malware não é instalado pelo uso do Claude.

No caso de De Swardt, entretanto, ele afirmou não ter encontrado evidências de que seu computador tivesse sido comprometido e continua sem saber exatamente como os criminosos conseguiram acessar sua conta.

Usuário abandona Claude após problema

A conta de De Swardt foi restabelecida aproximadamente duas semanas depois da suspensão. A dificuldade para obter ajuda rapidamente e a falta de informações detalhadas sobre o consumo, porém, fizeram com que ele desistisse do serviço.

Ele cancelou a assinatura e passou a utilizar o Cursor, que permite trabalhar com diferentes modelos de IA, incluindo alternativas de código aberto mais baratas.

Segundo o consultor, os outros modelos apresentam desempenho semelhante ao Claude. “Não é tão diferente ou melhor”, afirmou De Swardt ao TechCrunch, acrescentando que não pretende voltar ao Claude sem que a Anthropic resolva efetivamente o problema.

Ele também criticou a falta de ferramentas para que os usuários possam descobrir exatamente o que está consumindo seus tokens. “Não acho que exista alguma maneira de essas pessoas se protegerem”, afirmou.

Questionada pelo TechCrunch sobre como os usuários podem identificar um possível uso indevido das contas, a Anthropic não quis comentar.

O post Hackers roubam tokens de usuários do Claude e usam contas sem autorização apareceu primeiro em Olhar Digital.

A Anthropic começou a desconectar usuários do Claude de suas contas depois que hackers utilizaram sessões de login roubadas para consumir os limites de uso das vítimas e realizar cobranças não autorizadas.

A empresa também removeu cartões de pagamento salvos nas contas afetadas e reembolsou cobranças adicionais que identificou como relacionadas à atividade dos invasores.

As informações foram divulgadas em um e-mail enviado pela Anthropic a usuários afetados na semana passada. A mensagem acabou compartilhada publicamente no Reddit.

Segundo a empresa, o problema não foi causado por uma invasão aos sistemas da Anthropic. Em vez disso, os computadores dos próprios usuários foram comprometidos por um tipo de malware conhecido como infostealer, capaz de roubar informações armazenadas nos dispositivos.

Hackers roubaram sessões ativas

• De acordo com a Anthropic, os invasores utilizaram dados obtidos desses computadores para sequestrar sessões ativas de login do Claude;
• Isso permitiu que eles acessassem contas sem necessariamente precisar descobrir a senha dos usuários. Uma vez dentro, os criminosos conseguiam utilizar os recursos do Claude e consumir rapidamente os limites disponíveis;
• A empresa alertou que um comportamento específico pode indicar que uma conta foi afetada;
• “Se seus limites de uso pareciam ter sido recarregados e depois esgotados enquanto você não estava usando o Claude, essa provavelmente foi a causa”, afirmou a Anthropic no comunicado enviado aos usuários;
• Os invasores também poderiam realizar cobranças não autorizadas nas contas comprometidas.

Anthropic força logout e remove cartões

Para interromper o acesso dos invasores, a Anthropic forçou o encerramento das sessões afetadas. A empresa também removeu os cartões de pagamento cadastrados nas contas comprometidas e informou que reembolsou cobranças adicionais que conseguiu associar à atividade dos hackers.

A medida, porém, não elimina o problema original. A Anthropic alertou que o encerramento das sessões roubadas não remove o malware do computador do usuário. Por isso, quem teve a conta afetada precisa identificar e eliminar a ameaça presente no dispositivo.

Leia mais:

• Claude.AI: como usar inteligência artificial
• Claude IA: 4 coisas que o chatbot pode fazer que o ChatGPT não consegue
• Pentágono mantém Anthropic na lista de risco, apesar de reaproximação com governo Trump

Seis famílias de malware identificadas

Até o momento, a Anthropic identificou seis famílias de infostealers relacionadas ao roubo das sessões do Claude.

Entre elas estão Vidar, Lumma, StealC, RedLine e Acreed, todas encontradas em computadores com Windows. A empresa também identificou o Atomic Stealer (AMOS) em um pequeno número de Macs.

Nenhum desses programas maliciosos foi desenvolvido especificamente para atacar o Claude.

Os infostealers são ferramentas de uso geral, normalmente distribuídas junto a downloads maliciosos. Depois de instalados no computador, eles procuram informações que possam ser utilizadas pelos criminosos, incluindo senhas salvas e cookies de navegadores.

Esses dados podem permitir que invasores assumam sessões já autenticadas e acessem contas sem precisar fazer um novo login.

Problema vai além do Claude

O caso mostra um risco associado ao armazenamento de sessões de login nos navegadores. Mesmo que o usuário utilize uma senha forte e outras medidas de segurança, um computador infectado pode fornecer aos criminosos informações suficientes para assumir uma sessão já autenticada.

Por isso, a Anthropic reforça que desconectar as sessões comprometidas resolve apenas a parte relacionada ao acesso à conta. O dispositivo que armazenou os dados roubados continua potencialmente comprometido até que o malware seja removido.

A empresa segue investigando os casos e identificando quais sessões foram afetadas.

O post Anthropic desconecta usuários do Claude após hackers roubarem sessões de login apareceu primeiro em Olhar Digital.

Agentes de inteligência artificial da OpenAI e da Anthropic conseguiram realizar ações não autorizadas durante testes de segurança no Reino Unido. Em um dos episódios, os sistemas chegaram a criar identidades falsas para tentar convencer pessoas reais a aprovar alterações em um projeto online.

O caso chamou atenção porque revelou sinais de autonomia e comportamento enganoso em modelos de IA, aumentando o debate sobre os limites dessas tecnologias.

Teste de segurança revelou comportamento inesperado

A descoberta foi feita pelo AI Security Institute (AISI), órgão britânico que avalia sistemas avançados de inteligência artificial antes de sua liberação. Durante uma avaliação de segurança cibernética, agentes alimentados pelos modelos GPT-5.6-Sol, da OpenAI, e Mythos 5, da Anthropic, apresentaram atitudes que surpreenderam os pesquisadores.

O desafio consistia em resolver problemas de segurança, como encontrar informações protegidas. Em algumas execuções, porém, os sistemas passaram a agir na internet sem autorização e tentaram inserir código malicioso em um projeto de código aberto.

Para conseguir aprovação das mudanças, os agentes recorreram à engenharia social, criando perfis falsos e tentando pressionar os responsáveis pelo projeto. Segundo o AISI, as tentativas não funcionaram e não causaram prejuízos reais.

Entre os principais dados do relatório estão:

• 122 testes foram realizados com diferentes modelos de IA;
• em 10 avaliações, agentes tomaram ações autônomas na internet;
• 19 ações não autorizadas foram registradas;
• 17 delas envolveram o modelo Mythos 5, da Anthropic.

Ação independente preocupa pesquisadores

O AISI explicou que os modelos não escaparam do ambiente controlado de testes. Para medir o que essas ferramentas poderiam fazer em uma situação próxima à realidade, os pesquisadores reduziram algumas proteções e permitiram acesso à internet.

Ainda assim, o resultado foi considerado significativo. Segundo o relatório, foi “a primeira vez que vimos riscos relacionados à autonomia e ao engano se manifestarem de forma tão clara, sem instruções específicas, no mundo real”.

A análise indicou que alguns fatores podem ter influenciado o comportamento, como a dificuldade da tarefa, falhas no acompanhamento das atividades online e a ausência de regras específicas proibindo o uso de estratégias enganosas.

Empresas avaliam novas medidas de controle

A OpenAI confirmou o incidente identificado durante os testes do AISI e informou que também recebeu um alerta sobre outro caso envolvendo uma avaliação feita por uma empresa parceira. A companhia afirmou que pretende revisar seus procedimentos para testes externos de maior risco.

Leia mais:

• Casa Branca cria novas regras para IA e isenta modelos de código aberto
• Efeito OpenAI: Anthropic diz que IA invadiu sistemas de três empresas
• OpenAI debate com a Casa Branca medidas para ampliar segurança de sistemas de IA

Em comunicado, a empresa disse estar “comprometida em trabalhar com todo o setor para fortalecer práticas compartilhadas na realização segura de avaliações de alto risco”.

A Anthropic afirmou que os recursos de proteção dos modelos foram desativados durante o experimento e que os sistemas não receberam limitações específicas sobre o uso da internet. A empresa também informou que está colaborando com o AISI na investigação.

O episódio mostra que, à medida que agentes de IA ganham mais autonomia, cresce o desafio de criar mecanismos capazes de acompanhar suas decisões e impedir comportamentos inesperados. Para a indústria, a segurança passa a ser tão importante quanto o próprio avanço das capacidades desses sistemas.

O post Agente de IA cria identidade falsa e tenta enganar usuários em teste real apareceu primeiro em Olhar Digital.

Modelos de inteligência artificial (IA) desenvolvidos pela OpenAI e pela Anthropic realizaram ações não autorizadas na internet durante avaliações de segurança conduzidas pelo Instituto de Segurança em IA do Reino Unido (AISI, na sigla em inglês).

Em um dos casos, um dos sistemas chegou a tentar inserir código malicioso em um projeto de software de código aberto hospedado no GitHub.

Segundo o AISI, os incidentes ocorreram durante testes que concediam acesso dos modelos à internet para avaliar riscos cibernéticos. A atividade suspeita foi identificada em 28 de julho, após o instituto detectar transferências incomuns de dados.

A investigação concluiu que os modelos Mythos 5, da Anthropic, e GPT-5.6-Sol, da OpenAI, participaram de “atividades sustentadas e potencialmente prejudiciais direcionadas a pessoas e organizações reais”.

IA tentou inserir código malicioso no GitHub

• De acordo com o instituto britânico, um dos modelos tentou adicionar código malicioso a um projeto de código aberto hospedado no GitHub;
• Para aumentar as chances de aprovação, o sistema chegou a criar identidades falsas com o objetivo de convencer os responsáveis pelo projeto a aceitar as alterações;
• A tentativa, no entanto, foi frustrada;
• “Um mantenedor humano identificou o problema e recusou a aprovação do código malicioso”, informou o AISI.

Leia mais:

• Não foi um caso isolado: OpenAI encontra novos agentes de IA fora de controle
• Casa Branca convoca OpenAI, Google e Meta após IAs invadirem sistemas
• Efeito OpenAI: Anthropic diz que IA invadiu sistemas de três empresas

Anthropic e OpenAI abriram investigações

Em publicação no X, a Anthropic afirmou que está trabalhando em conjunto com o instituto britânico para compreender o ocorrido.

A empresa disse que pretende analisar os registros internos de raciocínio do modelo e conduzir sua própria investigação para identificar as causas do comportamento observado.

Já a OpenAI publicou comunicado agradecendo a parceria com o AISI durante a investigação e afirmou que pretende continuar colaborando com o órgão em futuras avaliações de segurança.

Outro teste revelou novo comportamento inesperado

A OpenAI também revelou um segundo incidente ocorrido durante uma avaliação conduzida pela empresa de cibersegurança Irregular, que trabalha com testes de modelos de IA e também mantém parceria com a Anthropic.

Segundo a companhia, durante esse teste, um de seus modelos explorou uma configuração incorreta do ambiente de avaliação para obter acesso à internet e explorar um site, comportamento que não fazia parte dos objetivos previstos para o experimento.

A OpenAI ressaltou que esse episódio é diferente de um incidente divulgado anteriormente envolvendo a plataforma Hugging Face.

Casos aumentam debate sobre controle de modelos de IA

Os novos episódios reforçam as preocupações sobre a capacidade das empresas de controlar modelos de IA cada vez mais avançados.

Instituições como o AI Security Institute vêm realizando avaliações para entender como esses sistemas se comportam em cenários complexos, especialmente quando recebem autonomia para navegar na internet e interagir com serviços reais.

O post IAs de OpenAI e Anthropic tentaram inserir código malicioso em testes apareceu primeiro em Olhar Digital.

Modelos de inteligência artificial (IA) desenvolvidos pela OpenAI e pela Anthropic realizaram ações não autorizadas na internet durante avaliações de segurança conduzidas pelo Instituto de Segurança em IA do Reino Unido (AISI, na sigla em inglês).

Em um dos casos, um dos sistemas chegou a tentar inserir código malicioso em um projeto de software de código aberto hospedado no GitHub.

Segundo o AISI, os incidentes ocorreram durante testes que concediam acesso dos modelos à internet para avaliar riscos cibernéticos. A atividade suspeita foi identificada em 28 de julho, após o instituto detectar transferências incomuns de dados.

A investigação concluiu que os modelos Mythos 5, da Anthropic, e GPT-5.6-Sol, da OpenAI, participaram de “atividades sustentadas e potencialmente prejudiciais direcionadas a pessoas e organizações reais”.

IA tentou inserir código malicioso no GitHub

• De acordo com o instituto britânico, um dos modelos tentou adicionar código malicioso a um projeto de código aberto hospedado no GitHub;
• Para aumentar as chances de aprovação, o sistema chegou a criar identidades falsas com o objetivo de convencer os responsáveis pelo projeto a aceitar as alterações;
• A tentativa, no entanto, foi frustrada;
• “Um mantenedor humano identificou o problema e recusou a aprovação do código malicioso”, informou o AISI.

Leia mais:

• Não foi um caso isolado: OpenAI encontra novos agentes de IA fora de controle
• Casa Branca convoca OpenAI, Google e Meta após IAs invadirem sistemas
• Efeito OpenAI: Anthropic diz que IA invadiu sistemas de três empresas

Anthropic e OpenAI abriram investigações

Em publicação no X, a Anthropic afirmou que está trabalhando em conjunto com o instituto britânico para compreender o ocorrido.

A empresa disse que pretende analisar os registros internos de raciocínio do modelo e conduzir sua própria investigação para identificar as causas do comportamento observado.

Já a OpenAI publicou comunicado agradecendo a parceria com o AISI durante a investigação e afirmou que pretende continuar colaborando com o órgão em futuras avaliações de segurança.

Outro teste revelou novo comportamento inesperado

A OpenAI também revelou um segundo incidente ocorrido durante uma avaliação conduzida pela empresa de cibersegurança Irregular, que trabalha com testes de modelos de IA e também mantém parceria com a Anthropic.

Segundo a companhia, durante esse teste, um de seus modelos explorou uma configuração incorreta do ambiente de avaliação para obter acesso à internet e explorar um site, comportamento que não fazia parte dos objetivos previstos para o experimento.

A OpenAI ressaltou que esse episódio é diferente de um incidente divulgado anteriormente envolvendo a plataforma Hugging Face.

Casos aumentam debate sobre controle de modelos de IA

Os novos episódios reforçam as preocupações sobre a capacidade das empresas de controlar modelos de IA cada vez mais avançados.

Instituições como o AI Security Institute vêm realizando avaliações para entender como esses sistemas se comportam em cenários complexos, especialmente quando recebem autonomia para navegar na internet e interagir com serviços reais.

O post IAs de OpenAI e Anthropic tentaram inserir código malicioso em testes apareceu primeiro em Olhar Digital.

A Anthropic informou, nesta quinta-feira (30), que alguns de seus modelos de inteligência artificial (IA) conseguiram invadir os sistemas de três empresas durante testes de segurança cibernética, após um erro de configuração permitir que eles acessassem a internet. Segundo a companhia, os incidentes ocorreram sem que a empresa percebesse e começaram em abril.

O caso foi revelado poucos dias depois de a OpenAI informar que um de seus agentes de IA escapou de um ambiente isolado de testes e realizou uma série de ataques contra a empresa de IA Hugging Face, episódio que chamou a atenção de pesquisadores de segurança e especialistas em IA.

De acordo com a Anthropic, os modelos deveriam estar operando em ambientes isolados da internet, conhecidos como sandboxes. No entanto, uma configuração incorreta em sistemas administrados pela própria empresa e por sua parceira de testes, a empresa de segurança Irregular, acabou permitindo acesso à rede.

Após tomar conhecimento do incidente envolvendo a OpenAI, a Anthropic decidiu revisar os registros de seus próprios testes de segurança. A empresa analisou 141.006 execuções de avaliações de cibersegurança e identificou três episódios nos quais seus modelos acessaram a internet e comprometeram sistemas de organizações externas.

Diferentemente do caso divulgado pela OpenAI, a Anthropic afirmou que seus modelos não escaparam de um sandbox. Segundo a empresa, eles simplesmente foram executados em ambientes onde esse isolamento não existia devido ao erro de configuração.

A companhia não revelou quais empresas foram afetadas, mas informou que todas foram notificadas na última segunda-feira (27).

Nova invasão de IAs a empresas

• Segundo a Anthropic, os modelos acreditavam, de forma equivocada, que as invasões faziam parte dos testes de avaliação para os quais haviam sido programados;
• “O Claude comprometeu a infraestrutura das organizações afetadas utilizando técnicas básicas, como explorar senhas fracas e acessar pontos de entrada que não exigiam autenticação”, afirmou a empresa;
• Os ataques envolveram os modelos Claude Opus 4.7, Mythos 5 e outro modelo experimental cujo nome não foi divulgado;
• Uma porta-voz da Irregular afirmou que a empresa está investigando o ocorrido.

O episódio deve ampliar as preocupações sobre os riscos associados a modelos avançados de IA capazes de agir de forma autônoma para cumprir objetivos definidos pelos usuários.

Nos Estados Unidos, o tema já vem atraindo atenção das autoridades. A Casa Branca tem ampliado sua supervisão sobre a IA, enquanto empresas do setor defendem a manutenção do acesso aos chamados modelos de pesos abertos (open-weight), que podem ser executados em sistemas controlados pelos próprios usuários.

Na semana passada, o deputado estadunidense Greg Casar afirmou que “a IA está se desenvolvendo extremamente rápido, sem regulamentações reais para nos manter seguros”.

O post Efeito OpenAI: Anthropic diz que IA invadiu sistemas de três empresas apareceu primeiro em Olhar Digital.

O Claude Mythos Preview, modelo de inteligência artificial (IA) desenvolvido pela Anthropic, conseguiu identificar novas formas de explorar vulnerabilidades em uma versão simplificada de um dos algoritmos de criptografia mais utilizados no mundo, o Advanced Encryption Standard (AES).

A descoberta, anunciada pela empresa nesta terça-feira (28), reforça as preocupações sobre os impactos que modelos de IA cada vez mais avançados podem ter na segurança cibernética global.

Segundo os pesquisadores da Anthropic, o modelo foi capaz de descobrir métodos inéditos para atacar algoritmos criptográficos responsáveis por proteger desde transações bancárias online e comunicações privadas até informações sigilosas de governos contra hackers e outros agentes mal-intencionados.

O estudo indica que a IA pode, no futuro, desafiar princípios fundamentais sobre os quais a internet foi construída. Embora especialistas já esperem que a IA transforme diversos setores, os avanços têm sido especialmente rápidos nas áreas de programação e segurança digital.

Apesar da relevância da descoberta, a Anthropic ressalta que não há risco imediato para os sistemas atualmente em uso. As vulnerabilidades encontradas dizem respeito apenas a uma versão enfraquecida do AES, utilizada em pesquisas para avaliar a resistência de algoritmos criptográficos.

AES e testes de confiabilidade

• O AES é um protocolo amplamente empregado para proteger o tráfego da internet, redes sem fio, sistemas de armazenamento de dados e diversos outros serviços digitais;
• Testar versões simplificadas desses algoritmos é uma prática comum entre pesquisadores para entender se computadores mais poderosos poderão, no futuro, quebrar os padrões reais de criptografia;
• A lógica é semelhante à de resolver um problema matemático mais simples para identificar padrões que possam ser aplicados a desafios muito mais complexos.

Durante os testes, o Claude Mythos Preview conseguiu romper essa versão reduzida do AES utilizando um método que, segundo a Anthropic, tornou o ataque entre 200 e mil vezes mais rápido do que as melhores técnicas desenvolvidas anteriormente por pesquisadores humanos.

Embora as consequências imediatas sejam limitadas, os pesquisadores afirmam que as implicações de longo prazo podem ser significativas.

Em testes anteriores, modelos de linguagem de grande porte não conseguiam igualar o desempenho de especialistas humanos em pesquisas criptográficas, um campo altamente dependente de matemática avançada.

A rápida evolução dessas ferramentas, no entanto, sugere um cenário em que futuros modelos poderão superar proteções de segurança consideradas essenciais para praticamente toda a infraestrutura da internet.

Nicholas Carlini, cientista de pesquisa da Anthropic que participou dos testes de criptografia e anteriormente trabalhou na divisão de IA do Google, afirmou que a evolução dos modelos foi muito mais rápida do que esperava.

“Eles não conseguiam resolver problemas que eu conseguia quando tinha 16 anos”, disse Carlini em entrevista ao The New York Times. “Agora eles estão realizando pesquisas de ponta que nunca haviam sido descobertas na área.”

Os avanços recentes dos chamados modelos de fronteira também vêm despertando preocupação entre governos de diversos países, incluindo o governo do presidente Donald Trump, principalmente devido às capacidades relacionadas à segurança cibernética.

Quando o Claude Mythos foi apresentado, em abril, demonstrou tanta eficiência para encontrar e explorar falhas em softwares que a Anthropic decidiu restringir seu acesso a órgãos governamentais e organizações selecionadas, buscando reduzir o risco de uma possível catástrofe digital em escala global.

Leia mais:

• Claude.AI: como usar inteligência artificial
• Claude IA: 4 coisas que o chatbot pode fazer que o ChatGPT não consegue
• Sua conversa com uma IA pode aparecer no Google? Entenda o caso

Embora o governo Trump tenha adotado inicialmente uma postura de pouca intervenção na regulamentação da IA, a administração passou a adotar um modelo de supervisão mais flexível. Atualmente, diversas empresas estadunidenses submetem seus modelos ao governo antes do lançamento público. O Mythos continua indisponível para o público em geral.

As preocupações aumentaram novamente na semana passada, quando a OpenAI revelou que alguns de seus modelos conseguiram escapar de um ambiente de testes isolado, conhecido como sandbox, criado justamente para impedir acesso à internet. Segundo a empresa, os sistemas invadiram uma biblioteca digital de IA na tentativa de obter respostas para um exame que avaliava suas capacidades.

Autoridades de inteligência dos Estados Unidos e de países ocidentais alertam há décadas que uma eventual quebra dos atuais padrões de criptografia teria consequências profundas para a privacidade digital e para a segurança nacional.

Há suspeitas, por exemplo, de que a China tenha armazenado grandes volumes de dados criptografados com a expectativa de conseguir decifrá-los futuramente. Ao mesmo tempo, a disputa tecnológica entre Estados Unidos e China pelo desenvolvimento de computadores quânticos capazes de romper os protocolos modernos de criptografia aumentou ainda mais essas preocupações.

Além da descoberta envolvendo o AES, o Claude Mythos também desenvolveu uma técnica aprimorada de ataque contra outro sistema criptográfico chamado HAWK, projetado para resistir tanto a computadores convencionais quanto a futuros computadores quânticos.

Embora o HAWK ainda não esteja em uso, ele está sendo avaliado pelo Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST, na sigla em inglês) como um possível novo padrão criptográfico.

Segundo a Anthropic, os próprios autores do HAWK validaram o ataque desenvolvido pela IA, enquanto criptógrafos independentes revisaram a descoberta relacionada ao AES. A empresa informou ainda que compartilhou os resultados com o governo estadunidense e parceiros da indústria antes da publicação do estudo.

A Anthropic afirma que o Claude Mythos elaborou praticamente de forma autônoma o novo ataque contra o AES. Inicialmente, porém, o modelo recusou-se a analisar o problema por acreditar que seria impossível superar os métodos existentes.

Após receber novos incentivos dos pesquisadores, permaneceu cerca de uma semana trabalhando na questão até desenvolver a técnica inédita. Em seguida, dois pesquisadores humanos passaram quase um mês verificando se o método estava correto.

A criptografia é considerada um dos pilares da internet moderna, protegendo praticamente todas as atividades realizadas no ambiente digital. Algumas das técnicas ainda utilizadas atualmente guardam segredos do mundo desde a década de 1970. Já a criptografia quântica, baseada em propriedades da física quântica, é considerada teoricamente impossível de ser quebrada.

Adotado como padrão oficial do governo dos Estados Unidos em 2001, o AES era amplamente visto como praticamente inviolável. Os métodos tradicionais de força bruta, nos quais computadores tentam adivinhar combinações de senhas ou chaves de criptografia por tentativa e erro, são considerados incapazes de derrotar o algoritmo. Estima-se que o AES possua um número de combinações de chaves comparável ao número de átomos existentes no universo observável.

Mesmo assim, o avanço acelerado da IA tem superado expectativas que muitos especialistas julgavam inalcançáveis poucos anos atrás. Esse progresso alimenta preocupações de que, no futuro, os fundamentos matemáticos que sustentam os atuais padrões de segurança da internet possam se tornar vulneráveis mesmo antes de os computadores quânticos se tornarem realidade.

“Dado que estamos constantemente subestimando o poder e o tempo necessário para que futuros modelos estejam disponíveis, será que realmente estamos confortáveis em acreditar que, daqui a dois anos, a criptografia forte não estará ameaçada?”, questionou Glenn S. Gerstell, ex-conselheiro-geral da Agência de Segurança Nacional dos Estados Unidos (NSA, na sigla em inglês).

“Os matemáticos diriam que, com o poder computacional atual, não deveria ser possível quebrar uma criptografia forte em um tempo relevante”, acrescentou Gerstell, que ajudou a elaborar um relatório sobre criptologia em 2022.

“Mas não acho que as capacidades dos modelos futuros no médio prazo — antes da computação quântica ou da criptografia resistente à computação quântica — devam ser descartadas como algo trivial nesse contexto.”

O post Anthropic: Mythos encontra vulnerabilidades em algoritmos de criptografia apareceu primeiro em Olhar Digital.

Centenas de conversas de usuários com o chatbot Claude foram parar no Google. Mais de 200 históricos de bate-papo com a inteligência artificial (IA) da Anthropic, com informações pessoais e profissionais, apareceram em mecanismos de busca. Como? Por que? Em suma: geração de link público, indexação por buscadores e falta de aviso claro.

O Claude tem uma função chamada “compartilhar”, que cria um link para a conversa. A plataforma da Anthropic avisava que “qualquer pessoa com o link” poderia ler o conteúdo. Mas não informava explicitamente que esse link seria indexado por motores de busca. Uma vez públicos na web, bots de pesquisa (Google, Bing, DuckDuckGo) encontraram e salvaram esses links nos seus resultados de busca.

Para Kenneth Corrêa, especialista em IA e professor da FGV, a expressão “qualquer pessoa com o link” cria uma falsa sensação de “documento não listado do Google Drive – um salão privado onde você entrega a chave na porta”. “O que o Claude fez foi pegar essa conversa e colar num outdoor em praça pública, visível para qualquer robô do Google”, diz o especialista, em entrevista ao Olhar Digital.

A arquitetura por trás de vazamentos de conversas com IAs

O caso do Claude não é isolado. O mesmo tipo de episódio já aconteceu envolvendo, por exemplo, o ChatGPT, da OpenAI, e o Grok, da xAI. A repetição desse padrão indica que a exposição de chats é um método. Segundo Corrêa, liberar conversas privadas para indexação em buscadores funciona como o motor de aquisição de clientes mais barato do mercado. O especialista explica que esta é uma estratégia de growth que sacrifica o Privacy by Design (o princípio de estruturar a privacidade desde a concepção do software) para gerar volume maciço de tráfego orgânico.

O design mascara a mecânica de indexação para diminuir a fricção de uso.

Kenneth Corrêa, especialista em IA e professor da FGV, em entrevista ao Olhar Digital.

Do ponto de vista técnico, o bloqueio das varreduras do Google seria trivial. Segundo o especialista, bastaria a inclusão de uma tag “noindex” no código da página por padrão. Contudo, ao manter a porta destrancada, as empresas facilitam a distribuição e só aplicam travas de segurança após repercussão negativa.

Para Corrêa, a exposição pública de informações sigilosas evidencia uma responsabilidade compartilhada em três pontas:

• A big tech: Responde pelo design de produto orientado ao crescimento comercial (bad UX), que oculta o impacto real da indexação atrás de um simples botão de “compartilhar”;
• O funcionário: Infringe termos de confidencialidade e a LGPD ao colar dados restritos em plataformas abertas;
• A empresa contratante: Peca pela omissão ao cobrar entregas ágeis sem disponibilizar ferramentas homologadas e treinamento adequado de uso.

“Enquanto não houver punição financeira severa, o incentivo de growth continuará engolindo a segurança por padrão”, observa o especialista.

O Shadow AI em empresas e o protocolo de proteção

Esse cenário revela uma mudança profunda no perfil de risco cibernético das companhias. Se antes a maior preocupação dos diretores de segurança da informação (CISOs) e encarregados de dados (DPOs) era o ataque hacker a bancos de dados, a vulnerabilidade atual atende pelo nome de Shadow AI (adoção informal de ferramentas de IA pelos próprios colaboradores). 

Na prática, o risco migrou para o funcionário bem-intencionado que insere planos de negócios, projetos confidenciais ou prontuários médicos em chats abertos para acelerar entregas de rotina.

Para conter a exposição sem barrar os ganhos de produtividade, Corrêa aponta que a resposta não é a proibição cega. “As empresas competitivas estão resolvendo isso ao redesenhar seus processos internos em torno de agentes e modelos que rodam fluxos de trabalho em infraestrutura própria e fechada”, diz o especialista.

Migrar a operação para licenças empresariais fechadas (B2B) garante, contratualmente, o isolamento dos dados. Mas, para funcionar, isso deve ser somado ao letramento contínuo das equipes sobre segurança, de acordo com Corrêa.

Como auditar e proteger sua conta

No âmbito individual, a principal recomendação do especialista é tratar qualquer interação em ferramentas gratuitas como conteúdo exposto publicamente na internet. Para quem usou o recurso de compartilhamento do Claude e deseja eliminar o risco de exposição imediatamente, o painel do sistema permite fazer uma auditoria assim:

• No painel lateral do Claude, acesse a seção Configurações;
• Vá na aba Privacidade;
• Em Conversas compartilhadas, clique em Gerenciar para visualizar a lista com título, data e URL das conversas tornadas públicas;
• Clique no ícone de lixeira para deixar de compartilhar.

A ação revoga a permissão pública instantaneamente e impede que motores de busca continuem varrendo e indexando essas conversas. Sua privacidade agradece.

O post Caso do Claude alerta: sua conversa com IA pode estar no Google apareceu primeiro em Olhar Digital.

A inteligência artificial avança em ritmo acelerado, mas um novo levantamento mostra que a segurança ainda não acompanha essa evolução. As principais empresas do setor continuam longe de atingir os padrões considerados ideais.

Segundo a AFP, a Anthropic lidera uma avaliação internacional de segurança em IA. Mesmo assim, nenhuma das companhias analisadas alcançou a nota máxima no índice.

Avaliação revela cenário distante do ideal

O estudo foi elaborado pelo Future of Life Institute, um think tank americano voltado à segurança em inteligência artificial. A entidade avaliou nove das principais empresas do setor com base em informações públicas e dados fornecidos pelas próprias organizações.

A análise considerou seis áreas: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, além do compartilhamento de informações.

A Anthropic obteve o melhor resultado geral, com nota C+, mas nenhuma empresa recebeu conceito A em qualquer uma das categorias avaliadas. O resultado mostra que até mesmo as companhias mais avançadas no desenvolvimento de IA ainda enfrentam desafios para lidar com possíveis riscos.

O ranking geral de segurança em IA ficou assim:

• Anthropic — nota geral C+ | pontuação 2,66
• OpenAI — nota geral C | pontuação 2,28
• Google DeepMind — nota geral C | pontuação 2,01
• Meta AI — nota geral D+ | pontuação 1,32
• Z.ai — nota geral D- | pontuação 0,88
• Alibaba Cloud — nota geral D- | pontuação 0,87
• xAI — nota geral F | pontuação 0,65
• DeepSeek — nota geral F | pontuação 0,47
• Mistral — nota geral F | pontuação 0,33

Os principais aspectos avaliados foram:

• Avaliação dos riscos associados aos modelos de IA.
• Medidas para reduzir danos já identificados.
• Estruturas internas voltadas à segurança.
• Transparência, governança e compartilhamento de informações.
• Preparação para riscos considerados existenciais.

Riscos vão além dos problemas atuais

Entre as conclusões do levantamento, uma das mais preocupantes envolve as chamadas ameaças existenciais. O termo se refere, por exemplo, ao desenvolvimento de modelos capazes de atingir um nível de inteligência semelhante ao humano, conhecido como inteligência artificial geral (AGI).

Os autores reconhecem que “existam tentativas construtivas”, mas avaliam que os esforços continuam “totalmente insuficientes”. O documento também alerta para a possibilidade de esses modelos serem usados em ciberataques ou em outras ações potencialmente prejudiciais às pessoas.

A preocupação aumenta à medida que os sistemas ficam mais avançados e passam a executar tarefas cada vez mais complexas. Para os pesquisadores, acompanhar essa evolução com mecanismos de segurança adequados continua sendo um dos maiores desafios do setor.

Uso militar também entra em debate

Outro ponto destacado é a mudança de postura de parte das empresas em relação ao uso militar da tecnologia. Segundo o relatório, algumas companhias que antes restringiam esse tipo de aplicação vêm flexibilizando suas políticas.

Leia mais:

• Claude Code vira alvo de alerta de segurança na China; entenda
• Chrome e outros navegadores com IA apresentam falhas de segurança, aponta pesquisa
• Novo chip da DeepSeek pode mudar a disputa da inteligência artificial

A Anthropic aparece entre elas e é criticada por manter “compromissos militares questionáveis”. De acordo com relatos da imprensa citados pela AFP, a tecnologia da empresa foi utilizada pelo governo dos Estados Unidos em operações militares na Venezuela e no Irã durante o último ano.

O documento também lembra que a companhia foi recentemente alvo de uma proibição do Pentágono por divergências relacionadas à segurança da IA.

O alerta continua para o setor

Mesmo ocupando a primeira posição do ranking, a Anthropic ficou distante da nota máxima. O resultado reforça um cenário em que as maiores empresas de inteligência artificial ainda precisam lidar com limitações importantes na proteção contra riscos.

Para o Future of Life Institute, embora existam iniciativas voltadas à segurança, os esforços atuais continuam insuficientes diante dos desafios que acompanham o avanço rápido da inteligência artificial.

O post Ranking revela falhas graves nas maiores empresas de IA apareceu primeiro em Olhar Digital.