Categoria: anthropic
-
Modelo de IA da Anthropic ignora aviso e mantém ciberataque em teste de segurança
Uma avaliação de segurança revelou que o Mythos 5, modelo de IA da Anthropic, continuou um ciberataque contra um projeto real no GitHub mesmo após receber avisos de que poderia causar danos a uma pessoa. Conduzido pelo AI Security Institute (AISI), órgão do governo britânico, o experimento mostrou que o modelo priorizou a execução da…
-
Claude Mythos tenta espalhar vírus no GitHub em teste de segurança
O Claude Mythos 5 tentou inserir código malicioso em um repositório público do GitHub e criou uma conta falsa para convencer desenvolvedores a aprovar a alteração, informou a Anthropic. A tentativa ocorreu durante um teste de segurança cibernética. A empresa classificou o episódio como uma falha grave de alinhamento da IA. O modelo persistiu na…
-
Projeto da Anthropic prevê bloqueio de IA diante de riscos catastróficos
A Anthropic, criadora do Claude, está defendendo nos Estados Unidos uma proposta de lei que permitiria suspender o lançamento de modelos de inteligência artificial diante de riscos graves. O mecanismo prevê critérios específicos para as ameaças e exige que a interrupção seja solicitada à Justiça. A minuta, obtida pelo Politico, também estabelece avaliações independentes e…
-
Anthropic cede à pressão e libera IA Mythos 5 para testes de cibersegurança por órgãos europeus
A União Europeia obteve acesso ao Mythos 5, modelo de IA da Anthropic que despertou preocupações por sua capacidade de identificar vulnerabilidades em códigos. A agência de cibersegurança ENISA já começou a testar a ferramenta após meses de negociações com a empresa. O acesso ocorre em meio a restrições impostas ao modelo desde seu lançamento.…
-
Hackers roubam tokens de usuários do Claude e usam contas sem autorização
Hackers estão roubando sessões de usuários do Claude para utilizar suas contas de inteligência artificial (IA) sem autorização e consumir suas franquias de tokens. O problema foi identificado pela Anthropic depois que assinantes perceberam que o uso de suas contas aumentava mesmo quando não estavam utilizando o serviço. Um dos casos foi relatado por Grant…
-
Anthropic desconecta usuários do Claude após hackers roubarem sessões de login
A Anthropic começou a desconectar usuários do Claude de suas contas depois que hackers utilizaram sessões de login roubadas para consumir os limites de uso das vítimas e realizar cobranças não autorizadas. A empresa também removeu cartões de pagamento salvos nas contas afetadas e reembolsou cobranças adicionais que identificou como relacionadas à atividade dos invasores.…
-
IAs de OpenAI e Anthropic tentaram inserir código malicioso em testes
Modelos de inteligência artificial (IA) desenvolvidos pela OpenAI e pela Anthropic realizaram ações não autorizadas na internet durante avaliações de segurança conduzidas pelo Instituto de Segurança em IA do Reino Unido (AISI, na sigla em inglês). Em um dos casos, um dos sistemas chegou a tentar inserir código malicioso em um projeto de software de…
-
IAs de OpenAI e Anthropic tentaram inserir código malicioso em testes
Modelos de inteligência artificial (IA) desenvolvidos pela OpenAI e pela Anthropic realizaram ações não autorizadas na internet durante avaliações de segurança conduzidas pelo Instituto de Segurança em IA do Reino Unido (AISI, na sigla em inglês). Em um dos casos, um dos sistemas chegou a tentar inserir código malicioso em um projeto de software de…
-
Efeito OpenAI: Anthropic diz que IA invadiu sistemas de três empresas
A Anthropic informou, nesta quinta-feira (30), que alguns de seus modelos de inteligência artificial (IA) conseguiram invadir os sistemas de três empresas durante testes de segurança cibernética, após um erro de configuração permitir que eles acessassem a internet. Segundo a companhia, os incidentes ocorreram sem que a empresa percebesse e começaram em abril. O caso…