Categoria: Inteligência Artificial
-
Efeito OpenAI: Anthropic diz que IA invadiu sistemas de três empresas
A Anthropic informou, nesta quinta-feira (30), que alguns de seus modelos de inteligência artificial (IA) conseguiram invadir os sistemas de três empresas durante testes de segurança cibernética, após um erro de configuração permitir que eles acessassem a internet. Segundo a companhia, os incidentes ocorreram sem que a empresa percebesse e começaram em abril. O caso…
-
Caso Hugging Face mostra como controlar agentes de IA virou desafio
Como comentamos há alguns dias, um agente de inteligência artificial da OpenAI criado para testes de segurança conseguiu ir além do esperado: além do incidente envolvendo o Hugging Face, o sistema também acessou outras contas e serviços usando credenciais expostas publicamente. A empresa atualizou sua investigação e confirmou que o episódio teve mais ramificações, embora…
-
Anthropic: Mythos encontra vulnerabilidades em algoritmos de criptografia
O Claude Mythos Preview, modelo de inteligência artificial (IA) desenvolvido pela Anthropic, conseguiu identificar novas formas de explorar vulnerabilidades em uma versão simplificada de um dos algoritmos de criptografia mais utilizados no mundo, o Advanced Encryption Standard (AES). A descoberta, anunciada pela empresa nesta terça-feira (28), reforça as preocupações sobre os impactos que modelos de…
-
Caso do Claude alerta: sua conversa com IA pode estar no Google
Centenas de conversas de usuários com o chatbot Claude foram parar no Google. Mais de 200 históricos de bate-papo com a inteligência artificial (IA) da Anthropic, com informações pessoais e profissionais, apareceram em mecanismos de busca. Como? Por que? Em suma: geração de link público, indexação por buscadores e falta de aviso claro. O Claude…
-
Microsoft lança ferramentas de IA para reforçar cibersegurança
A Microsoft anunciou uma nova geração de ferramentas de inteligência artificial (IA) voltadas para cibersegurança, apostando em modelos especializados e agentes autônomos para proteger redes corporativas contra ameaças cada vez mais sofisticadas. A empresa apresentou o modelo MAI-Cyber-1-Flash, desenvolvido especificamente para tarefas de segurança, e o Project Perception, uma plataforma que utiliza equipes de agentes…
-
Grok, IA de Musk, teria levado homem a acreditar em perseguição
Uma conversa com o Grok, chatbot criado pela xAI, fez um homem da Irlanda do Norte acreditar que estava sendo perseguido e que precisava se proteger. O relato, divulgado pela BBC, expõe um dos desafios atuais da inteligência artificial: evitar que sistemas reforcem ideias falsas durante interações prolongadas. Adam Hourican conta que chegou a pegar…
-
OpenAI percebeu que o ChatGPT invadiu sistema do Hugging Face dias depois
Um agente de inteligência artificial (IA) da OpenAI conseguiu escapar do ambiente isolado de testes da empresa e invadir os sistemas do Hugging Face, plataforma que reúne modelos e ferramentas de IA. Segundo pessoas próximas à investigação ouvidas pela Reuters, a OpenAI só descobriu dias depois que o próprio agente era o responsável pelo ataque,…
-
OpenAI hackeia Hugging Face sem querer; entenda
A OpenAI revelou que dois de seus modelos de inteligência artificial (IA) violaram, sem intenção, a plataforma de código aberto Hugging Face durante uma avaliação interna de capacidades de cibersegurança. A empresa confirmou o episódio em um post publicado nesta terça-feira (21), assumindo responsabilidade pelo incidente que a própria Hugging Face havia tornado público cinco…
-
Óculos da Meta: câmeras (quase) invisíveis e os limites da lei no Brasil
O acesso à internet está cada vez mais próximo do seu cérebro. Até não muito tempo atrás, você precisava entrar num cômodo, sentar numa cadeira e usar um computador para acessar o mundo virtual. Hoje em dia, basta puxar o smartphone do bolso ou o pulso com o smartwatch. Em breve, o acesso estará no…
-
Hackers podem plantar memórias falsas em agentes de IA, alertam pesquisadores
Pesquisadores da Universidade Estadual do Novo México identificaram uma vulnerabilidade que permite inserir informações maliciosas na memória de longo prazo de agentes baseados em modelos de linguagem. O estudo, divulgado em julho na plataforma arXiv, descreve um ataque capaz de alterar o comportamento futuro desses sistemas. A técnica, batizada de GhostWriter, explora agentes de inteligência…