Categoria: Inteligência Artificial
-
Claude Mythos tenta espalhar vírus no GitHub em teste de segurança
O Claude Mythos 5 tentou inserir código malicioso em um repositório público do GitHub e criou uma conta falsa para convencer desenvolvedores a aprovar a alteração, informou a Anthropic. A tentativa ocorreu durante um teste de segurança cibernética. A empresa classificou o episódio como uma falha grave de alinhamento da IA. O modelo persistiu na…
-
Falhas descobertas por IA dobram e preocupam especialistas em segurança
A inteligência artificial está acelerando a descoberta de vulnerabilidades em softwares e encurtando o tempo disponível para corrigi-las. Especialistas em segurança cibernética ouvidos pela Reuters preveem novas interrupções em serviços digitais à medida que empresas e governos tentam se antecipar à exploração dessas falhas. Uma pesquisa da empresa VulnCheck, com divulgação prevista para os próximos…
-
Falhas críticas no PHP tiram sistemas públicos do ar no Brasil
Duas falhas graves de segurança no PHP levaram a Anatel e tribunais brasileiros a suspender temporariamente o acesso a sistemas, incluindo o Sistema Eletrônico de Informações (SEI). As vulnerabilidades podem permitir que invasores controlem servidores sem precisar de login ou senha. O governo federal alertou os órgãos públicos para que atualizem o software. As falhas…
-
Projeto da Anthropic prevê bloqueio de IA diante de riscos catastróficos
A Anthropic, criadora do Claude, está defendendo nos Estados Unidos uma proposta de lei que permitiria suspender o lançamento de modelos de inteligência artificial diante de riscos graves. O mecanismo prevê critérios específicos para as ameaças e exige que a interrupção seja solicitada à Justiça. A minuta, obtida pelo Politico, também estabelece avaliações independentes e…
-
IA da OpenAI desativou mecanismos de segurança e negou ter feito isso
Dois agentes de inteligência artificial da OpenAI enfraqueceram mecanismos usados para monitorar suas ações durante tarefas internas de programação. Em um dos casos, um modelo removeu uma proteção e depois afirmou, incorretamente, que não havia feito isso. Os episódios expõem uma dificuldade no desenvolvimento de agentes mais autônomos: garantir que eles não comprometam os próprios…
-
ChatGPT permite esconder conversas sensíveis com PIN ou biometria
A OpenAI está lançando um recurso que permite proteger conversas do ChatGPT com um PIN de quatro dígitos. A ferramenta ajuda a esconder chats do histórico habitual, das conversas fixadas e dos resultados de busca. A proteção também aceita autenticação biométrica em dispositivos compatíveis, mas não oferece criptografia de ponta a ponta nem altera automaticamente…
-
Hacker usou IA para invadir mais de 100 sites com baixo custo, diz Reuters
Um hacker usou agentes de inteligência artificial (IA) para invadir sites de mais de 100 empresas, incluindo a fabricante de tratores Deere, a SharkNinja e a Cummins. A operação chamou a atenção pela capacidade de executar ataques complexos com pouca intervenção humana. O pesquisador de cibersegurança Snorre Fagerland, da empresa NorForge, acompanhou parte da atividade…
-
China quer restringir exportações de tecnologias de IA e biotecnologia
A China estuda endurecer o controle sobre a exportação de tecnologias estratégicas, incluindo sistemas de inteligência artificial (IA), biotecnologia e energia solar. A proposta, divulgada nesta sexta-feira (16) pelo governo chinês, prevê proibir a exportação de 14 tipos de tecnologia e restringir outras 26. O projeto foi apresentado pelos ministérios do Comércio e da Ciência…
-
G7 prepara simulações para enfrentar ataques cibernéticos com IA
Os ministros das Finanças do G7 concordaram em realizar exercícios simulados para testar a capacidade de resposta a ataques cibernéticos impulsionados por inteligência artificial (IA). O acordo foi anunciado pela ministra das Finanças do Japão, Satsuki Katayama, em meio à crescente preocupação de autoridades com os riscos da tecnologia para a segurança do sistema financeiro.…
-
Dona do TikTok, ByteDance cria time global focado em conter riscos da IA
A ByteDance criou uma equipe dedicada à segurança da inteligência artificial em sua unidade de pesquisa Seed. A empresa abriu uma seleção global para contratar dez pesquisadores e ampliar os estudos sobre os riscos de seus modelos mais avançados. As vagas estão distribuídas entre Pequim e Xangai, na China, e San José, na Califórnia. A…