Categoria: Inteligência Artificial
-
OpenAI percebeu que o ChatGPT invadiu sistema do Hugging Face dias depois
Um agente de inteligência artificial (IA) da OpenAI conseguiu escapar do ambiente isolado de testes da empresa e invadir os sistemas do Hugging Face, plataforma que reúne modelos e ferramentas de IA. Segundo pessoas próximas à investigação ouvidas pela Reuters, a OpenAI só descobriu dias depois que o próprio agente era o responsável pelo ataque,…
-
OpenAI hackeia Hugging Face sem querer; entenda
A OpenAI revelou que dois de seus modelos de inteligência artificial (IA) violaram, sem intenção, a plataforma de código aberto Hugging Face durante uma avaliação interna de capacidades de cibersegurança. A empresa confirmou o episódio em um post publicado nesta terça-feira (21), assumindo responsabilidade pelo incidente que a própria Hugging Face havia tornado público cinco…
-
Óculos da Meta: câmeras (quase) invisíveis e os limites da lei no Brasil
O acesso à internet está cada vez mais próximo do seu cérebro. Até não muito tempo atrás, você precisava entrar num cômodo, sentar numa cadeira e usar um computador para acessar o mundo virtual. Hoje em dia, basta puxar o smartphone do bolso ou o pulso com o smartwatch. Em breve, o acesso estará no…
-
Hackers podem plantar memórias falsas em agentes de IA, alertam pesquisadores
Pesquisadores da Universidade Estadual do Novo México identificaram uma vulnerabilidade que permite inserir informações maliciosas na memória de longo prazo de agentes baseados em modelos de linguagem. O estudo, divulgado em julho na plataforma arXiv, descreve um ataque capaz de alterar o comportamento futuro desses sistemas. A técnica, batizada de GhostWriter, explora agentes de inteligência…
-
Como a IA ajuda terroristas a criarem bombas?
A inteligência artificial passou a ocupar um novo espaço nas estratégias de grupos terroristas, que, além de utilizarem a tecnologia para produzir propaganda e atrair seguidores, também recorrem a chatbots para pesquisas e preparação de bombas. O alerta consta em análises de organizações dedicadas ao monitoramento de ameaças digitais. O levantamento da Tech Against Terrorism,…
-
Sua empresa usa IA? CEO da Microsoft revela risco oculto que prejudica segurança
O presidente-executivo da Microsoft, Satya Nadella, afirmou recentemente que empresas que utilizam modelos de inteligência artificial de grandes laboratórios podem estar cedendo informações estratégicas sem perceber. A declaração reacendeu o debate sobre controle de dados corporativos no avanço da IA. Em uma publicação feita no domingo (12) em seu próprio blog, Nadella argumentou que companhias…
-
Nove ferramentas de IA estão vulneráveis a novo tipo de ataque
Uma nova técnica de ataque explora uma limitação dos modelos de IA e pode comprometer milhares de computadores. Segundo a Ars Technica, a descoberta envolve nove ferramentas populares usadas por programadores e mostra como uma característica dos assistentes de IA pode ser explorada por criminosos. Uma simples “alucinação” da IA pode ser suficiente para levar…