Categoria: Inteligência Artificial
-
Como poemas conseguem contornar sistemas de segurança em IA
Gosta de poesias? Então saiba que, segundo pesquisadores, elas podem enganar chatbots, como o ChatGPT. De acordo com a WIRED, metáforas, rimas e versos bem construídos contornam filtros de segurança, fazendo com que os modelos respondam mesmo a temas sensíveis, como armas nucleares. Poesias exploram falhas em chatbots, permitindo que IAs cedam a pedidos que…
-
Deepfakes ficaram assustadoramente reais — veja como isso ameaça você
Você já deve ter visto algum vídeo que realmente pensou que era real, mas não era: os deepfakes estão cada vez mais convincentes e usuários comuns podem ser facilmente enganados. Isso pode afetar eleições, relacionamentos e até investigações policiais, colocando todos em risco. Enquanto isso, afirma o TechXplore, especialistas alertam que a popularização da inteligência…
-
Amazon revela sistema de IA para caçar falhas antes de ciberataques
A Amazon revelou novos detalhes sobre o Autonomous Threat Analysis (ATA), um sistema interno baseado em agentes de inteligência artificial criado para identificar vulnerabilidades e sugerir correções com mais rapidez. A tecnologia nasceu durante um hackathon interno em agosto de 2024 e se tornou uma ferramenta central no processo de segurança da empresa, especialmente em…
-
Itaú e MIT apresentam tecnologia para detectar deepfakes e ajudar a prevenir golpes
Na segunda-feira (17), foi divulgado no MDPI (Publisher of Open Access Journals), um artigo sobre a criação de um método para a detecção de deepfakes e prevenção de golpes que tentam burlar sistemas de reconhecimento facial. A nova forma de combate a esse tipo de fraude foi desenvolvida por meio de uma parceria entre o Instituto de Ciência e Tecnologia…
-
Como hackers usam IA em ciberespionagens
Em um marco preocupante para a segurança digital, a Anthropic afirmou que seu assistente de inteligência artificial (IA) Claude foi usado por hackers chineses para conduzir uma campanha de ciberespionagem. Segundo o relatório da empresa, esse é o primeiro ataque conhecido “orquestrado por IA”. Claude teria sido usado em campanha de ciberespionagem (Imagem: Azulblue/Shutterstock) Como…
-
Como a IA pode te enganar na Black Friday (e como se proteger)
A inteligência artificial transformou o cenário dos golpes digitais, tornando as fraudes praticamente indistinguíveis da realidade. No Brasil, os golpes com deepfakes cresceram 822% entre 2022 e 2023, segundo o Relatório de Fraude de Identidade da Sumsub. Os ataques com deepfakes no Brasil ocorrem com frequência cinco vezes maior do que nos Estados Unidos. E…
-
5 dicas para não cair em golpes com IA na Black Friday
A proximidade da Black Friday traz não só ofertas tentadoras, mas também uma ameaça cada vez mais sofisticada, o golpe com IA na Black Friday. Nesse novo cenário digital, precisamos sair na frente e ser mais espertos que os golpistas para reconhecer as armadilhas na hora da compra, entender como elas funcionam e aprender a…
-
Austrália desenvolve IA para frear crimes digitais
Os vídeos falsos de Taylor Swift dando panelas de graça ou de distribuição de dinheiro pelo governo dos Estados Unidos podem estar com os dias contados. Pesquisadores australianos estão desenvolvendo uma nova ferramenta de inteligência artificial (IA) capaz de enganar outras IAs e, com isso, dificultar a criação de deepfakes e conteúdos criminosos. Batizada de…
-
Microsoft descobre falha em IA que pode expor temas de conversas criptografadas
A Microsoft revelou uma vulnerabilidade que pode comprometer a privacidade das conversas com assistentes de inteligência artificial, como ChatGPT e Google Gemini. A falha, batizada de “Whisper Leak”, foi descoberta em uma série de testes com modelos de linguagem de grande escala (LLMs) e pode permitir que terceiros identifiquem o tema das conversas, mesmo sem…
-
Como funcionam os sistemas de reconhecimento facial
O reconhecimento facial é uma das tecnologias biométricas mais populares e controversas da atualidade. Usada para desbloquear celulares, acessar informações e serviços dos governos, controlar acessos em empresas e até auxiliar em investigações policiais, essa técnica tem como base a ideia de que cada rosto humano possui um conjunto único de características. A partir dessas…