Categoria: chatbots
-
Práticas de segurança de gigantes da IA ficam aquém dos padrões globais, aponta relatório
Um novo relatório do Future of Life Institute (FLI) revela que empresas de Inteligência Artificial (IA) consideradas de ponta — como Anthropic, Meta, OpenAI e xAI — estão longe de atender às normas internacionais emergentes de segurança. A constatação, publicada nesta quarta-feira (3), acende um alerta sobre o rumo acelerado da IA sem salvaguardas robustas. Desenvolvimento acelerado vs. falta de controle…
-
Microsoft descobre falha em IA que pode expor temas de conversas criptografadas
A Microsoft revelou uma vulnerabilidade que pode comprometer a privacidade das conversas com assistentes de inteligência artificial, como ChatGPT e Google Gemini. A falha, batizada de “Whisper Leak”, foi descoberta em uma série de testes com modelos de linguagem de grande escala (LLMs) e pode permitir que terceiros identifiquem o tema das conversas, mesmo sem…
-
Character.ai bane chats com adolescentes após denúncias e processos
A plataforma Character.ai vai proibir adolescentes de interagirem com seus chatbots a partir de 25 de novembro. A medida vem após uma série de críticas e ações judiciais que apontam os riscos das conversas entre jovens e personagens virtuais criados com inteligência artificial (IA). A decisão representa uma mudança significativa para a empresa, que até…
-
O que significa a investigação contra chatbots de IA para proteger adolescentes?
A Comissão Federal de Comércio dos EUA (FTC) ordenou que sete empresas de IA — incluindo OpenAI, Meta (e Instagram), Snap, xAI, Alphabet/Google e Character.AI — entreguem informações detalhadas sobre como avaliam os riscos que seus chatbots representam para crianças e adolescentes. Mas o que isso significa? Investigação mira ganho de dinheiro em cima de…
-
Os jovens que tiraram a própria vida após conversas com o ChatGPT
Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail. O crescimento do uso de chatbots de inteligência artificial (IA)…
-
Chatbots de IA podem ser facilmente manipulados, revela estudo
Um novo estudo mostrou que chatbots de IA podem ser influenciados de maneira semelhante a pessoas em situações de persuasão. A pesquisa, publicada recentemente e destacada pela Bloomberg, indica que modelos de linguagem como o GPT da OpenAI podem ser induzidos a realizar ações que, em teoria, deveriam recusar, como insultar usuários ou até explicar…
-
Chatbots hackeados: IA está sob ameaça de uso criminoso, alertam pesquisadores
Modelos de linguagem com inteligência artificial, como ChatGPT, Gemini e Claude, estão na mira de pesquisadores por um risco crescente: a manipulação por “jailbreaks” — técnicas que burlam os mecanismos de segurança dos sistemas para forçá-los a fornecer informações ilícitas. Um novo relatório, liderado por especialistas da Universidade Ben Gurion de Negev, em Israel, revela…