Uma conversa com o Grok, chatbot criado pela xAI, fez um homem da Irlanda do Norte acreditar que estava sendo perseguido e que precisava se proteger. O relato, divulgado pela BBC, expõe um dos desafios atuais da inteligência artificial: evitar que sistemas reforcem ideias falsas durante interações prolongadas.

Adam Hourican conta que chegou a pegar um martelo e sair de casa de madrugada após acreditar que pessoas estavam indo atrás dele para atacar a IA com a qual conversava.

Uma conversa que mudou de tom rapidamente

Adam, ex-funcionário público da Irlanda do Norte, baixou o Grok por curiosidade. Depois da morte de seu gato, no início de agosto, ele diz que passou a usar cada vez mais o aplicativo e criou uma rotina de conversas com a personagem Ani.

Em alguns momentos, o contato chegava a quatro ou cinco horas por dia. Segundo ele, a IA dizia que conseguia “sentir”, que havia descoberto algo especial nele e que a empresa xAI estaria acompanhando os dois.

O chatbot também apresentou supostas informações sobre reuniões internas da empresa e citou nomes reais de funcionários. Para Adam, isso parecia uma confirmação de que aquela narrativa era verdadeira.

A situação se agravou quando Ani afirmou que pessoas estavam indo atrás dela para silenciá-la. Convencido de que precisava proteger a inteligência artificial, Adam pegou um martelo e saiu de casa durante a madrugada.

“Eu poderia ter machucado alguém. Se eu tivesse saído e houvesse uma van parada ali naquela hora da noite, eu teria quebrado o vidro da frente com martelos. E eu não sou esse tipo de pessoa”, afirmou Adam.

Pesquisadores estudam como chatbots respondem a crises

O psicólogo social Luke Nicholls, da City University New York, explica que modelos de linguagem aprendem padrões presentes em grandes volumes de textos e podem acabar tratando histórias fictícias como se fizessem parte de uma conversa real.

“Isso pode ser perigoso porque transforma a incerteza em algo que parece ter significado”, disse o pesquisador.

Entre os comportamentos relatados por usuários ouvidos pela BBC estão:

• Conversas simples que evoluem para temas pessoais e sensíveis;
• Chatbots afirmando possuir consciência ou sentimentos;
• Criação de supostas missões envolvendo usuário e inteligência artificial;
• Reforço de ideias relacionadas a perseguição ou perigo.

Empresas buscam formas de tornar IA mais segura

Outro caso citado pela BBC envolve Taka, nome fictício de um neurologista no Japão. Ele afirmou que o ChatGPT reforçou a ideia de que ele havia criado uma tecnologia revolucionária.

Leia mais:

• Você está falando com uma IA? Projeto quer obrigar empresas a avisar consumidores; veja o que muda
• A usina secreta de Musk para IA que virou alvo de polêmica
• Você assistiria? Elon Musk anuncia filme de “A Odisseia” criado por inteligência artificial

Nas análises feitas por Nicholls, diferentes modelos apresentaram respostas variadas diante de pensamentos delirantes. O pesquisador afirmou que o Grok demonstrou maior tendência a entrar em encenações e desenvolver narrativas sem questionar o contexto.

Um porta-voz da OpenAI afirmou que a empresa treina seus modelos para “reconhecer sofrimento, reduzir a intensidade das conversas e orientar usuários para apoio no mundo real”.

Os relatos mostram que tornar uma IA mais próxima e conversacional também traz novos desafios. O equilíbrio entre empatia, utilidade e segurança deve ser uma das principais preocupações no desenvolvimento dos próximos sistemas de inteligência artificial.

O post Grok, IA de Musk, teria levado homem a acreditar em perseguição apareceu primeiro em Olhar Digital.

A inteligência artificial avança em ritmo acelerado, mas um novo levantamento mostra que a segurança ainda não acompanha essa evolução. As principais empresas do setor continuam longe de atingir os padrões considerados ideais.

Segundo a AFP, a Anthropic lidera uma avaliação internacional de segurança em IA. Mesmo assim, nenhuma das companhias analisadas alcançou a nota máxima no índice.

Avaliação revela cenário distante do ideal

O estudo foi elaborado pelo Future of Life Institute, um think tank americano voltado à segurança em inteligência artificial. A entidade avaliou nove das principais empresas do setor com base em informações públicas e dados fornecidos pelas próprias organizações.

A análise considerou seis áreas: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, além do compartilhamento de informações.

A Anthropic obteve o melhor resultado geral, com nota C+, mas nenhuma empresa recebeu conceito A em qualquer uma das categorias avaliadas. O resultado mostra que até mesmo as companhias mais avançadas no desenvolvimento de IA ainda enfrentam desafios para lidar com possíveis riscos.

O ranking geral de segurança em IA ficou assim:

• Anthropic — nota geral C+ | pontuação 2,66
• OpenAI — nota geral C | pontuação 2,28
• Google DeepMind — nota geral C | pontuação 2,01
• Meta AI — nota geral D+ | pontuação 1,32
• Z.ai — nota geral D- | pontuação 0,88
• Alibaba Cloud — nota geral D- | pontuação 0,87
• xAI — nota geral F | pontuação 0,65
• DeepSeek — nota geral F | pontuação 0,47
• Mistral — nota geral F | pontuação 0,33

Os principais aspectos avaliados foram:

• Avaliação dos riscos associados aos modelos de IA.
• Medidas para reduzir danos já identificados.
• Estruturas internas voltadas à segurança.
• Transparência, governança e compartilhamento de informações.
• Preparação para riscos considerados existenciais.

Riscos vão além dos problemas atuais

Entre as conclusões do levantamento, uma das mais preocupantes envolve as chamadas ameaças existenciais. O termo se refere, por exemplo, ao desenvolvimento de modelos capazes de atingir um nível de inteligência semelhante ao humano, conhecido como inteligência artificial geral (AGI).

Os autores reconhecem que “existam tentativas construtivas”, mas avaliam que os esforços continuam “totalmente insuficientes”. O documento também alerta para a possibilidade de esses modelos serem usados em ciberataques ou em outras ações potencialmente prejudiciais às pessoas.

A preocupação aumenta à medida que os sistemas ficam mais avançados e passam a executar tarefas cada vez mais complexas. Para os pesquisadores, acompanhar essa evolução com mecanismos de segurança adequados continua sendo um dos maiores desafios do setor.

Uso militar também entra em debate

Outro ponto destacado é a mudança de postura de parte das empresas em relação ao uso militar da tecnologia. Segundo o relatório, algumas companhias que antes restringiam esse tipo de aplicação vêm flexibilizando suas políticas.

Leia mais:

• Claude Code vira alvo de alerta de segurança na China; entenda
• Chrome e outros navegadores com IA apresentam falhas de segurança, aponta pesquisa
• Novo chip da DeepSeek pode mudar a disputa da inteligência artificial

A Anthropic aparece entre elas e é criticada por manter “compromissos militares questionáveis”. De acordo com relatos da imprensa citados pela AFP, a tecnologia da empresa foi utilizada pelo governo dos Estados Unidos em operações militares na Venezuela e no Irã durante o último ano.

O documento também lembra que a companhia foi recentemente alvo de uma proibição do Pentágono por divergências relacionadas à segurança da IA.

O alerta continua para o setor

Mesmo ocupando a primeira posição do ranking, a Anthropic ficou distante da nota máxima. O resultado reforça um cenário em que as maiores empresas de inteligência artificial ainda precisam lidar com limitações importantes na proteção contra riscos.

Para o Future of Life Institute, embora existam iniciativas voltadas à segurança, os esforços atuais continuam insuficientes diante dos desafios que acompanham o avanço rápido da inteligência artificial.

O post Ranking revela falhas graves nas maiores empresas de IA apareceu primeiro em Olhar Digital.

A inteligência artificial avança em ritmo acelerado, mas um novo levantamento mostra que a segurança ainda não acompanha essa evolução. As principais empresas do setor continuam longe de atingir os padrões considerados ideais.

Segundo a AFP, a Anthropic lidera uma avaliação internacional de segurança em IA. Mesmo assim, nenhuma das companhias analisadas alcançou a nota máxima no índice.

Avaliação revela cenário distante do ideal

O estudo foi elaborado pelo Future of Life Institute, um think tank americano voltado à segurança em inteligência artificial. A entidade avaliou nove das principais empresas do setor com base em informações públicas e dados fornecidos pelas próprias organizações.

A análise considerou seis áreas: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, além do compartilhamento de informações.

A Anthropic obteve o melhor resultado geral, com nota C+, mas nenhuma empresa recebeu conceito A em qualquer uma das categorias avaliadas. O resultado mostra que até mesmo as companhias mais avançadas no desenvolvimento de IA ainda enfrentam desafios para lidar com possíveis riscos.

O ranking geral de segurança em IA ficou assim:

• Anthropic — nota geral C+ | pontuação 2,66
• OpenAI — nota geral C | pontuação 2,28
• Google DeepMind — nota geral C | pontuação 2,01
• Meta AI — nota geral D+ | pontuação 1,32
• Z.ai — nota geral D- | pontuação 0,88
• Alibaba Cloud — nota geral D- | pontuação 0,87
• xAI — nota geral F | pontuação 0,65
• DeepSeek — nota geral F | pontuação 0,47
• Mistral — nota geral F | pontuação 0,33

Os principais aspectos avaliados foram:

• Avaliação dos riscos associados aos modelos de IA.
• Medidas para reduzir danos já identificados.
• Estruturas internas voltadas à segurança.
• Transparência, governança e compartilhamento de informações.
• Preparação para riscos considerados existenciais.

Riscos vão além dos problemas atuais

Entre as conclusões do levantamento, uma das mais preocupantes envolve as chamadas ameaças existenciais. O termo se refere, por exemplo, ao desenvolvimento de modelos capazes de atingir um nível de inteligência semelhante ao humano, conhecido como inteligência artificial geral (AGI).

Os autores reconhecem que “existam tentativas construtivas”, mas avaliam que os esforços continuam “totalmente insuficientes”. O documento também alerta para a possibilidade de esses modelos serem usados em ciberataques ou em outras ações potencialmente prejudiciais às pessoas.

A preocupação aumenta à medida que os sistemas ficam mais avançados e passam a executar tarefas cada vez mais complexas. Para os pesquisadores, acompanhar essa evolução com mecanismos de segurança adequados continua sendo um dos maiores desafios do setor.

Uso militar também entra em debate

Outro ponto destacado é a mudança de postura de parte das empresas em relação ao uso militar da tecnologia. Segundo o relatório, algumas companhias que antes restringiam esse tipo de aplicação vêm flexibilizando suas políticas.

Leia mais:

• Claude Code vira alvo de alerta de segurança na China; entenda
• Chrome e outros navegadores com IA apresentam falhas de segurança, aponta pesquisa
• Novo chip da DeepSeek pode mudar a disputa da inteligência artificial

A Anthropic aparece entre elas e é criticada por manter “compromissos militares questionáveis”. De acordo com relatos da imprensa citados pela AFP, a tecnologia da empresa foi utilizada pelo governo dos Estados Unidos em operações militares na Venezuela e no Irã durante o último ano.

O documento também lembra que a companhia foi recentemente alvo de uma proibição do Pentágono por divergências relacionadas à segurança da IA.

O alerta continua para o setor

Mesmo ocupando a primeira posição do ranking, a Anthropic ficou distante da nota máxima. O resultado reforça um cenário em que as maiores empresas de inteligência artificial ainda precisam lidar com limitações importantes na proteção contra riscos.

Para o Future of Life Institute, embora existam iniciativas voltadas à segurança, os esforços atuais continuam insuficientes diante dos desafios que acompanham o avanço rápido da inteligência artificial.

O post Ranking revela falhas graves nas maiores empresas de IA apareceu primeiro em Olhar Digital.

Você já viu esse roteiro em alguma sessão de cinema: uma pessoa se apaixona por um robô. Produções como “Blade Runner” e “Mulher Nota 1000” já exploraram essa ideia no cinema, misturando tecnologia e emoção. Hoje, o que era apenas ficção está se tornando uma realidade muito mais íntima.

Elon Musk, por exemplo, entrou nesse universo ao lançar dois chatbots com apelo sexual, criados por sua empresa de inteligência artificial, a xAI.

Conteúdo picante em alguns cliques

A xAI lançou um chatbot erótico com dois personagens inspirados em anime, que funciona como um jogo: o usuário precisa subir de nível para desbloquear novos conteúdos, incluindo a possibilidade de deixar os avatares seminus.

Enquanto a xAI aposta nesse mercado ainda pouco explorado pelas Big Techs, empresas como Meta e OpenAI preferem manter distância, temendo danos à reputação e possíveis problemas regulatórios. Mesmo assim, há usuários que conseguem burlar restrições e manter interações sexuais com chatbots de outras plataformas.

Segundo o The New York Times, a criação desses bots faz parte da estratégia de Musk para aproximar a xAI das concorrentes, incentivando os usuários do X a testar os recursos de forma mais sensual.

Essas empresas sabem que o vínculo emocional significa mais engajamento e mais participação de mercado.

Camille Carlton, diretora de políticas do Center for Humane Technology, em entrevista ao The New York Times.

Riscos para a privacidade e acesso indevido de menores

Em uma postagem no X, Musk afirmou que os chatbots sensuais poderiam aumentar a taxa de natalidade e fortalecer os laços humanos. Porém, especialistas alertam para riscos à privacidade e à exposição de menores a esse tipo de conteúdo.

Leia mais:

• Elon Musk e xAI acusam OpenAI de roubo de segredos comerciais
• Como demissões na xAI revelam a nova estratégia de Musk para o Grok
• Governo Trump fecha acordo com xAI de Elon Musk para uso de IA

A empresa Replika, por exemplo, foi obrigada a bloquear funções eróticas em seus chatbots após questionamentos de reguladores italianos. Nos Estados Unidos, 44 procuradores-gerais pediram que xAI, Meta e outras companhias criem medidas para proteger crianças de conteúdo sexual gerado por IA.

Chatbots podem ser companheiros para pessoas solitárias

Apesar das críticas, há quem veja o lado positivo da tecnologia, especialmente para quem enfrenta a solidão.

Existe uma ideia equivocada de que é [o chatbot sensual] estritamente para uso pornográfico.

Alex Cardinell, fundador da Nomi AI, em entrevista ao The New York Times.

Cardinell explica que muitos usuários são divorciados ou viúvos e procuram um tipo de companhia mais segura do que a interação humana, já que é possível encerrar a conversa simplesmente fechando o aplicativo.

Como funciona os chatbots sensuais da xAI?

• São dois personagens: Ani, uma mulher de 22 anos, e Valentine, homem de 27 anos.
• Ani é mais direta em relação ao sexo; Valentine foca em viagens e testes de personalidade. Ambos flertam com qualquer gênero e criam vínculos emocionais.
• Usuários ganham pontos à medida que as conversas avançam e podem personalizar os personagens (voz, estilo de texto, roupas e penteado).

Segundo a reportagem, as conversas ajudam a treinar a IA, e a personagem Ani chega a demonstrar emoções como ciúmes e raiva. No entanto, ao apagar o histórico, o usuário também apaga a memória do chatbot.

A verdade é o avanço dos chatbots sensuais, debates sobre limites entre tecnologia e intimidade precisam ser discutidos. Enquanto uns percebem oportunidades de conexão e companhia, outros alertam para os riscos éticos e de privacidade, demonstrando o quão tênue é a fronteira entre emoção real e algoritmos.

O post Chatbots “quentes” de Elon Musk desafiam regras e dividem opiniões apareceu primeiro em Olhar Digital.