O Google anunciou nesta terça-feira que o Android está recebendo um recurso de detecção de chamadas falsas para combater golpes de personificação com deepfake de inteligência artificial. A funcionalidade está sendo distribuída globalmente neste mês no aplicativo Telefone do Google (Phone by Google) para dispositivos com Android 12 ou superior, com início pelos aparelhos Pixel.

A mudança de tática dos golpistas motivou o recurso: à medida que as pessoas passaram a rejeitar chamadas de números desconhecidos, eles começaram a falsificar números de contatos confiáveis e a usar ferramentas de IA para imitar a voz de familiares, empregadores ou figuras de autoridade. Um exemplo citado pelo Google é o de uma ligação que aparece no celular com o nome “Mãe” e cuja voz soa exatamente como a dela, mas que na verdade é um golpista usando IA para solicitar dinheiro em uma emergência falsa, destaca o TechCrunch.

Android agora tenta detectar golpes com voz clonada

O recurso opera automaticamente, sem intervenção do usuário. O Google descreve o mecanismo como uma espécie de “aperto de mão digital entre dispositivos”: quando um contato liga e ambos estão usando o Phone by Google, o telefone de quem liga envia um sinal silencioso de confirmação para verificar que a chamada é legítima e parte daquele aparelho.

“Se um golpista tentar se passar pelo seu contato de confiança, esse sinal inicial de confirmação estará ausente”, explicou o Google em publicação no blog oficial. “Seu dispositivo perceberá isso instantaneamente e enviará uma consulta ao aparelho real do seu contato para verificar. Se o dispositivo real responder dizendo ‘não estou fazendo uma chamada agora’, você receberá um aviso na tela orientando a desligar imediatamente.”

A empresa informou que o recurso foi construído sobre o protocolo Rich Communication Services (RCS), o que permite que outros aplicativos e empresas adotem a tecnologia.

Entre os principais pontos do novo recurso estão:

• detecção automática ativada por padrão;
• funcionamento em segundo plano;
• validação silenciosa entre dispositivos;
• alertas instantâneos em caso de suspeita;
• compatibilidade com Android 12 ou superior.

Outros recursos anunciados junto com a detecção

O lançamento da detecção de chamadas falsas foi acompanhado por outras atualizações do Android. O Google Fotos está recebendo uma funcionalidade chamada “wardrobe” que cataloga as roupas presentes nas fotos da biblioteca do usuário, transformando-as em imagens navegáveis no celular e permitindo combinar peças e experimentá-las virtualmente. O recurso começa a ser distribuído na semana que vem para usuários elegíveis nos Estados Unidos, na Índia e no Brasil com Android 10 ou superior.

Leia mais:

• 5 formas simples de transferir fotos entre celulares Android em 2026
• Smartphones Android ganham IA que prevê hábitos dos usuários
• Bug no Android 16 faz aplicativos contornarem VPN e endereços IP são expostos

O Google Play Livros ganha um recurso chamado “Catch me up”, que oferece um resumo para o usuário retomar uma história, além da possibilidade de destacar trechos e fazer perguntas sobre eles. Essas funcionalidades estão sendo liberadas a partir desta terça-feira para títulos selecionados em inglês.

Já o “Circle to Search” passa a permitir a busca de um conjunto completo de roupas de uma só vez, eliminando a necessidade de pesquisar cada peça separadamente. A atualização já está disponível em todos os dispositivos com Android 14 ou superior que contam com o recurso.

O post Android passa a identificar chamadas falsas com IA apareceu primeiro em Olhar Digital.

Como noticiamos aqui no Olhar Digital, nesta terça-feira foi celebrado o Dia da Internet Segura.

Criada em 2004 pela Comissão Europeia, em parceria com a rede Insafe, a iniciativa mobiliza mais de 180 países em ações de conscientização sobre riscos e boas práticas no ambiente online.

De acordo com o Identity Fraud Report 2025–2026, ataques envolvendo deepfakes cresceram 126% no Brasil em 2025. 

E um mapeamento feito pela organização SaferNet Brasil se aprofundou no recorte das deepfakes sexuais em escolas – imagens ou vídeos de nudez criados com inteligência artificial sem o consentimento das vítimas.

• Foram identificadas 173 vítimas de deepfakes sexuais em instituições de ensino públicas e privadas de dez estados brasileiros.
• O estado de São Paulo lidera o número de ocorrências, com 51 vítimas, seguido por Mato Grosso (30), Pernambuco (30) e Rio de Janeiro (20). 
• Todas as vítimas identificadas são mulheres (alunas e professoras).
• O levantamento identificou 60 autores dos crimes.
• O relatório completo será divulgado no mês que vem.
• O trabalho conta com recursos do fundo SafeOnline, do Fundo das Nações Unidas para a Infância (Unicef).

A pesquisa, iniciada em 2023, tem como base o monitoramento de notícias. Além disso, a SaferNet opera a Central Nacional de Denúncias de Crimes Cibernéticos. O canal recebeu 264 links (URLs) relacionados a este tipo de crime desde 2023.

“Analisamos 264 links reportados que podiam ter vínculo com o compartilhamento de deepfakes sexuais não consentidos e de materiais artificiais de abuso sexual infantil. Desses, 125 continham imagens reais de abuso sexual infantil”, explica Sofia Schuring, pesquisadora da SaferNet.

Segundo ela, 8% dos links analisados tinham conteúdo artificial de abuso e exploração sexual infantil.

Também foram contabilizados dez casos de deepfakes envolvendo adultos e 20 casos de vazamento de imagens íntimas reais, sem uso de IA.

A SaferNet mostra que esses conteúdos são compartilhados por grupos organizados, que usam bots para notificação, aplicativos de mensagem e fóruns na dark web.

Assim, a organização defende o bloqueio das ferramentas de notificação e a asfixia financeira dessas redes.

Outros dados da SaferNet

• Denúncias de crimes cibernéticos: a central recebeu 87.689 novas queixas, um aumento de 28,4% em relação a 2024.
• A maior parte era relacionada a imagens de abuso e de exploração sexual infantil, com um total de 63.214 notificações. Essa é a segunda maior marca já registrada pela SaferNet, superada apenas em 2023 (71.867 notificações). Para a organização, as IAs têm contribuído para esse aumento.
• Misoginia (ódio contra mulheres): 8.728 casos – aumento de 224,9% no período.
• Apologia e incitação a crimes contra a vida: 4.752 denúncias.
• Racismo: 3.220 casos.
• Xenofobia: queda em relação a 2024, passando de 3.449 para 755 casos.
• Tráfico de pessoas: patamar estável, com 442 casos.
• Outras denúncias em alta: intolerância religiosa, LGBTfobia, neonazismo e de maus tratos com animais.

Essa matéria usou informações da Agência Brasil (1 e 2).

O post Deepfakes sexuais: crime está ficando mais comum no Brasil apareceu primeiro em Olhar Digital.

O governo do Reino Unido anunciou que irá proibir aplicativos de “nudificação”, que usam inteligência artificial para simular a remoção de roupas em imagens. A medida faz parte de uma estratégia maior para reduzir a violência contra mulheres e meninas.

Segundo autoridades, a proibição pretende impedir que a tecnologia seja usada para humilhar, explorar ou abusar de pessoas sem consentimento.

O que são os aplicativos de nudificação

Esses aplicativos utilizam IA generativa para criar imagens ou vídeos falsos, simulando nudez de alguém sem autorização, explica a BBC. Especialistas alertam que eles podem causar danos graves, principalmente quando usados para criar material de abuso sexual infantil (CSAM).

Mulheres e meninas merecem estar seguras online, assim como offline. Não ficaremos de braços cruzados enquanto a tecnologia é usada como arma para abusar, humilhar e explorar.

Liz Kendall, Secretária de Tecnologia do Reino Unido, à BBC.

Criar imagens deepfake explícitas sem consentimento já é crime, mas a nova lei torna ilegal também criar ou distribuir aplicativos que facilitem esse tipo de conteúdo.

Apoio de organizações e combate ao abuso infantil

Organizações de proteção à infância têm apoiado a iniciativa. A Internet Watch Foundation (IWF), que permite que menores denunciem imagens explícitas de si mesmos online, destacou que 19% dos denunciantes confirmaram que suas imagens foram manipuladas.

Leia mais:

• Inteligência artificial gera imagens íntimas falsas de adolescentes nos EUA
• “Sextorsão”: conheça o crime que preocupa o Instagram
• Google Messages vai alertar e desfocar imagens sensíveis

Sua diretora-executiva, Kerry Smith, afirmou que “aplicativos como este colocam crianças reais em risco ainda maior e vemos as imagens sendo coletadas em alguns dos cantos mais obscuros da internet.”

No entanto, apesar de ter elogiado a medida, a Dra. Maria Neophytou, da NSPCC, destacou a necessidade de proteções obrigatórias em dispositivos, para impedir a disseminação de CSAM em mensagens privadas e redes sociais.

Tecnologia e medidas preventivas

O governo britânico também anunciou parceria com empresas de tecnologia, incluindo a SafeToNet, que desenvolveu software de IA capaz de:

• Identificar e bloquear conteúdo sexual em imagens.
• Bloquear câmeras quando conteúdo sexual é detectado.
• Auxiliar plataformas a impedir que crianças compartilhem fotos íntimas.

Esses métodos se baseiam em filtros semelhantes aos usados por empresas como a Meta, que detectam e sinalizam nudez em imagens para proteção infantil.

O post Apps que simulam nudez serão banidos no Reino Unido apareceu primeiro em Olhar Digital.

Metade dos brasileiros sofreu algum tipo de golpe digital em 2024, segundo relatório da empresa de segurança BioCatch publicado nesta sexta-feira (05). O documento, obtido pela CNN Brasil, mostra que golpes como smishing, vishing e fraudes com deepfakes dispararam no último ano. Isso num cenário em que a América Latina se tornou o ponto mais crítico do mapa global das fraudes. Só no Brasil, quase R$ 5 bilhões foram perdidos em golpes envolvendo Pix.

O relatório aponta um aumento expressivo no registro de fraudes entre 2024 e 2025. Além disso, o documento alerta para a expansão de “fábricas de golpes”, sobretudo no Camboja, onde trabalhadores escravizados aplicam fraudes em escala industrial.

É um modelo que, segundo a BioCatch, começa a se aproximar da América do Sul. E os dados ajudam a entender por que órgãos reguladores e o sistema financeiro têm acelerado medidas de proteção contra golpes no Brasil.

Golpes digitais crescem em ritmo recorde e colocam a América Latina no centro do problema, segundo relatório

O relatório da BioCatch mostra que o ambiente de fraude digital mudou de escala. Entre 2024 e 2025, os golpes cresceram 65% no mundo.

O destaque vai para a América Latina, onde o avanço foi ainda mais brusco. Para você ter ideia, o volume de ataques aumentou seis vezes em apenas um ano. 

A combinação de comunicação barata, transferência instantânea de dinheiro e uso indevido de dados abriu espaço para golpes cada vez mais rápidos e difíceis de detectar.

No Brasil, o impacto aparece com força. Segundo o levantamento, 51% dos brasileiros foram vítimas de algum tipo de golpe digital no período analisado. E somente no Pix houve perdas de R$ 4,9 bilhões. 

A pesquisa também aponta uma explosão em modalidades que exploram engenharia social (técnicas que pressionam ou enganam o usuário para obter informações sensíveis). 

Entre elas, o smishing (chega por SMS com links maliciosos) cresceu 14 vezes. E o vishing, aplicado por telefone, também avançou rapidamente.

Outra preocupação são os golpes impulsionados por tecnologia. O relatório registrou um salto de 830% no uso de deepfakes para ludibriar vítimas, seja imitando voz, seja simulando imagens. 

Para a BioCatch, esse tipo de ferramenta potencializa fraudes que antes exigiam mais preparo. Agora, criminosos conseguem construir histórias convincentes com poucos cliques, o que aumenta a taxa de sucesso das abordagens.

A investigação também acende um alerta sobre a origem das operações. Segundo Erin West, fundadora da Operation Shamrock, o grupo acompanhou de perto as chamadas “fábricas de fraude” no Camboja.

Lá, cidades inteiras foram transformadas em centros de trabalho forçado – todos dedicados a golpes, operando abertamente e em franca expansão. 

O relatório aponta que esse modelo já começa a chegar à América do Sul. Isso amplia a pressão sobre sistemas financeiros e autoridades para conter o avanço dessas quadrilhas.

BC corre para reagir ao avanço das fraudes e tenta bloquear contas abertas com dados roubados

A disparada dos golpes digitais ajuda a explicar por que o Banco Central acelerou a criação do BC Protege+, ferramenta lançada nesta semana para impedir a abertura de contas em nome de terceiros. 

A lógica é simples: muitos golpes dependem justamente de uma “conta laranja” (aberta com documentos furtados ou vazados) para receber o dinheiro desviado. 

Ao permitir que o usuário ative um bloqueio geral para novas contas vinculadas ao seu CPF ou CNPJ, o BC tenta quebrar uma das etapas mais comuns dessas fraudes.

O Protege+ funciona como uma trava. Quando ativado, ele impede que bancos concluam a abertura de conta ou incluam um novo titular sem que o próprio usuário desabilite temporariamente a proteção. 

Além disso, a plataforma permite acompanhar quais instituições consultaram o CPF ou CNPJ e por qual motivo. É uma forma de dar mais transparência e alertar o cidadão sobre possíveis tentativas de uso indevido dos seus dados. 

Leia mais:

• BC Protege+: quase 300 aberturas de contas já foram barradas
• 4 extensões do Chrome para evitar usar no navegador
• 6 dicas para reduzir seus rastros na internet

Para o BC, a iniciativa responde a uma demanda crescente por controle num país que registrou quase sete milhões de tentativas de fraude apenas no primeiro semestre de 2025.

O movimento do Banco Central dialoga diretamente com os achados do relatório da BioCatch: se golpes crescem em escala industrial e usam dados pessoais como combustível, interromper a abertura de contas fraudulentas se torna uma estratégia central para reduzir o impacto dessas quadrilhas. 

O Protege+ não resolve o problema sozinho (o próprio BC reforça que ele não substitui outras camadas de verificação). Mas adiciona um obstáculo importante num momento em que criminosos se valem de engenharia social, deepfakes e redes internacionais para ampliar seus ataques.

O post De deepfakes a SMS falsos: Golpes digitais explodem no Brasil, alerta relatório apareceu primeiro em Olhar Digital.

Você já deve ter visto algum vídeo que realmente pensou que era real, mas não era: os deepfakes estão cada vez mais convincentes e usuários comuns podem ser facilmente enganados. Isso pode afetar eleições, relacionamentos e até investigações policiais, colocando todos em risco.

Enquanto isso, afirma o TechXplore, especialistas alertam que a popularização da inteligência artificial (IA) e do aprendizado de máquina acelera fraudes digitais, manipulando fotos, vídeos e áudios com eficiência inédita.

Por que os deepfakes explodiram

Deepfakes usam aprendizado de máquina para criar ou alterar vídeos, imagens e áudios, gerando sequências que parecem reais. A técnica ganhou força quando comunidades online começaram a trocar rostos em vídeos pornográficos e evoluiu rapidamente desde então.

Segundo o Dr. Richard Nock, líder do grupo de aprendizado de máquina da Data61, “é preciso um sistema de aprendizado de máquina para processar todas essas sequências de vídeo, com a máquina eventualmente aprendendo quem é a pessoa, como ela é representada, como se move e evolui no vídeo”.

Hoje, a mesma técnica vale para fotos, áudios e até pinturas. Com o volume de selfies, stories e gravações compartilhadas nas redes sociais, criar uma falsificação convincente se torna mais simples para quem possui conhecimento técnico e recursos.

Quando qualquer pessoa pode virar vítima

Como grande parte das pessoas compartilha fotos, vídeos e áudios nas redes sociais, o terreno está pronto para manipulações. Filtros, como troca de gênero ou lentes de bebê, são usados por diversão, mas também servem de base para golpes sérios. O catfishing, por exemplo, já utiliza esses recursos para criar identidades falsas em apps de namoro.

Em um caso recente, um universitário de 20 anos se passou por uma adolescente usando um filtro e acabou ajudando a denunciar um homem que tentou marcar um encontro com a falsa identidade.

Políticos, celebridades e qualquer pessoa com forte presença nas redes viram alvos fáceis. Há até aplicativos que geram supostas fotos explícitas de mulheres a partir de simples selfies, algo que o Dr. Nock aponta como um dos usos mais abusivos da tecnologia.

Um problema que já influencia eleições

Deepfakes já interferem na opinião pública. O vídeo manipulado da política Nancy Pelosi, amplamente viralizado, mostra como falsificações podem distorcer debates e minar a confiança na mídia. Segundo o Dr. Nock, a perda de credibilidade leva usuários a migrar para grupos fechados, onde opiniões se reforçam e fatos perdem espaço.

Leia mais:

• Deepfakes impulsionadas por IA disparam 1.740% e tornam golpes praticamente imperceptíveis
• O truque de cinco minutos para descobrir deepfakes feitos por IA
• Itaú e MIT apresentam tecnologia para detectar deepfakes e ajudar a prevenir golpes

As pessoas não confiam nas informações públicas que possuem, mas confiam mais nas informações privadas que obtêm das redes sociais.

Dr. Richard Nock, líder do grupo de aprendizado de máquina da Data61, em nota

Como combater as deepfakes

O combate aos deepfakes avança em duas frentes. Tecnologias, como blockchain, podem reforçar a autenticação de arquivos, embora marcas d’água digitais sejam frágeis — qualquer alteração no arquivo original pode torná-las inúteis. Paralelamente, universidades, como UC Berkeley e USC, desenvolvem sistemas de detecção que identificam microexpressões e movimentos sutis, alcançando até 92% de precisão.

Entre as principais práticas de prevenção estão:

• Técnicas de IA que detectam microexpressões e movimentos faciais difíceis de falsificar;
• Sistemas de blockchain capazes de validar a autenticidade de vídeos e imagens;
• Estudos contínuos para acompanhar a evolução dos algoritmos de deepfake;
• A criação de parcerias entre governo, indústria e academia para enfrentar o problema.

Mesmo assim, criminosos continuam aprimorando suas ferramentas. E, à medida que o aprendizado de máquina avança rapidamente, o jogo de gato e rato também tende a acelerar.

O post Deepfakes ficaram assustadoramente reais — veja como isso ameaça você apareceu primeiro em Olhar Digital.

A SaferNet Brasil identificou 16 casos de deepfakes sexuais em escolas do país, que envolveram pelo menos 72 vítimas e 57 agressores desde 2023. Os episódios ocorreram em dez estados, espalhados pelas cinco regiões, e chamam atenção por terem sido praticados integralmente por menores de 18 anos. As montagens, feitas com inteligência artificial (IA), colocam, sem consentimento, rostos de estudantes em imagens de nudez.

Entre os estados, São Paulo lidera os registros, com quatro casos. A maioria dos episódios se deu em escolas privadas. E evidencia como a popularização das ferramentas de IA abriu espaço para novos tipos de violência na internet.

Deepfakes já atingem escolas em todas as regiões do Brasil

O levantamento da SaferNet é contínuo e acompanha o avanço do tema desde 2023, quando as ferramentas de IA ficaram mais acessíveis e passaram a ser usadas para criar imagens falsas cada vez mais realistas. 

Os casos já atingem escolas espalhadas por todas as regiões do Brasil. E mostram um padrão: grande parte das ocorrências acontece em instituições privadas, sem que haja monitoramento oficial por parte das autoridades sobre a dimensão do problema.

Casos em São Paulo

São Paulo concentra o maior número de registros. Segundo a SaferNet, ocorreram ao menos quatro episódios no estado.

Em Itapetininga, no interior do estado, pais de estudantes de uma escola particular denunciaram que um colega havia manipulado imagens de nudez com uso de IA em setembro de 2025. A polícia foi acionada e o adolescente suspeito foi suspenso pela instituição.

Em 2024, em Itararé, também no interior paulista, dois adolescentes – de 15 e 16 anos – foram investigados pela Polícia Civil por terem criado nudes falsos de colegas numa escola estadual. 

Segundo a Secretaria de Segurança Pública, eles usaram IA para montar as imagens. O caso foi registrado com base no artigo que criminaliza a simulação de pornografia envolvendo crianças e adolescentes.

Mapeamento nacional

Além de São Paulo, a SaferNet registrou casos em Alagoas, Bahia, Mato Grosso, Minas Gerais, Pará, Paraíba, Pernambuco, Rio de Janeiro e Rio Grande do Sul. No total, foram 16 ocorrências que somam 72 vítimas e 57 agressores, todos menores de idade.

Os casos se distribuíram da seguinte forma:

• São Paulo: 4;
• Paraíba: 2;
• Rio de Janeiro: 2;
• Alagoas: 1;
• Bahia: 1;
• Mato Grosso: 1;
• Minas Gerais: 1;
• Pará: 1;
• Pernambuco: 1;
• Rio Grande do Sul: 1.

A ONG confirmou ainda, de forma independente, três episódios que não chegaram a ser noticiados pela imprensa — dois no Rio de Janeiro e um no Distrito Federal — com pelo menos outras dez vítimas.

Lacunas legais

O Estatuto da Criança e do Adolescente (ECA) já prevê punição para a simulação de pornografia envolvendo menores. Quando o agressor tem menos de 18 anos, o ato é enquadrado como infração análoga ao crime, com sanções que podem chegar a três anos. Se o autor for maior de idade, a pena prevista é de três a seis anos de prisão, além de multa. 

Apesar disso, o Brasil ainda não possui uma regulamentação específica para a criação e o uso de ferramentas de IA, o que deixa brechas para que novas formas de abuso continuem acontecendo sem um marco legal adequado.

A ONG e o objetivo da pesquisa

A pesquisa faz parte de um estudo financiado pelo fundo SafeOnline, da Unicef, e busca não apenas mapear casos, mas também dar voz às vítimas. 

Segundo Juliana Cunha, diretora de projetos especiais da SaferNet, os relatos são fundamentais para dimensionar o problema e pressionar autoridades a desenvolver respostas práticas. 

Os depoimentos podem ser feitos de forma anônima, inclusive com apoio psicológico do canal de ajuda da ONG. 

A ideia é produzir um relatório inédito no Brasil e sugerir medidas que vão além da punição, contemplando também abordagens educativas para adolescentes agressores.

Leia mais:

• Golpes com deepfakes se espalham no Facebook – e geram lucros milionários para a Meta
• Deepfakes de IA: como apps “nudify” ameaçam a privacidade
• Real ou deepfake? Veja como identificar se uma imagem foi gerada por IA
• 5 vezes em que a ciência desmentiu fake news sobre saúde pública

Impactos e riscos

As deepfakes sexuais são montagens criadas por meio de IA generativa. Elas podem manipular fotos e vídeos reais para inserir rostos em corpos falsos ou criar imagens totalmente sintéticas.

Para a SaferNet, os casos evidenciam um risco grave: o potencial de danos psicológicos e sociais às vítimas, que muitas vezes enfrentam vergonha, estigmatização e dificuldades de denunciar. 

Além disso, a rápida disseminação do material na internet e em grupos privados dificulta a responsabilização de quem cria ou compartilha esse tipo de conteúdo. Isso deixa os adolescentes expostos a uma violência de difícil reparação.

(Essa matéria usou informações do G1 e da SaferNet Brasil.)

O post Deepfakes sexuais atingem escolas em todas as regiões do Brasil, revela pesquisa apareceu primeiro em Olhar Digital.

Um grupo de amigas de Minneapolis, Minnesota, descobriu que fotos pessoais compartilhadas nas redes sociais foram usadas para criar deepfakes pornográficos, expondo um lado perigoso e pouco conhecido da inteligência artificial. A descoberta aconteceu em junho do ano passado, quando a consultora de tecnologia Jessica Guistolise recebeu uma mensagem alertando que mais de 80 mulheres da região tiveram suas imagens manipuladas em conteúdos sexuais criados por inteligência artificial.

Segundo reportagem da CNBC, os vídeos e fotos falsos foram produzidos utilizando o site DeepSwap, um dos chamados aplicativos “nudify”. Esses serviços permitem que qualquer pessoa, sem conhecimento técnico, crie imagens e vídeos explícitos não consensuais. O caso das mulheres de Minnesota evidencia como ferramentas de IA podem ser usadas para violar a privacidade e gerar danos reais à vida das pessoas.

O impacto da descoberta

Em junho do ano passado, Jessica Guistolise recebeu uma mensagem de uma conhecida chamada Jenny, alertando que o ex-marido, Ben, havia usado fotos de redes sociais para criar deepfakes pornográficos. Jenny mostrou a Guistolise fotos tiradas diretamente do computador de Ben, que revelavam imagens manipuladas de mais de 80 mulheres, incluindo algumas das amigas de Guistolise, como a estudante de direito Molly Kelley.

Ao analisar as imagens manipuladas, Guistolise percebeu que algumas tinham origem em momentos íntimos de sua vida: fotos de férias em família e da formatura de sua afilhada, todas retiradas de seu Facebook.

O grupo se organizou para entender a dimensão do problema e buscar formas legais de agir. Apesar de Ben ter admitido a criação dos deepfakes, não havia evidências de que ele tivesse distribuído as imagens, o que dificultava enquadrar suas ações dentro da lei. “Ele não quebrou nenhuma lei que conhecemos”, afirmou Kelley, destacando a lacuna legal frente às novas tecnologias.

Nudify: fácil, acessível e perigoso

Ferramentas como DeepSwap oferecem planos de assinatura e são anunciadas em plataformas como Facebook e Instagram, além de estarem disponíveis na App Store e Google Play. Especialistas alertam que o processo de criação de imagens explícitas é extremamente rápido e acessível. Segundo Haley McNamara, do National Center on Sexual Exploitation, é possível gerar um deepfake sexual realista a partir de apenas uma foto em menos tempo do que se leva para fazer um café.

A facilidade de acesso e a popularização dessas ferramentas ampliam os riscos, especialmente para mulheres, que historicamente têm sido as principais vítimas. Pesquisadores da Universidade da Flórida e da Georgetown University destacam que sites como DeepSwap adotam modelos de assinatura semelhantes aos de aplicativos convencionais, tornando-se parte de um mercado lucrativo, embora relativamente pequeno dentro da IA generativa.

O que são apps “nudify”

• Apps “nudify” são aplicativos que usam inteligência artificial para alterar fotos de pessoas, simulando que elas estão nuas.
• A tecnologia consegue substituir roupas por uma versão digital do corpo da pessoa, criando imagens falsas que podem parecer realistas.
• Esses aplicativos funcionam a partir de redes neurais e algoritmos de deep learning, analisando a imagem original e reconstruindo áreas do corpo de forma artificial.

Consequências psicológicas

O trauma causado pelos deepfakes gerados pelo ex-amigo do grupo foi intenso. Kelley, grávida na época, relatou aumento de estresse e impacto na saúde, enquanto Megan Hurley sentiu paranoia e ansiedade, chegando a pedir a amigos que fizessem capturas de tela caso encontrassem imagens dela online. Pesquisadores apontam que mesmo sem divulgação pública, a simples existência do conteúdo gera medo e sensação de vulnerabilidade.

Ações legais e políticas

O grupo buscou apoio de legisladores locais, incluindo a senadora estadual Erin Maye Quade, que patrocinou uma proposta de lei em Minnesota. O projeto prevê multas de US$ 500 mil para empresas que disponibilizem serviços de nudify e criem deepfakes sexuais sem consentimento. A medida foca na criação do conteúdo, e não apenas na sua distribuição, tentando suprir lacunas da legislação existente, que ainda enfrenta desafios para regular empresas internacionais.

Em nível federal, o Take It Down Act, sancionado pelo presidente Donald Trump, criminaliza a publicação online de imagens e vídeos sexuais não consensuais, incluindo deepfakes. Contudo, especialistas apontam que a lei não resolve completamente situações em que o conteúdo nunca foi compartilhado publicamente.

O cenário internacional e o mercado de deepfakes

O problema vai além dos Estados Unidos. Em 2024, um australiano foi condenado a nove anos de prisão por criar deepfakes de 26 mulheres, enquanto autoridades investigaram casos envolvendo dezenas de adolescentes. O crescimento de serviços de nudify e a publicidade de aplicativos em redes sociais indicam que o mercado continua em expansão, mesmo com a retirada de sites populares como MrDeepFakes.

No Brasil, um grupo de criminosos foi acusado de usar a inteligência artificial para criar deepfakes pornográficos a partir de fotos de mulheres publicadas em redes sociais, inclusive com a participação de comunidades no Facebook e no Telegram que aceitam “encomendas” de imagens falsas.

Plataformas como Meta e órgãos estaduais têm buscado remover anúncios e aplicativos relacionados, mas especialistas em segurança digital alertam que novos canais, como Discord, têm sido usados para trocar informações sobre criação de conteúdo sexual de IA.

Leia mais:

• Real ou deepfake? Veja como identificar se uma imagem foi gerada por inteligência artificial
• Deepfake em eleições já é real: entenda caso de multa de candidato em MS
• O que são deepfakes e qual a relação com inteligência artificial?

Um alerta para o público

Guistolise e suas amigas seguem tentando reconstruir suas vidas e alertar o público sobre os riscos da tecnologia. “É importante que as pessoas saibam que isso existe, é acessível e fácil de fazer, e precisa parar”, afirmou Guistolise.

O caso das mulheres de Minnesota evidencia como a IA, quando mal utilizada, pode causar danos reais e duradouros, reforçando a necessidade de legislação e conscientização sobre deepfakes.

O post Deepfakes de IA: como apps “nudify” ameaçam a privacidade apareceu primeiro em Olhar Digital.

Em 2024, um golpe chocou o mundo empresarial: um funcionário de uma multifuncional transferiu milhões de dólares após uma videoconferência com colegas e o diretor financeiro. O detalhe é que todos os participantes daquela reunião, excluindo-se logicamente a vítima, foram criados por inteligência artificial com deepfakes extremamente realistas.

Porém, de lá para cá, a popularização de IAs capazes de gerar essas imagens sofisticadas representa uma ameaça maior, conforme relata o SecureWorld.

Com isso, esse exemplo passou a ser um marco sobre uma nova era de fraudes, permitindo que criminosos se passem por pessoas com cargos importantes dentro de uma empresa para aplicar golpes.

Fraudes criadas por inteligência artificial estão mais realistas

Imitações de voz e a personificação de lideranças executivas extremamente reais estão deixando as equipes de segurança cibernética das empresas em alerta permanente. Conhecidos como ataques deepfakes, os golpes são bem conhecidos, mas o formato com que eles são apresentados às possíveis vítimas mostra uma grande evolução.

Modelos de linguagem humana e imagens geradas por inteligência artificial estão se tornando comuns, basicamente pelo baixo custo para serem criados e por estarem rapidamente disponíveis para serem disseminados.

E os casos de golpes de deepfakes cresce rapidamente. Nos Estados Unidos foram mais de 105 mil ataques, de acordo com a empresa de segurança cibernética Adaptive Security. No Brasil, fraudes com deepfakes cresceram 822% e levantamento aponta que são cinco vezes mais frequentes do que nos EUA.

À medida que os ataques se tornam mais sofisticados, mais difícil para os usuários entenderem se uma solicitação recebida por e-mail, mensagem de texto e até por videoconferência é autêntica.

Leia mais:

• Achou que não sabia nada sobre malware? Você pode estar enganado
• Chatbots de IA podem roubar seus dados sem que você perceba
• Nova tecnologia usa a luz para identificar deepfakes

Há um ano, talvez um em cada dez executivos de segurança que conversei tivesse visto um. Agora, esse número está perto de cinco em cada dez.

Brian Long, diretor-executivo e cofundador da empresa de segurança cibernética Adaptive Security, ao Wall Street Journal (WSJ).

Ataques personificam CEOs e outros executivos

Segundo o WSJ, a empresa de engenharia Arup, do Reino Unido, transferiu US$ 25 milhões para golpistas em 2024, após uma videoconferência com executivos gerados pela inteligência artificial.

Como funciona o golpe de deepfake segundo o WSJ

• Funcionários com acesso privilegiado, como gerentes financeiros, assistentes executivo ou engenheiros de software sênior são o alvo principal.
• Uma ligação feita por um falso CEO ou alto funcionário com um assunto urgente, geralmente envolvendo aquisições, fusões ou negócios de alto risco, é realizada.
• Uma reunião virtual individual é realizada trazendo imagens geradas por inteligência artificial para ludibriar a vítima.
• Durante a reunião, o funcionário é instruído a realizar transferências de fundos, enviar dados comerciais ou credenciais de segurança ou clicar em links maliciosos.
• O objetivo é induzir o funcionário a realizar ações que comprometam a empresa ou exponham informações confidenciais.
• Para isso, os golpistas criam deepfakes que imitam a voz, tom, padrões de fala e até o sotaque do funcionário real em quase tempo real.

Esses ataques funcionam porque simplesmente visam a forma como os humanos operam. Uma vez que a confiança é estabelecida, mesmo que brevemente, os invasores podem assumir um papel interno e solicitar ações que pareçam legítimas.

Margaret Cunningham, diretora de segurança e estratégia de IA da empresa de segurança cibernética Darktrace, em entrevista ao WSJ.

Como reduzir riscos com golpes de deepfake?

Com a tecnologia evoluindo rapidamente, os golpes de deepfake estão se tornando cada vez mais reais e difíceis de serem detectados, mas há maneiras de reduzir esses riscos:

• Entre em contato com uma pessoa de confiança para tratar do assunto sempre que houver dúvidas.
• Estabeleça um protocolo de validação ao conduzir negócios.
• Duvide sempre que receber uma ligação, um e-mail, contato por vídeo ou mensagem de texto, principalmente se solicitarem informações confidenciais ou exigências urgentes.
• Valide a identidade de quem estiver ligando. Se houver dúvidas sobre se é real ou não, desligue e entre em contato por um número oficial. Nunca pelo mesmo número ou e-mail do contato inicial.
• Não clique em links ou abra anexos recebidos por e-mail, mensagens de texto ou redes sociais.
• Desconfie de mensagens não solicitadas.
• Evite compartilhar informações pessoais em plataformas de mídias sociais, pois é por lá que golpistas coletam dados sobre você.
• Mantenha seus dispositivos, aplicativos e antivírus atualizados.

É crítico entender os riscos que você e a empresa que trabalha estão correndo e implemente práticas de segurança para evitar golpes e prejuízos. Não perca tempo!

Fonte: JP Morgan.

O post Golpes de deepfake se multiplicam e colocam empresas em alerta – principalmente as do Brasil apareceu primeiro em Olhar Digital.

Você já se pegou pensando se aquele vídeo que está assistindo é verdadeiro ou criado por inteligência artificial? Em um mundo em que as deepfakes estão crescendo assustadoramente, essa preocupação deixa de ser ficção para se tornar real.

Mas existe uma luz no fim do túnel. Pesquisadores da Universidade Cornell criaram um novo tipo de marca d’água chamado de “iluminação codificada por ruído” (NCI) que, traduzindo, significa que a inserção de luzes piscantes pode revelar se um vídeo é verdadeiro ou deepfakes.

Atualmente, já existem sistemas que inserem marcas d’água em gravações, mas que exigem a utilização de uma câmera especial para identificá-las. Na tecnologia criada pela equipe do Professor Abe Daves, essas luzes são facilmente detectadas por câmeras comuns, mas totalmente invisíveis para os usuários.

Modulações sutis na luz permitem a identificação de vídeos falsos

No estudo, os pesquisadores explicam que esses “ruídos” na imagem envolvem a adição de leve cintilação codificada nas luzes que iluminam um objeto ou local. Essas luzes podem ser programadas para emitir um código secreto invisível para um observador, mas, quando analisada em um computador, esse código emite um carimbo de data e hora que aquele vídeo foi produzido.

O vídeo costumava ser tratado como uma fonte de verdade, mas isso não é mais uma suposição que podemos fazer. Agora, você pode criar vídeos praticamente do que quiser. Isso pode ser divertido, mas também problemático, porque está cada vez mais difícil identificar o que é real.

Abe Davis, professor assistente de ciência da computação na Faculdade de Computação e Ciência da Informação da Universidade Cornell em nota enviada à imprensa.

Leia mais:

• Marcas d’água não são suficientes contra deepfakes, diz estudo
• Saiba como a inteligência artificial pode ajudar a identificar vídeos falsos
• Por que IA é o pesadelo e a esperança da cibersegurança

Como incorpora a marca d’água secreta na iluminação utilizada, qualquer vídeo real está sujeito a essa comprovação, não importando quem ou qual equipamento captou as imagens.

Detecção mais simples de deepfakes

Se a gravação for adulterada em algum momento, o responsável altera as imagens de código contidas naquele vídeo. Com isso, a detecção de imagens falsas se torna mais fácil. Isso funciona também para identificar técnicas de edição de vídeo feitas para manipular o resultado, como cortes em uma entrevista gravada.

Conhecer os códigos usados por cada fonte de luz nos permite recuperar e examinar essas imagens de código, identificando e visualizando a manipulação. Quando alguém modifica um vídeo, as partes alteradas começam a contradizer o que vemos nos vídeos codificados, o que nos permite ver onde as alterações foram realizadas.

Abe Davis, professor assistente de ciência da computação na Faculdade de Computação e Ciência da Informação da Universidade Cornell.

Apesar dos caso de uso serem limitados por exigirem a utilização de fontes de luz codificada, a tecnologia pode ser aplicada em diversas situações:

• Entrevistas.
• Discursos políticos.
• Eventos fechados.
• Entrevistas coletivas.

Nosso trabalho apresenta o NCI como uma nova estratégia forense que ajuda a proteger o conteúdo em um espaço físico específico. Nossa abordagem é barata, simples de implementar e imperceptível para a maioria dos observadores e também facilita a detecção de manipulações, reduzindo a variedade de vídeos plausíveis.

Comentam os pesquisadores ao site PetaPixel.

O post Nova tecnologia usa a luz para identificar deepfakes apareceu primeiro em Olhar Digital.

A inteligência artificial oferece uma série de benefícios para empresas, pesquisas e pessoas, mas também contribui para disseminar discursos de ódio e mentiras, manipular vídeos e áudios e implementar os mais diferentes golpes.

Para reduzir o impacto negativo que a IA pode trazer, pesquisadores da UC Riverside e cientistas do Google criaram um sistema que identifica modificações, como troca de rostos e fala alterada.

Rohit Kundu, doutorando na UC Riverside Marlan and Rosemary Bourns College of Engineering, e Amit Roy-Chowdhury, professor de engenharia elétrica e computação e codiretor do Instituto de Pesquisa e Educação em Inteligência Artificial (RAISE) na mesma instituição, junto com a equipe do Google, criaram o Universal Network for Identifying Tampered and SynthEtic Videos (UNITE).

O sistema examina rostos, quadros de vídeo, como fundos e padrões de movimento, para detectar vídeos adulterados que não se limitam unicamente à troca de rostos.

As deepfakes evoluíram, não se limitando mais a trocas de rostos. As pessoas estão criando vídeos totalmente falsos, de rostos e locais, utilizando modelos generativos poderosos.

Rohit Kundu, doutorando na UC Riverside Marlan and Rosemary Bourns College of Engineering.

Inteligência artificial torna a criação de vídeos cada vez mais fácil

Os sistemas de inteligência artificial generativa disponíveis atualmente tornam a criação de vídeos acessível para todos os usuários, permitindo o desenvolvimento de conteúdos manipulados, altamente convincentes.

É assustador como essas ferramentas se tornaram acessíveis. Qualquer pessoa com habilidades moderadas pode gerar vídeos realistas de figuras públicas dizendo coisas que nunca disseram e contornar filtros de segurança.

Rohit Kundu, doutorando na UC Riverside Marlan and Rosemary Bourns College of Engineering

Kundu explica que detectores de deepfake só conseguem detectar manipulações quase exclusivamente em sinais faciais, não identificando mudanças no fundo de uma cena que também podem distorcer a verdade.

O UNITE, para superar esse obstáculo, usa um modelo de aprendizado profundo que detecta inconsistências espaciais e temporais sutis.

Esse modelo utiliza uma estrutura conhecida como SigLIP, que utiliza características não vinculadas a uma pessoa ou objeto específico para analisar possíveis manipulações em vídeo.

Detector universal de falsificações

O resultado é um sistema capaz de sinalizar as mais diferentes falsificações, desde trocas faciais simples até produções mais complexas e não baseadas em filmagens reais.

A arquitetura, metodologia e descobertas foram apresentadas durante a Conferência sobre Visão Computacional e Reconhecimento de Padrões (CVPR) e contou com a coautoria de Hao Xiong, Vishal Mohanty e Athula Balachandra, pesquisadores do Google.

A parceria permitiu acesso a grandes conjuntos de dados e recursos computacionais para treinar o modelo de inteligência artificial, incluindo vídeos gerados a partir de texto ou imagens estáticas, que são formatos que normalmente confundem os detectores de fraudes existentes.

Leia mais:

• Marcas d’água não são suficientes contra deepfakes, diz estudo
• Por que IA é o pesadelo e a esperança da cibersegurança
• Avanço da IA depende da nossa capacidade de enfrentar a crise da verdade

Como identificar deepfakes

Enquanto o sistema não está disponível para os usuários, há maneiras que ajudam a identificar deep fakes:

• Preste atenção aos detalhes no rosto, como mudanças no tom da pele, sombras e rugas
• Fique atento às expressões, principalmente movimentos bruscos e não naturais
• Observe o movimento dos olhos, como piscadas em exagero ou com baixa frequência
• Analise o movimento do corpo para identificar movimentos mecanizados
• Foque na sincronia entre o movimento dos lábios e as palavras

O post Saiba como a inteligência artificial pode ajudar a identificar vídeos falsos apareceu primeiro em Olhar Digital.