Na segunda-feira (17), foi divulgado no MDPI (Publisher of Open Access Journals), um artigo sobre a criação de um método para a detecção de deepfakes e prevenção de golpes que tentam burlar sistemas de reconhecimento facial. A nova forma de combate a esse tipo de fraude foi desenvolvida por meio de uma parceria entre o Instituto de Ciência e Tecnologia Itaú (ICTi) e o Massachusetts Institute of Technology Computer Science and AI Lab (MIT CSAIL).

A nova tecnologia traz uma combinação de vários modelos voltados à detecção de fraudes, com foco principal em aplicações financeiras, transações bancárias e verificação facial para acesso a contas. 

Leia mais:

• Bank of America afirma que IA tem gerado maior produtividade e receita para banqueiros
• Banco Central alerta: criminosos dominam a dinâmica do sistema financeiro nacional
• Bets e ‘contas laranja’: veja as novas regras da Febraban contra fraudes

A tecnologia de IA vem sendo usada para vários golpes

O novo método se vê necessário devido à crescente utilização da tecnologia de IA por parte dos criminosos, pois eles estão conseguindo burlar sistemas computacionais, inclusive os de bancos para aplicar golpes.

Para isso, os golpistas utilizam fotos e até mesmo vídeos gerados por IA com o objetivo de fraudar a abertura de contas e outros tipos de operações financeiras. Muitas vezes, eles conseguem até usar os deepfakes para se passarem por clientes reais.

De acordo com os pesquisadores do ICTi e o MIT CSAIL, o novo modelo se mostra eficaz para ser utilizado como um meio de defesa contra a utilização de IA na tentativa de enganar os sistemas bancários. 

Funcionamento do método

O novo método tecnológico conta com quatro detectores que conseguem identificar diversos tipos de deepfake, como os que são criados por meio da utilização de IA. Dessa forma, ele trabalha como um comitê de especialistas, no qual cada um identifica uma forma de falsificação.

No final, os resultados são cruzados e a ferramenta chega a uma conclusão sobre se o item analisado é deepfake. Por meio desse método, o banco ganha camadas extras de verificação contra golpes. 

Conforme os testes realizados pelos pesquisadores, o método se mostra eficaz. Além disso, ele tem capacidade para se adaptar a novos tipos de ataques que forem surgindo.

O post Itaú e MIT apresentam tecnologia para detectar deepfakes e ajudar a prevenir golpes apareceu primeiro em Olhar Digital.

Um grupo de amigas de Minneapolis, Minnesota, descobriu que fotos pessoais compartilhadas nas redes sociais foram usadas para criar deepfakes pornográficos, expondo um lado perigoso e pouco conhecido da inteligência artificial. A descoberta aconteceu em junho do ano passado, quando a consultora de tecnologia Jessica Guistolise recebeu uma mensagem alertando que mais de 80 mulheres da região tiveram suas imagens manipuladas em conteúdos sexuais criados por inteligência artificial.

Segundo reportagem da CNBC, os vídeos e fotos falsos foram produzidos utilizando o site DeepSwap, um dos chamados aplicativos “nudify”. Esses serviços permitem que qualquer pessoa, sem conhecimento técnico, crie imagens e vídeos explícitos não consensuais. O caso das mulheres de Minnesota evidencia como ferramentas de IA podem ser usadas para violar a privacidade e gerar danos reais à vida das pessoas.

O impacto da descoberta

Em junho do ano passado, Jessica Guistolise recebeu uma mensagem de uma conhecida chamada Jenny, alertando que o ex-marido, Ben, havia usado fotos de redes sociais para criar deepfakes pornográficos. Jenny mostrou a Guistolise fotos tiradas diretamente do computador de Ben, que revelavam imagens manipuladas de mais de 80 mulheres, incluindo algumas das amigas de Guistolise, como a estudante de direito Molly Kelley.

Ao analisar as imagens manipuladas, Guistolise percebeu que algumas tinham origem em momentos íntimos de sua vida: fotos de férias em família e da formatura de sua afilhada, todas retiradas de seu Facebook.

O grupo se organizou para entender a dimensão do problema e buscar formas legais de agir. Apesar de Ben ter admitido a criação dos deepfakes, não havia evidências de que ele tivesse distribuído as imagens, o que dificultava enquadrar suas ações dentro da lei. “Ele não quebrou nenhuma lei que conhecemos”, afirmou Kelley, destacando a lacuna legal frente às novas tecnologias.

Nudify: fácil, acessível e perigoso

Ferramentas como DeepSwap oferecem planos de assinatura e são anunciadas em plataformas como Facebook e Instagram, além de estarem disponíveis na App Store e Google Play. Especialistas alertam que o processo de criação de imagens explícitas é extremamente rápido e acessível. Segundo Haley McNamara, do National Center on Sexual Exploitation, é possível gerar um deepfake sexual realista a partir de apenas uma foto em menos tempo do que se leva para fazer um café.

A facilidade de acesso e a popularização dessas ferramentas ampliam os riscos, especialmente para mulheres, que historicamente têm sido as principais vítimas. Pesquisadores da Universidade da Flórida e da Georgetown University destacam que sites como DeepSwap adotam modelos de assinatura semelhantes aos de aplicativos convencionais, tornando-se parte de um mercado lucrativo, embora relativamente pequeno dentro da IA generativa.

O que são apps “nudify”

• Apps “nudify” são aplicativos que usam inteligência artificial para alterar fotos de pessoas, simulando que elas estão nuas.
• A tecnologia consegue substituir roupas por uma versão digital do corpo da pessoa, criando imagens falsas que podem parecer realistas.
• Esses aplicativos funcionam a partir de redes neurais e algoritmos de deep learning, analisando a imagem original e reconstruindo áreas do corpo de forma artificial.

Consequências psicológicas

O trauma causado pelos deepfakes gerados pelo ex-amigo do grupo foi intenso. Kelley, grávida na época, relatou aumento de estresse e impacto na saúde, enquanto Megan Hurley sentiu paranoia e ansiedade, chegando a pedir a amigos que fizessem capturas de tela caso encontrassem imagens dela online. Pesquisadores apontam que mesmo sem divulgação pública, a simples existência do conteúdo gera medo e sensação de vulnerabilidade.

Ações legais e políticas

O grupo buscou apoio de legisladores locais, incluindo a senadora estadual Erin Maye Quade, que patrocinou uma proposta de lei em Minnesota. O projeto prevê multas de US$ 500 mil para empresas que disponibilizem serviços de nudify e criem deepfakes sexuais sem consentimento. A medida foca na criação do conteúdo, e não apenas na sua distribuição, tentando suprir lacunas da legislação existente, que ainda enfrenta desafios para regular empresas internacionais.

Em nível federal, o Take It Down Act, sancionado pelo presidente Donald Trump, criminaliza a publicação online de imagens e vídeos sexuais não consensuais, incluindo deepfakes. Contudo, especialistas apontam que a lei não resolve completamente situações em que o conteúdo nunca foi compartilhado publicamente.

O cenário internacional e o mercado de deepfakes

O problema vai além dos Estados Unidos. Em 2024, um australiano foi condenado a nove anos de prisão por criar deepfakes de 26 mulheres, enquanto autoridades investigaram casos envolvendo dezenas de adolescentes. O crescimento de serviços de nudify e a publicidade de aplicativos em redes sociais indicam que o mercado continua em expansão, mesmo com a retirada de sites populares como MrDeepFakes.

No Brasil, um grupo de criminosos foi acusado de usar a inteligência artificial para criar deepfakes pornográficos a partir de fotos de mulheres publicadas em redes sociais, inclusive com a participação de comunidades no Facebook e no Telegram que aceitam “encomendas” de imagens falsas.

Plataformas como Meta e órgãos estaduais têm buscado remover anúncios e aplicativos relacionados, mas especialistas em segurança digital alertam que novos canais, como Discord, têm sido usados para trocar informações sobre criação de conteúdo sexual de IA.

Leia mais:

• Real ou deepfake? Veja como identificar se uma imagem foi gerada por inteligência artificial
• Deepfake em eleições já é real: entenda caso de multa de candidato em MS
• O que são deepfakes e qual a relação com inteligência artificial?

Um alerta para o público

Guistolise e suas amigas seguem tentando reconstruir suas vidas e alertar o público sobre os riscos da tecnologia. “É importante que as pessoas saibam que isso existe, é acessível e fácil de fazer, e precisa parar”, afirmou Guistolise.

O caso das mulheres de Minnesota evidencia como a IA, quando mal utilizada, pode causar danos reais e duradouros, reforçando a necessidade de legislação e conscientização sobre deepfakes.

O post Deepfakes de IA: como apps “nudify” ameaçam a privacidade apareceu primeiro em Olhar Digital.

As chamadas deepfakes são vídeos, áudios ou imagens extremamente realistas, mas que, na verdade são falsos. Elas ganharam força a partir dos recentes avanços tecnológicos, trazendo uma série de novos riscos.

Por conta disso, pesquisadores do mundo todo buscam formas de rotular estes conteúdos, uma tarefa nada fácil. Segundo uma pesquisa do Instituto de Segurança Cibernética e Privacidade da Universidade de Waterloo, no Canadá, o uso de marcas d’água, por exemplo, pode não ser suficiente.

Ferramenta pode eliminar marcadores

A ideia é usar o marcador para deixar claro que aquele conteúdo foi gerado por inteligência artificial. Empresas como OpenAI, Meta e Google oferecem marcas d’água codificadas e invisíveis como solução para o problema.

Segundo o trabalho, no entanto, elas podem ser removidas sem que o usuário perceba qualquer alteração. Para isso, os pesquisadores criaram a ferramenta UnMarker, capaz de eliminar com sucesso qualquer marcador.

Esta é a primeira ferramenta prática e universal que pode remover marcas d’água em configurações do mundo real. O diferencial da tecnologia é que ela não requer nenhum conhecimento do algoritmo de marca d’água, nenhum acesso a parâmetros internos e nenhuma interação com o detector.

Se pudermos descobrir isso, os agentes mal-intencionados também poderão. A marca d’água está sendo promovida como essa solução perfeita, mas mostramos que essa tecnologia é quebrável. Deepfakes ainda são uma grande ameaça. Vivemos em uma era em que você não pode mais confiar no que vê.

Andre Kassis, principal autor da pesquisa

Leia mais

• ONU alerta para riscos de deepfakes e pede ação global contra desinformação
• Este novo recurso usa IA para identificar deepfakes
• Lei endurece punição para uso criminoso de IA contra mulheres

Deepfakes se tornaram um grave problema

• De acordo com o Entrust Cybersecurity Institute, foi registrado um caso de deepfake a cada cinco minutos em 2024.
• Já um estudo da Deloitte aponta que as imagens, áudios e vídeos manipulados estão se tornando cada vez mais difíceis de detectar.
• Esta pesquisa revelou que 59% dos entrevistados têm dificuldade em diferenciar conteúdos criados por humanos daqueles gerados por IA.
• Neste cenário, cerca de 84% das pessoas familiarizadas com a tecnologia defendem que os conteúdos gerados pela inteligência artificial deveriam ser rotulados.
• No entanto, um entendimento sobre o assunto ainda parece estar longe e o mau uso da ferramenta pode gerar graves prejuízos.

O post Marcas d’água não são suficientes contra deepfakes, diz estudo apareceu primeiro em Olhar Digital.

O presidente dos Estados Unidos, Donald Trump, deve sancionar nos próximos dias a decisão que tipifica como crime federal a publicação da chamada “pornografia de vingança”. O projeto foi aprovado pela Câmara de Representantes dos EUA nesta semana.

No total, foram 409 votos a favor e dois contrários. Chamada de lei ‘Take it Down’, ela prevê a punição de publicações não consensuais de imagens íntimas na internet, sejam elas reais ou criadas por inteligência artificial.

Conteúdos precisarão ser removidos das plataformas

• Em março, Trump prometeu promulgar o projeto de lei durante uma sessão conjunta do Congresso.
• A nova legislação tem como objetivo combater a violência contra a mulher.
• Ao mesmo tempo, visa impedir o avanço dos chamados deepfakes.
• A primeira-dama Melania Trump endossou o projeto e disse que a aprovação “é uma declaração poderosa” da unidade do país em “proteger a dignidade, a privacidade e a segurança”.
• Além da punição, as regras aprovadas ainda exigem que os conteúdos sejam removidos das plataformas.

Leia mais

• Este novo recurso usa IA para identificar deepfakes
• Espanha propõe criminalizar deepfakes sexuais não consensuais com IA
• Seu Direito Digital: fim das deepfakes?

Deepfakes se tornaram um problema

Os vídeos ‘deepfakes’ geralmente são criados usando IA e outras ferramentas. Com o aperfeiçoamento destes recursos, é possível criar imagens realistas, dificultando a identificação de conteúdos falsos na internet.

É possível, por exemplo, criar imagens pornográficas falsas de mulheres reais. Estes conteúdos são então publicados sem o consentimento delas e se espalham rapidamente. Isso é chamado de “pornografia da vingança” porque muitas vezes envolve homens decepcionados com o fim de uma relação amorosa e que buscam se vingar de suas ex-companheiras.

Alguns estados, como a Califórnia e a Flórida, já aprovaram leis que criminalizam a publicação de ‘deepfakes’ sexualmente explícitos.

Os críticos, no entanto, afirmaram que a nova legislação daria às autoridades maiores poderes de censura.

O post ‘Pornografia da vingança’ vai virar crime nos EUA apareceu primeiro em Olhar Digital.

A Meta está ampliando uma ferramenta de reconhecimento facial de celebridades usada para detectar anúncios fraudulentos e evitar golpes. Famosos do Reino Unido, União Europeia e Coreia do Sul poderão ativar a tecnologia, que bloqueia conteúdos com imagens falsas automaticamente.

Haverá também uma opção de reconhecimento facial para usuários ‘comuns’ no processo de recuperação de contas bloqueadas.

Tecnologia de reconhecimento facial inibe deepfakes de famosos

A Meta anunciou a tecnologia em outubro do ano passado e já testou em alguns países. Agora, ampliou o uso para celebridades do Reino Unido, União Europeia e Coreia do Sul.

Na prática, a ferramenta escaneia a foto de perfil e compara o rosto da pessoa famosa com outros rostos em anúncios fraudulentos na internet. Se a tecnologia detectar e confirmar que trata-se do uso indevido da imagem de uma pessoa, bloqueia automaticamente o conteúdo suspeito.

De acordo com David Agranovich, diretor de ameaças cibernéticas da Meta, à AFP, celebridades das regiões onde o reconhecimento facial está disponível receberão notificações nas próximas semanas. Cabe a cada um ativá-la manualmente. Não está claro como a empresa define quem são os famosos.

Leia mais:

• Como é a tecnologia de reconhecimento facial da Meta?
• 4 maneiras de filtrar conteúdo no Instagram
• Seu Direito Digital: os cuidados com o reconhecimento facial

Fim das deepfakes?

Não é incomum ver imagens geradas artificialmente usando o rosto de uma pessoa famosa para anunciar produtos ou até incentivar ações envolvendo dinheiro (golpes, por exemplo). São as famosas deepfakes, que, no caso das celebridades, são chamadas de “celeb-bait”.

Agranovich explica a intenção da Meta:

Acreditamos que esta ferramenta nos ajudará a identificar o uso incorreto de imagens de figuras públicas, mesmo que o anúncio utilize inteligência artificial generativa.

David Agranovich, diretor de ameaças cibernéticas da Meta

Reconhecimento facial também está disponível para usuários ‘comuns’

• A Meta também anunciou que vai disponibilizar o reconhecimento facial no processo de recuperação de contas. Nesse caso, vale para todos os usuários (não só os famosos).
• Caso a conta esteja bloqueada e o usuário queira recuperá-la, basta gravar um vídeo curto para que a ferramenta verifique sua identidade;
• A Meta deixou claro que os dados serão usados apenas no processo de recuperação da conta e eliminados logo em seguida.

O post Fim das deepfakes? Meta amplia reconhecimento facial de celebridades para evitar golpes apareceu primeiro em Olhar Digital.