Categoria: alucinação
-
Nove ferramentas de IA estão vulneráveis a novo tipo de ataque
Uma nova técnica de ataque explora uma limitação dos modelos de IA e pode comprometer milhares de computadores. Segundo a Ars Technica, a descoberta envolve nove ferramentas populares usadas por programadores e mostra como uma característica dos assistentes de IA pode ser explorada por criminosos. Uma simples “alucinação” da IA pode ser suficiente para levar…