Categoria: grandes modelos de linguagem
-
Como poemas conseguem contornar sistemas de segurança em IA
Gosta de poesias? Então saiba que, segundo pesquisadores, elas podem enganar chatbots, como o ChatGPT. De acordo com a WIRED, metáforas, rimas e versos bem construídos contornam filtros de segurança, fazendo com que os modelos respondam mesmo a temas sensíveis, como armas nucleares. Poesias exploram falhas em chatbots, permitindo que IAs cedam a pedidos que…