Categoria: OpenAI
-
Navegadores de IA ainda são vulneráveis a instruções maliciosas, alerta OpenAI
A OpenAI reconheceu que seus navegadores de inteligência artificial (IA), como o ChatGPT Atlas, podem ser vulneráveis a ataques de injeção de prompts, que manipulam agentes de IA com instruções maliciosas ocultas em páginas da web ou e-mails. A empresa trabalha para reforçar a segurança, mas admite que esse risco não será eliminado tão cedo.…
-
ChatGPT a salvo, devs em alerta: Entenda o vazamento de dados ligado à OpenAI
A OpenAI confirmou um incidente de segurança na Mixpanel, empresa parceira da startup que oferecia análise de dados. A falha expôs informações de perfis vinculados à API da OpenAI, como nomes e e-mails de desenvolvedores que usam a plataforma. Segundo a empresa, usuários do ChatGPT, senhas, métodos de pagamento e dados de uso privados não…
-
OpenAI lança modelos de IA para detectar riscos e proteger comunidades online
A OpenAI anunciou nesta quarta-feira (29) dois novos modelos de inteligência artificial projetados para ajudar desenvolvedores a classificar riscos à segurança online em suas plataformas. Chamados gpt-oss-safeguard-120b e gpt-oss-safeguard-20b, os modelos são versões refinadas dos gpt-oss lançados em agosto e têm tamanhos diferentes, refletidos nos nomes. Pré-visualização para pesquisadores oferece controle e visibilidade sobre como…
-
Novo controle parental do ChatGPT pode ser burlado com facilidade
Sob pressão por críticas envolvendo a segurança de adolescentes, a OpenAI lançou nesta semana um conjunto de controles parentais no ChatGPT. A novidade busca oferecer mais proteção contra conteúdos considerados sensíveis, mas já foi alvo de questionamentos sobre sua eficácia. Um relato publicado pelo Washington Post mostra que, em apenas cinco minutos, um pai conseguiu…
-
ChatGPT vai estimar idade de usuários para restringir conversas com menores
A OpenAI vai incluir um novo sistema no ChatGPT para estimar a idade de usuários e, assim, restringir interações potencialmente prejudiciais a menores de 18 anos. Isso inclui o bloqueio de conteúdo sexual gráfico e conversas com teor sexual. Além disso, a plataforma poderá acionar autoridades policiais em “casos raros de sofrimento agudo”. As medidas…
-
Chatbots de IA podem ser facilmente manipulados, revela estudo
Um novo estudo mostrou que chatbots de IA podem ser influenciados de maneira semelhante a pessoas em situações de persuasão. A pesquisa, publicada recentemente e destacada pela Bloomberg, indica que modelos de linguagem como o GPT da OpenAI podem ser induzidos a realizar ações que, em teoria, deveriam recusar, como insultar usuários ou até explicar…
-
OpenAI após caso de suicídio: ChatGPT ‘orienta busca por ajuda’
Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail. A OpenAI publicou um texto intitulado “Ajudando as pessoas quando…
-
Revolta das máquinas? Por que comportamento do ChatGPT preocupa
Comportamento do ChatGPT acendeu alerta no mundo da inteligência artificial. Pesquisadores notaram que o modelo de IA mais recente da OpenAI, chamado o3, ignorou instruções básicas para ser desligado — e, pior, sabotou os próprios mecanismos de desligamento em testes controlados. A descoberta é da Palisade Research, empresa especializada em segurança de IA. Durante os experimentos, o modelo foi testado com…
-
OpenAI diz ter encontrado ferramenta de IA chinesa para vigilância
A OpenAI afirmou ter descoberto evidências de uma operação de vigilância chinesa alimentada por IA. Uma ferramenta generativa estaria sendo usada para coletar relatórios em tempo real sobre publicações anti-China em redes sociais em países ocidentais. A suposta descoberta alimenta preocupações relacionadas ao uso da tecnologia para vigilância, hacking e outros propósitos maliciosos. Pesquisador da…
-
ChatGPT divulga CPF de figuras públicas do Brasil, diz site
Após a recente alteração nas configurações de proteção de dados pessoais do ChatGPT, a ferramenta de inteligência artificial desenvolvida pela OpenAI passou a fornecer o número de CPF de figuras públicas do Brasil. A notícia foi divulgada com exclusividade pela Folha de São Paulo. ChatGPT expõe CPFs de políticos e famosos O veículo de comunicação…