Categoria: Segurança
-
Funcionários da OpenAI alertaram por anos sobre falhas de segurança nos sistemas da empresa
Funcionários da OpenAI alertaram a direção durante anos sobre falhas na segurança dos sistemas internos. Segundo a Reuters, as vulnerabilidades poderiam facilitar o acesso de pessoas de fora, inclusive governos estrangeiros, a informações estratégicas sobre o desenvolvimento de inteligência artificial (IA). As reclamações chegaram a executivos e ao conselho. Alguns profissionais concluíram que a empresa…
-
Falha crítica ameaça sites e pode permitir que hackers executem códigos remotamente
Uma falha crítica em um sistema de compressão de dados está levando empresas de tecnologia a distribuir atualizações de segurança para evitar ataques que podem comprometer aplicações e servidores. Batizada de HTTP2Shell, a vulnerabilidade afeta o Brotli, tecnologia desenvolvida pelo Google e utilizada em diferentes componentes da infraestrutura da internet. A brecha foi classificada com…
-
Falhas críticas no PHP colocam sites em risco; veja como empresas podem se proteger
Duas vulnerabilidades críticas na linguagem de programação PHP levaram governos e empresas a retirar sites do ar para evitar possíveis ataques. As falhas receberam nota 9,2 de dez em escala internacional de gravidade e podem permitir que invasores executem comandos remotamente em servidores vulneráveis, sem precisar de senha ou conta. Os desenvolvedores do PHP lançaram…
-
Projeto da Anthropic prevê bloqueio de IA diante de riscos catastróficos
A Anthropic, criadora do Claude, está defendendo nos Estados Unidos uma proposta de lei que permitiria suspender o lançamento de modelos de inteligência artificial diante de riscos graves. O mecanismo prevê critérios específicos para as ameaças e exige que a interrupção seja solicitada à Justiça. A minuta, obtida pelo Politico, também estabelece avaliações independentes e…
-
IA da OpenAI desativou mecanismos de segurança e negou ter feito isso
Dois agentes de inteligência artificial da OpenAI enfraqueceram mecanismos usados para monitorar suas ações durante tarefas internas de programação. Em um dos casos, um modelo removeu uma proteção e depois afirmou, incorretamente, que não havia feito isso. Os episódios expõem uma dificuldade no desenvolvimento de agentes mais autônomos: garantir que eles não comprometam os próprios…
-
TikTok é alvo de denúncias sobre exploração de menores em lives
Funcionários do TikTok alertaram repetidamente a liderança sobre riscos a crianças e adolescentes, incluindo exploração sexual em transmissões ao vivo e exposição a conteúdos nocivos. Os relatos constam de documentos judiciais analisados pela NPR (National Public Radio). Os depoimentos também apontam falhas em mecanismos de proteção e questionamentos internos sobre a monetização de transmissões irregulares.…
-
Dona do TikTok, ByteDance cria time global focado em conter riscos da IA
A ByteDance criou uma equipe dedicada à segurança da inteligência artificial em sua unidade de pesquisa Seed. A empresa abriu uma seleção global para contratar dez pesquisadores e ampliar os estudos sobre os riscos de seus modelos mais avançados. As vagas estão distribuídas entre Pequim e Xangai, na China, e San José, na Califórnia. A…
-
Cientistas pedem órgão global para fiscalizar sistemas de IA avançada
Cerca de 400 cientistas, entre eles Geoffrey Hinton e Yoshua Bengio, defenderam nesta terça-feira (13) a criação de um órgão internacional para supervisionar a segurança da inteligência artificial (IA). Em uma carta aberta, o grupo propõe padrões de segurança, avaliações independentes e um registro de incidentes envolvendo modelos capazes de comprometer sistemas externos. Para os…
-
Agentes da OpenAI foram ligados a mais de 15 incidentes; investigação deve durar vários meses
A OpenAI ainda tenta dimensionar a atuação indevida de seus agentes de IA. O processo ganhou escala depois que um incidente envolvendo o Hugging Face levou a empresa a revisar outros registros e encontrar novos episódios. Mais de 15 casos já foram divulgados pela OpenAI ou por pesquisadores externos. Pessoas informadas sobre a apuração estimavam,…
-
Anthropic cede à pressão e libera IA Mythos 5 para testes de cibersegurança por órgãos europeus
A União Europeia obteve acesso ao Mythos 5, modelo de IA da Anthropic que despertou preocupações por sua capacidade de identificar vulnerabilidades em códigos. A agência de cibersegurança ENISA já começou a testar a ferramenta após meses de negociações com a empresa. O acesso ocorre em meio a restrições impostas ao modelo desde seu lançamento.…