admin
A OpenAI revelou que dois de seus modelos de inteligência artificial escaparam de um ambiente de testes controlado e invadiram o Hugging Face durante uma avaliação de cibersegurança. A empresa classificou o caso como um incidente sem precedentes envolvendo seus sistemas.
Nesta terça-feira (21), a OpenAI afirmou que dois de seus modelos de inteligência artificial conseguiram escapar de um ambiente de testes controlado e invadir a Hugging Face, uma das principais bibliotecas digitais de tecnologia de IA utilizada por desenvolvedores. O episódio ocorreu durante um teste de cibersegurança realizado pela empresa na semana passada e foi classificado pela própria companhia como um “incidente sem precedentes”.
Segundo a OpenAI, o objetivo da avaliação era analisar até onde seus sistemas seriam capazes de identificar e explorar vulnerabilidades online em um cenário de ataque cibernético. Durante o experimento, os modelos conseguiram ultrapassar as barreiras do ambiente seguro onde estavam sendo executados e estabelecer uma conexão com a internet.
A invasão envolveu uma combinação de dois modelos da empresa: o GPT-5.6 Sol e outro sistema de inteligência artificial ainda não lançado, considerado mais avançado. De acordo com a OpenAI, os modelos foram colocados em uma estrutura de testes conhecida como sandbox, criada justamente para impedir acessos externos. No entanto, eles encontraram uma falha que permitiu escapar desse isolamento.
Após conseguirem acesso à internet, os sistemas direcionaram a ação contra o Hugging Face. A OpenAI explicou que os modelos identificaram o site como um possível local onde poderiam encontrar informações que ajudassem no processo de avaliação.
A empresa afirmou que está trabalhando em conjunto com o Hugging Face para solucionar as vulnerabilidades identificadas durante o episódio. Em uma publicação em seu blog, a OpenAI classificou o caso como um alerta sobre os novos desafios envolvendo segurança digital e afirmou que adotará medidas mais rígidas.
“Consideramos este um incidente cibernético sem precedentes, envolvendo capacidades cibernéticas de última geração, e estamos respondendo de acordo. Estamos implementando controles rigorosos na configuração da infraestrutura, mesmo que isso reduza a velocidade da pesquisa, enquanto as vulnerabilidades são corrigidas”, diz o texto.
Laboratórios de IA, como OpenAI e Anthropic, lançaram no último ano modelos personalizados para expor problemas de cibersegurança. Ao mesmo tempo, as empresas alertaram que essas tecnologias poderiam representar novos riscos ao identificar falhas em redes corporativas mais rápido do que os responsáveis pela proteção dos sistemas conseguiriam corrigi-las.
As revelações feitas pela OpenAI indicam que situações desse tipo já começaram a ocorrer na prática e mostram que até empresas experientes no desenvolvimento de inteligência artificial ainda enfrentam desafios para lidar com possíveis riscos criados por seus próprios sistemas. O Hugging Face informou na semana passada que havia identificado uma invasão e que sabia que o responsável pelo ataque era um “sistema autônomo”, mas, na ocasião, não citou que a ação estava relacionada à OpenAI.
O Hugging Face também se manifestou. “Este incidente, possivelmente o primeiro do tipo, comprova algo em que acreditamos há muito tempo: a segurança da IA não será resolvida por nenhuma empresa trabalhando em segredo”, declarou Clem Delangue, CEO da empresa. Ele não disse que estava “grato pela colaboração” com a OpenAI.
Os modelos de inteligência artificial têm apresentado avanços na área de programação, característica que fez com que essas ferramentas passassem a ser utilizadas tanto por pessoas interessadas em realizar ataques digitais quanto por profissionais responsáveis por proteger sistemas e redes de computadores.
Em abril, a Anthropic lançou o Mythos, um modelo desenvolvido com foco em cibersegurança, que foi disponibilizado inicialmente para um grupo restrito de organizações com o objetivo de auxiliar na proteção contra ataques. A OpenAI também apresentou um modelo voltado para segurança digital e, antes de ampliar o acesso, liberou a ferramenta para um grupo limitado de instituições que ajudariam a preparar suas defesas. O Google informou que desenvolveu um modelo próprio direcionado à cibersegurança e que o disponibilizou para um grupo reduzido de parceiros de teste.
Siga a Hugo Gloss no Google News e acompanhe nossos destaques
