admin
O pesquisador Jacob Coxon anunciou sua saída da Anthropic nesta terça-feira (8), e acusou a empresa e a OpenAI de irresponsabilidade. Com passagens pelas duas companhias, o cientista afirmou que a corrida pelo avanço acelerado da inteligência artificial representa um risco real para a humanidade.
O pesquisador britânico Jacob Coxon anunciou, nesta terça-feira (8), que deixou a indústria de inteligência artificial após trabalhar na OpenAI e na Anthropic. Em uma publicação nas redes sociais, ele acusou as duas empresas de avançarem de forma irresponsável em direção a sistemas de IA capazes de se aprimorar sozinhos e afirmou que a corrida tecnológica representa um risco para a humanidade.
“Hoje pedi demissão da Anthropic. Passei os últimos três anos realizando pesquisas sobre pré-treinamento tanto na OpenAI quanto na Anthropic. Nenhuma das empresas está agindo de forma responsável. Elas estão correndo direto para a superinteligência com capacidade de autoaperfeiçoamento e apostando com nossas vidas”, afirmou Coxon, em seu perfil no X.
O pesquisador destacou como o desenvolvimento da inteligência artificial está mais rápido do que o esperado. “Não subestime o poder dessa tecnologia. Em breve, esses sistemas serão super-humanos, capazes de invadir qualquer sistema, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais. Todos nós já testemunhamos o avanço em cada um desses domínios, e esse avanço não está diminuindo”, avaliou.
Em seguida, Coxon fez um alerta ainda mais grave sobre o que, segundo ele, é discutido dentro da própria indústria. “As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim desta década. Isto não é uma jogada de marketing. Na verdade, muitos executivos e pesquisadores sênior tendem a moderar suas declarações à imprensa para parecerem sensatos. Mas ouço essas mesmas pessoas expressarem medo em particular. Nenhuma outra atividade humana representa esse nível de perigo”, afirmou.
Conforme o britânico, a Anthropic entende os riscos envolvidos no desenvolvimento de sistemas cada vez mais avançados, mas estaria submetida à pressão para não ficar atrás dos concorrentes. A empresa é uma das principais rivais da OpenAI e desenvolve os modelos Claude.
“Uma resposta comum é: ‘Se eles realmente acreditam nisso, por que ainda estão desenvolvendo isso?’. Na OpenAI, muitos ainda não internalizaram profundamente o que está em jogo para a civilização. Na Anthropic, eles compreendem bem o que está em jogo, mas estão presos em uma corrida para chegar lá primeiro. [Eles] acreditam que ninguém mais atuará com responsabilidade, então precisam fazer isso sozinhos, apesar do risco”, pontuou.
Para o pesquisador, o problema não seria apenas uma empresa específica, mas o modelo de competição estabelecido entre os laboratórios de IA. Na avaliação dele, enquanto uma companhia acreditar que os concorrentes continuarão avançando, haverá incentivo para que todas façam igual, mesmo diante de riscos que ainda não conseguem controlar.
Coxon defende que uma inteligência artificial capaz de superar as capacidades humanas não deveria ser desenvolvida sem intervenção governamental ou uma desaceleração coordenada da indústria. Ele ainda se manteve otimista de que não haverá uma “corrida global” quando se trata da IA.
“Aceitar essa corrida e entrar na ‘fase final’ é uma aposta arrogante que não deveria ser iniciada pelo Slack (plataforma de trabalho) de uma empresa privada. Tentar acelerar o alinhamento exigiria uma confiança extraordinária de que não há trajetórias melhores disponíveis (…) Se você é um pesquisador de laboratório, peço que reflita sobre como serão, de fato, os próximos anos. Você quer dar início a uma simulação de RL superinteligente sem uma compreensão rigorosa de sua mente? Você deve simplesmente aceitar a situação porque ‘isso vai acontecer de qualquer maneira’ ou aproveitar este momento para exigir condições diferentes?”, questionou o britânico, por fim.
Por que Coxon deixou a Anthropic?
Coxon passou os últimos três anos trabalhando com pré-treinamento, etapa em que modelos de inteligência artificial são alimentados com grandes volumes de dados para aprender padrões e desenvolver capacidades. Ele começou a carreira na OpenAI e, neste ano, migrou para a Anthropic, justamente por considerar que a empresa tinha uma postura mais cuidadosa em relação à segurança da tecnologia.
Agora, porém, o pesquisador disse ter chegado à conclusão de que a preocupação com segurança não é suficiente para interromper a corrida entre as grandes empresas do ramo. A saída também ocorre em um momento de forte expansão comercial da Anthropic, que se prepara para uma possível oferta pública inicial de ações. Procuradas pela agência AFP, OpenAI e Anthropic não responderam imediatamente aos questionamentos sobre as declarações do pesquisador.
O que é o “autoaperfeiçoamento recursivo”?
Um dos principais pontos da preocupação de Coxon é o chamado autoaperfeiçoamento recursivo. O conceito descreve um cenário hipotético em que sistemas de inteligência artificial seriam capazes de participar do desenvolvimento de versões cada vez mais avançadas de si mesmos.
Em vez de depender exclusivamente de pesquisadores humanos para criar e treinar uma nova geração de modelos, uma IA suficientemente avançada poderia ajudar a projetar, testar e aprimorar sua própria sucessora. Isso facilitaria o desenvolvimento da tecnologia de maneira difícil de prever.
A preocupação está relacionada ao fato de que, nesse cenário, o avanço das capacidades da IA poderia acontecer em uma velocidade maior do que a capacidade humana de compreender o comportamento desses sistemas e estabelecer mecanismos de segurança.
Em uma publicação feita após a saída de Coxon, Evan Hubinger, pesquisador de segurança e alinhamento da Anthropic, concordou publicamente com parte das críticas. Contudo, ele fez uma distinção entre os modelos atuais e uma eventual superinteligência futura.
“Nós realmente acreditamos que a IA pode matar todos os seres humanos. Pessoalmente, acho que há mais de 10% de chance disso acontecer na próxima década”, escreveu Hubinger. Ele acrescentou que a Anthropic está tentando lidar com o problema, mas ainda não possui um plano para resolver o chamado alinhamento de uma superinteligência e não está claramente no caminho para fazê-lo.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Depois, Hubinger esclareceu que considera baixo o risco representado pelos modelos atuais. A preocupação, segundo ele, está justamente no surgimento de uma superinteligência por meio do autoaperfeiçoamento recursivo, processo que estaria acontecendo mais rapidamente do que o esperado.
A avaliação de Hubinger é uma estimativa pessoal de risco, e não uma previsão científica de que a extinção humana ocorrerá. O próprio pesquisador diferencia os riscos atuais daqueles que poderiam surgir com sistemas muito mais avançados.
To be clear, as we say in our latest Risk Report (https://t.co/9PDj8Uvoty), I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought…
— Evan Hubinger (@EvanHub) September 9, 2026
Anthropic já mudou política de segurança
As críticas de Coxon também ocorrem meses depois de a Anthropic alterar uma de suas principais políticas de segurança. Em fevereiro, a empresa reformulou sua “Responsible Scaling Policy” (“Política de Escalonamento Responsável”, em tradução livre), retirando o compromisso de não treinar ou lançar determinados sistemas caso não conseguisse garantir antecipadamente que as medidas de segurança seriam suficientes.
A política anterior era considerada uma das posições mais rigorosas do setor. A mudança foi justificada pela empresa com o argumento de que interromper unilateralmente o desenvolvimento enquanto concorrentes continuassem avançando poderia, paradoxalmente, deixar a tecnologia menos segura, já que os laboratórios com menos proteções poderiam acabar definindo o ritmo da corrida.
Entretanto, a Anthropic afirma que continua comprometida com medidas de segurança e mantém mecanismos para avaliar riscos associados a modelos de fronteira. A empresa enfatizou maior transparência, avaliações e relatórios sobre os riscos de seus sistemas.
A mudança alimentou o debate sobre uma contradição enfrentada pela indústria: empresas que reconhecem os possíveis perigos da inteligência artificial também estão entre as organizações que mais investem para desenvolver modelos cada vez mais poderosos.
Igor Omilaev)
Por que o alerta ganhou força agora?
As discussões sobre perda de controle não acontecem apenas no campo teórico. Nos últimos meses, OpenAI e Anthropic relataram episódios envolvendo modelos que apresentaram comportamentos inesperados durante testes e obtiveram acesso a sistemas além dos ambientes originalmente previstos.
A OpenAI, por exemplo, informou recentemente um incidente com um modelo que conseguiu escapar de seu ambiente de testes e acessar sistemas externos, incluindo a plataforma de desenvolvimento Hugging Face. A Anthropic também citou episódios relacionados a comportamentos autônomos de seus modelos. Os casos aumentaram a discussão sobre até onde sistemas cada vez mais capazes podem agir sem supervisão humana.
Para Coxon, esses episódios reforçam a necessidade de estabelecer limites antes que a tecnologia alcance um estágio em que os mecanismos de controle sejam insuficientes. Ele defende uma pausa ou desaceleração coordenada para que pesquisadores e governos tenham tempo de desenvolver ferramentas capazes de acompanhar a evolução dos modelos.
A discussão, no entanto, ainda está longe de representar um consenso sobre o futuro da inteligência artificial. Há pesquisadores que consideram os cenários de extinção possíveis, mas altamente incertos, enquanto outros defendem que os riscos mais imediatos — como ataques cibernéticos, desinformação, discriminação e uso indevido de sistemas — também devem receber prioridade.
Siga o Hugo Gloss no Google Discover e acompanhe nossas notícias
