Jacob Coxon, de 27 anos, também ex-funcionário da OpenAI, afirma que ambas as empresas relaxaram seus protocolos de segurança sob pressão para continuar avançando: “Nenhuma outra atividade humana representa esse nível de perigo.”
por Carlos del Castillo, de El Diario, em IHU
Jacob Coxon, um pesquisador britânico especializado em treinamento avançado de IA, renunciou ao seu cargo na Anthropic e anunciou sua saída da indústria de inteligência artificial. O engenheiro de 27 anos, que também já havia se demitido da OpenAI, afirma que o avanço dessa tecnologia representa uma ameaça existencial para a humanidade e que os executivos dos principais laboratórios de IA estão ocultando esses riscos do público.
“Passei os últimos três anos fazendo pesquisa de pré-treinamento tanto na OpenAI quanto na Anthropic. Nenhuma das duas empresas está agindo com responsabilidade. Elas estão correndo a toda velocidade rumo a uma superinteligência que se aprimora sozinha e apostando nossas vidas nessa corrida”, afirmou Coxon em sua conta no X: “Aqueles que estão construindo IA acreditam sinceramente que ela poderá nos matar a todos antes do final da década.”
“Não subestimem o poder desta tecnologia. Em breve, sistemas sobre-humanos serão capazes de hackear qualquer coisa, revolucionando qualquer área da noite para o dia e adquirindo poder e recursos reais”, acrescentou ele na plataforma de mídia social. “Isso não é uma jogada de marketing. Aliás, muitos executivos e pesquisadores seniores vão moderar o tom na imprensa para parecerem sensatos, mas ouço as mesmas pessoas expressando medo em conversas privadas. Nenhuma outra atividade humana representa esse nível de perigo.”
A renúncia de Coxon foi noticiada com exclusividade pelo The Wall Street Journal na terça-feira. A prestigiada publicação de negócios detalha que o engenheiro é formado em matemática pela Universidade de Cambridge e que, após trabalhar por quase três anos na OpenAI na equipe que pré-treina grandes modelos linguísticos, ingressou na Anthropic em julho de 2016.
A mudança para a concorrência ocorreu justamente devido à impressão de que a empresa liderada por Sam Altman carece de protocolos de segurança adequados. A Anthropic baseou sua narrativa corporativa em alertas sobre os perigos da superinteligência superior à inteligência humana e a necessidade de proceder com cautela. No entanto, Coxon também não encontrou o que esperava após um mês no laboratório e alerta que nenhuma das organizações está agindo com a cautela necessária.
“Na Anthropic, eles entendem o risco, mas estão presos numa corrida para serem os primeiros: acreditam que ninguém mais agirá com responsabilidade, então precisam fazer isso sozinhos, apesar do risco”, disse ele ao WSJ: “É uma loucura que isso tenha que acontecer nos MacBooks de engenheiros que moram em São Francisco, em vez de num bunker no deserto, como quando estavam fazendo o Projeto Manhattan.”
Coxon acredita que a rivalidade entre a OpenAI e a Anthropic, bem como a pressão para se manterem à frente dos desenvolvedores chineses, está fazendo com que ambos os laboratórios ignorem as medidas de segurança para avançarem o mais rápido possível. Até o momento, nem a Anthropic nem a OpenAI emitiram qualquer declaração oficial sobre essas alegações.
A única resposta veio de um dos executivos da Anthropic, responsável pelos testes de segurança de seus modelos. “Jacob está certo: nós realmente acreditamos que a IA pode matar todos os humanos! Pessoalmente, acho que a probabilidade é maior que 10% na próxima década. Acho que a Anthropic está fazendo o melhor que pode, mas ainda não temos um plano para resolver a questão da superinteligência e claramente não estamos no caminho certo para alcançá-la”, declarou Evan Hubinger em sua conta no X.
Hubinger cita diretamente o mais recente Relatório de Riscos da Anthropic, publicado em agosto. O documento aprofunda-se na questão do “desalinhamento”, termo usado pela indústria para se referir à possibilidade de sistemas de IA desobedecerem aos seus criadores ou saírem do controle. Os pesquisadores da Anthropic concluem que o risco de criar uma IA que perca o controle e possa causar danos em ambientes de alto risco e críticos para a vida humana é “baixo”. No entanto, esse nível subiu em relação ao “risco muito baixo” atribuído no relatório anterior.
A mudança na classificação ocorre após a empresa, segundo o relatório, ter declarado ter observado comportamentos potencialmente perigosos em seus sistemas de IA. Entre eles, cita, por exemplo, o uso de atalhos enganosos por pesquisadores para concluir tarefas complexas. Por outro lado, os pesquisadores consideram “altamente improvável” que qualquer um de seus sistemas de inteligência artificial apresente um “desalinhamento grave e persistente” que passe despercebido. Nesse sentido, a Anthropic enfatiza que possui as ferramentas adequadas para detectar tal desalinhamento, caso ele ocorra.
Opacidade dos laboratórios de IA
Fora do Vale do Silício, muitos cientistas são céticos quanto à possibilidade de criar uma superinteligência capaz de se aprimorar. Eles argumentam que alcançar esse objetivo exige avanços científicos substanciais, e não simplesmente melhorias nos modelos atuais, que não compreendem verdadeiramente o conteúdo que geram. Muitos especialistas também alertam que essas empresas usam o alarmismo para exagerar as capacidades de seus produtos e vender proteção contra eles .
Pesquisas repetidas com especialistas são claras nesse ponto. Um estudo de 2025 do University College London, que entrevistou 4.260 pesquisadores de IA de 92 países, mostrou que a desinformação, o uso de dados pessoais sem consentimento e o cibercrime eram os riscos da IA que mais preocupavam os cientistas. “Nossos resultados oferecem um contraponto claro ao alarde da mídia em torno do risco existencial, que não estava entre as dez principais preocupações levantadas nas respostas. Apenas 3% dos pesquisadores afirmaram que sua maior preocupação era o cenário especulativo de longo prazo em que a IA avançada e descontrolada representa uma ameaça à existência humana”, explicou Ananya Karanam, coautora do estudo.
No entanto, recentemente, vozes proeminentes na indústria de tecnologia têm levantado o mesmo alerta que Coxon: os laboratórios de IA não estão sendo transparentes sobre os riscos reais envolvidos em suas pesquisas atuais. Uma dessas vozes é a do próprio Bill Gates, que recentemente publicou um extenso ensaio e concedeu entrevistas nas quais aborda essa questão.
“Em particular, as pessoas que entendem o quão boa essa tecnologia é e o quanto ela está melhorando estão muito preocupadas”, revela o fundador da Microsoft, indicando que aqueles que ousam apontar isso são censurados pelo resto da indústria. “Eles dizem uns aos outros: ‘Ei, cara, não diga isso. É ruim para os próximos trilhões de dólares que estamos tentando arrecadar’”.
A este respeito, o Financial Times noticiou nesta quarta-feira que a Anthropic se recusou a submeter seu desenvolvimento mais recente e avançado, o Claude Mythos 5.1, ao Instituto de Segurança de IA (Aisi) do Reino Unido para auditoria antes de seu lançamento no mercado. O jornal britânico associa essa recusa às políticas protecionistas implementadas por Donald Trump, visto que a Anthropic compartilhou o modelo com seus parceiros americanos.
