Jacob Coxon deixou a indústria de inteligência artificial após trabalhar na OpenAI e na Anthropic e passou a alertar publicamente sobre os riscos do avanço acelerado da tecnologia/Foto: Reprodução
O pesquisador de inteligência artificial Jacob Coxon, de 27 anos, decidiu deixar a indústria de IA após trabalhar na OpenAI e na Anthropic. A saída foi anunciada na terça-feira (8), acompanhada de críticas à forma como as empresas estão conduzindo o desenvolvimento de sistemas cada vez mais avançados.
Coxon afirmou que as duas companhias estão avançando em direção ao desenvolvimento de uma chamada superinteligência autoaperfeiçoável, capaz de aprimorar suas próprias capacidades. Na avaliação dele, a velocidade dessa corrida tecnológica não é acompanhada por mecanismos de segurança suficientes.
Em entrevista ao jornalista Anderson Cooper, da CNN Internacional, Coxon explicou que o cenário que considera mais preocupante envolve sistemas que ultrapassem significativamente as capacidades humanas e passem a ter acesso a recursos e ferramentas capazes de ampliar sua influência.
O pesquisador também afirmou que muitos profissionais do próprio setor compartilham essas preocupações. Evan Hubinger, que atua na área de ciência de alinhamento da Anthropic, declarou que considera possível que uma inteligência artificial provoque a morte de toda a humanidade na próxima década e reconheceu que ainda não existe uma solução definitiva para garantir o alinhamento de uma eventual superinteligência aos interesses humanos.
Coxon defende que o desenvolvimento da tecnologia seja desacelerado e submetido a regras mais amplas. Segundo ele, as empresas podem se sentir pressionadas a continuar avançando para não perder espaço para concorrentes, mesmo diante dos riscos associados à criação de sistemas mais poderosos.
A Anthropic afirmou que reconhece tanto os benefícios quanto os riscos sem precedentes associados à inteligência artificial. A empresa também disse manter políticas de desenvolvimento responsável e realizar testes para identificar capacidades potencialmente perigosas, especialmente em áreas como segurança cibernética e biologia.
O alerta ocorre em meio a um debate crescente entre pesquisadores, empresas e autoridades sobre os limites da evolução da inteligência artificial. Embora alguns especialistas considerem cenários de extinção especulativos, há consenso mais amplo de que sistemas avançados podem ampliar riscos já existentes, como ataques cibernéticos, produção de armas biológicas, desinformação e ataques contra infraestruturas.
Coxon, por sua vez, sustenta que a discussão não deveria esperar até que sistemas ainda mais poderosos sejam desenvolvidos para começar a estabelecer mecanismos internacionais de controle.
