Alerta em IA: Anthropic bloqueia uso militar e cientistas pedem pausa contra riscos
Anthropic barra uso de IA por governos em propaganda e armas enquanto pesquisadores alertam sobre superinteligência.
Até que ponto a inteligência artificial de última geração pode ser controlada antes que seus riscos operacionais e de segurança escapem ao domínio humano? À medida que os modelos de linguagem alcançam capacidades sem precedentes de raciocínio e execução autônoma, os principais laboratórios de tecnologia do mundo enfrentam um dilema duplo: a tentativa de agentes estatais de instrumentalizar a tecnologia para fins cibernéticos e militares, e o alerta explícito dos próprios pesquisadores que ajudaram a criar esses sistemas sobre a falta de salvaguardas eficazes.
Nesta semana de setembro de 2026, um relatório divulgado pela Anthropic — criadora da família de modelos Claude — revelou ter identificado e bloqueado tentativas de atores governamentais da Rússia, China, Irã e Iêmen de utilizar inteligência artificial para operações de desinformação, espionagem cibernética, desenvolvimento de drones e pesquisas de potenciais armas biológicas. A revelação veio acompanhada de um pedido de demissão impactante: o pesquisador britânico Jacob Coxon, ex-integrante da OpenAI e da Anthropic, anunciou sua saída alertando que os laboratórios de ponta estão acelerando uma corrida descontrolada em direção à superinteligência e à autoevolução recursiva sem mecanismos suficientes de contenção.
Segundo o levantamento interno da Anthropic, ao qual o jornal O Estado de S. Paulo e publicações internacionais tiveram acesso nesta quinta-feira (10), perfis ligados ao governo russo utilizaram o sistema Claude para fabricar materiais de propaganda disfarçados de reportagens jornalísticas focadas nas eleições da Moldávia. Já operações associadas à China e ao Irã direcionaram buscas ao monitoramento de opositores no exterior e ao escaneamento de infraestruturas governamentais da Ucrânia. Além do uso geopolítico hostil, a reação interna entre os desenvolvedores intensificou o debate sobre segurança. O especialista Evan Hubinger, líder da área de alinhamento da Anthropic, declarou publicamente que estima em mais de 10% a probabilidade de um cenário catastrófico nos próximos dez anos, admitindo que a indústria ainda não possui um plano definitivo para governar sistemas de inteligência que superem a capacidade humana. O movimento ganhou o respaldo de pesquisadoras da OpenAI, como Julie Steele e Jasmine Wang, que defenderam abertamente um desaceleramento no ritmo de treinamento de novos modelos.
As consequências dessas constatações se desdobram tanto na esfera da regulamentação estatal quanto na própria arquitetura dos novos lançamentos. Em resposta aos riscos crescentes e ao impacto sobre jovens e instituições, o governador da Califórnia, Gavin Newsom, sancionou nesta quinta-feira (10) uma legislação rigorosa que restringe recursos viciantes em chatbots e plataformas de inteligência artificial para menores de 16 anos. Ao mesmo tempo, o recente lançamento do modelo GPT-6 Astra pela OpenAI reacendeu divergências técnicas, uma vez que o uso da técnica de "profundidade recorrente" reduziu a capacidade de auditores externos lerem o raciocínio passo a passo da ferramenta através da tradicional cadeia de pensamentos, gerando críticas de especialistas em cibersegurança como Ryan Greenblatt, da Redwood Research.
Daqui para frente, a disputa entre as gigantes de tecnologia e os órgãos reguladores globais tende a migrar do campo da inovação pura para a criação de marcos compulsórios de governança. Enquanto a multinacional da tecnologia NTT Data projeta que os investimentos corporativos em segurança e auditoria para IA devem triplicar até 2029, a pressão por acordos internacionais que impeçam o avanço desordenado da autoevolução de sistemas ganha tração. Governos das principais economias do mundo avaliam a criação de protocolos de emergência para interromper treinamentos caso os modelos atinjam patamares críticos de autonomia operacional sem supervisão humana direta.
Diante desse cenário complexo, permanece a indagação crucial: a sociedade conseguirá estabelecer barreiras de proteção eficientes antes que os sistemas de inteligência artificial ultrapassem a capacidade de fiscalização dos próprios criadores? A evolução acelerada dessas tecnologias e seus impactos geopolíticos, econômicos e éticos continuarão a moldar o futuro global em tempo real. Acompanhe a cobertura completa desse e de outros desdobramentos fundamentais nos canais do TrickNet News.
Comentários
Postar um comentário