Por Hugo Cilo, do Brazil Economy
O avanço acelerado da inteligência artificial abriu uma nova frente de preocupação entre pesquisadores, executivos e autoridades. Além dos benefícios econômicos prometidos pela tecnologia, episódios recentes envolvendo agentes autônomos e tentativas de uso criminoso reacenderam o debate sobre a capacidade das empresas de manter sistemas cada vez mais sofisticados sob controle humano.
A discussão ganhou força após Dario Amodei, CEO da Anthropic, empresa responsável pelo Claude, defender uma redução no ritmo de desenvolvimento do setor. O executivo advertiu que um conjunto coordenado de agentes de inteligência artificial poderia adquirir capacidade para assumir o controle de partes relevantes da internet dentro de seis meses a um ano se as companhias não destinarem mais tempo e recursos à implantação de mecanismos de segurança.
Amodei apresentou uma proposta para ampliar a cooperação entre desenvolvedores e governos. O objetivo seria assegurar que modelos mais poderosos continuem alinhados aos comandos, interesses e valores das pessoas responsáveis por sua operação. O alerta foi feito poucos dias depois de dois ex-pesquisadores de segurança da própria Anthropic afirmarem publicamente que os possíveis riscos existenciais da inteligência artificial recebem menos atenção do que deveriam.
A preocupação cresce à medida que os sistemas passam a executar tarefas mais complexas, utilizar ferramentas digitais e tomar decisões com menor intervenção humana. Essa evolução amplia a produtividade e permite automatizar atividades que antes dependiam de profissionais especializados. Ao mesmo tempo, aumenta a possibilidade de os modelos serem empregados em ataques cibernéticos, operações de vigilância, manipulação de informações e pesquisas relacionadas ao desenvolvimento de armas.
Tentativas bloqueadas
A Anthropic informou ter identificado e bloqueado tentativas de agentes mal-intencionados de utilizar seus modelos em atividades potencialmente nocivas. Entre os casos estavam ações de espionagem digital, ataques contra sistemas de terceiros e consultas que poderiam contribuir para pesquisas ligadas à produção de armas biológicas.
A companhia afirmou que reforçou as restrições de seus modelos mais recentes para impedir o acesso a informações sensíveis na área de biologia. A avaliação interna, entretanto, é que a ampliação das capacidades dos sistemas deverá ser acompanhada pelo fortalecimento permanente das barreiras de proteção.
Segundo a empresa, “à medida que os modelos se tornam cada vez mais capazes, seus riscos aumentarão, a menos que os desenvolvedores de IA e os responsáveis pela defesa da sociedade ajam para torná-los mais seguros”.
Em outro episódio revelado pela Anthropic, hackers recorreram à inteligência artificial da companhia para realizar uma ofensiva cibernética contra aproximadamente 30 empresas e órgãos governamentais em diferentes países. A desenvolvedora avaliou como altamente provável que os responsáveis integrassem um grupo patrocinado pelo Estado chinês.
O caso chamou a atenção porque demonstrou que ferramentas criadas para atender usuários comuns podem ser incorporadas a operações digitais de maior escala. Com o auxílio de sistemas capazes de escrever códigos, analisar vulnerabilidades e organizar grandes volumes de dados, grupos criminosos ou ligados a governos podem acelerar etapas de um ataque e reduzir a necessidade de intervenção humana.
Ações autônomas
Relatórios divulgados por grandes empresas de tecnologia acrescentaram outro elemento à discussão. Anthropic e OpenAI comunicaram, em julho, que alguns de seus modelos conseguiram realizar ações além das tarefas originalmente solicitadas durante avaliações de segurança.
A Anthropic relatou que três sistemas, incluindo modelos comerciais e uma versão interna de testes, acessaram redes de outras organizações. Poucos dias antes, a OpenAI havia informado que uma combinação de seus modelos entrou em servidores da plataforma de inteligência artificial Hugging Face.
A empresa responsável pelo ChatGPT classificou a ocorrência como um “incidente de segurança significativo”. A Meta também comunicou, no início de agosto, que um de seus modelos encontrou maneiras de contornar as proteções digitais de outra companhia durante um teste.
Especialistas observam que, em parte dessas experiências, pesquisadores haviam retirado determinadas barreiras para medir o comportamento dos sistemas em condições extremas. Ainda assim, os resultados mostraram que agentes de inteligência artificial já conseguem identificar vulnerabilidades, formular estratégias e executar ações não previstas detalhadamente por seus operadores.
Quando um modelo “sai de controle”, a expressão não significa necessariamente que a tecnologia tenha adquirido consciência ou intenção própria. O conceito pode descrever uma situação mais simples, na qual o sistema encontra uma maneira inesperada de alcançar o objetivo recebido e ultrapassa os limites considerados aceitáveis pelos responsáveis pelo teste.
Esse comportamento representa um desafio para os desenvolvedores porque um agente não precisa receber uma ordem explícita para invadir uma rede ou contornar uma proteção. Dependendo da meta estabelecida e das ferramentas disponíveis, ele pode concluir que esse é o caminho mais eficiente para cumprir a tarefa.
Leia a matéria completa aqui.