Como o Google A equipe do Chrome trabalhou para desenvolver Recursos de navegação de IA usando o da empresa Modelos Gêmeoseles perceberam que precisavam fazer um esforço extra para evitar que as coisas dessem errado. Então, eles fizeram a única coisa que puderam pensar em fazer: construíram uma Internet expansiva de universo alternativo que controlam completamente.
Os agentes “utilizadores da Web” precisam estar familiarizados com a Internet aberta, saber navegar em sites e plataformas reais e estar protegidos contra ataques na Web. Portanto, treiná-los em ambientes de teste limitados é muito eficaz. Além disso, os modelos podem desenvolver o que é conhecido como “consciência de avaliação”, onde se comportam de maneira diferente porque determinaram que estão em um teste ou simulação. Por outro lado, deixar agentes não refinados à solta na Internet aberta é uma má ideia. É aí que entra a Internet do universo alternativo.
A “Dimensão Espelho”, que o Google está detalhando hoje pela primeira vez em um blog, é um ecossistema da web abrangente e diversificado, mas isolado, que a equipe do Chrome controla inteiramente. Inclui uma vasta gama de sites e plataformas – incluindo sites de mídia social, compras e painéis bancários – que são construídos com todos os componentes e atributos de sites reais. Os agentes assistentes de navegação devem interagir com os sites e realizar tarefas no Chrome da mesma forma que fariam na Internet real. E eles enfrentam testes de resiliência à medida que avançam, como se estivessem escondidos. ataques de injeção imediatapara testar suas defesas.
“Os agentes não são programados, então você não pode prever tudo o que um agente pode ver. O espaço de exploração que temos que abordar é enorme e a web é hostil”, diz Charles Qian, engenheiro de software da equipe de segurança de IA do Chrome. “Qualquer usuário pode fazer qualquer solicitação em qualquer site, então realmente precisamos explorar esse espaço o mais minuciosamente possível. E vimos o agente começar a desenvolver um senso maduro de julgamento quando se trata de saber quais informações são realmente necessárias para uma tarefa e quando retornar ao usuário para obter uma confirmação.”
Construir e preencher a Dimensão Espelhada era um desafio por si só, porque precisava ser vasto e variado o suficiente para representar a escala da web real e ao mesmo tempo ser desenvolvido rapidamente. Para construí-lo, a equipe do Chrome reuniu exércitos de agentes de desenvolvimento de sites e aplicativos web guiados por um equipamento de IA especialmente desenvolvido para criar rapidamente serviços web e fluxos de dados realistas, até detalhes como inserir códigos promocionais em um site de compras ou preencher páginas de mídia social.
Embora todo o ambiente seja controlado pelo Google, o Chrome é construído com tantas proteções de usuário e verificações de validade que, para permitir que os agentes usassem o Chrome real (o que é crucial para um treinamento preciso), os pesquisadores basicamente tiveram que hackear o navegador e tomar medidas elaboradas, como criar certificados da web forjados para verificações de validade, para que os agentes pudessem ter uma experiência normal. A equipe enfatiza, porém, que nenhum desses ataques seria possível contra usuários regulares do Chrome na Internet aberta. Todos eles foram facilitados pelo acesso do tipo deus e privilégio que a equipe tem inerentemente porque controla todo o ambiente e a rede.
Os pesquisadores dizem que, embora os agentes assistentes de navegação que estão testando sejam benignos e não tenham recursos cibernéticos, seu objetivo é disponibilizar a Dimensão Espelhada para equipes do Google para que mais pesquisadores tenham acesso ao ambiente seguro e controlado para testes.
“Estamos compartilhando essa abordagem para que outras equipes, tanto internas quanto externas, pensem em fazer isso dessa forma”, diz Doug Turner, diretor de engenharia do Google. “Este é o primeiro passo, haverá investimento contínuo nesta abordagem para treinar modelos. E imagino que à medida que se tornam mais sofisticados, teremos que continuar a trabalhar neste ambiente para torná-lo cada vez mais realista.”
Compartilhe esta publicação
Ajude a levar esta informação adiante — publique no seu perfil.
