Alguns grandes Empresas de IA parecem pensar que a melhor maneira de evitar que os modelos se tornem muito caóticos ou travessos é mantê-los trancados dentro dos laboratórios. Se apenas alguns escolhidos puderem acessá-los, pensa-se que eles podem fazer menos danos no mundo real enquanto os pesquisadores tentam entender do que são capazes.
Nathan Lambert e Tom Zick, dois cientistas da indústria, acreditam no contrário. A dupla fundou uma organização sem fins lucrativos, Laboratórios Trilliumque funcionará em várias áreas de pesquisa em IA – incluindo áreas potencialmente problemáticas como autoaperfeiçoamento recursivo (RSI) e agentes – de uma forma mais transparente. Na prática, isso significará publicar os detalhes dos experimentos para que cientistas externos possam estudá-los e replicá-los.
Lambert diz que a forma como os laboratórios de IA de fronteira mantêm o seu trabalho em segredo reduz a capacidade da comunidade de examinar ideias e contribuir com novas abordagens. Ele acredita que permitir que especialistas externos vejam como os modelos são construídos e ajustados pode ser crucial para mitigar os riscos.
“Ao longo dos últimos milénios, a humanidade teve o método científico na sua caixa de ferramentas como forma de mitigar os danos e construir futuros melhores”, disse Lambert à WIRED. “A atual trajetória fechada de desenvolvimento de IA de fronteira está nos levando um passo para trás.”
Os modelos mais poderosos do mundo, como os de OpenAI e Antrópicosó pode ser acessado por meio de um aplicativo ou de uma interface de programação de aplicativos (API). Muitas vezes, isso custa a transparência sobre como o modelo é construído e como se comporta.
Outras empresas, especialmente as da China, oferecem modelos relativamente poderosos que pode ser baixado e executado no próprio hardware do usuário. A empresa chinesa Xiaomi, por exemplo, recentemente detalhes ao vivo publicados de um grande treinamento envolvendo um de seus modelos. E os pesquisadores de Stanford estão pré-treinando o modelo de IA Marina ao ar livre.
A indústria está actualmente travada numa batalha sobre qual a melhor estratégia, principalmente devido ao quão poderosos são agora os modelos de fronteira. Eles podem automatizar a descoberta de novas vulnerabilidades de software e automaticamente investigar e invadir sistemase recente ondas de hackers de alto perfil suscitaram um escrutínio ainda maior.
Os defensores de um sistema de acesso limitado dizem que é crucial manter esse poder nas mãos de poucos confiáveis, enquanto aqueles no campo de Lambert e Zick acreditam que uma compreensão partilhada dos riscos significa que estamos todos em melhor situação.
Compartilhe esta publicação
Ajude a levar esta informação adiante — publique no seu perfil.