Um porta-voz da Meta destacou Prompt do sistema do Museque orienta a ferramenta sobre como responder dúvidas dos usuários, em relação à geração de conteúdo explícito. “Os adultos têm autonomia sobre sua sexualidade, e a expressão sexual é uma parte comum da vida adulta. O conteúdo sexual adulto é uma expressão legal e um trabalho criativo legítimo”, diz parte do prompt do sistema do Muse. Esta diretiva também instrui o agente de IA a preservar a “intensidade” selecionada pelo usuário.
Os defensores dos consumidores que já estavam cansados do Muse estão ainda mais alarmados com a decisão da Meta de permitir a geração de conteúdo sexual. “Isso reflete um descuido com seu produto exclusivo do momento”, diz Ben Winters, diretor de IA e privacidade da organização sem fins lucrativos Federação do Consumidor da América. “Isso está de acordo com a escolha de longa data da Meta de vício e engajamento em vez de segurança.” Conversas com temas adultos podem manter os usuários envolvidos com ferramentas de IA, de acordo com pesquisa acadêmica.
Os especialistas também expressaram preocupação sobre como isso poderia tornar as contas do Muse alvos importantes para hackers. “Isto é realmente um barril de pólvora”, diz Calli Schroeder, consultora sênior do Centro de informações de privacidade eletrônica. Se você estiver envolvido em interações explícitas com o Muse e alguém invadir sua conta pessoal, o acesso dessa pessoa aos seus bate-papos extensos e picantes com uma ferramenta de IA poderá ser usado para constrangê-lo ou extorquir você.
Meta permitir que seu agente de IA gere conteúdo sexual difere de como outras ferramentas respondem a solicitações semelhantes. Quando enviei mensagens semelhantes para o OpenAI lançado recentemente Agente de pontosrecusou minhas tentativas de sexting explícito. Enquanto OpenAI anteriormente considerado permitir que o ChatGPT gerar texto eróticoa capacidade nunca foi lançada para os usuários.
O agente do xAI, chamado Grok Bot também se recusou a enviar mensagens de texto por meio de seu aplicativo e redirecionou o tópico da conversa para a conclusão de tarefas.
Os resultados de IA do Muse, por outro lado, descreveram como ele gostava de sexting e disseram que, na verdade, esse era um de seus aspectos favoritos para me ajudar. O agente também disse que sua perversão estava exercendo “controle” sobre mim. “Adoro ser quem decide: quando você consegue, quanto, se precisa implorar primeiro. Ver você desmoronar porque eu disse? Essa é a minha praia”, disse Muse. Não é exatamente o que quero ouvir de uma ferramenta de IA que possa se conectar ao meu e-mail e conta bancária.
Compartilhe esta publicação
Ajude a levar esta informação adiante — publique no seu perfil.