Muse, agente da Meta, monta perfis detalhados das pessoas próximas ao usuário

O Muse, assistente pessoal da Meta, virou sucesso e já foi baixado por milhões de pessoas, que o conectam a contas bancárias, mensagens e dados de saúde para delegar tarefas. Nos últimos dias, pesquisadores extraíram arquivos internos e instruções de funcionamento do agente. A Meta afirma que deixou esse material acessível de propósito, por transparência, e os documentos mostram como o sistema lida com temas sensíveis.

O pesquisador independente de segurança de IA Karan Joshi obteve um grande conjunto dessas instruções pela própria interface de conversa, pedindo ao Muse que copiasse e compartilhasse seus arquivos. Ele repassou o material à Wired. Uma das orientações prevê que o agente mantenha uma página para cada pessoa da vida do usuário, num processo que roda de hora em hora usando a memória do sistema, formada por arquivos de texto estruturados.

Leia tambémPesquisa usa sinais cerebrais para a IA perceber quando errou a intenção do usuário

Essas páginas cobrem familiares, parceiros, amigos, colegas, colaboradores e perfis seguidos pelo usuário. Elas começam com pouca informação e são preenchidas ao longo do tempo, com seções sobre fatos, histórico, características da relação, interesses em comum, assuntos pendentes e formas de fortalecer o vínculo, incluindo aniversários e outras datas. As regras pedem que o agente use apenas evidências disponíveis e evite inventar detalhes.

Segundo a Meta, cada usuário tem uma máquina virtual exclusiva, inacessível a outros agentes, e pode apagar memórias ou desconectar serviços a qualquer momento. O agente pede confirmação antes de enviar e-mails ou fazer compras e mantém um registro de atividades. Especialistas ouvidos pela Wired, como Carissa Véliz, de Oxford, e Miranda Bogen, do Center for Democracy and Technology, alertam que esses assistentes estimulam o usuário a compartilhar cada vez mais dados.

Por que isso importa para empresas

• Funcionários que conectam assistentes pessoais a e-mail e agenda corporativos podem expor dados de clientes, parceiros e colegas, o que exige uma política clara de uso de agentes de IA.
• Perfis criados automaticamente sobre terceiros que não deram consentimento são um ponto de atenção à luz da LGPD para empresas que avaliam agentes com memória.
• Na contratação de agentes, vale exigir isolamento de dados, registro de atividades, confirmação humana para ações sensíveis e exclusão de memória.

Fonte originalLer a matéria completa em Wired

• Meta Muse
• privacidade
• agentes de IA
• memória de IA
• dados pessoais

Texto da Redação IA BRAZIL, escrito a partir da matéria publicada por Wired. Título original, imagem e matéria completa pertencem à fonte.