Falha no app do ChatGPT para Mac permitia acesso a conversas e dados sensíveis

Uma vulnerabilidade já corrigida no aplicativo do ChatGPT para macOS poderia permitir que um invasor assumisse o programa no computador da vítima. Com isso, teria acesso ao histórico de conversas, a outros dados guardados pelo app e a conexões como sessões do navegador. A falha foi descoberta por pesquisadores da Objective-See Foundation e reconhecida publicamente pela OpenAI em 25 de setembro.

O app é formado por vários componentes que conferem assinaturas digitais entre si para garantir que apenas peças da OpenAI façam pedidos, com checagens em até três níveis de processos. Os pesquisadores encontraram um interpretador de scripts confiável que aceitava comandos de origem não verificada. Um script malicioso podia acioná-lo três vezes em sequência para cumprir as checagens e entregar instruções ao processo principal do ChatGPT.

Leia tambémPesquisa usa sinais cerebrais para a IA perceber quando errou a intenção do usuário

Segundo o analista Patrick Wardle, a exploração era muito simples, e a prova de conceito tinha cerca de uma dúzia de linhas de código. Além de ler conversas, o ataque permitia fazer o ChatGPT executar comandos, como acessar o navegador, com aparência de pedidos legítimos. A brecha, porém, só funcionava se o atacante já tivesse um malware na máquina. A OpenAI disse reconhecer a necessidade de agir mais rápido em segurança.

Wardle apresentará análises de falhas em aplicativos de IA para macOS na conferência Objective by the Sea, em novembro. Ele também encontrou um problema, já corrigido, no recurso de ditado do Muse, assistente da Meta, e enviou à OpenAI uma nova falha relacionada à integração entre o ChatGPT e o assistente Dots, que está em análise pela empresa.

Por que isso importa para empresas

• Aplicativos de IA instalados em estações de trabalho recebem acessos amplos e devem entrar no inventário de software, na política de atualização e no monitoramento de segurança da empresa.
• Como a falha dependia de malware prévio, manter proteção de endpoint e controle sobre o que pode ser instalado continua sendo a primeira linha de defesa.
• Ao avaliar agentes que operam o computador, a área de TI deve tratar o próprio software de IA como possível alvo de ataques, e não apenas como ferramenta.

Fonte originalLer a matéria completa em Wired

• ChatGPT macOS
• vulnerabilidade
• segurança da informação
• OpenAI
• agentes de IA

Texto da Redação IA BRAZIL, escrito a partir da matéria publicada por Wired. Título original, imagem e matéria completa pertencem à fonte.