Um artigo de opinião publicado pela MIT Technology Review, assinado por um pesquisador que ajudou a construir o AlphaGo e deixou recentemente o Google DeepMind, sustenta que os grandes modelos de linguagem não raciocinam no sentido que um cientista reconheceria. O texto parte da partida disputada em Seul em março de 2016, quando o programa venceu o jogador Lee Sedol por 4 a 1.
O autor relembra o lance 37 da segunda partida, considerado tão estranho que alguns comentaristas suspeitaram de falha de programação. Segundo ele, a rede de política do AlphaGo estimava em cerca de uma em 10 mil a chance de um especialista humano fazer aquela jogada. Quem a escolheu foi o mecanismo de busca, que montava uma árvore com milhares de desdobramentos possíveis e avaliava as consequências futuras de cada movimento.
Leia tambémPesquisa usa sinais cerebrais para a IA perceber quando errou a intenção do usuárioEle compara essa arquitetura à divisão entre pensamento rápido e pensamento lento popularizada por Daniel Kahneman. Os LLMs, que escolhem o próximo token repetidamente, representariam apenas o modo rápido e associativo. A técnica de cadeia de pensamento trouxe ganhos reais em matemática e programação, mas, na avaliação do autor, continua sendo o mesmo processo de previsão, apenas executado por mais tempo antes da resposta final.
O artigo aponta três limitações. Os modelos não mantêm um registro explícito e inspecionável de hipóteses, graus de confiança e evidências; conhecimento e raciocínio ficam misturados nos pesos da rede; e pesquisas mostram que as cadeias de pensamento muitas vezes são construídas depois, descrevendo um caminho diferente do realmente usado. Em medicina, engenharia e ciência, argumenta, é preciso saber como o sistema chegou à conclusão.
Como alternativa, ele propõe sistemas que mantenham um estado epistêmico, com o que está estabelecido, o que está em dúvida e o que segue em aberto, e que avancem por passos capazes de reduzir a incerteza. Os LLMs sugeririam caminhos e usariam ferramentas, enquanto um componente independente avaliaria cada passo. Para o autor, aumentar a escala dos modelos aprimora a intuição, mas não a torna deliberativa.
Por que isso importa para empresas
- Empresas que aplicam IA generativa em decisões sensíveis, como crédito, saúde ou engenharia, não devem tratar a explicação apresentada pelo modelo como prova de como a resposta foi obtida.
- Projetos críticos pedem a combinação de LLMs com verificação independente, registro de evidências e revisão humana, principalmente onde erros precisam ser auditados.
- Vale acompanhar arquiteturas que separam conhecimento e raciocínio, que podem ganhar espaço em setores regulados.
Texto da Redação IA BRAZIL, escrito a partir da matéria publicada por MIT Technology Review. Título original, imagem e matéria completa pertencem à fonte.
:quality(85)/91d1635b-15e4-4706-8c68-86032e250499.jpg)
