DoLa AI (Decodificação por Camadas Contrastantes)

DoLa (Decodificação por Camadas Contrastantes) é uma estratégia de decodificação de IA especializada, projetada para reduzir significativamente alucinações em Grandes Modelos de Linguagem (LLMs), como a família LLaMA. Desenvolvida através de um esforço colaborativo acadêmico e industrial, a tecnologia funciona contrastando os logits de saída das camadas 'maturas' posteriores com camadas 'prematuras' anteriores. Esse método explora a observação de que o conhecimento factual está frequentemente localizado em camadas específicas de transformadores, permitindo que o modelo priorize informações verídicas sem exigir ajuste adicional ou recuperação externa de conhecimento.

O projeto originou-se de pesquisas realizadas no Instituto de Tecnologia de Massachusetts (MIT), em parceria com a Microsoft. Desde sua introdução, tornou-se uma contribuição significativa de código aberto para o campo de segurança e alinhamento da IA, ajudando desenvolvedores a criar aplicações de IA generativa mais confiáveis e baseadas em fatos. A implementação é distribuída principalmente via GitHub e é amplamente utilizada por pesquisadores testando os limites da veracidade do modelo e precisão factual.