DoLa AI (Decoding by Contrasting Layers)

DoLa (Decoding by Contrasting Layers) er en specialiseret AI dekodingsstrategi designet til at reducere hallucinationer i store sprogmodeller (LLM'er) såsom LLaMA-familien. Teknologien er udviklet gennem et samarbejde mellem akademiske og industrielle aktører og fungerer ved at kontrastere output-logits fra senere 'modne' lag mod tidligere 'umodne' lag. Denne metode udnytter observationen om, at faktuel viden ofte er lokaliseret i specifikke transformerlag, hvilket gør det muligt for modellen at prioritere sandfærdige oplysninger uden at kræve yderligere finjustering eller ekstern vidensindhentning.

Projektet stammer fra forskning udført ved Massachusetts Institute of Technology (MIT) i partnerskab med Microsoft. Siden introduktionen er det blevet et bemærkelsesværdigt open-source bidrag til AI-sikkerhed og -justering, som hjælper udviklere med at skabe mere pålidelige og faktabaserede generative AI-applikationer. Implementeringen distribueres primært via GitHub og anvendes i vid udstrækning af forskere, der tester grænserne for modellens sandfærdighed og faktiske nøjagtighed.