DoLa AI (Decodificación por Capas de Contraste)

DoLa (Decodificación por Capas de Contraste) es una estrategia de decodificación de IA especializada diseñada para reducir significativamente las alucinaciones en Modelos de Lenguaje Grande (LLMs) como la familia LLaMA. Desarrollada a través de un esfuerzo colaborativo académico e industrial, la tecnología funciona contrastando los logits de salida de capas 'maduras' posteriores con capas 'prematuras' anteriores. Este método explota la observación de que el conocimiento fáctico a menudo está localizado en capas específicas de transformadores, permitiendo que el modelo priorice información veraz sin requerir afinaciones adicionales o recuperación de conocimiento externo.

El proyecto se originó en investigaciones realizadas en el Instituto Tecnológico de Massachusetts (MIT) en asociación con Microsoft. Desde su introducción, se ha convertido en una notable contribución de código abierto al campo de la seguridad y alineación de la IA, ayudando a los desarrolladores a crear aplicaciones de IA generativa más confiables y basadas en hechos. La implementación se distribuye principalmente a través de GitHub y es ampliamente utilizada por investigadores que prueban los límites de la veracidad del modelo y la precisión fáctica.