Unsloth AI software

Unsloth AI (a menudo referido como 'Unsloth' o 'Unsloth Souped Up') es un marco de código abierto diseñado específicamente para acelerar y optimizar el ajuste fino de Modelos de Lenguaje Grande (LLMs) como Llama 3, Mistral y Qwen. Fundado por los hermanos Daniel y Michael Han, la marca surgió para resolver las ineficiencias computacionales comúnmente encontradas en las bibliotecas estándar de aprendizaje profundo. Al utilizar núcleos personalizados escritos a mano y técnicas especializadas de gestión de memoria, Unsloth permite a los desarrolladores entrenar modelos significativamente más rápido y con un menor uso de memoria en comparación con los métodos tradicionales.

El proyecto se desarrolla y mantiene digitalmente principalmente en Estados Unidos, aunque se beneficia de una amplia base de contribuyentes en la comunidad de código abierto global. Se ha convertido en una herramienta indispensable para los desarrolladores que buscan realizar el ajuste fino 'QLoRA' o 'LoRA' en hardware de consumo, haciendo que el desarrollo de AI avanzado sea mucho más accesible.

Propiedad de Unsloth AI Inc., la marca mantiene su sede en San Francisco, California. Desde su creación, la empresa ha crecido de ser un repositorio popular en GitHub a una startup respaldada por capital de riesgo, asegurando financiamiento de destacados inversores tecnológicos para mejorar aún más el rendimiento de los flujos de trabajo de IA generativa.