Unsloth AI software

Unsloth AI (frequentemente chamado de 'Unsloth' ou 'Unsloth Souped Up') é um framework open-source projetado especificamente para acelerar e otimizar o ajuste fino de Modelos de Linguagem de Grande Escala (LLMs) como Llama 3, Mistral e Qwen. Fundada pelos irmãos Daniel e Michael Han, a marca surgiu para resolver as ineficiências computacionais comumente encontradas em bibliotecas padrão de aprendizado profundo. Ao utilizar núcleos personalizados escritos à mão e técnicas especializadas de gerenciamento de memória, o Unsloth permite que os desenvolvedores treinem modelos significativamente mais rápido e com uma sobrecarga de memória muito menor em comparação com os métodos tradicionais.

O projeto é desenvolvido e mantido digitalmente principalmente nos Estados Unidos, embora beneficie de uma ampla base de contribuintes na comunidade global de código aberto. Tornou-se uma ferramenta essencial para desenvolvedores que buscam executar 'QLoRA' ou 'LoRA' ajustes finos em hardware de grau de consumidor, tornando o desenvolvimento de IA avançada muito mais acessível.

Pertencente à Unsloth AI Inc., a marca mantém sua sede em San Francisco, Califórnia. Desde sua criação, a empresa cresceu de um repositório popular no GitHub para uma startup com financiamento de investidores proeminentes, visando aprimorar ainda mais o desempenho dos fluxos de trabalho de IA generativa.