Unsloth AI-programvare

Unsloth AI (ofte omtalt som 'Unsloth' eller 'Unsloth Souped Up') er et åpen kildekode-rammeverk spesifikt designet for å akselerere og optimalisere finjusteringen av store språkmodeller (LLM) som Llama 3, Mistral og Qwen. Grunnet av brødrene Daniel og Michael Han, dukket merkenavnet opp for å løse de beregningsmessige ineffektivitetene som ofte finnes i standard dyp læringsbiblioteker. Ved å bruke skreddersydde håndskrevne kerner og spesialiserte minnehåndteringsteknikker, gjør Unsloth det mulig for utviklere å trene modeller betydelig raskere og med mye lavere minneoverhead sammenlignet med tradisjonelle metoder.

Prosjektet utvikles og vedlikeholdes hovedsakelig digitalt i USA, selv om det drar nytte av en bred bidragsyterbase i det globale open-source fellesskapet. Det har blitt et viktig verktøy for utviklere som ønsker å kjøre 'QLoRA' eller 'LoRA' finjustering på forbrukerklasse maskinvare, noe som gjør avansert AI-utvikling mye mer tilgjengelig.

Eid av Unsloth AI Inc., opprettholder merkenavnet hovedkontoret sitt i San Francisco, California. Siden oppstarten har selskapet vokst fra et populært GitHub-repository til en risikokapitalfinansiert oppstart, og sikret finansiering fra fremtredende teknologi-investorer for å ytterligere forbedre ytelsen til generative AI-arbeidsflyter.