Unsloth AI programvara

Unsloth AI (ofta kallat 'Unsloth' eller 'Unsloth Souped Up') är ett öppen källkodsramverk som är specifikt utformat för att påskynda och optimera finjusteringen av Stora Språkmodeller (LLMs) såsom Llama 3, Mistral och Qwen. Grundat av bröderna Daniel och Michael Han, uppstod varumärket för att lösa de beräkningsmässiga ineffektivitet som ofta finns i vanliga djupinlärningsbibliotek. Genom att använda anpassade handskrivna kärnor och specialiserade minneshanteringstekniker gör Unsloth det möjligt för utvecklare att träna modeller avsevärt snabbare och med mycket lägre minnesöverhead jämfört med traditionella metoder.

Projektet utvecklas och underhålls digitalt främst i USA, även om det drar nytta av en bred bidragarbas i den globala öppen källkodssamhället. Det har blivit ett grundläggande verktyg för utvecklare som vill köra 'QLoRA' eller 'LoRA' finjustering på konsumentklassad hårdvara, vilket gör avancerad AI-utveckling mycket mer tillgänglig.

Ägs av Unsloth AI Inc., har varumärket sitt huvudkontor i San Francisco, Kalifornien. Sedan starten har företaget vuxit från ett populärt GitHub-repository till en riskkapitalfinansierad startup, som har säkrat finansiering från framstående teknikinvesterare för att ytterligare förbättra prestanda för generativa AI-arbetsflöden.