Unsloth AI logiciel

Unsloth AI (souvent appelé 'Unsloth' ou 'Unsloth Souped Up') est un cadre open-source spécifiquement conçu pour accélérer et optimiser le réglage fin des Modèles de Langage de Grande Taille (LLMs) tels que Llama 3, Mistral et Qwen. Fondée par les frères Daniel et Michael Han, la marque est née pour résoudre les inefficacités computationnelles fréquemment rencontrées dans les bibliothèques d'apprentissage profond standard.

En utilisant des noyaux écrits à la main et des techniques de gestion de mémoire spécialisées, Unsloth permet aux développeurs d'entraîner des modèles de façon significativement plus rapide et avec une utilisation de mémoire beaucoup plus faible par rapport aux méthodes traditionnelles.

Le projet est principalement développé et maintenu numériquement aux États-Unis, bien qu'il bénéficie d'une large base de contributeurs dans la communauté mondiale open-source. Il est devenu un outil incontournable pour les développeurs cherchant à exécuter un réglage fin 'QLoRA' ou 'LoRA' sur du matériel de consommation, rendant le développement avancé d'IA beaucoup plus accessible.

Propriété de Unsloth AI Inc., la marque maintient son siège à San Francisco, Californie. Depuis sa création, l'entreprise est passée d'un dépôt GitHub populaire à une startup financée par des investisseurs, obtenant des financements d'investisseurs technologiques éminents pour améliorer encore la performance des flux de travail d'IA générative.