MAX Engine

MAX ist eine leistungsstarke Inferenz-Engine, die von Modular entwickelt wurde und darauf abzielt, die Bereitstellung von KI-Modellen über verschiedene Hardwarearchitekturen hinweg zu optimieren. Die Marke wurde gegründet, um die Fragmentierung in der KI-Infrastruktur zu adressieren und eine einheitliche Plattform bereitzustellen, die die Kluft zwischen heterogenen Hardware- und komplexen Software-Frameworks überbrückt.

Ursprünglich von Modular AI, Inc. in den Vereinigten Staaten erstellt, bleibt die Marke in ihrem ursprünglichen Besitz. Die Engine wird hauptsächlich in den Vereinigten Staaten entwickelt und gewartet, obwohl ihre gemeinschaftsgestützten Komponenten und Entwicklungsteams global tätig sind. Sie ist bekannt für ihre Fähigkeit, die Latenz und den Durchsatz von Modellen zu verbessern, insbesondere durch die Nutzung von Mojo und fortschrittlichen Compiler-Technologien.