Betrieb maschinellen Lernens

MLOps ist die Kurzform für Machine-Learning-Operations. Dabei werden die Methoden von DevOps (Softwareentwicklung und IT-Betrieb) und ModelOps (Modellbetrieb) auf das noch junge Gebiet der künstlichen Intelligenz (KI) übertragen. Innovative, intelligente Verfahren ermöglichen es, Machine-Learning- und Deep-Learning-Modelle effizienter und zuverlässiger bereitzustellen. Statt lediglich das ML-Modell zu entwickeln, etabliert MLOps eine Pipeline beziehungsweise einen Lebenszyklus für das Modell, in dem es auf Grundlage von Nutzerfeedback kontinuierlich trainiert, integriert und bereitgestellt werden kann. Auf diese Weise wird das ML-Modell zunehmend optimiert und besser an das Anwendungsszenario angepasst, für das es entwickelt wurde.

Als Lösung, die Endanwendern bereitgestellt wird, umfasst MLOps ein breites Spektrum an Services, mit denen Kunden Machine Learning effektiv in ihrem Unternehmen einsetzen können. Eine MLOps-Lösung kann ausschließlich aus Software bestehen, Software und Hardware bündeln, die erforderlichen Schulungen zur Nutzung der Lösung umfassen oder sogar den Remote-Betrieb der Lösung für den Kunden übernehmen. Die drei führenden Cloud-Service-Provider (CSPs) – Amazon, Google und Microsoft – bieten ebenfalls MLOps-Services in ihren Public Clouds an. Kleinere MLOps-Anbieter können dabei mit der Software und Hardware des Kunden statt mit eigener Infrastruktur arbeiten.

Die Einsatzmöglichkeiten für Endanwender, die von MLOps profitieren, sind nahezu unbegrenzt. Ganz gleich, ob Sie in der Fertigung, Logistik, im Transportwesen, Handel, Einzelhandel, Bildungswesen oder Gesundheitswesen tätig sind: Ein optimiertes Machine-Learning-Modell verbessert nicht nur Ihre eigene Effizienz, sondern kann möglicherweise auch zusätzlichen Wert aus den umfangreichen Datenbeständen schöpfen, die Ihnen bereits vorliegen. Aus diesem Grund beauftragen immer mehr Unternehmen und Institutionen MLOps-Services, um eigene ML-Modelle zu entwickeln und bereitzustellen.

GIGABYTE bietet sowohl Hardware als auch Software für Anbieter und Anwender von MLOps-Lösungen.

Hardware: Die G-Series GPU-Server von GIGABYTE beherbergen mehrere Grafikkarten in einem kompakten Gehäuse mit hoher Packungsdichte und ermöglichen skalierbare HPC-Lösungen für KI und Deep Learning. Damit gehören sie zu den bevorzugten Serverprodukten für MLOps-Anbieter. Die Parallelverarbeitungsfunktionen der GPU-Server eignen sich ideal für die Entwicklung von ML-Modellen, die moderne Technologien wie maschinelles Sehen, Handschrifterkennung (HWR) und die Verarbeitung natürlicher Sprache (NLP) nutzen.

Software: Ein wichtiger Bestandteil von MLOps ist Deep Learning, das mithilfe des Trainings tiefer neuronaler Netze umgesetzt werden kann. Das Myelintek MLSteam DNN Training System ist Teil der DNN Training Appliance von GIGABYTE. Dabei handelt es sich um eine schlüsselfertige Plattform für das Training tiefer neuronaler Netze mit einer vorinstallierten, validierten und optimierten Hard- und Softwareumgebung einschließlich mehrerer gängiger Frameworks und Bibliotheken. Das Backend dieser MLOps-Lösung bilden ebenfalls die G-Series GPU-Server von GIGABYTE, da sie eine der Konfigurationen mit der höchsten GPU-Dichte auf dem Markt bieten.