Forscher von Apple haben kürzlich ein innovatives internes System enthüllt, als sie ihre Forschungsergebnisse dazu unter dem Titel auf der Online-Plattform arXiv veröffentlichten . Daraus geht hervor, dass das Unternehmen ein „Minions“ genanntes Cloud-System zur Beschleunigung interner KI-Aufgaben nutzt, das mithilfe eines „Minion Servers“, eines „Minion Executor“ sowie eines „Minion Watchdog“ für die effiziente, sichere und erfolgreiche Ausführung der einzelnen Teilaufgaben sorgt. Der Kern des Konzepts besteht darin, intern im Leerlauf befindliche Mac-Konfigurationen, die gerade keine wichtigen Aufgaben ausführen, für die Ausführung verschiedener KI-Aufgaben zu nutzen – typischerweise handelt es sich dabei um KI-Inferenz-orientierte Aufgaben –, die so effektiv unterstützen können und und damit die Herausforderungen durch Leistungsengpässe zu verringern.

Derzeit wird die Entwicklung der KI im Wesentlichen dadurch gebremst, dass es keine „unbegrenzte Menge“ an Hardware-Ressourcen gibt, die dazu beitragen könnten, die erforderliche Rechenleistung zu erreichen. darauf bietet das „Apple Minions“-System eine effektive und einfallsreiche Lösung, bei der es sich im Wesentlichen um eine GPU-basierte Cloud-„Infrastruktur“ handelt, die speziell für die Ausführung interner Aufgaben konzipiert ist. Mit dieser Methode lässt sich die Warteschlange für KI-Aufgaben erheblich verkürzen: Während die Aufgaben früher bis zu 10 Stunden oder länger auf die entsprechenden GPU-basierten Ressourcen warten mussten, kann sich diese Wartezeit dank des neuen Systems auf wenige Minuten reduzieren, dank des „Minions“-Systems, in dessen Rahmen größere Aufgaben in mehrere kleinere Teilaufgaben aufgeteilt werden, deren Ausführung vom „Minions Watchdog“ überwacht wird. Die Aufgabenausführung kann mit den Open-Source-Transformer-Modellen von Hugging Face erfolgen, oder mithilfe von Ollama können auch große Sprachmodelle zur Textgenerierung eingesetzt werden – auf beide haben alle internen Macs Zugriff, die am Betrieb der Minions-Infrastruktur beteiligt sind.

Die Grundlage des Systems bildet der Minion Server, der die Aufgaben bündelt, in kleinere Teilaufgaben aufteilt und diese an die verfügbaren, gerade im Leerlauf befindlichen Mac-Konfigurationen, auf denen auch die Minion Executor-App laufen muss. Diese „holt“ sich die Aufgaben mithilfe der REST-API selbst, da es kein zentrales Planungssystem gibt – sobald eine Aufgabe erledigt ist, folgt die nächste. Die einzelnen Teilaufgaben werden in einer PortreSQL-Datenbank gespeichert, von wo aus die Mac-Flotte darauf zugreift und die fertige Arbeit anschließend an den Server zurücksendet.

Natürlich können in diesem Prozess Fehler auftreten, die jedoch vom Minion Watchdog herausgefiltert werden: Die einzelnen Mitglieder der Mac-Flotte senden alle fünf Minuten Informationen zum Arbeitsfortschritt, sodass schnell erkennbar ist, wenn eine Aufgabe aus irgendeinem Grund nicht ausgeführt wurde. In diesem Fall wird die Teilaufgabe wieder in die Warteschlange gestellt und kann von einem anderen Mac übernommen werden. Der Mac-Nutzer kann auch den Zeitplan für die Aufgabenausführung festlegen, d. h. ein Team oder ein Projekt auswählen, dessen Aufgaben Vorrang haben; es besteht aber auch die Möglichkeit, das System dynamisch arbeiten zu lassen, sodass es die verfügbaren Aufgaben der Reihe nach ausführt.

Die teilnehmenden Mitarbeiter wurden natürlich über die Aufgabenausführung und eventuelle Hinweise informiert, sodass sowohl die Arbeitsabläufe als auch die Verfügbarkeit der Systeme effizient geplant werden konnten, da das Minions-System nur dann funktioniert, wenn der Minion Executor auf den Macs läuft – diesbezüglich ist jedoch eine Abstimmung erforderlich.

Die Methode ist einfallsreich und effizient, wirft allerdings auch innerhalb des Unternehmens einige Fragen hinsichtlich der Zuverlässigkeit und des vertraulichen Umgangs mit Daten auf, aber man versucht, dies so zu handhaben, dass die Aufgaben nur den Macs anvertraut werden, die zur Gruppe des jeweiligen Projekts gehören, die isoliert als eigenständiger Bestand arbeiten können und dafür auch eine eigene Datenbank erhalten.

Die Entwicklung des Minions-Systems ist damit natürlich noch nicht abgeschlossen, die Forscher möchten das System als nächsten Schritt auch für verteiltes Modelltraining einsetzen und sehen darin auch Potenzial in größerem Maßstab, beispielsweise in größeren Unternehmen, in denen die verfügbaren Macs auf die oben beschriebene Weise an unternehmensinternen Aufgaben arbeiten können. Ein weiterer gangbarer Weg wäre, dass sich unternehmerisch denkende Nutzer als große globale Gemeinschaft einem ähnlichen System anschließen, in dem man ebenfalls auf die Rechenleistung der Macs zurückgreifen könnte, wodurch zahlreiche zukunftsweisende Aufgaben effizienter und schneller erledigt werden könnten. Letzteres wirft natürlich viele Fragen auf, doch da dies bislang nur als Idee im Raum steht, muss die Ausarbeitung eines konkreten Systems noch abgewartet werden.