Изследователи на Apple наскоро разкриха находчива вътрешна система, като публикуваха проучване за нея в arXiv. От него става ясно, че компанията използва облачна система, наречена Minions, за ускоряване на вътрешни задачи с изкуствен интелект. Три компонента — Minion Server, Minion Executor и Minion Watchdog — осигуряват ефективното, сигурно и успешно изпълнение на отделните подзадачи. Идеята е Mac компютрите в компанията, които в момента не изпълняват важна работа, да се използват за различни задачи с изкуствен интелект, най-вече за изпълнение на вече обучени модели. Така те допринасят с изчислителната си мощ и помагат за преодоляване на недостига на ресурси.
В момента развитието на изкуствения интелект е ограничено до голяма степен от липсата на „неограничени“ хардуерни ресурси, които да осигурят необходимата изчислителна мощ. Minions на Apple предлага ефективен и находчив отговор на този проблем: на практика това е облачна инфраструктура с графични процесори, предназначена специално за вътрешни задачи. Този подход може значително да съкрати времето за изчакване. Докато преди задачите са чакали над 10 часа за подходящи GPU ресурси, с новата система това време може да спадне до минути. В Minions големите задачи се разделят на по-малки подзадачи, чието изпълнение се следи от Minions Watchdog. За работата могат да се използват трансформър модели с отворен код от Hugging Face, а чрез Ollama — и големи езикови модели за генериране на текст. И двете възможности са достъпни за всички вътрешни Mac компютри, участващи в инфраструктурата Minions.
Основата на системата е Minion Server, който събира задачите, разделя ги на по-малки подзадачи и ги предоставя на наличните Mac компютри, които в момента не са натоварени. На тях трябва да работи и приложението Minion Executor. То само изтегля задачи чрез REST API, тъй като няма централизирана система за планиране: щом една задача приключи, може да започне следващата. Отделните подзадачи се съхраняват в база данни PostgreSQL, откъдето групата Mac компютри ги получава, а след това връща готовите резултати на сървъра.
В процеса, разбира се, могат да възникнат грешки, които Minion Watchdog открива. Всеки от участващите Mac компютри изпраща информация за работата си на всеки пет минути, така че бързо става ясно, ако по някаква причина дадена задача не е изпълнена. В такъв случай подзадачата се връща в опашката и друг Mac може да я поеме. Потребителят на Mac може да задава и приоритетите при изпълнение, като посочи екип или проект, чиито задачи да се обработват първи. Възможен е и динамичен режим, при който системата изпълнява наличните задачи поред.
Участващите служители са получили необходимата информация за изпълнението на задачите и свързаните с него особености. Това е позволило ефективно да се планират както работата, така и наличността на компютрите. Minions функционира само когато на Mac компютрите работи Minion Executor, затова е необходима координация със служителите.
Подходът е находчив и ефективен, макар че дори в рамките на компанията повдига въпроси за надеждността и поверителността на данните. За да ги решат, изследователите се стремят да възлагат задачите само на Mac компютри от екипа, който работи по съответния проект. Те могат да ги обработват изолирано, като отделна група със собствена база данни.
Разработката на Minions не спира дотук. Като следваща стъпка изследователите искат да използват системата и за разпределено обучение на модели. Те виждат потенциал и за по-голям мащаб, например в големи компании, където наличните Mac компютри могат да изпълняват вътрешни задачи по описания начин. Възможно би било дори доброволци да се включват в подобна система като част от голяма глобална общност. Така изчислителната мощ на техните Mac компютри би могла да помогне за по-бързото и ефективно изпълнение на редица перспективни задачи. Последната идея повдига много въпроси, но засега съществува само като концепция, така че разработването на конкретна система тепърва предстои.






























