4 Mac Studio успішно працюють з трильйонопараметровою моделлю, Apple кидає виклик наративу Nvidia щодо інференсу

Apple наразі фундаментально змінює конкурентний ландшафт ринку AI-апаратного забезпечення за допомогою концепції "локального інференсу", прямо націлено на потенційну додаткову частку Nvidia у сфері AI-inference.

Нещодавно анонсований Apple M5 Ultra Mac Studio буде доставлятися з 22 вересня, підтримує до 512 ГБ уніфікованої пам’яті та може працювати кластерами для виконання розподілених інференсі-задач; раніше Apple вже продемонструвала одночасну роботу чотирьох Mac Studio з параметричним моделлю у 1 трильйон параметрів.

Голова апаратного підрозділу Apple, Johny Srouji, у коментарі для Reuters відзначив, що, придбавши пристрій, компанії більше не потрібно сплачувати хмарні збори за інференс за кожен токен, і для команд зі стабільним навантаженням локальні обчислення в середньостроковій перспективі можуть бути вигіднішими за довгострокову оренду хмарних GPU.

Суть цього наративу для Nvidia полягає не у втраті існуючих замовлень, а в тому, що якщо більше інференсі завдань перемістяться на локальні пристрої чи корпоративні машини, частка Nvidia у додаткових AI-активностях може бути нижчою за ринкові очікування.

Наразі ціна акцій Apple демонструє технічну силу, тоді як Nvidia коливається у широкому діапазоні без середньострокового тренду; деякі аналітики радять використовувати опціони з акцентом на зростання Apple і падіння Nvidia.

Зміна позиціонування продукту: від “використовувати AI” до “запускати AI”

Позиціонування Mac Studio від Apple зазнає докорінних змін — від продажу машин, які “можуть використовувати AI”, до продажу машин, які “можуть запускати AI”.

У центрі цієї зміни — різниця у структурі витрат на інференс: власники iPhone і Mac вже заплатили за чіпи, і завдання локальної обробки вже не потребують додаткових хмарних інференс-запитів; аналогічна логіка тепер розповсюджується й на корпоративний сегмент.

M5 Ultra Mac Studio підтримує до 512 ГБ уніфікованої пам’яті; ця конфігурація стане доступною наприкінці жовтня. Великий обсяг пам’яті дозволяє завантажувати моделі, які не поміщаються на стандартному GPU, а декілька машин у кластері можуть розподіляти ваги моделі з трильйоном параметрів.

Раніше Apple продемонструвала спільну роботу 4 Mac Studio з моделлю у трильйон параметрів, і це доводить технічну можливість локального інференсу як часткової альтернативи хмарним GPU-кластерам.

Однак справжнім випробуванням поза межами демонстрацій Apple стане порівняння швидкості інференсу, кількості одночасних користувачів та загальної вартості володіння відносно хмарної оренди — саме ці три фактори є ключовими у корпоративних закупівлях.

Nvidia все ще в ланцюжку, але додаткова частка — під питанням

Mac Studio не замінить дата-центр GPU для усіх типів завдань — сама Apple для деяких найбільш вимогливих AI-задач використовує Nvidia GPU на Google Cloud.

Але незалежно від втрати наявних замовлень, наратив для Nvidia може змінитись: як тільки більше інференсів будуть запускатись на пристроях чи в корпоративних обчисленнях, частка Nvidia у додаткових AI-активностях може бути меншою за ринкові припущення.

Акції Nvidia залишаються без середньострокового тренду, торгуються у верхній частині широкого коридору, а імпліцитна волатильність найнижча з доепідемічних часів.

Низька волатильність зазвичай сигналізує про високу впевненість ринку у подальших рухах, але потенційна зміна парадигми інференсу — це саме та змінна, якої нинішнє ціноутворення опціонів майже не враховує як ризикову надбавку для сценарію "міграції інференсу на локальний рівень".

Саме через це Goldman Sachs вважає, що купівля опціонів на падіння Nvidia — це низькобюджетний спосіб зіграти на можливому зниженні прибуткових очікувань; у порівнянні, їх перевага віддається зростанню Apple щодо зниження Nvidia.

Аналітики радять у подальшому слідкувати за реальними результатами щодо швидкості інференсу та загальної вартості володіння після поставок 512 ГБ конфігурацій наприкінці жовтня, а також за реакцією корпоративних замовників на локальні рішення інференсу.