Софтуерът прави другия ускорител използваем

IBM Research публикува на 26 октомври 2026 г. технически отчет за включването на Spyre като PyTorch устройство. Основните части са torch-spyre, хардуерна приставка за vLLM и работа по компилатора и тестовете. Новият повод е софтуерното развитие, а не първо обявяване на самия чип.

В конкретен пример с Granite 3.3 8B, пакет от един вход и дължина 1024 IBM отчита до 1,7 пъти по-бърза подготовка на входа и 2,4 пъти по-бързо генериране след промени в пътя на изпълнение. Това е сравнение на оптимизации при описаната конфигурация, не универсален резултат срещу GPU.

Публичен код не означава самодостатъчна инсталация

Хранилището torch-spyre съдържа Python и C++ код за устройство с име spyre в PyTorch и е с лиценз Apache 2.0. README уточнява, че изграждането изисква развойна версия на IBM Spyre Software Stack; част от вътрешните инструкции са достъпни за служители на IBM. Следователно видимият код не доказва, че произволен компютър може веднага да изпълни примерите.

Това е съществено за разработчик, който оценява преносимостта. Нашият прочит е, че трябва да се установят едновременно наличният хардуер, версията на системния стек и поддържаните операции. Команда за създаване на тензор е полезна начална проверка, но не е достатъчна за пълния модел. SIExpo не е инсталирал стека и не е изпълнявал тестове върху Spyre.

От PyTorch до обслужването на заявки

Адресът на хранилището vllm-spyre пренасочва към поддържаната от общността SenDNN Inference приставка. Тя свързва Spyre с архитектурата за хардуерни приставки на vLLM и насочва към отделни списъци с поддържани модели и функции. Тези списъци са важни: поддръжката на една конфигурация не означава автоматично поддръжка на всеки нов модел, размер на входа или начин на пакетиране.

В предложен от нас пилот бихме започнали с модел и пример, изрично включени в документацията. След проверка на правилния изход бихме увеличили натоварването и разнообразието на входовете. Бихме записвали и неподдържаните случаи, вместо да ги скриваме зад средна скорост. Това е план за оценка, а не отчет за проведен експеримент.

Хардуерният контекст е по-стар

Обяснението на IBM от 18 февруари описва Spyre като ускорител за изпълнение на модели с програмируема архитектура, при която обработката се задейства от пристигащите данни. Картата използва PCIe и LPDDR5 памет, а свързването на няколко устройства разширява възможностите на системата. Този контекст помага да се разбере защо компилаторът и преносът на данни имат значение. Той не е нова октомврийска хардуерна премиера.

Какво би било честно сравнение

Нашата редакционна оценка е, че преносимостта трябва да се измерва с приетия резултат на реалната задача. Например система за извличане на данни от документи има нужда едновременно от достатъчна точност и време за отговор. По-бързото генериране няма да помогне, ако липсва необходима операция или форматът се е променил.

Бихме отделили времето за първоначално компилиране от следващите изпълнения и бихме посочили точната числова прецизност, версиите и входните размери. След това може да се оцени капацитетът при едновременни заявки и поведението при грешка. Нито наличният README, нито фирменият пример замества тази проверка. Значението на новината е в по-практичния софтуерен път към различна архитектура, с видими зависимости и граници.

*AI илюстрация: концептуална редакционна визия, не документална снимка или действителен екран от продукта.*

*Редакционна проверка: 2026-10-27T17:52:17.649720+00:00.*