Q.ANT представи на 17 ноември NPU Gen 2+ с оптично изпълнение на дискретно преобразуване на Фурие. На SC26 компанията описва хибридна демонстрация с AMD GPU и езиков модел, при която фотонната операция участва в алтернатива на изчислително натоварен attention слой. Това е представяне на производителя. То не е независимо сравнение на целия модел с GPU-only система при еднаква точност, скорост и енергиен разход.

Компанията поставя технологията като допълнение към електронните процесори. Посоченият план за комбинирани търговски системи е за втората половина на 2027 г., тоест бъдеща цел, а не наличност на такъв продукт днес.

Каква операция се добавя

За математически фон документацията на SciPy обяснява дискретното преобразуване на Фурие като преобразуване между представяния на дискретни данни. То позволява сигналът да се разглежда чрез честотните му компоненти. Това е определена математическа операция, а не общо наименование за всички изчисления в изкуствения интелект.

Фотонното изпълнение е интересно, защото използва физиката на светлината за конкретна част от обработката. Но да изпълняваш една операция по нов начин е различно от това да заместиш всяка останала стъпка. Езиковият модел все още има организация, данни и взаимодействие с другите компоненти на системата.

Защо думата „хибридна“ е съществена

Редакционен пример е програма, която изпраща подходяща част от работата към специализиран съпроцесор, а останалото изпълнява на познат хардуер. Тогава общото време включва подготовка, предаване, изчисление и връщане на резултата. Бързата специализирана операция може да е ценна, но измерването само на нея не описва цялата програма.

Подобно разграничение важи за енергията. Консумацията на един изчислителен елемент и общата енергия за завършена задача не са една и съща величина. За практическо сравнение трябва да са включени останалите компоненти и да се запази същият полезен резултат. Това са редакционни критерии за бъдещ тест, не установени тук недостатъци на Q.ANT.

Промяната в алгоритъма също трябва да се отчете

Ако математическата организация на модела се променя, сравняваме не само хардуер. Трябва да знаем как новата конструкция влияе върху качеството на отговорите и върху задачите, за които моделът е предназначен. Еднакъв размер на входа не гарантира еднакъв изход или еднаква полезност.

Един убедителен отчет би посочил версията на модела, използваната операция, данните за оценяване и крайното качество. След това идват латентност, пропускателна способност и енергия при същите условия. Без тези връзки отделен впечатляващ параметър може да създаде по-широко впечатление, отколкото доказателствата позволяват.

Какво да следим след демонстрацията

За разработчика практическите въпроси са интерфейсът, необходимата подготовка на данните и начинът на обработване на числената точност. За оператора на система са важни съвместната работа с другите ускорители, наблюдението и повторяемостта. Изреждаме ги като въпроси за оценка, а не като потвърдени функции на показаната платформа.

Друга полезна проверка е колко от работата действително преминава през оптичния блок. Ако ускорена е само малка част, крайният ефект зависи от останалото изпълнение. Ако е променена голяма част от модела, трябва съответно по-пълно сравнение на неговото качество. И в двата случая обхватът на твърдението е част от резултата.

Терминологията също трябва да е точна. Обработка с преобразуване на Фурие може да е полезна за дадена архитектура, без да бъде универсален заместител на произволна съществуваща операция. Точната математическа роля предхожда сравнението.

Различният размер на партидите може да постави различни ограничения: голямо регулярно натоварване и малки интерактивни заявки са отделни тестови условия. Успешното съвместно изпълнение в демонстрация показва работеща интеграция в този сценарий, но не установява размера на предимството при всички други задачи.

Новината от Q.ANT заслужава внимание като опит да се разшири наборът от математически операции, изпълнявани с фотонен хардуер. Правилният прочит засега е за хибриден изследователски и продуктов път. Следващото убедително доказателство ще свърже конкретната оптична операция с измерима полза за целия модел, при ясно посочени условия и качество на отговорите.