Dnotitia обяви на 19 ноември първа публична демонстрация на работещия си VDPU ASIC за векторно търсене на SC26 в Чикаго. Компанията описва заявки на естествен език върху около 2,6 милиона видеокадъра и поне 90% по-ниско натоварване на хост процесора при изнасяне на търсенето. Това са фирмени измервания. Посоченото приблизително десеткратно ускорение при многокартова конфигурация е цел, а не доказан резултат от демонстрацията.

Какво е новото спрямо предишния етап

В съобщението от септември компанията представя оценки с FPGA и работа по първите ASIC образци. Този по-стар материал е полезен като предистория: сегашната новина е демонстрацията със специализирания чип. Не бива резултат от една програмируема конфигурация да се пренася безусловно върху друг хардуер или върху бъдещ сървър.

Документацията на Faiss дава общия софтуерен контекст: търсенето по сходство сравнява векторни представяния и използва индекси за работа с големи набори. Това не е независим тест на VDPU. То помага да се разбере защо изборът на данни, индекс и критерий за качество участва в оценката на всяка подобна система.

Освободен процесор и по-бърз отговор са различни показатели

Нашият прочит е да се измерват отделно натоварването на хоста и времето до полезен резултат. Възможно е част от работата успешно да се премести към ускорител, но общият отговор да зависи и от друг етап. Затова процентът за CPU не бива автоматично да се превежда като същия процент икономия за цялата услуга.

Условен пилот може да използва колекция с известни търсени кадри и предварително зададени заявки. Първо се проверява дали правилните резултати действително се намират. Едва след това има смисъл да се сравняват скорост, едновременни заявки и използвани ресурси. Примерът е предложена редакционна методика, а не тест, извършен от SIExpo.

Какво трябва да остане съпоставимо

Сравнението би било по-полезно при еднакви данни и еднакъв критерий за приемлив отговор. Ако една конфигурация връща по-бързо по-малко подходящи резултати, това не е еднозначна победа. Ако друга използва различен начин на подреждане, тази разлика трябва да бъде записана, вместо да се прикрие в обща цифра за производителност.

Има значение и как системата се обновява при нови данни. За агент, който работи с променяща се информация, бързият отговор върху вчерашния индекс може да не е достатъчен. В предложената оценка бихме включили добавяне на нов материал и проверка кога той става откриваем. Това е въпрос към бъдещите измервания, не твърдение за наличен проблем в VDPU.

Новината показва конкретен хардуерен етап в специализацията на AI инфраструктурата. SIExpo не е възпроизвеждал демонстрацията и не я представя като независимо установено превъзходство. Следващите полезни доказателства са съпоставими резултати и надеждност при продължителна работа.