Google представи на 9 ноември 2026 г. TPU 8tx и TPU 8i Max. Става дума за нови системни конфигурации, а не за четири различни нови поколения силиций. 8tx използва 8t чипове и AMD хостове с възможности за поверително изчисление. При 8i Max два 8i чипа се комбинират в един пакет. Компанията свързва промените с натоварвания за обучение, извеждане и агенти, но SIExpo не е измервал производителността им.

Състоянието на модела също се пренася

Отделната техническа публикация за TPU Sync описва слой за движение на KV кеш и тегла. Това е важен контекст към новите системи: изчислителят не работи изолирано от паметта и комуникациите. Публикуваните ускорения са свързани с конкретни постановки и не трябва да се превръщат в обещание за еднакъв ефект във всяко приложение.

KV кешът пази междинна информация, използвана при последващо генериране. При продължителни разговори и преместване на задачи организацията на такова състояние може да има значение за времето до първия токен. Това обаче не е тъждествено на скоростта на целия отговор или на общата цена за обслужване на потребител.

Редакционен прочит: измерване на цялата заявка

За реална миграция към нов хардуерен вариант бихме измерили отделно изчакването, подготовката на входа, началото на отговора и окончателното завършване. Това е предложена методика, а не допълнителен резултат от Google. Бързият първи токен може да е полезен за интерфейса, докато изпълнението на външен инструмент остава основният източник на забавяне.

Същото важи за двойното пакетиране на чипове. Повече локални ресурси могат да променят начина, по който се разполага моделът, но не позволяват автоматично да се обещае двойна скорост на бизнес процес. Нужно е да се знаят размерът на модела, дължините на заявките, паралелизмът и използваният софтуер.

При агентни системи трябва да се различава активното изчисление от изчакването на човек или външна услуга. Оптимизацията на този жизнен цикъл може да бъде толкова важна, колкото самият ускорител. Практическото значение на новината е разширяване на системните варианти за AI инфраструктура; окончателният избор изисква измерване с реални натоварвания и договорена наличност, вместо сравнение само по брой чипове.

Проверено от редакцията: 2026-11-09T21:40:18.856161+00:00.