На 28 октомври изследователи от Parameter публикуваха анализ на пропуск в уеб версията на ChatGPT. Според авторите отварянето на специално подготвен линк към споделен разговор е можело да доведе до изпълнение на чужд код в контекста на вписан потребител. Докладът посочва 26 октомври като дата на поправката, преди публичното разкриване.
Къде е била границата
Интерактивният преглед в браузъра показва съдържание, което приложението не бива да приема за доверено. Обикновено такъв преглед е отделен от основната страница. Изследователите описват как комбинация от пропуски при обмена на съобщения между вградени рамки и при прилагането на защитната политика е позволила тази граница да бъде премината. Cloud Security Alliance разглежда същия случай като пример за риск при комуникация между рамки.
Пропускът е в начина, по който уеб приложението обработва интерактивното съдържание. За разработчика това е съществено: промяна в поведението на езиковия модел не поправя браузърна граница, която допуска непозволено действие. Същият клас проблеми заслужава проверка и при приложения, които изобщо не използват генеративен AI.
Какво да проверят екипите
Екип, който поддържа подобен преглед, може да започне със списък на позволените съобщения между рамките. За всяко трябва да е ясно кой може да го изпрати, как се валидират данните и какво действие може да последва. Проверка на подателя и проверка на съдържанието са отделни задачи. Полезно е и тестовете да покриват неочаквани съобщения и отказан достъп.
Публичният анализ описва възпроизведена от изследователите възможност. Той не измерва броя на действително засегнатите потребители. За разработчиците трайният урок е да проверяват дали всяка част от веригата пази границата на вписаната сесия, включително когато съдържанието пристига от функция за споделяне.
*Корица: концептуална AI илюстрация.*
