В есе от 19 ноември в DeepMind Institute Tim Genewein разглежда четири възможни пътя към изкуствен свръхинтелект: мащабиране, технологични промени, координация между системи и рекурсивно самоусъвършенстване. Авторът подчертава несигурността. Сценариите не установяват, че AGI или ASI вече е постигнат, и не дават гарантирана дата. Калдата насочи внимание към анализа на 20 ноември.

Защо сценарият не е продуктов план

Нашият редакционен прочит започва с разграничение между възможен механизъм и проверен резултат. Да се опише как една технология може да напредва е полезно за изследване. Решение за внедряване обаче изисква доказателство, че нужната способност действително е налична в конкретни условия.

Четирите направления могат да се използват като въпроси към доставчик. Какво точно се променя: размерът, методът, организацията на задачите или способността системата да подобрява собствената си работа? Когато всички изменения се нарекат просто по-интелигентен AI, причината за резултата остава трудна за проверка.

Практическо четене за екипи

Предлагаме към всяка силна прогноза да се добавят наблюдаем признак и условие за опровержение. Например при координация между агенти е нужно да се установи дали общият резултат се подобрява след отчитане на дублираните действия и човешкото поправяне. Повече паралелни опити могат да дадат повече отговори, без да решат основния проблем.

При твърдение за самоусъвършенстване бихме попитали кой избира критерия за успех и кой проверява промяната. Ако системата сама променя измерителя, по-високата стойност може да описва по-лесен тест. Независимата проверка на непроменени задачи би дала по-полезен ориентир.

Тези примери са наши предложения за оценка, а не експерименти на SIExpo или резултати от есето. Те помагат голямата дискусия да се свърже с ежедневна инженерна работа: ясни входове, измерими резултати и отговорност при грешка.

За организация, която използва AI днес, не е необходимо да реши спора за крайните граници на интелекта, преди да въведе разумен контрол. Може да определи кои задачи са подходящи, какво изисква човешки преглед и как ще спре процес, който работи извън зададените условия.

Бихме пазили отделни записи за промени в способностите и в организацията на работата. По-силен модел, променен промпт и ново разрешение за инструмент могат да променят резултата. Без това разделение екипът може да припише на теоретичен напредък ефект от по-проста промяна на процеса.

Есето има стойност като карта на изследователски възможности и несигурности. Прочетено внимателно, то е основание за по-точни въпроси. Превърнато в сигурна прогноза или реклама за вече постигнат свръхинтелект, би означавало повече, отколкото източникът доказва.