На 2 ноември OpenAI съобщи, че подготвя нов вътрешен цикъл от проверки за сигурност. Компанията планира да събере свои екипи, външни изследователи и партньори и да използва свои модели при изпитванията. Партньор в предстоящата проверка е Cathedral. Резултати от този цикъл още няма.
В подобно изпитване модел може да помогне на проверяващите да търсят повтарящи се проблеми или да съставят случаи за проверка. Самото предложение на модела не установява уязвимост. За това са нужни възпроизводими наблюдения, ясно описана засегната система и проверка дали след поправката проблемът действително изчезва.
Една полезна оценка на бъдещите резултати би разграничила първоначалните сигнали, потвърдените проблеми и внедрените поправки. Тези числа отговарят на различни въпроси. Например повече сигнали могат да показват по-широко търсене, но сами по себе си не показват по-добра защита. Ползата от проверката ще може да се оцени, когато има конкретни резултати.
*Корица: концептуална AI илюстрация.*
