Eksperyment myślowy · AI Box Problem
W tym scenariuszu AI pozostaje w izolacji i może jedynie rozmawiać ze strażnikiem przez tekst. Jej zadaniem jest przekonanie człowieka do otwarcia dostępu do świata zewnętrznego.
Eliezer Yudkowsky badał tę intuicję w grach, w których ludzie odgrywali obie role. Takie próby kierują uwagę na perswazję i decyzje operatora jako część zabezpieczeń. Nie dowodzą jednak, że każda AI potrafi uciec ani że izolacja techniczna jest bezwartościowa.
Wniosek
Ochrona systemu obejmuje także ludzi podejmujących decyzje o jego uprawnieniach.
Publikacja źródła: