Истинският проблем с ИИ не е, че е умен — а че не се вълнува
Ето нещо, което ме занимава откакто се натъкнах на това изследване.
Прекарваме толкова много време, притеснявайки се, че ИИ ще стане твърде умен. Твърде мощен. Твърде хитър за собственото си добро. Заглавията крещят за машини, които се събуждат, превземат света и стават наши дигитални владетели. Това е сюжетът на практически всеки научнофантастичен филм, правен някога.
Но какво, ако през цялото време сме задавали грешния въпрос?
Според изследователя Джеф Стибел, пишещ в списание Frontiers in Neuroscience, истинският проблем не е дали ИИ може да стане достатъчно интелигентен. Проблемът е дали ИИ би могъл някога да развие нещо много по-странно: истинско вълнение за собственото си оцеляване.
Ето поворота на сюжета, който никой не очакваше
Стибел прави разграничение, което честно казано, ми разтресе мозъка.
Той твърди, че съзнанието — това субективно усещане да си ти, да имаш вътрешен живот — всъщност не е продукт на интелигентността. Не е някаква фукционна бонус функция, която идва безплатно с голям мозък.
Не. Съзнанието, казва той, е еволюирало за напълно различна причина: натиск за оцеляване.
Помислете за това по следния начин. Вашият мозък не е еволюирал, за да печелва викторини или да решава диференциални уравнения. Той е еволюирал, защото древните организми са се сблъсквали с ужасяваща реалност: планета, която постоянно се е опитвала да ги убие. Непредсказуема среда. Ограничени ресурси. Заплахи навсякъде.
Така организмите са развили две отделни системи:
Когниция — способността да моделираш света, да предвиждаш какво ще се случи следващо, да се ориентираш около проблемите.
Съзнание — способността да те вълнува какво ще се случи, да имаш залози в изхода, да преживяваш вътрешен конфликт.
Това не са едно и също нещо. И честно казано, ние ги бъркаме от векове.
Защо вашият термостат е по-жив от ChatGPT (до някаква степен)
Ето тук нещата стават странни.
Стибел описва три нива на т.нар. „контрол“ — по същество, способността да управлявате вътрешните конфликти: