Настоящая проблема с ИИ не в том, что он умен — а в том, что ему всё безразлично

Окей, вот что меня не отпускает с тех пор, как я наткнулся на это исследование.

Мы тратим столько времени, переживая о том, что ИИ станет слишком умным. Слишком мощным. Слишком умным для собственной выгоды. Заголовки кричат о том, что машины проснутся, захватят мир и станут нашими цифровыми владыками. Это сюжет практически любого научно-фантастического фильма.

Но что если всё это время мы задавали не тот вопрос?

Согласно исследователю Джеффу Стибелу, пишущему в журнале Frontiers in Neuroscience, настоящая проблема не в том, сможет ли ИИ стать достаточно интеллектуальным. Проблема в том, сможет ли ИИ когда-либо развить нечто гораздо более странное: подлинную заботу о собственном выживании.

Вот поворот сюжета, которого никто не ожидал

Стибел проводит различие, которое, честно говоря, поразило меня.

Он утверждает, что сознание — это субъективное ощущение того, что ты ты, наличие внутренней жизни — на самом деле не является продуктом интеллекта. Это не какая-то изысканная дополнительная функция, идущая в комплекте с большим мозгом.

Нет. Сознание, по его словам, развилось по совершенно иной причине: давление выживания.

Подумайте об этом так. Ваш мозг не эволюционировал для того, чтобы выигрывать викторины или решать задачи по высшей математике. Он эволюировал потому, что древние организмы сталкивались с ужасающей реальностью: планетой, которая постоянно пыталась их убить. Непредсказуемые среды. Ограниченные ресурсы. Угрозы повсюду.

Поэтому организмы развили две отдельные системы:

Когнитивная способность — способность моделировать мир, предсказывать, что произойдет дальше, обходить проблемы.

Сознание — способность заботиться о том, что происходит, иметь интерес в исходе, переживать внутренний конфликт.

Это не одно и то же. И, честно говоря, мы путали их на протяжении веков.

Почему ваш термостат более «живой», чем ChatGPT (в некотором смысле)

Вот где начинается странность.

Стибел описывает три уровня того, что он называет «контролем» — по сути, способностью управлять внутренними конфликтами: