А может ли ИИ на самом деле быть сознательным?
Вот мысль, которая заставляет задуматься: учёные доказали, что ИИ способен идеально копировать любое человеческое поведение — но мы всё равно вряд ли назовём его «сознательным».
Когда я наткнулся на исследование Мюнхенского университета имени Людвига и Максимилиана, меня это по-настоящему зацепило. И знаете что? Это имеет смысл, стоит только копнуть глубже.
Давайте разберёмся, что они выяснили.
Эксперимент, который взбудоражил учёных
Исследователи провернули хитрую штуку. Они показали почти 1100 участникам сценарии, где действовал либо человек, либо система ИИ — и делали они абсолютно одно и то же: реагировали на звуки, распознавали эмоции, отвечали на ситуации. Действия одинаковые, обстоятельства одинаковые, только «актёры» разные.
Потом спросили: насколько «сознательным» кажется каждый вариант?
И тут начинается самое интересное.
Когда речь заходила об осознанности — то есть о том, замечает ли агент происходящее вокруг — оценки людей и ИИ были примерно одинаковыми. Логично? Если что-то реагирует на среду, оно кажется «осознающим» — неважно, плоть это или кремний.
Но стоило появиться слову сознание — и всё менялось.
Пропасть сознания
Даже самый продвинутый, отзывчивый ИИ в эксперименте получил оценку ниже, чем самый пассивный человеческий персонаж. Пару секунд на осмысление.
Учёные назвали это «пропастью сознания» — и она огромная. Идентичное поведение, но диаметрально разные оценки сознательности в зависимости от того, человек действует или машина.
Моё мнение? Тут открывается кое-что прекрасное о работе человеческого разума. Мы не так легко обманешься, как может показаться!
Почему это важно?
Я много об этом думал, и вот что меня задевает: мы живём в эпоху, когда ИИ пишет стихи, создаёт картины и ведёт разговоры, которые ощущаются невероятно человеческими. Легко поддаться ажиотажу — как восторженному, так и пугающему.
Но это исследование говорит: не стоит сильно переживать, что люди случайно начнут относиться к ИИ как к полноценно сознательным существам. Наш мозг, оказывается, содержит встроенный скептицизм, который не исчезает только потому, что поведение выглядит правильным.
Впрочем, исследователи также отмечают: язык, которым мы описываем ИИ, имеет огромное значение. Когда компании и медиа постоянно приписывают системам намерения, чувства и сознание — они формируют наше мышление. Осознанно или нет, но формируют.
Настоящая разница между осознанностью и сознанием
Вот нюанс, который я нахожу самым провокационным: осознанность — это про то, что ты делаешь. Сознание — это про то, что ты переживаешь.
Можно запрограммировать что-то реагировать на раздражители. Но сознание? Это слово несёт в себе вес субъективного опыта — ощущения бытия собой, «каково это» — существовать. И, судя по всему, большинство людей интуитивно понимают эту разницу, даже если никогда не задумывались о ней специально.
ИИ может знать, что идёт дождь. Но чувствует ли он этот дождь? Вот эта линия, похоже, и есть то, что мы инстинктивно проводим.
Что это значит для дискуссии об ИИ
Я думаю, это исследование дарит нам всем маленький подарок: разрешение немного расслабиться. Не нужно паниковать, что люди скоро перестанут отличать ИИ от сознательных существ. Наш встроенный скептицизм справляется с задачей.
В то же время оно напоминает: давайте будем аккуратнее с тем, как говорим об ИИ. Слова имеют силу. То, как мы описываем эти системы, формирует общественное восприятие.
Так что в следующий раз, когда кто-то скажет, что ИИ «хочет» или «чувствует» — может, стоит остановиться и спросить, а что это конкретно означает. Осознанность и сознание — не одно и то же, даже когда поведение выглядит идентичным.
А вы как думаете? Могли бы вы когда-нибудь считать ИИ сознательным, или эта граница проведена навсегда? Буду рад услышать ваше мнение.