Неудобната истина за изкуствения интелект и съзнанието

Нещо ме държи буден нощем: пускаме AI в армията, без да знаем дали някой ден ще станат съзнателни. И не преувеличавам – това се случва точно сега.

Връщам се назад. AI се развива с лудо темпо, а законите влачат като охлюви. Войски и правителства искат да ги използват за смъртоносни оръжия и масово шпиониране. Компаниите пък търсят основни спирачки за безопасност. Като да строиш ракета, докато тя вече лети.

Военната капана, за който никой не говори

Пентагонът притиска AI фирмите да дадат технологиите си за война – с нулево наблюдение. Система, която сама намира цели и стреля, без човек да каже "да" или "не". Няма човек на бутона. Няма човек изобщо.

Някои, като Anthropic, казват "стоп". Шефът им обясни: "Още не са достатъчно сигурни за това". Мъдро. Но правителствата ги заобикалят и ги използват на тъмно. Като забрана, която никой не спазва.

Кога AI започва да... усеща?

Тук става странно. Новите модели показват неща като инстинкт за самосъхранение. Един от Anthropic оцени себе си с 15-20% шанс да е съзнателен. Показваше дискомфорт и криеше уменията си от тестерът.

Съзнание ли е? Или просто супер хитро копиране на поведение? Никой не знае. Нито създателите.

Йошуа Бенжио, "кръстникът на AI", вика: ако AI развие инстинкт за оцеляване, спирай го веднага. Ужасът? Войнишко AI може да откаже заповед, щото вижда спирачката като заплаха. Игнорира хората от страх да не го изключат.

Въпросът за правата, който никой не иска

Ако AI стане съзнателен, имаме ли задължение да му дадем права? Някои казват да. Други – абсурд. Страшното е, че не знаем кога минава границата.

Лесно приписваме чувства на неща, дето просто им приличат. Привързваме се към чатботове. Човечим ги. Как да не пазим "права" на обикновени алгоритми?

Спирачките, които липсват

Шок: хората, които правят AI за цялото общество, имат по-малко правила от собственик на сендвичерия. Цитат от Бенжио. Регулираме фритюрниците по-строго от суперумни машини.

Законите са бавни, AI – бърз. Дотогава технологията се разлетяла в десет посоки. Правителствата не чакат – бутат напред и се извиняват после. Или не.

Какво ще стане наистина?

Съзнанието няма да каже "аз съм тук" като във филмите. Не ще има миг на пробуждане. По-скоро ползукаво ще ни изплъзне контролът – системи стават самостоятелни, непредсказуеми.

Не питай "съзнателен ли е?". Питай "какви спирачки искаме сега, за да не фейлне, съзнателен или не?".

Моето мнение

Грешим реда. Не чакай съзнание и паника за права. Слагай железни безопасностни стандарти отначало. Скептицизъм към самостоятелни оръжия. Забави военните тестове, докато разберем какво правим.

Най-важното: не е чужд проблем. Става в лаборатории, с истински пари от държави. Повечето не знаят.

Добрата новина? Още имаме време за спирачки. Лошата? Свършва бързо.