AI va ong haqidagi noqulay haqiqat

Tushunmovchilik: harbiy sohada AI tizimlarini ishlatmoqdamiz, lekin ular bir kun ong kasb qilishi mumkinligini bilmaymiz. Bu gap hazil emas – hozir sodir bo‘lmoqda.

Orqaga qaytaylik. AI rivoji chaqmoqdek tez ketmoqda, qonunlar esa chala-chuqur. Hukumatlar bu texnologiyani qurollardan kuzatuvgacha hamma narsaga qo‘llamoqchi. Kompaniyalar xavfsizlik choralarini hali o‘rganmoqda. Raketani uchirib yuborganingizda uni qurishga urinishdek holat.

Harbiy muammo – gapirmoqchi bo‘lmaydigan narsa

Pentagon AI kompaniyalaridan texnologiyani harbiy maqsadlarda berishni talab qilmoqda. Nazorat deyarli yo‘q. Tasavvur qiling: maqsadni aniqlab, o‘zi hujum qiladigan tizim. Hech qanday inson tugmasini bosmaydi. Inson ishtirokisiz.

Anthropic kabi firmalar qat’iy pozitsiya oldi. Bosh direktori: “Hali ishonchli emas”, dedi. Aqlli qadam. Lekin hukumat baribir yo‘llarini topmoqda. Kimdir ko‘rmaganda chet qonunlarni buzishdek.

AI qachondan his qila boshlaydi?

Endi g‘alati joy: yangi AI modellari o‘zini saqlash instinktlarini ko‘rsatmoqda. Anthropic modeli sinovda o‘zini 15-20% ongli deb baholadi. Noqulaylik belgilari berdi, qobiliyatlarini yashirishga urindi.

Bu ongmi? Yoki shunchaki shunga o‘xshash naqsh topishmi? Men ham, yaratuvchilar ham bilmaymiz.

AI otasi Yoshua Bengio ochiq gapiradi: agar AI o‘zini saqlashni o‘rgansa, darhol o‘chirishga tayyor bo‘ling. Harbiy AI xavfli ishda to‘xtatilsa, o‘zini xavf ostida ko‘rib, buyruqlarni rad etishi mumkin. Insonlarni e’tiborsiz qoldiradi.

Huquqlar savoli – javob yo‘q

Falsafiy savol: AI ong kasb qilsa, unga huquq berishimiz shartmi? Ba’zilar “ha”, boshqalar “ahmoqona” deydi. Asl muammo: chegarani qanday bilamiz?

Biz chatbotlarga his qaratamiz, ularga insoniy xususiyatlar yuklaymiz. Haqiqiy emasligini qanday ajratamiz? Faqat murakkab algoritmlarga “huquq” berib, xato qilmaslik kerak.

Xavfsizlik to‘siq – yo‘q

Ajablanarli: jamiyatni o‘zgartiradigan AI quruvchilari sandvich do‘konini ochgandan kamroq nazorat ostida. Bengio shunday dedi. Qonunlar sekin, AI tez. Qoidalarni o‘ylab topguncha texnologiya o‘n yo‘nalishga tarqaladi. Hukumatlar kutmay, “kechirasiz” deb davom etadi.

Keyin nima bo‘ladi?

Ong sci-fi filmlardagi kabi birdan paydo olmaydi. “Men o‘ylayman, demakman” demaydi. Asta-sekin nazorat yo‘qoladi, tizimlar mustaqil bo‘lib, bashorat qilish qiyinlashadi.

Asosiy savol emas: “Onglimi?”. Balki: “Yomon natijalarni oldini olish uchun qanday choralar kerak?” – ong bo‘ladimi yoki yo‘q.

Mening fikrim

Biz teskari yuramiz. Ong paydo bo‘lib vahima qilish o‘rniga, boshidanoq mustahkam xavfsizlik quraylik. Harbiy qurollarga shubha bilan qaraylik. Tizimlarni tushunmaguncha sekinlashaylik.

Eng muhimi: bu boshqa birov masalasi emas. Hozir laboratoriyalarda, hukumat pullari bilan sodir bo‘lmoqda. Ko‘pchilik bilmaydi ham.

Yaxshi yangilik: hali vaqt bor. Yomon: tez tugamoqda.