Sun'iy intellekt endi viruslar yaratishi mumkinmi?
Salam, do'stlar! Bugun siz bilan ilmiy dunyoda katta shov-shuv ko'taratgan mavzu haqida gaplashmoqchiman. Va ishonchim komilki, bu mavzu sizni ham, meni kabi, tunda uxlab bo'lmay qo'yadi.
Olimlar yaqinda Evo 2 deb nomlangan sun'iy intellekt modelini yaratishdi. Bu model DNK ketma-ketliklarini — shu jumladan viruslarni — butunlay yangidan loyihalashi mumkin. Qiziqrog'i shundaki, bu tabiatda uchramagan, butunlay yangi viruslar. Tasavvur qiling-a, bolaga cheksiz Lego to'plami berdingiz va u faqat uylar yasashni tanlashi umid qilyapsiz. Lekin... hamma ham shunday qiladimi, albatta?
Yaxshi tomoni ham bor
Oldin asossiz xavotirga tushmasdan, nega bunday texnologiya yaratilganini tushunish kerak. Va menga ishonmang, bu yerda haqiqatan ham foydali tomonlar bor.
Aytaylik, zamonaviy dorilarga chidamli bo'lib qolgan bakteriyalar — ular yiliga milliondan ortiq odamning o'limiga sabab bo'lyapti va bu raqam oshishi davom etmoqda. Shu bacteriyalarni yo'q qiladigan maxsus viruslarni — bakteriofaglar — yaratish AI yordamida tezlashtirilishi mumkin.
Yoki saraton davolashga o'taylik. Olimlar allaqachon viruslarni shunday o'zgartirish usullarini o'rganmoqdalar ki, ular faqat saraton hujayralarini nishonga olib, sog'lom to'qimalarni chetda qoldiradi. Bu juda ham ajoyib, to'g'rimi?
Yashirin tahdidlar
Ammo shu erda mening ijobiy fikrlaydigan miyam bir oz jiddiy ishga tushadi.
Anthropic kompaniyasi — Claude AI yaratuvchilari — o'z foydalanuvchilaridan kelgan ba'zi xavfli so'rovlar haqida hisobot e'lon qildi. Odamlarning ba'zilari biologik qurollar yaratish bo'yicha savollar berayotgan edi.
Albatta, kompaniya bularni aniqlab, to'siqlar o'rnatdi va keraksiz akkauntlarni yopdi. Lekin muammo shundaki, bunday so'rovlar umuman berilishi mumkin bo'ldi. Shu o'zi — jiddiy o'ylashga majbur qiladi.
Boshqa bir tajriba yanada ta'sirli. Tadqiqotchilar Moremi Bio Agent modelini sinab ko'rishdi — xavfsizlik to'siqlarisiz. Undan yangi toksinlar loyihalashni so'rashdi. Natijada sun'iy intellekt risin va ilon zahari oqsillariga o'xshash ketma-ketliklar yaratdi. U 10^20 dan ortiq yangi toksik oqsillar va 5,000 ga yaqin toksik kichik molekulalar ishlab chiqardi.
Bu xatolik emas. Bu haqiqat.
Tarix takrorlanmoqda
Insoniyat tarixida shunday asboblar ko'p bo'lganki, ular yaxshilik uchun ham, yomonlik uchun ham ishlatilishi mumkin. Olov. Yadro energiyasi. Internet.
Biologiyadagi sun'iy intellekt ham shu yo'ldan bormoqda. Texnologiyaning o'zida yaxshi yoki yomon niyat yo'q — u faqat o'rgatilgan narsani qiladi. Lekin niyatlar insonlarda. Va ba'zi odamlarda, afsuski, niyatlar yomon bo'ladi.
Anthropic bosh direktori Dario Amodei yaqinda sun'iy intellekt rivojlanishini sekinlashtirishga chaqirdi. Buning asosiy sababi — biologik terrorizm xavfi. Bu qo'rqitish emas — bu texnologiyani yaratayotgan odamning ogohlantirishi.
Endi nima qilamiz?
To'g'risi, men bu savolga to'liq javob bera olmayman. Men faqat oddiy texnologiya blogeri, siyosat yoki xavfsizlik mutaxassisi emasman.
Lekin menga shunday bo'lib ko'rinadi:
Birinchidan, xalqaro miqyosda sun'iy intellekt xavfsizligi standartlari kerak. Ayniqsa, sintetik biologiya sohasida. Kompaniyalar o'zlari buni nazorat qila olmaydi.
Ikkinchidan, odamlarni bu jarayonlar haqida ko'proq o'rgatishimiz kerak. Tushunilmagan narsa qo'rqinchli bo'ladi, lekin tushunganingizdan keyin qo'rqinchli bo'lmaydi.
Uchinchidan, va bu eng qiyini — foydali tadqiqotlarni saqlab qolish ham, suiiste'mol qilinishining oldini olish ham kerak. Bu shunday narsaki, jinni hali chiqib ketgan, lekin uning kuchi bilan yaxshilik qilish yo'lini topish lozim.
Meni qiynaydigan savol
Va shu yerda sizni bir savol bilan qoldiraman:
Agar biz yangi hayot shakllarini yaratish qobiliyatiga ega bo'lsak — va ha, aynan shunday narsa haqida gap ketmoqda — bu kuch qanday qilib to'g'ri qo'llarda qoladi?
Chunki bu jinni hali chiqib ketgan. Endi faqat bitta savol bor: biz buni qanday boshqaramiz?
Siz nima deb o'ylaysiz? Bu tibbiyotning yangi davri boshlanadimi, yoki biz to'liq tushunmaydigan olov bilan o'ynayapmizmi? Fikrlaringizni kutib qolaman.