Xo'sh, men sizga shu hafta meni haqiqatdan ham hayratga solgan narsani aytib berishim kerak, chunki bu sun'iy intellekt (AI) qanday ishlashini tushunishim haqidagi tasavvurlarni butunlay o'zgartirib yubordi.
Uzoq vaqt davomida men neyron tarmoqlari mohiyatan "qora qutilar" ekanligi haqidagi faraz asosida ishlayotgan edim — ular juda kuchli, shubhasiz, lekin asosi o'zida tushunib bo'lmas. Biz ularni o'qitamiz, ular ishlaydi va rostini aytsam? Nima uchun ishlayotganini bilmaymiz. Ommaviy tasavvurga ko'ra, bu tizimlar juda kam sonli neyronlarga shunchalik ko'p ma'lumotni sig'diradiki, natijada hamma narsa mantiqsiz tarzda bir-biri bilan chalkashib ketadi.
Lekin masala shundaki: agar bu tasavvur noto'g'ri bo'lsa-chi?
Andreas Stathopoulos ismli tadqiqotchi AI interpretability (tushunarlilik) sohasida deyarli isyonkorona tuyuladigan ish bilan shug'ullanmoqda. Tarmoqlar nima qilayotganini "dekodlash" uchun murakkab vositalar yaratishga urinish o'rniga, u shunchaki... ularga qaradi. To'g'ridan-to'g'ri. Yaxshi usullar va zamonaviy modellar yordamida.
Va u topgan narsa haqiqatdan ham hayratlanarli edi.
"Mushuk-Mashina" neyroni biz o'ylagandek emas edi
Tadqiqotchilar tasvirni tanish tarmog'idagi mushuk yuziga VA mashina oldiga javob beradigan o'sha mashhur neyronni topganlarini eslaysizmi? Bu neyron tarmoqlari mohiyatan tartibsiz ekanligining isboti sifatida ko'rsatilgan edi — ya'ni, tarmoqda joy yetishmaganligi sababli alohida neyronlarga bir nechta mutlaqo bog'liq bo'lmagan vazifalar yuklanadi.
Bu tushuntirish "superpozitsiya" deb atalgan — ya'ni, tarmoqlar bosim ostida bo'lganda, bir-biriga bog'liq bo'lmagan tushunchalarni bitta neyron ichiga sig'dirishni boshlaydi va biz tushunishimiz uchun ehtiyotkorlik bilan yechishimiz kerak bo'lgan chalkash "tugunlar" hosil qiladi.
Ammo Stathopoulos bu noto'g'ri talqin ekanligini aytmoqda. U nima sodir bo'layotganini aniq kuzatganida, o'sha "mashina-mushuk" neyroni hech qanday bog'liq bo'lmagan tushunchalarni yashirmagan ekan. U ancha mantiqiyroq narsa qilayotgan ekan: g'oyalarni oddiy tarzda umumlashtirish va birlashtirish. "Yashirinish" aslida hech narsani yashirmagan.
Neyronlar tugun bo'lib qolmagan. Ular shunchaki yomon yoritish ostida g'alati ko'rinadigan tarzda o'z vazifasini bajarayotgan edi.
Haqiqatdan ham o'qish mumkin bo'lgan model
Mana shu yerda ish eng qiziqarli bo'lib boradi. Stathopoulos "nontrivial" (oddiy bo'lmagan) deb atalgan neyron tarmog'ini — ya'ni, haqiqatda ahamiyatga ega darajada murakkab tarmoqni — o'qitdi va yaxshi arxitektura dizaynlaridan foydalandi. Natija nima bo'ldi?
Yakuniy qatordagi neyronlarning to'qsondan to'qtoq foizi osonlikcha tushuniladigan (interpretable) bo'lib qoldi.
Buni bir lahzaga o'ylab ko'ring.
"Ularning ba'zilari" emas. "Agar diqqat bilan qarasangiz" ham emas. Deyarli barchasi. Uning so'zlari bilan aytganda, model "butun yo'l davomida keng qamrovli tushuniladigan" bo'lib chiqdi. Siz har bir neyron nima qilayotganini haqiqatdan ham ko'rib, tushunishingiz mumkin.
Va meni hayratda qoldirgan narsa shundaki: u buni juda kichikdan juda katta modelgacha bo'lgan juda keng diapazonda sinovdan o'tkazdi. Tushunarlilik qandaydir ideal o'lchamdagi modelning maxsus xususiyati emas edi. U barcha o'lchamlarda ish berdi. Kichikroq modellar faqat umumiyroq tushunchalardan foydalanadi — masalan, bitta neyron "mashinalar"ni umumiy tarzda qamrab olishi mumkin — kichikroq modellar esa buni yanada aniqroq tafsilotlarga ajratadi. Ammo ikkalasi ham mukammal darajada tushunish mumkin.
Nima o'zgardi?
Xo'sh, farqni nima keltirib chiqardi? Ikki narsa:
Birinchidan, hamma o'rgangan asl model (InceptionV1 deb ataladi) o'zining keyingi qatlamlarida arxitektura muammolariga ega edi. Ular ma'lumotlar bilan shunchalik to'lib ketganki, bu haqiqatdan ham tartibsizlikni keltirib chiqargan edi. Bu neyron tarmoqlarining xos xususiyati emas, balki xato (bug) edi.
Ikkinchidan, bizning tarmoqlarga "qarash" uchun vositalarimiz ancha ilgarilab ketmagan edi. Agar sizda faqat fonar bo'lsa, hamma narsa soyadek ko'rinadi.
Neyron tarmoqlari arxitekturasidagi zamonaviy yaxshilanishlar — asosan chuqur qatlamlar yaxshiroq o'rganishi uchun mo'ljallangan — ijobiy yon ta'sir ko'rsatdi: ular tarmoqlarni tabiiy ravishda tushunish osonroq qildi. Biz tushunarlilik muammosini hal qilishga urinmagan edik. Biz boshqa muammolarni hal qilayotganimizda, tasodifan uni ham hal qildik.
Bu AI xavfsizligi uchun nima anglatadi?
Texnik tafsilotlar mavhum tuyulishi mumkin, ammo bu AI xavfsizligi tadqiqotlari uchun juda muhim.
Agar neyron tarmoqlari haqiqatdan ham tushunib bo'lmas — haqiqiy qora qutilar bo'lsa, ularning xavfsiz ishlashini ta'minlash juda qiyin bo'ladi. Siz asosi o'zida tushunib bo'lmaydigan narsani tekshirishga harakat qilasiz.
Lekin agar bu tizimlar aslida ancha tushuniladigan bo'lsa va neyronlar mazmunli, aniqlanadigan vazifani bajarsa? Bu butunlay boshqa vaziyat. Biz ularni bevosita o'rganishimiz mumkin. Ular nimaga e'tibor qaratayotganini, qanday tushunchalarni shakllantirayotganini, qarorlar tizim orqali qanday o'tishini tushunishimiz mumkin.
Bu AI to'satdan "xavfsiz" bo'lib qoldi degani emas — hali juda ko'p ish bor. Ammo bu biz nima qurayotganimizni tushunish uchun haqiqiy imkoniyatimiz borligini anglatadi. Bu hech narsa emas.
Samimiy tan olish
Men bu yerda intellektual samimiylikni qadrlashim kerak. Stathopoulos o'zi ushbu tizimlarni o'rganishga yillar sarflaganini va "superpozitsiya" tushunchasiga ishonib kelganini ochiq aytadi. U tarmoqlar chalkash bo'lganiga va ularni tushunish uchun murakkab rekonstruksiya vositalari kerak bo'lishiga amin edi.
U adashgan edi. Va u buni to'g'ridan-to'g'ri, dalillar bilan aytmoqda.
Mana shu narsa sohadagi kelajak uchun menga umid beradi. AI moslashuvini (alignment) hal qildik deb emas (hali yo'q), balki bu tizimlarni tushunishda haqiqiy yutuqlarga erishishimiz mumkinligini ko'rsatgani uchun. Biz qorong'ulikka mahkum emasmiz.
Tarmoqlar har doim biz o'ylaganimizdan ko'ra sodda bo'lgan. Bizga shunchaki yaxshi ko'zlar kerak edi.
Siz nima deb o'ylaysiz? Bu sizning AI tizimlar haqidagi tasavvuringizni o'zgartiradimi? Men haqiqatdan ham qiziqyapman — izoh qoldiring va keling, bu haqda gaplashamiz.