Okei, minun täytyy kertoa teille jotain, mikä sai minut todella innoissaan tällä viikolla, koska se muutti täysin käsitykseni siitä, miten tekoäly toimii.
Pitkään aikaa olen toiminut oletuksen varassa, että neuroverkot ovat pohjimmiltaan "mustia laatikoita" — uskomattoman tehokkaita, totta, mutta perusteellisesti käsittämättömiä. Me koulutamme niitä, ne toimivat, ja rehellisesti sanottuna? Meillä ei ole aavistustakaan miksi. Yleinen käsitys on ollut, että nämä järjestelmät pakkaavat niin paljon informaatiota niin pieneen määrään neuroneita, että asiat menevät sekaisin ja sekoittuvat tavalla, jolla ei ole loogista järkeä.
Mutta tässä on se juttu: mitä jos tuo käsitys olikin väärä?
Tutkija nimeltä Andreas Stathopoulos on tehnyt jotain, mikä kuulostaa lähes kapinalliselta tekoälyn tulkittavuuden (interpretability) maailmassa. Sen sijaan, että hän olisi yrittänyt rakentaa monimutkaisia työkaluja "dekoodaamaan", mitä verkot tekevät, hän vain... katsoi niitä. Suoraan. Paremmin menetelmillä ja moderneilla malleilla.
Ja se, mitä hän löysi, oli todella yllättävää.
Kissa-auto-neuroni ei ollut sitä, mitä luulimme
Muistatteko, kun tutkijat löysivät sen kuuluisan neuronin kuvantunnistusverkosta, joka näytti reagoivan sekä kissan kasvoihin että auton keulaan? Tätä pidettiin todisteena siitä, että neuroverkot ovat pohjimmiltaan sotkuisia — että yksittäisille neuroneille määräytyy useita täysin toisiinsa liittymättömiä tehtäviä, koska verkosta loppuu tila kesken.
Selitystä kutsuttiin "superpositioksi" — ajatukseksi, jonka mukaan verkot, ollessaan paineen alla, alkavat kietoa toisiinsa liittymättömiä käsitteitä yksittäisiin neuroneihin, luoden sotkuisia "solmuja", jotka meidän on avattava huolellisesti, jotta ymmärtäisimme mitään.
Mutta Stathopoulos väittää, että tämä oli väärinymmärrys. Kun hän todella jäljitti, mitä oli tapahtumassa, tuo kissa-auto-neuroni ei lainkaan piilottanut toisiinsa liittymättömiä käsitteitä. Se teki jotain paljon järkevämpää: se yleisti ja koosteli ideoita tavallisella tavalla. "Piilottaminen" ei piirtänyt mitään.
Neuronit eivät olleet solmussa. Ne tekivät vain työtään tavalla, joka näytti oudolta huonossa valaistuksessa.
Malli, joka on todella luettava
Tässä kohtaa se muuttuu todella mielenkiintoiseksi. Stathopoulos koulutti niin sanotun "ei-triviaalin" neuroverkon — sellaisen, joka on todella tarpeeksi monimutkainen ollakseen merkityksellinen — ja käytti parempia arkkitehtuurisia malleja. Tuloksena?
Yhdeksänkymmentäyhdeksästä sadasta prosentista viimeisen kerroksen neuroneista tuli helposti tulkittavia.
Pysähdy hetkeksi miettimään tätä.
Ei "osa niistä". Ei "jos tuijotat tarpeeksi kovaa". Melkein kaikki ne. Malli on "laajasti luettavissa läpi koko matkan", hänen sanoillaan. Voit kirjaimellisesti selata ja ymmärtää, mitä kukin neuroni tekee.
Ja tässä on se, mikä minusta on kiehtovaa: hän testasi tätä valtavalla skaalalla eri kokoisia malleja, pienistä suuriin. Tulkittavuus ei ollut jonkin täydellisen kokoisen mallin erikoisominaisuus. Se piti paikkansa kaikilla tasoilla. Pienemmät mallit käyttävät vain karkeampia käsitteitä — yksi neuroni saattaa kattaa "autot" laajasti — kun taas suuremmat mallit jakavat sen tarkempiin erotteluihin. Mutta molemmat ovat täysin ymmärrettäviä.
Mikä muuttui?
Joten mikä teki eron? Kaksi asiaa, selvästikin:
Ensinnäkin, alkuperäisellä mallilla (nimeltään InceptionV1), jota kaikki tutkivat, oli arkkitehtuurisia ongelmia sen myöhemmissä kerroksissa. Ne olivat informaation ylitäyttämiä tavalla, joka teki niistä todella kaoottisia. Tämä ei ollut neuroverkkojen ominaispiirre — se oli virhe.
Toiseksi, työkalumme näiden verkkojen "katsomiseen" olivat melko alkeellisia. Kun käytössäsi on vain taskulamppu, kaikki näyttää varjoilta.
Modernit parannukset neuroverkkojen arkkitehtuuriin — jotka on suunniteltu pääasiassa auttamaan syviä kerroksia oppimaan paremmin — toivat mukanaan onnekkaan sivuvaikutuksen: ne tekivät verkoista luonnostaan tulkittavampia. Emme yrittäneet ratkaista tulkittavuuden ongelmaa. Ratkaisimme sen vahingossa ratkoessamme muita ongelmia.
Mitä tämä tarkoittaa tekoälyn turvallisuudelle
Tämä on valtavan tärkeää tekoälyn turvallisuustutkimukselle, vaikka tekniset yksityiskohdat saattavat vaikuttaa abstraktilta.
Jos neuroverkot ovat todella käsittämättömiä — todellisia mustia laatikoita — niin niiden turvallisen käyttäytymisen varmistaminen on uskomattoman vaikeaa. Yrität varmistaa jotain, mitä et perusteellisesti voi ymmärtää.
Mutta jos nämä järjestelmät ovat todellisuudessa melko luettavia, ja niiden neuronit tekevät merkityksellisiä, tunnistettavia asioita? Se on täysin eri tilanne. Voimme tutkia niitä suoraan. Voimme ymmärtää, mihin ne kiinnittävät huomiota, mitä käsitteitä ne rakentavat ja miten päätökset virtaavat järjestelmän läpi.
Tämä ei tarkoita, että tekoäly olisi yhtäkkiä "turvallinen" — työtä on vielä valtavasti. Mutta se tarkoittaa, että meillä on taistelumahdollisuus ymmärtää, mitä olemme rakentamassa. Se ei ole pieni asia.
Rehellinen myönnytys
Minun täytyy ihailla tässä vallitsevaa älyllistä rehellisyyttä. Stathopoulos myöntää avoimesti, että hän vietti vuosia tutkien näitä järjestelmiä ja uskoi "superpositio"-selitykseen. Hän oli vakuuttunut, että verkot olivat solmussa ja että tarvitsisimme monimutkaisia rekonstruktiotyökaluja ymmärtääksemme niitä koskaan.
Hän oli väärässä. Ja hän sanoo sen suoraan, todisteet tukevanaan.
Tällainen on sellaista, mikä antaa minulle toivoa alalle. Ei siksi, että olisimme ratkaisseet tekoälyn kohdistamisen (AI alignment) (emme ole), vaan siksi, että se viittaa siihen, että voimme todella edetä näiden järjestelmien ymmärtämisessä. Meidän ei tarvitse toimia pimeässä.
Verkot olivat aina siistimpiä kuin luulimme. Tarvitsimme vain paremmat silmät.
Mitä mieltä olet? Muuttaako tämä tapaasi katsoa tekoälyjärjestelmiä? Olen aidosti utelias — jätä kommentti alle ja keskustellaan!