Eli... tekoäly osaa nyt suunnitella viruksia?
Hei, täytyy puhua teille jostakin, joka on pyörinyt tiedemaailmassa viime aikoina. Ja rehellisesti? Se on pitänyt minut vähän hereillä öisin.
Tutkijat kehittivät hiljattain tekoälymallin nimeltä Evo 2, joka pystyy suunnittelemaan DNA-sekvenssejä tyhjästä — virukset mukaan lukien. Ei mitä tahansa viruksia, vaan täysin uudenlaisia, joita luonnossa ei ole koskaan ollut olemassa. Se on vähän kuin antaisi lapselle rajattoman Lego-paketin ja toivoisi, että hän rakentaisi vain taloja eikä... no, ymmärrätte kyllä.
Mutta ennen kuin alatte hamstraamaa säilykkeitä, annan selittää, miksi tällaista ylipäätään kehitetään. Ja luottakaa, syitä on oikeasti olemassa.
Hyvä puoli (Kyllä, sellainen todella löytyy)
Tässä on se juttu, joka tekee asiasta niin monimutkaisen: tämä teknologia ei ole itsessään paha. Ei todellakaan.
Ajatelkaa antibiooteille vastustuskykyisiä superbakteereja — niitä ikäviä pöpöjä, joita nykylääkkeemme eivät enää pysty tappamaan. Nämä pienet otukset aiheuttavat yli miljoona kuolemaa vuosittain, ja määrä kasvaa. Yksi tie, johon tämä tekoälytutkimus voi johtaa, on uusien bakteriofagien (virusten, jotka tietyisti tuhoavat bakteereja) kehittäminen, jotka voisivat nitistää nuo superbakteerit.
Tai ajatelkaa syöpähoitoa. Tutkijat tutkivat jo, miten muokattuja viruksia voisi käyttää syöpäsolujen tuhoamiseen terveen kudoksen säästäen samalla. Aika hurmaavaa, eikö?
Toinen puoli kolikosta
Mutta tässä kohtaa optimismini alkaa vähän huolestumaan.
Anthropic, yritys tekoälyavustaja Claiden takana, julkaisi hiljattain raportin huolestuttavista kyselyistä, joita käyttäjät olivat esittäneet. Ihmiset kyselivät biologisten aseiden tutkimuksesta. Hmm.
Nyt, ollakseni reilu, yritys huomasi nämä yritykset ja pysäytti ne. He ovat lisänneet suojauksia ja estäneet kyseiset tilit. Mutta se, että tällaiset kyselyt olivat ylipäätään mahdollisia? Siinä on huolestuttava kohta.
Ja homma kovenee. Tutkijat testasivat toista tekoälymallia nimeltä Moremi Bio Agent (onnistuneesti ilman turvasuojauksia) ja pyysivät sitä suunnittelemaan uudenlaisia toksiineja. Tekoäly keksi sekvenssejä, jotka vastasivat läheisesti vaarallisia aineita kuten risiiniä ja käärmeen myrkkyproteiineja. Se tuotti noin 10^20 uutta myrkyllistä proteiinia ja 5 000 myrkyllistä pienmolekyyliä.
Ei typo. Siinä on paljon potentiaalisia bioaseita.
Kaava, jonka ehkä huomaatte
Koko historian ajan olemme luoneet työkaluja, joita voi käyttää sekä valtavaan hyvään että valtavaan pahaan. Tuli. Ydinvoima. Internet (okei, ehkä ei ihan tulen tasolle, mutta ymmärrätte pointin).
Tekoäly biologiassa kulkee samaa polkua. Teknologia itsessään ei välitä aikeista — se tekee vain sitä, mihin se on koulutettu. Mutta aikeet? Ne tulevat ihmisiltä. Ja joillakin ihmisillä, valitettavasti, on hyvin huonot sellaiset.
Anthropicin toimitusjohtaja Dario Amodei vaati hiljattain tekoälykehityksen hidastamista, ja mainitsi bioterrorismin yhtenä suurena huolenaiheena. Tämä ei ole doomistaustaisten pelottelua — tämä tulee mieheltä, joka oikeasti rakentaa näitä järjestelmiä.
Mitä nyt tehdään?
Rehellisesti sanottuna: en osaa vastata kaikkeen. Olen vain ystävällinen naapuruston tieteenbloggaaja, en politiikka-asiantuntija tai biologisen turvallisuuden spesialisti.
Mutta tässä on, mitä mielestäni pitäisi tapahtua:
Ensinnäkin tarvitsemme kansainvälistä yhteistyötä tekoälyn turvallisuusstandardeissa, erityisesti synteettisen biologian osalta. Yritykset eivät voi valvoa tätä yksin.
Toiseksi tarvitsemme laajempaa julkista ymmärrystä siitä, mitä on tapahtumassa. Pelottavat asiat lakkaavat olemasta pelottavia, kun ihmiset ymmärtävät ne.
Kolmanneksi, ja tämä on se vaikea juttu: meidän täytyy löytää tapoja säilyttää hyödyllinen tutkimus samalla kun estetään väärinkäyttö. Se on kuin yrittäisi pitää aarreipurkin henki hallussa, mutta käyttää lampun taikuutta silti hyödyksi.
Kysymys, joka pitää minut hereillä
Jään siis teille kysymyksen kanssa, johon ei ole helppoa vastausta:
Jos meillä on valta luoda uudenlaisia elämänmuotoja — ja älkää ymmärtäkö väärin, siitä tässä oikeastaan on kyse — miten varmistamme, että tuo valta pysyy oikeissa käsissä?
Koska tämä tietty henki on jo päässyt pullosta. Ainoa kysymys nyt on, miten me sen kanssa toimimme.
Mitä te ajattelette? Onko tämä lääketieteen uuden aikakauden alku, vai leikimmekö tulella, jota emme täysin ymmärrä? Kuulisin mielelläni ajatuksianne.