Szóval az AI most vírusokat tervezhet?
Oké, van itt valami, amiről muszáj beszélnem. Tudományos körökben most ez a téma, és őszintén szólva? Elég nehezen alszom miatta.
Kutatók nemrég létrehoztak egy Evo 2 nevű AI-modellt, ami gyakorlatilag képes DNS-szekvenciákat tervezni a semmiből. Beleértve a vírusokat is. Nem is akármilyen vírusokat, hanem teljesen újakat, amik a természetben soha nem léteztek. Olyan ez, mintha egy gyereknek korlátlan Lego-készlettel adnálk, és reménykednél, hogy csak házakat épít, nem pedig... nos, érted.
De mielőtt elkezdenél konzervet halmozni, hadd magyarázzam meg, miért létezik ez egyáltalán. És hidd el, tényleg vannak egész jó okai.
A jó oldal (Igen, létezik ilyen)
A helyzet az, hogy ez a technológia nem eleve gonosz. Épp ellenkezőleg.
Gondolj csak az antibiotikum-rezisztens szuperbaktériumokra. Ezek azok a csúnya kis ellenfelek, amiket a jelenlegi gyógyszereink egyszerűen nem tudnak megölni. Ezek évente több mint egymillió halálesetért felelősek, és ez a szám folyamatosan nő. Az AI-kutatás egyik lehetséges útja az lehet, hogy új bakteriofágokat (olyan vírusokat, amik kifejezetten a baktériumokat támadják meg és pusztítják el) fejlesztünk ki, amelyek kiirthatnák ezeket a szuperbaktériumokat.
Vagy gondolj a rákkezelésre. A tudósok már most kutatják, hogyan használhatnánk tervezett vírusokat arra, hogy a rákos sejteket célozzák meg és semmisítsék el, miközben az egészséges szövetet érintetlenül hagyják. Hát nem lenyűgöző?
Az érme másik oldala
De itt az a pont, ahol az optimistább agyam kezd kicsit izzadni.
Az Anthropic, az a cég, ami a Claude AI asszisztenst fejlesztette, nemrég kiadott egy jelentést azzal kapcsolatban, milyen aggasztó kérdéseket tettek fel a felhasználók. Az emberek biológiai fegyverek kutatásáról érdeklődtek. Jaj.
Most fontos tisztázni, hogy a cég észlelte ezeket a kísérleteket és leállította őket. Biztonsági intézkedéseket vezettek be, és kitiltották az érintett fiókokat. De az a tény, hogy egyáltalán lehetséges volt ilyen kérdéseket feltenni? Ez az aggasztó rész.
És még durvább lesz. Kutatók egy Moremi Bio Agent nevű AI-modellt teszteltek (szerencsére a biztonsági korlátozásait eltávolítva), és megkérték, hogy tervezzen új toxinokat. Az AI olyan szekvenciákat állított elő, amik közel matcheltek veszélyes anyagokhoz, mint a ricin és a kígyóméreg fehérjék. Nagyjából 10^20 új toxikus fehérjét és 5000 toxikus kis molekulát generált.
Nem elírás. Ez rengeteg potenciális biofejleszték.
A minta, amit talán észreveszel
A történelem során mindig is létrehoztunk olyan eszközöket, amiket jóra és rosszra egyaránt lehetett használni. A tűz. Az atomenergia. Az internet (oké, talán nem tűzszintű, de érted a lényeget).
Az AI a biológiában ugyanezt az utat járja. A technológia önmagában nem törődik a szándékokkal. Csak azt csinálja, amire tanították. De a szándékok? Azok az emberektől jönnek. És néhány embernek sajnos elég rossz szándékai vannak.
Az Anthropic vezérigazgatója, Dario Amodei nemrég lassítást sürgetett az AI fejlesztésben, és a bioterrorizmust mint komoly aggályt említette. Ez nem valami véletlenszerű pánikkeltő okoskodás. Ez az az ember mondja, aki szó szerint építi ezeket a rendszereket.
Mit tehetünk most?
Őszintén? Nincs minden válaszom. Csak egy barátságos környéki tudományos bloggerről van szó, nem szakpolitikus vagy biosecurity szakértő vagyok.
De van néhány gondolatom:
Először is, nemzetközi együttműködésre van szükség az AI-biztonsági szabványok terén, különösen ami a szintetikus biológiát illeti. A cégek nem tudják ezt egyedül ellenőrizni.
Másodszor, több nyilvános felvilágosításra van szükség arról, mi történik. A félelmetes dolgok kevésbé félelmetesek, ha az emberek megértik őket.
Harmadszor, és ez a nehéz rész: meg kell találnunk a módját, hogy megőrizzük a hasznos kutatást, miközben megelőzzük a visszaélést. Olyan ez, mint próbálni a dzinnit a palackban tartani, miközben még mindig használjuk a lámpás varázsát jó célokra.
A kérdés, ami ébren tart
Szóval itt hagyok egy kérdést, amire nincs könnyű válasz:
Ha megvan a hatalmunk új élő szervezeteket létrehozni, és nevezzük nevén, nagyjából erről van szó, akkor hogyan biztosítjuk, hogy ez a hatalom a megfelelő kezekben maradjon?
Mert ez a bizonyos dzinni már kiszabadult a palackból. Az egyetlen kérdés most az, hogyan bánunk vele.
Te mit gondolsz? Ez a gyógyszerészet új korszakának hajnala, vagy olyasmivel játszunk, amit nem teljesen értünk? Őszintén örülnék, ha hallanám a gondolataidat.