Alltså... kan AI nu konstruera virus?
Okej, jag måste prata med er om något som snurrat runt i forskarvärlden ett tag. Och ärligt talat? Det har hållit mig vaken om nätterna.
Forskare har utvecklat en AI-modell vid namn Evo 2 som i princip kan konstruera DNA-sekvenser från grunden – inklusive virus. Inte vilka virus som helst, utan helt nya varianter som aldrig existerat i naturen. Det är som att ge ett barn en obegränsad Lego-låda och hoppas att de bara bygger hus istället för... ja, ni förstår.
Innan ni börjar lagra konserver, låt mig förklara varför det här ens finns. Och tro mig, det finns faktiskt genuint goda skäl.
Den ljusa sidan (jo, det finns verkligen en)
Här är grejen som gör det hela så komplicerat: teknologin i sig är inte ond. Långt ifrån.
Tänk på antibiotikaresistenta superbakterier – de elaka bakterierna som våra nuvarande mediciner helt enkelt inte klarar av att döda längre. De här små odjuren orsakar över en miljon dödsfall årligen, och den siffran stiger. En väg den här AI-forskningen kan leda oss ned är utvecklingen av nya bakteriofager (virus som specifikt attackerar och förstör bakterier) som skulle kunna knäcka dessa superbakterier.
Eller tänk på cancerbehandling. Forskare undersöker redan hur vi kan använda konstruerade virus för att rikta in sig på och förstöra cancerceller samtidigt som frisk vävnad lämnas ifred. Rätt häftigt, eller hur?
Baksidan av mynten
Men här börjar min optimistiska hjärna svettas lite.
Anthropic, företaget bakom AI-assistenten Claude, släppte nyligen en rapport om oroväckande frågor användare ställt. Folk frågade om forskning kring biologiska vapen. Oj.
För att vara klar: företaget fångade dessa försök och stoppade dem. De har implementerat skyddsåtgärder och stängt av de inblandade kontona. Men att frågorna ens var möjliga? Det är den oroande delen.
Och det blir värre. Forskare testade en annan AI-modell kallad Moremi Bio Agent (med sina säkerhetsspärrar avlägsnade, tack och lov) och bad den konstruera nya toxiner. AI:n kom upp med sekvenser som starkt matchade farliga ämnen som ricin och ormgiftsproteiner. Den genererade cirka 10^20 nya giftiga proteiner och 5 000 giftiga småmolekyler.
Det är inget tryckfel. Det är fruktansvärt många potentiella biovapen.
Mönstret ni kanske lägger märke till
Genom historien har vi skapat verktyg som kan användas för både enormt gott och enormt ont. Elden. Kärnkraften. Internet (okej, kanske inte på samma nivå som eld, men ni fattar).
AI inom biologin följer samma bana. Teknologin i sig bryr sig inte om avsikter – den gör bara det den tränats för att göra. Men avsikterna? De kommer från människor. Och vissa människor, tyvärr, har väldigt dåliga sådana.
Anthropics vd Dario Amodei har nyligen uppmanat till en inbromsning i AI-utvecklingen, med bioterrorism som en stor anledning. Det här är inte skrämselpropaganda från någon random domedagsprofet – det här kommer från någon som bokstavligen bygger de här systemen.
Vad gör vi nu?
Ärligt talat har jag inte alla svar. Jag är bara en vänlig grannskaps-forskare-bloggare, ingen policyexpert eller biosäkerhetsspecialist.
Men här är vad jag tror:
Först behöver vi internationellt samarbete kring AI-säkerhetsstandarder, speciellt när det gäller syntetisk biologi. Företag kan inte övervaka det här på egen hand.
Sedan behöver vi mer allmän utbildning om vad som händer. Skrämmande saker blir mindre skrämmande när människor förstår dem.
Tredje, och det här är den svåra: vi behöver hitta sätt att bevara den fördelaktiga forskningen samtidigt som vi förhindrar missbruk. Det är som att försöka hålla jaben i flaskan medan vi fortfarande använder lampans magi för det goda.
Frågan som håller mig vaken
Så här lämnar jag er med en fråga som inte har ett enkelt svar:
Om vi har makten att skapa nya livsformer – och ta inte fel, det är i princip vad vi pratar om – hur ser vi till att den makten stannar i rätt händer?
För den här jaben är redan ute ur flaskan. Den enda frågan nu är hur vi hanterar det.
Vad tycker ni? Är det gryningen för en ny era inom medicin, eller leker vi med en eld vi inte fullt ut förstår? Jag skulle genuint älska att höra era tankar.