AI kan nå designe virus. Hva gjør vi nå?
La meg være ærlig med deg. Jeg har tenkt mye på dette i det siste, og det er ikke lett å sove av den grunn.
Forskere har laget et AI-verktøy som kan designe DNA-sekvenser fra bunnen av. Også virus. Ikke kopier av eksisterende virus, men helt nye varianter som aldri har eksistert i naturen før.
Tenk deg at du gir et barn et ubegrenset Lego-sett og håper at de bare bygger hus. Slik føles det.
Hvorfor i all verden?
Før du begynner å hamstre hermetikk, la meg forklare hvorfor dette finnes.
Antibiotikaresistente superbakterier er et kjempeproblem. Disse skapningene dreper over én million mennesker hvert eneste år, og tallet stiger. En mulig løsning? Designe nye virus som angriper disse bakteriene.
Eller tenk på kreftbehandling. Forskere ser på hvordan vi kan bruke konstruerte virus til å angripe kreftceller uten å skade friskt vev. Magisk, egentlig.
Den andre siden
Men her blir jeg bekymret.
Anthropic, selskapet bak AI-assistenten Claude, publiserte nylig en rapport om urovekkende spørsmål fra brukere. Folk spurte om biologiske våpen. Ikke bra.
Selskapet oppdaget forsøkene og stengte kontoene. Men at spørsmålene i det hele tatt lot seg stille? Det er problemet.
Forskere testet også en annen AI-modell kalt Moremi Bio Agent. Med sikkerhetsfilterene fjernet, altså. De ba den designe nye giftstoffer. Resultatet? Sekvenser som lignet farlige stoffer som risin og slangegift. AI-en genererte rundt 10^20 nye giftige proteiner og 5000 giftige småmolekyler.
Ja, du leser rett. Det er skremmende.
Historien gjentar seg
Mennesker har alltid laget verktøy som kan brukes til både godt og ondt. Ild. Atomkraft. Internett.
AI i biologi følger samme mønster. Teknologien i seg selv er verken god eller ond. Den gjør bare det den ble trent til.
Men intensjonene? De kommer fra mennesker. Og noen mennesker hardessverre dårlige intensjoner.
Dario Amodei, sjefen i Anthropic, har bedt om å senke farten på AI-utviklingen. Grunnen? Bioterrorisme. Dette er ikke panikk fra en tilfeldig undergangspredikant. Dette er en mann som bygger disse systemene.
Hva nå?
Jeg har ikke alle svarene. Jeg er bare en scienceblogger, ikke en sikkerhetsekspert.
Men her er hva jeg tenker:
Vi trenger internasjonale standarder for AI-sikkerhet, særlig innen syntetisk biologi. Bedrifter kan ikke løse dette alene.
Vi trenger mer folkeopplysning. Skumle ting blir mindre skumle når folk forstår dem.
Og det vanskelige: Vi må finne en måte å bevare den positive forskningen samtidig som vi hindrer misbruk. Det er som å prøve å holde en plage i flasken mens vi fortsatt bruker lampens magi til noe godt.
Spørsmålet som gnager
Her er det jeg sitter igjen med:
Hvis vi har makten til å skape nye livsformer — og det er faktisk hva vi snakker om — hvordan sørger vi for at den makten havner hos de rette?
For denne genien er allerede ute av flasken. Det eneste spørsmålet nå er hvordan vi håndterer det.
Hva tenker du? Er dette begynnelsen på en ny æra i medisin, eller leker vi med ild vi ikke forstår? Jeg vil gjerne høre dine tanker.