Okay, så kan AI nu designe vira?
Lad mig tale alvorligt med dig om noget, der har fyldt en del i videnskabsverdenen den seneste tid. Og ærligt talt? Det har holdt mig vågen om natten.
Forskere har udviklet en AI-model ved navn Evo 2. Den kan designe DNA-sekvenser fra bunden. Også vira. Ikke bare almindelige vira, men helt nye typer, der aldrig har eksisteret i naturen før. Det er som at give et barn et uendeligt Lego-sæt og håbe, de kun bygger huse. I stedet for... ja, du forstår.
Før du begynder at hamstre dåsemad, lad mig forklare, hvorfor denne teknologi overhovedet finde. Og tro mig, der er faktisk nogle gode grunde.
Den Gode Side (Ja, Den Findes Virkelig)
Her er det tricky: teknologien er ikke ond i sig selv. Langt fra.
Tænk på antibiotikaresistente superbakterier. De irriterende bagerier, som vores medicin ikke længere kan slå ihjel. De er ansvarlige for over en million dødsfald om året. Og det tal stiger. En mulighed med denne AI-forskning er at udvikle nye bakteriofager – vira der specifikt angriber og dræber disse superbakterier.
Eller tænk på kræftbehandling. Forskere undersøger allerede, hvordan designede vira kan ramme kræftceller og skåne sundt væv. Ret vildt, ik?
Bagsiden af Medaljen
Men her begynder min optimistiske hjerne at svede.
Anthropic, selskabet bag AI-assistenten Claude, udgav for nylig en rapport om bekymrende forespørgsler fra deres brugere. Folk spurgte om biologiske våben. Øv.
Virksomheden opdagede forsøgene og lukkede dem ned. De har implementeret sikkerhedsforanstaltninger og bandlyst de involverede konti. Men at forespørgslerne overhovedet var mulige? Det er det bekymrende.
Det bliver værre. Forskere testede en anden AI-model kaldet Moremi Bio Agent – med sikkerhedsbarriererne fjernet, vel at mærke – og bad den designe nye toksiner. AI'en kom med sekvenser, der lignede farlige stoffer som ricin og slangegiftproteiner. Den genererede omkring 10^20 nye giftige proteiner og 5.000 giftige småmolekyler.
Du læste rigtigt. Det er potentielt masser af biovåben.
Mønstret Du Måske Bemærker
Gennem historien har vi skabt værktøjer, der kan bruges til både enormt gode og enormt skade. Ild. Atomkraft. Internettet (okay, måske ikke på samme niveau som ild, men du fanger billedet).
AI i biologi følger samme bane. Teknologien er ligeglad med intentioner – den gør bare det, den er trænet til. Men intentionerne? De kommer fra mennesker. Og nogle mennesker har desværre dårlige intentioner.
Anthropics direktør Dario Amodei har for nylig opfordret til at sætte farten ned på AI-udviklingen og nævnt bioterrorisme som en stor bekymring. Det her er ikke frygtspredning fra en tilfældig dommedagsprofet. Det er en mand, der bogstaveligt talt bygger disse systemer.
Hvad Gør Vi Nu?
Ærligt? Jeg har ikke alle svarene. Jeg er bare en venlig videnskabsblogger, ikke en politiksperte eller biosikkerhedsekspert.
Men her er, hvad jeg tænker:
Først og fremmest har vi brug for internationalt samarbejde omkring AI-sikkerhedsstandarder, især når det gælder syntetisk biologi. Virksomheder kan ikke kontrollere det her alene.
Anden ting: vi har brug for mere offentlig oplysning om, hvad der sker. Skræmmende ting bliver mindre skræmmende, når folk forstår dem.
Tredje, og det er den svære: vi skal finde måder at bevare den gavnlige forskning på, samtidig med at vi forhindrer misbrug. Det er som at prøve at holde djænnen i flasken, mens man stadig bruger lampens magi til noget godt.
Spørgsmålet Der Holder Mig Vågen
Så her efterlader jeg dig med et spørgsmål uden et let svar:
Hvis vi har magten til at skabe nye livsformer – og misforstå mig ikke, det er essentially hvad vi taler om – hvordan sikrer vi, at den magt forbliver i de rigtige hænder?
For denne djævel er allerede ude af flasken. Det eneste spørgsmål nu er, hvordan vi håndterer det.
Hvad tænker du? Er dette begyndelsen på en ny æra i medicin, eller leger vi med ild, vi ikke fuldt ud forstår? Jeg vil virkelig gerne høre dine tanker.