Yapay Zeka Artık Virüs de Tasarımı Yapabiliyor Mu?
Vay be, bilim dünyasında bir şeyler dönüyor ve açıkçası son günlerde kafamı kurcalayan bir konu var.
Araştırmacılar Evo 2 adında bir yapay zeka modeli geliştirmiş. Bu model sıfırdan DNA dizileri tasarlayabiliyor—virüsler dahil. Doğada hiç var olmamış, tamamen yeni virüsler. Sanki bir çocuğa sınırsız Lego seti verip sadece ev yapmasını umuyorsunuz gibi bir şey. Ne kadar mantıklı, değil mi?
Ama hemen panik yapmayın. Önce neden böyle bir şeyin var olduğuna bakalım.
İyi Yanı
İşte işin karmaşık tarafı: bu teknoloji kötü niyetli değil. Aksine.
Antibiyotiğe dirençli süper bakterileri düşünün—mevcut ilaçlarımızın öldüremediği bakteriler. Bu küçük canavarlar yılda bir milyondan fazla ölüme sebep oluyor ve bu sayı artıyor. Bu yapay zeka araştırmasının bizi götürebileceği bir yol, bu süper bakterileri yok edebilecek yeni bakteriyofajlar (bakterileri özellikle hedef alan virüsler) geliştirmek olabilir.
Bir de kanser tedavisini düşünün. Bilim insanları zaten tasarlanmış virüsleri kanser hücrelerini hedef alıp yok etmek, sağlıklı dokuları olduğu gibi bırakmak için kullanma fikirleri üzerinde çalışıyor.
İşin Karanlık Yüzü
Ama burası biraz terletmeye başlıyor.
Anthropic, Claude yapay zeka asistanının arkasındaki şirket, kullanıcılarının yaptığı bazı endişe verici sorgular hakkında bir rapor yayımladı. İnsanlar biyolojik silah araştırması hakkında sorular soruyormuş. İşte bu kötü.
Şirket bu girişimleri engellemiş ve ilgili hesapları kapatmış. Ama bu sorguların mümkün olması? İşte endişe verici olan kısım bu.
Daha da kötüsü var. Araştırmacılar Moremi Bio Agent adlı başka bir yapay zeka modelini (güvenlik önlemleri kaldırılmış haliyle) test etmiş ve modelden yeni toksinler tasarlamasını istemiş. Yapay zeka risin ve yılan zehri proteinleri gibi tehlikeli maddelerle yakından eşleşen diziler üretmiş. Yaklaşık 10^20 yeni toksik protein ve 5.000 toksik küçük molekül üretmiş.
Yanlış okumadınız. Çok sayıda potansiyel biyolojik silah.
Tarih Tekrar Ediyor
Tarih boyunca hem büyük iyilik hem büyük zarar için kullanılabilecek araçlar yarattık. Ateş. Nükleer enerji. İnternet (tam ateş seviyesinde değil belki ama anladınız işi).
Biyolojide yapay zeka da aynı yolu izliyor. Teknoloji kendi başına niyetleri önemsemiyor—sadece eğitildiği şeyi yapıyor. Ama niyetler? Onlar insanlardan geliyor. Ve bazı insanların niyetleri maalesef çok kötü.
Anthropic CEO'su Dario Amodei yakınlarda yapay zeka gelişiminin yavaşlatılması çağrısı yaptı, biyoterörizmi büyük bir tehdit olarak gösterdi. Bu, bir korkak tarafından yapılan hayal kırıklığı değil—bu sistemleri inşa eden birinden gelen sözler.
Ne Yapmalıyız?
Dürüst olayım, tüm cevaplara sahip değilim. Ben sadece günlük bir bilim blogger'ıyım, politika uzmanı ya da biyogüvenlik profesyoneli değilim.
Ama fikirlerim var:
Öncelikle, özellikle sentetik biyoloji söz konusu olduğunda, yapay zeka güvenliği konusunda uluslararası işbirliğine ihtiyacımız var. Şirketler bunu tek başına kontrol edemez.
İkincisi, olan biteni anlatmak için daha fazla halk eğitimine ihtiyacımız var. Korkutucu şeyler, insanlar onları anladığında daha az korkutucu hale geliyor.
Üçüncüsü, ve bu zor olan: faydalı araştırmayı korurken kötüye kullanımı engellemenin yollarını bulmalıyız. Bu, cinin şişede kalmasını sağlarken lambanın büyüsünü iyi şeyler için kullanmaya çalışmak gibi.
Kafamı Kurcalayan Soru
Sonunda kolay cevabı olmayan bir soruyla bırakayım:
Yeni yaşam formları yaratma gücüne sahipsek—ve kağıt üzerinde aslında bundan bahsediyoruz—bu gücün doğru ellerde kalmasını nasıl sağlayacağız?
Çünkü bu cin çoktan şişeden çıktı. Şimdi tek soru, onunla nasıl başa çıkacağımız.
Ne düşünüyorsunuz? Bu tıpda yeni bir çağın başlangıcı mı, yoksa tam olarak anlamadığımız bir ateşle mi oynuyoruz? Düşüncelerinizi gerçekten merak ediyorum.