Λοιπόν... η Τεχνητή Νοημοσύνη Μπορεί Πλέον να Σχεδιάζει Ιούς;

Πρέπει να σας μιλήσω για κάτι που κυκλοφορεί στον επιστημονικό κόσμο και, ειλικρινά; Με κρατάει ξύπνιο τις τελευταίες μέρες.

Ερευνητές ανέπτυξαν πρόσφατα ένα μοντέλο AI που ονομάζεται Evo 2, το οποίο μπορεί ουσιαστικά να σχεδιάσει αλυσίδες DNA από το μηδέν—συμπεριλαμβανομένων ιών. Όχι απλώς ιούς, αλλά εντελώς νέους τέτοιους που δεν έχουν υπάρξει ποτέ στη φύση. Είναι σαν να δίνεις σε ένα παιδί απεριόριστα Lego και ελπίζεις να φτιάξει μόνο σπίτια αντί για... καταλαβαίνετε τι εννοώ.

Η Καλή Πλευρά (Ναι, Υπάρχει Πραγματικά)

Πριν αρχίσετε να αποθηκεύετε κονσέρβες, ας εξηγήσω γιατί υπάρχει εξαρχής. Και πιστέψτε με, υπάρχουν γνήσια καλοί λόγοι.

Σκεφτείτε τα υπερβακτήρια ανθεκτικά στα αντιβιοτικά—αυτούς τους επίμονους μικροοργανισμούς που τα σημερινά φάρμακα απλά δεν μπορούν πια να εξοντώσουν. Αυτά τα μικρά τέρατα προκαλούν πάνω από ένα εκατομμύριο θανάτους ετησίως, και ο αριθμός αυξάνεται. Ένας δρόμος που θα μπορούσε να πάρει αυτή η έρευνα είναι η ανάπτυξη νέων βακτηριοφάγων (ιών που στοχεύουν και καταστρέφουν συγκεκριμένα βακτήρια) που θα μπορούσαν να εξοντώσουν αυτά τα υπερβακτήρια.

Ή σκεφτείτε τη θεραπεία του καρκίνου. Οι επιστήμονες ήδη εξερευνούν πώς θα μπορούσαμε να χρησιμοποιήσουμε τροποποιημένους ιούς για να στοχεύσουν και να καταστρέψουν καρκινικά κύτταρα, αφήνοντας ανέπαφο τον υγιή ιστό. Αρκετά εντυπωσιακό, σωστά;

Η Άλλη Πλευρά του Νομίσματος

Αλλά εδώ είναι που ο αισιόδοξος εγκέφαλός μου αρχίζει να ιδρώνει λίγο.

Η Anthropic, η εταιρεία πίσω από τον AI βοηθό Claude, δημοσίευσε πρόσφατα μια αναφορά για κάποια ανησυχητικά ερωτήματα που έκαναν οι χρήστες της. Άνθρωποι ρωτούσαν για έρευνα βιολογικών όπλων. Τουπέ.

Τώρα, για να είμαστε δίκαιοι, η εταιρεία εντόπισε αυτές τις προσπάθειες και τις σταμάτησε. Έχουν θέσει σε εφαρμογή δικλείδες ασφαλείας και απαγόρευσαν τους σχετικούς λογαριασμούς. Αλλά το γεγονός ότι αυτά τα ερωτήματα ήταν καθόλου εφικτά; Αυτό είναι το ανησυχητικό κομμάτι.

Και γίνεται ακόμη πιο έντονο. Ερευνητές δοκίμασαν ένα άλλο μοντέλο AI που ονομάζεται Moremi Bio Agent (με τις δικλείδες ασφαλείας του αφαιρεμένες, ευτυχώς) και του ζήτησαν να σχεδιάσει νέες τοξίνες. Το AI κατέληξε σε αλληλουχίες που αντιστοιχούσαν σε επικίνδυνες ουσίες όπως η ρικίνη και πρωτεΐνες δηλητηρίου φιδιών. Δημιούργησε περίπου 10^20 νέες τοξικές πρωτεΐνες και 5.000 τοξικά μικρά μόρια.

Δεν είναι τυπογραφικό λάθος. Αυτός είναι ένας τεράστιος αριθμός πιθανών βιολογικών όπλων.

Το Μοτίβο που Ίσως Παρατηρείτε

Καθ' όλη την ιστορία, έχουμε δημιουργήσει εργαλεία που μπορούν να χρησιμοποιηθούν τόσο για τεράστιο καλό όσο και για τεράστιο κακό. Τη φωτιά. Την πυρηνική ενέργεια. Το διαδίκτυο (εντάξει, ίσως όχι στο επίπεδο της φωτιάς, αλλά καταλαβαίνετε τι εννοώ).

Το AI στη βιολογία ακολουθεί την ίδια πορεία. Η τεχνολογία από μόνη της δεν νοιάζεται για τις προθέσεις—απλώς κάνει αυτό για το οποίο εκπαιδεύτηκε. Αλλά οι προθέσεις; Αυτές προέρχονται από τους ανθρώπους. Και κάποιοι άνθρωποι, δυστυχώς, έχουν πολύ κακές.

Ο CEO της Anthropic, Dario Amodei, πρόσφατα κάλεσε για επιβράδυνση στην ανάπτυξη AI, αναφέροντας τη βιοτρομοκρατία ως μείζονα ανησυχία. Αυτό δεν είναι φοβική προπαγάνδα από κάποιον τυχαίο καταστροφολόγο—αυτό λέει κάποιος που literally κατασκευάζει αυτά τα συστήματα.

Τι Κάνουμε Τώρα;

Ειλικρινά, δεν έχω όλες τις απαντήσεις. Είμαι απλώς ένας φιλικός γείτονας επιστημονικός blogger, όχι πολιτικός εμπειρογνώμονας ή ειδικός στη βιοασφάλεια.

Αλλά εδώ είναι τι πιστεύω:

Πρώτον, χρειαζόμαστε διεθνή συνεργασία σε πρότυπα ασφαλείας AI, ειδικά όσον αφορά τη συνθετική βιολογία. Οι εταιρείες δεν μπορούν να ελέγχουν αυτό μόνες τους.

Δεύτερον, χρειαζόμαστε περισσότερη δημόσια ενημέρωση για το τι συμβαίνει. Τα τρομακτικά πράγματα γίνονται λιγότερο τρομακτικά όταν ο κόσμος τα κατανοεί.

Τρίτον, και αυτό είναι το δύσκολο: πρέπει να βρούμε τρόπους να διατηρήσουμε την ωφέλιμη έρευνα ενώ προλαμβάνουμε την κακή χρήση. Αυτό είναι σαν να προσπαθείς να κρατήσεις το τζίνι στο μπουκάλι ενώ χρησιμοποιείς τη μαγεία του λύχνου για καλό.

Η Ερώτηση που Με Κρατάει Ξύπνιο

Λοιπόν, εδώ είναι που σας αφήνω με μια ερώτηση που δεν έχει εύκολη απάντηση:

Αν έχουμε τη δύναμη να δημιουργούμε νέες μορφές ζωής—και μην κάνετε λάθος, ουσιαστικά αυτό συζητάμε—πώς διασφαλίζουμε ότι αυτή η δύναμη μένει στα σωστά χέρια;

Γιατί αυτό το συγκεκριμένο τζίνι έχει ήδη βγει από το μπουκάλι. Το μόνο ερώτημα τώρα είναι πώς το αντιμετωπίζουμε.

Τι πιστεύετε εσείς; Είναι αυτή η αυγή μιας νέας εποχής στην ιατρική, ή παίζουμε με μια φωτιά που δεν κατανοούμε πλήρως; Θα ήθελα πραγματικά να ακούσω τις σκέψεις σας.