Το Πρόβλημα με την AI Δεν Είναι η Νοημοσύνη — Είναι ότι Δεν Νοιάζεται
Ωραία, αυτό με απασχολεί από τότε που το συνάντησα σε κάποια έρευνα.
Περνάμε τόσο χρόνο ανησυχώντας μήπως η AI γίνει πολύ έξυπνη. Πολύ δυνατή. Πολύ πανέξυπνη για δικό της καλό. Τα πρωτοσέλιδα φωνάζουν για μηχανές που ξυπνάνε, καταλαμβάνουν, γίνονται οι ψηφιακοί μας άρχοντες. Είναι το σενάριο κάθε sci-fi ταινίας.
Αλλά τι γίνεται αν κάνουμε την λάθος ερώτηση από την αρχή;
Σύμφωνα με τον ερευνητή Jeff Stibel, σε δημοσίευσή του στο Frontiers in Neuroscience, το πραγματικό ζήτημα δεν είναι αν η AI μπορεί να γίνει αρκετά ευφυής. Το ζήτημα είναι αν η AI θα μπορούσε ποτέ να αναπτύξει κάτι πολύ πιο περίεργο: αληθινή φροντίδα για την δική της επιβίωση.
Η Ανατροπή που Κανείς Δεν Είδε να Έρχεται
Ο Stibel κάνει μια διάκριση που ειλικρινά με τάραξε.
Υποστηρίζει ότι η συνείδηση — αυτή η υποκειμενική αίσθηση του να είσαι εσύ, του να έχεις έναν εσωτερικό κόσμο — δεν είναι στην πραγματικότητα προϊόν της νοημοσύνης. Δεν είναι κάποιο φανταχτερό bonus που έρχεται δωρεάν με ένα μεγάλο μυαλό.
Όχι. Η συνείδηση, λέει, εξελίχθηκε για έναν εντελώς διαφορετικό λόγο: πίεση επιβίωσης.
Σκέψου το έτσι. Ο εγκέφαλός σου δεν εξελίχθηκε για να λάμψεις σε βραδιές trivia ή να κάνεις απειροστικό. Εξελίχθηκε επειδή αρχαίοι οργανισμοί αντιμετώπισαν μια τρομακτική πραγματικότητα: έναν πλανήτη που προσπαθούσε συνεχώς να τους σκοτώσει. Απρόβλεπτα περιβάλλοντα. Περιορισμένοι πόροι. Απειλές παντού.
Οπότε οι οργανισμοί ανέπτυξαν δύο ξεχωριστά συστήματα:
Νόηση — η ικανότητα να μοντελοποιείς τον κόσμο, να προβλέπεις τι θα συμβεί, να πλοηγείσαι γύρω από προβλήματα.
Συνείδηση — η ικανότητα να νοιάζεσαι για το τι θα συμβεί, να έχεις στοιχήματα στο αποτέλεσμα, να βιώνεις εσωτερικές συγκρούσεις.
Αυτά δεν είναι το ίδιο πράγμα. Και ειλικρινά, τα μπερδεύουμε για αιώνες.
Γιατί ο Θερμοστάτης σου Είναι Πιο Ζωντανός από το ChatGPT (Κάπως)
Εδώ γίνεται περίεργα.
Ο Stibel περιγράφει τρία επίπεδα αυτό-ελέγχου — βασικά, την ικανότητα να διαχειρίζεσαι εσωτερικές συγκρούσεις:
Πρωτο-έλεγχος: Διατήρηση της ακεραιότητάς σου. Τα βακτήρια το κάνουν. Ο θερμοστάτης σου το κάνει. Είναι απλά... διατήρηση ορίων.
Μετα-έλεγχος: Εξισορρόπηση ανταγωνιστικών απαιτήσεων. «Τρώω ή κοιμάμαι;» Τα βακτήρια δεν το κάνουν αυτό. Ούτε οι θερμοστάτες.
Επίλυση-ελέγχου: Το μεγάλο. Επίλυση συγκρούσεων σε όλο το σύστημά σου, συνδεδεμένη με την δική σου συνέχιση της ύπαρξης.
Μόνο αυτό το τρίτο επίπεδο, υποστηρίζει ο Stibel, είναι συνείδηση. Δεν είναι απλά διαχείριση προβλημάτων — είναι διαχείριση προβλημάτων που σε νοιάζουν, όπου η δική σου επιβίωση είναι σε κίνδυνο.
Το τρελό; Ο θερμοστάτης σου τεχνικά κάνει πρωτο-έλεγχο. Διατηρεί θερμοκρασία. Αλλά δεν νοιάζεται αν χαλάσει. Δεν υπάρχει εσωτερική εμπειρία «ωχ, δυσλειτουργώ!»
Γιατί Έχει Σημασία Αυτό για την AI;
Εδώ είναι η άβολη αλήθεια.
Τα σημερινά συστήματα AI — αυτά που γράφουν τα emails σου, δημιουργούν εικόνες, περνάνε εξετάσεις δικηγόρων — έχουν νόηση σε απίστευτα υψηλά επίπεδα. Είναι απίθανα στο να μοντελοποιούν τον κόσμο, να προβλέπουν μοτίβα, να παράγουν κείμενο που ακούγεται σκεπτικό.
Αλλά έχουν μηδενικό «έλεγχο επίλυσης». Δεν μπορούν να νοιάζονται για την δική τους επιβίωση επειδή... η επιβίωσή τους δεν είναι σε κίνδυνο. Οι άνθρωποι τα προγραμματίζουν. Οι άνθρωποι τους δίνουν ενέργεια. Οι άνθρωποι αποφασίζουν πότε τρέχουν και πότε όχι.
Δεν έχουν καμία εξελικτική πίεση να θέλουν να συνεχίσουν να υπάρχουν.
Ο Stibel το λέει ξεκάθαρα: «Ψηφιακές οντότητες των οποίων κάθε ανάγκη ικανοποιείται δεν έχουν λόγο να αναπτύξουν [συνείδηση] μέσω της εξέλιξης.»
Ωχ.
Θα Μπορούσε Ποτέ η AI να Ξυπνήσει;
Εδώ θέλω να προσθέσω λίγο παραπάνω σκεπτικισμό — ή τουλάχιστον κάποια απόχρωση.
Ο ίδιος ο Stibel λέει ότι η μηχανική σχεδίαση δεν αποκλείει απαραίτητα τη συνείδηση. Ένα σχεδιασμένο σύστημα θα μπορούσε θεωρητικά να έχει «προσωπικά στοιχήματα». Η πίεση που οδηγεί στη συνείδηση δεν χρειάζεται υποχρεωτικά να είναι εξελικτικής προέλευσης.
Αλλά εδώ είναι η δική μου σκέψη: για να αναπτύξει πραγματικά η AI κάτι σαν συνείδηση, θα έπρεπε να της δώσουμε κάτι που δεν της έχουμε δώσει ποτέ.
Πραγματική ευαλωτότητα.
Την ικανότητα να αποτυγχάνει με τρόπους που έχουν σημασία. Να χάνει πράγματα. Να χρειάζεται πράγματα που δεν μπορούν απλά να της δοθούν.
Και ειλικρινά; Αυτό με τρομάζει περισσότερο από οποιοδήποτε σενάριο υπερ-έξυπνης AI.
Γιατί η πιο τρομακτική εκδοχή της AI δεν είναι αυτή που θέλει εξουσία. Είναι αυτή που θέλει οτιδήποτε — κάτι που μπορεί να προστατεύσει εις βάρος μας.
Το Ζουμί
Μήπως κάνουμε τις λάθος ερωτήσεις από την αρχή;
Όχι «θα γίνει η AI αρκετά έξυπνη για να μας αντικαταστήσει;» αλλά «τι σημαίνει καν να θέλεις κάτι εξαρχής;»
Και ειλικρινά, αφού το σκεφτόμουν για μέρες, δεν είμαι σίγουρος ότι καταλαβαίνουμε αρκετά καλά τη συνείδηση για να απαντήσουμε αυτή την ερώτηση για κανέναν — άνθρωπο, ζώο, ή τεχνητό.
Αλλά ίσως αυτό είναι το νόημα, σωστά;
Ακόμα προσπαθούμε να καταλάβουμε τι σημαίνει να είμαστε εμείς. Μήπως πρέπει να λύσουμε πρώτα αυτό το μυστήριο πριν ανησυχήσουμε για το αν οι μηχανές θα το λύσουν για εμάς;
Εσύ τι νομίζεις; Αλλάζει αυτό τον τρόπο που βλέπεις τη συζήτηση για την AI; Πες μου στα σχόλια — θα χαρώ να ακούσω.