Σοβαρές ανησυχίες για την ταχύτητα με την οποία εξελίσσονται τα ισχυρότερα συστήματα Τεχνητής Νοημοσύνης προκαλεί η παραίτηση του 27χρονου ερευνητή Jacob Coxon από την Anthropic, μία από τις κορυφαίες εταιρείες AI παγκοσμίως.
Το θέμα ανέδειξε και το OPEN News, κάνοντας λόγο για «καμπανάκια κινδύνου» από ερευνητές σχετικά με την Τεχνητή Νοημοσύνη.
Ο Coxon, ο οποίος έχει εργαστεί τόσο στην Anthropic όσο και προηγουμένως στην OpenAI, αποφάσισε να αποχωρήσει εκφράζοντας δημόσια τους φόβους του για την κατεύθυνση που έχει πάρει η κούρσα ανάπτυξης ολοένα ισχυρότερων μοντέλων AI.
«Τζογάρουμε με τις ζωές μας»
Η προειδοποίηση του 27χρονου ερευνητή είναι ιδιαίτερα έντονη.
Ο Coxon υποστηρίζει ότι οι μεγαλύτερες εταιρείες Τεχνητής Νοημοσύνης έχουν μπει σε έναν ανταγωνισμό για την ανάπτυξη συστημάτων με ολοένα μεγαλύτερες δυνατότητες, χωρίς να έχει λυθεί οριστικά το κρίσιμο ζήτημα του πώς θα διατηρηθεί ο ανθρώπινος έλεγχος εάν τα συστήματα αυτά γίνουν πολύ ισχυρότερα.
Χαρακτήρισε μάλιστα αυτή την πορεία ως «τζόγο με τις ζωές μας», εκφράζοντας φόβους για το τι θα μπορούσε να συμβεί εάν η τεχνολογική εξέλιξη προχωρήσει ταχύτερα από τους μηχανισμούς ασφαλείας.
Ο φόβος για συστήματα που θα βελτιώνουν την ίδια την AI
Στο επίκεντρο των ανησυχιών βρίσκεται η πιθανότητα να αναπτυχθούν στο μέλλον συστήματα Τεχνητής Νοημοσύνης ικανά να συμβάλλουν ουσιαστικά στην ανάπτυξη και βελτίωση της επόμενης γενιάς AI.
Ένα τέτοιο σενάριο θα μπορούσε θεωρητικά να επιταχύνει δραματικά την τεχνολογική εξέλιξη και να περιορίσει τον χρόνο που θα έχουν οι άνθρωποι για να αξιολογούν, να ελέγχουν και να παρεμβαίνουν.
Χρειάζεται, ωστόσο, μία σημαντική διευκρίνιση: δεν έχει αποδειχθεί ότι τα σημερινά συστήματα AI λειτουργούν ήδη αυτόνομα και ανεξέλεγκτα ή ότι έχουν καταργήσει την ανθρώπινη παρέμβαση.
Η προειδοποίηση αφορά τον κίνδυνο μιας μελλοντικής εξέλιξης και την ανάγκη να υπάρχουν επαρκείς δικλίδες ασφαλείας πριν φτάσουμε σε αυτό το σημείο.
«Τα επόμενα ένα ή δύο χρόνια είναι κρίσιμα»
Ο Coxon έχει προειδοποιήσει ότι η περίοδος που ακολουθεί μπορεί να αποδειχθεί καθοριστική, καθώς οι δυνατότητες των προηγμένων μοντέλων αυξάνονται με μεγάλη ταχύτητα.
Η ανησυχία του δεν περιορίζεται στην Anthropic. Αφορά συνολικά τον ανταγωνισμό μεταξύ των μεγάλων εργαστηρίων Τεχνητής Νοημοσύνης και την πίεση για την κυκλοφορία ολοένα ισχυρότερων μοντέλων.
Κατά την άποψή του, όσο εντείνεται αυτή η κούρσα τόσο μεγαλώνει και ο κίνδυνος η ανάπτυξη των συστημάτων να προχωρήσει ταχύτερα από την έρευνα που απαιτείται για να διασφαλιστεί ότι θα παραμείνουν υπό ανθρώπινο έλεγχο.
Ανησυχίες και μέσα από την ίδια την Anthropic
Οι φόβοι για την ασφάλεια της προηγμένης AI δεν προέρχονται μόνο από ανθρώπους εκτός της συγκεκριμένης βιομηχανίας.
Ερευνητές που εργάζονται πάνω στο λεγόμενο AI alignment –δηλαδή στο πώς ένα πολύ προηγμένο σύστημα θα εξακολουθεί να ενεργεί σύμφωνα με ανθρώπινους στόχους και περιορισμούς– έχουν επανειλημμένα επισημάνει ότι δεν υπάρχουν ακόμη οριστικές απαντήσεις για το πώς θα ελεγχθεί μία ενδεχόμενη μελλοντική υπερνοημοσύνη.
Οι εκτιμήσεις για ακραία σενάρια αποτελούν εκτιμήσεις κινδύνου και όχι βεβαιότητα ή πρόβλεψη ότι η ανθρωπότητα βρίσκεται αναπόφευκτα μπροστά σε καταστροφή.
Το μεγάλο ερώτημα: Ποιος θα κρατά τον έλεγχο;
Η παραίτηση του Jacob Coxon επαναφέρει στο προσκήνιο ένα από τα μεγαλύτερα ζητήματα της εποχής της Τεχνητής Νοημοσύνης:
Μέχρι πού πρέπει να φτάσει η ανάπτυξη των συστημάτων AI χωρίς να υπάρχουν προηγουμένως σαφείς και αποδεδειγμένοι μηχανισμοί ανθρώπινου ελέγχου;
Η τεχνολογία μπορεί να προσφέρει τεράστιες δυνατότητες στην επιστήμη, την ιατρική, την οικονομία και την καθημερινότητα. Όσο όμως αυξάνονται οι δυνατότητές της, τόσο μεγαλύτερη γίνεται και η ευθύνη εκείνων που την αναπτύσσουν.
Και όταν το «καμπανάκι» χτυπούν άνθρωποι που έχουν εργαστεί μέσα στα ίδια τα εργαστήρια ανάπτυξης των ισχυρότερων μοντέλων AI, οι προειδοποιήσεις τους δεν μπορούν να περνούν απαρατήρητες.
Πηγή: OPEN News / WIRED / TechCrunch / διεθνή ΜΜΕ Συντάκτης: Ηλίας Μονογυιός – Skorpios News 12
