«Πραγματικά τρομοκρατημένοι»: Πρώην ερευνητής της Anthropic αποκαλύπτει τι συμβαίνει πίσω από τις... κλειστές πόρτες της AI

Ένας ερευνητής Τεχνητής Νοημοσύνης (AI) που παραιτήθηκε από την Anthropic δήλωσε στο BBC ότι όσοι εργάζονται πάνω στη συγκεκριμένη τεχνολογία είναι «πραγματικά τρομοκρατημένοι» με την ταχύτητα της εξέλιξής της και με το τι μπορεί να σημαίνει αυτό για την ανθρωπότητα.

Ο Τζέικομπ Κόξον μίλησε το Σάββατο στη Λόρα Κούνσμπεργκ του BBC για την παραίτησή του που έγινε viral, στην οποία εξέφραζε έντονους φόβους για μια εκτός ελέγχου Τεχνητή Νοημοσύνη.

«Πιστεύω ότι αν δεν επιβραδύνουμε τον σημερινό ρυθμό προόδου, υπάρχει μεγάλη πιθανότητα να πεθάνουμε όλοι στο άμεσο μέλλον», ανέφερε χαρακτηριστικά.

Η παραίτησή του έρχεται εν μέσω αυξανόμενων ανησυχιών για την ασφάλεια στον κλάδο, τις οποίες συμμερίζεται ακόμα και το πρώην αφεντικό του, ο επικεφαλής της Anthropic, Ντάριο Αμοδέι, ο οποίος σε δοκίμιό του το Σάββατο τάχθηκε υπέρ της επιβράδυνσης της ανάπτυξης των συστημάτων.

Ωστόσο, ορισμένοι ειδικοί της βιομηχανίας υποστηρίζουν ότι οι κίνδυνοι υπερδιογκώνονται -πιθανώς για να δημιουργηθεί θόρυβος γύρω από τις δύο μεγαλύτερες εταιρείες AI ενόψει της πιθανής εισόδου τους στο χρηματιστήριο, ή για να προκληθεί ένα ρυθμιστικό πλαίσιο που θα επιβραδύνει τους ανταγωνιστές τους.

Μιλώντας στην εκπομπή «Sunday with Laura Kuenssberg», ο 27χρονος Κόξον -που εργαζόταν στην OpenAI πριν ενταχθεί στην Anthropic- χαιρέτισε την πρόταση του Αμοδέι για επιβράδυνση, αλλά τόνισε ότι αυτή θα πρέπει να γίνει σε συντονισμό με την Κίνα.

«Οι άνθρωποι που εργάζονται σε αυτές τις εταιρείες είναι απολύτως σοβαροί όταν ζητούν ρυθμίσεις, επειδή αισθάνονται παγιδευμένοι σε μια κούρσα εξοπλισμών. Και φοβούνται τα αποτελέσματα αυτής της κούρσας».

«Ο Σαμ Άλτμαν και ο Ίλον Μασκ έχουν συμφωνήσει ότι πρόκειται για εξαιρετική ιδέα. Όμως πιστεύω ότι θα χρειαστεί κάποιου είδους συντονισμένη επιβράδυνση με την Κίνα, αν θέλουμε να αποφύγουμε έναν ανταγωνισμό σε διεθνή κλίμακα», δήλωσε.

Ο κίνδυνος για «AI Αποκάλυψη» μέσα στους επόμενους μήνες

Σύμφωνα με τον Κόξον, το πιο δύσκολο ερώτημα που καλείται να απαντήσει κανείς είναι το πώς θα έμοιαζε μια «Αποκάλυψη της Τεχνητής Νοημοσύνης».

Ένας από τους κινδύνους που περιέγραψε ο Αμοδέι στις δηλώσεις του ήταν η δημιουργία ενός σμήνους από bots που θα λειτουργούν ως υπερυπολογιστές ικανοί να καταλάβουν το διαδίκτυο. Ο Κόξον σημείωσε ότι ένα τέτοιο σενάριο θα μπορούσε να γίνει πραγματικότητα μέσα στους επόμενους έξι μήνες έως έναν χρόνο.

Απαντώντας στην αποχώρηση του Κόξον, εκπρόσωπος της Anthropic δήλωσε στο BBC News: «Είμαστε πάντα διαφανείς στο ότι η Τεχνητή Νοημοσύνη θα φέρει τόσο τεράστια οφέλη όσο και πρωτοφανείς κινδύνους. Για την αντιμετώπιση αυτών των κινδύνων, συνεχίζουμε να κατασκευάζουμε μοντέλα με μερικές από τις ισχυρότερες ασφαλιστικές δικλείδες στον κλάδο».

Ο εκπρόσωπος πρόσθεσε ότι η εταιρεία υπήρξε πρωτοπόρος στη μελέτη του τρόπου λειτουργίας των μοντέλων AI, ήταν η πρώτη που δημοσίευσε ένα πλαίσιο για τον μετριασμό των κινδύνων και προβαίνει σε εντατικούς ελέγχους των συστημάτων της δημοσιεύοντας τα ευρήματα για να αποτρέψει περιστατικά «αποθυθυγράμμισης» (AI misalignment).

«Αυτή η εργασία είναι επίσης ο λόγος για τον οποίο πιστεύουμε ότι ο κόσμος θα ωφεληθεί αν ο κλάδος υιοθετήσει έναν νόμιμο τρόπο συνεργασίας, ώστε να ρυθμιστεί ο ρυθμός με τον οποίο διαθέτουμε τα ισχυρά μοντέλα», ανέφερε η εταιρεία.

Στο δοκίμιό του με τίτλο «We Must Pace the Frontier» (Πρέπει να βάλουμε ρυθμό στο μέτωπο της εξέλιξης), ο Αμοδέι πρότεινε ένα σχέδιο τριών σημείων που περιλαμβάνει την ανεξάρτητη παρακολούθηση των μοντέλων AI κατά την ανάπτυξή τους, ρυθμίσεις σε επίπεδο βιομηχανίας αλλά και παγκόσμιους κανόνες.

Παράλληλα, αναφορές θέλουν την Anthropic και την OpenAI να ετοιμάζονται για αρχικές δημόσιες προσφορές (IPO) στο χρηματιστήριο που ενδέχεται να καταρρίψουν ρεκόρ. Παράγοντες της αγοράς αφήνουν να εννοηθεί ότι οι δραματικές δηλώσεις για τους κινδύνους της AI μπορεί να είναι σχεδιασμένες για να δημιουργήσουν τεχνητό θόρυβο.

Αντιδράσεις, αμφισβήτηση και αγορές γης από φοβισμένους ερευνητές

Οι απόψεις του Κόξον αμφισβητήθηκαν έντονα και από τον διευθύνοντα σύμβουλο της πλατφόρμας Hugging Face, Κλεμάν Ντελάνγκ.

«Συγγνώμη, αλλά το να ρωτάς τον Τζέικομπ για τον κίνδυνο εξαφάνισης από την AI είναι σαν να ρωτάς τον τεχνικό του κλιματιστικού σου για την κλιματική αλλαγή», έγραψε στο X (Twitter). «Δεν λέω ότι είναι απαραίτητα αδιάφορο ή λάθος, αλλά ας κρατήσουμε μια πισινή». Ωστόσο, μετά τη δημοσίευση του δοκιμίου του Αμοδέι, ο Ντελάνγκ προσφέρθηκε να βοηθήσει στην εφαρμογή των λύσεων που πρότεινε το αφεντικό της Anthropic.

Επιπλέον, ο επικεφαλής της Nvidia, Τζένσεν Χουάνγκ, σχολίασε τις δηλώσεις του Κόξον ενώπιον επενδυτών σε συνέδριο της Goldman Sachs, απορρίπτοντάς τες ως ανυπόστατες. Ο Χουάνγκ έχει δηλώσει στο παρελθόν ότι η ιδέα πως η AI «θα φέρει το τέλος της ανθρωπότητας» είναι «εντελώς ασυναρτησία».

Αν και ο ίδιος έχει επιχειρηματικό συμφέρον από την έκρηξη της Τεχνητής Νοημοσύνης -καθώς η Nvidia κατασκευάζει τα τσιπ που τροφοδοτούν αυτά τα συστήματα- οι δηλώσεις του αντικατοπτρίζουν τις αυξανόμενες αντιδράσεις στη Σίλικον Βάλεϊ απέναντι στις υπαρξιακές προειδοποιήσεις νυν και πρώην εργαζομένων.

Από την πλευρά του, ο Κόξον υποστηρίζει ότι οι συνάδελφοί του φοβούνται πως ο κίνδυνος μπορεί να εμφανιστεί ακόμη και μέσα στα επόμενα δύο χρόνια.

Αποκάλυψε μάλιστα ότι στελέχη εταιρειών AI «σχεδιάζουν τι θα κάνουν με τη ζωή τους και σκέφτονται τις επιπτώσεις της εργασίας τους», ενώ ορισμένοι «σκέφτονται να αγοράσουν εκτάσεις γης κάπου απομονωμένα, επειδή φοβούνται τόσο πολύ την αστάθεια που θα προκληθεί από τη ραγδαία πρόοδο της τεχνολογίας».

«Όλοι τους το κουβαλούν αυτό στο μυαλό τους καθημερινά ενώ εργάζονται πάνω σε αυτή την τεχνολογία». Παρά τους φόβους, ο Κόξον διατηρεί μια σχετική αισιοδοξία, δηλώνοντας στο BBC ότι οι ερευνητές «θέλουν πραγματικά να δουν τη θετική πλευρά», όπως η θεραπεία ασθενειών και η βελτίωση της ζωής όλων μέσω της AI.

Οι δηλώσεις του έχουν κοινοποιηθεί εκατομμύρια φορές στα μέσα κοινωνικής δικτύωσης, με τον επιστήμονα της Anthropic, Έβαν Χούμπινγκερ, να συμφωνεί δημόσια μαζί του στο X:

«Πιστεύουμε πραγματικά και ειλικρινά ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά θεωρώ ότι η πιθανότητα να συμβεί αυτό μέσα στην επόμενη δεκαετία είναι μεγαλύτερη από 10%», έγραψε χαρακτηριστικά.

Ηγετικές φυσιογνωμίες στον χώρο της Τεχνητής Νοημοσύνης κρούουν τον κώδωνα του κινδύνου για την ασφάλεια εδώ και χρόνια, με τους επικεφαλής της OpenAI, της Google Deepmind και της Anthropic να κάνουν αντίστοιχες δηλώσεις ήδη από το 2023. Ωστόσο, οι προειδοποιήσεις αυτές γίνονται όλο και πιο ηχηρές τις τελευταίες εβδομάδες, καθώς αυξάνονται οι ενδείξεις ότι οι εταιρείες ενδεχομένως δυσκολεύονται πλέον να κρατήσουν την τεχνολογία υπό τον έλεγχό τους.

Διαβάστε ακόμη

Σε «λαϊκή αγρυπνία» η σορός του Μαζωνάκη στη Νίκαια - Αύριο η απολογία των γιατρών με φόντο τα σβησμένα στοιχεία

«Υγειονομική βόμβα» οι φοιτητικές εστίες Ιωαννίνων: Χαράτσι 40 ευρώ, απειλές για εξώσεις και μπλόκο στα πτυχία

Προκλητικές δαπάνες στο Ισραήλ: 470.000 δολάρια για μαλλιά και μακιγιάζ του Νετανιάχου

«Πραγματικά τρομοκρατημένοι»: Τι συμβαίνει πίσω από... τις κλειστές πόρτες της AI