δημοφιλές τώρα: 
Γιατί οι εταιρείες τεχνητής νοημοσύνης θέλουν να τις φοβόμαστε;
Το μάρκετινγκ που βασίζεται στην καλλιέργεια φόβου - Έχουν συμφέρον οι εταιρείες να μας κρατούν προσηλωμένους σε σενάρια αποκάλυψης;🕛 χρόνος ανάγνωσης: 7 λεπτά ┋ 🗣️ Ανοικτό για σχολιασμό
Την δημιούργησαν, τη φοβούνται, κι όμως την πουλάνε. Το σενάριο είναι πλέον γνωστό: μια εταιρεία τεχνολογίας ισχυρίζεται πως έφτιαξε μια τεχνητή νοημοσύνη τόσο ισχυρή που προκαλεί τρόμο. Λένε πως είναι πολύ επικίνδυνη για να κυκλοφορήσει ελεύθερα, καθώς οι συνέπειες θα ήταν καταστροφικές. Έτσι, την κρατούν «κλειδωμένη» προς το παρόν, φροντίζοντας όμως να το μάθουμε όλοι.
Σύμφωνα με το δημοσίευμα του BBC, αυτό ακριβώς συμβαίνει τώρα με την Anthropic και το νέο της μοντέλο, το Claude Mythos. Η εταιρεία υποστηρίζει πως το Mythos εντοπίζει κενά ασφαλείας στον κυβερνοχώρο πολύ καλύτερα από τους ανθρώπους και προειδοποιεί για παγκόσμιες επιπτώσεις αν η τεχνολογία πέσει σε λάθος χέρια. «Οι επιπτώσεις – για τις οικονομίες, τη δημόσια ασφάλεια και την εθνική ασφάλεια – θα μπορούσαν να είναι σοβαρές», ανέφερε η Anthropic στις αρχές Απριλίου. Μάλιστα, κάποιοι προειδοποιούν πως σύντομα θα πρέπει να αλλάξουμε κάθε συσκευή στο σπίτι μας, ακόμα και τον φούρνο μικροκυμάτων, για να προστατευτούμε.
Από την άλλη μεριά, ορισμένοι ειδικοί ασφαλείας αμφισβητούν αυτούς τους ισχυρισμούς. Η τακτική δεν είναι καινούργια. Στελέχη κορυφαίων εταιρειών τεχνητής νοημοσύνης εκδίδουν συχνά προειδοποιήσεις για το πώς τα ίδια τους τα προϊόντα μπορεί να καταστρέψουν την ανθρωπότητα. Γιατί όμως θέλουν να τις φοβόμαστε;
Είναι ένας παράδοξος τρόπος για μια εταιρεία να μιλάει για το προϊόν της. Δεν θα ακούγατε ποτέ τη McDonald's να ανακοινώνει ότι έφτιαξε ένα μπιφτέκι τόσο νόστιμο που θα ήταν ανήθικο να το προσφέρει στο κοινό.
Οι θεωρίες για το αμφιλεγόμενο μάρκετινγκ των εταιρειών
Μια θεωρία υποστηρίζει ότι οι εταιρείες έχουν συμφέρον να μας κρατούν προσηλωμένους σε σενάρια αποκάλυψης, καθώς έτσι αποσπούν την προσοχή από την πραγματική ζημιά που ήδη προκαλούν. Οι ηγέτες του κλάδου λένε ότι απλώς μας προειδοποιούν για ένα αναπόφευκτο μέλλον και ότι η ασφάλεια είναι προτεραιότητά τους. Άλλοι όμως πιστεύουν ότι πρόκειται για εκφοβισμό που υπερβάλλει για τις δυνατότητες της τεχνολογίας με σκοπό την αύξηση της χρηματιστηριακής αξίας. Παράλληλα, καλλιεργείται η εντύπωση ότι οι ρυθμιστικές αρχές δεν πρέπει να επέμβουν, αφού μόνο αυτές οι εταιρείες ξέρουν πώς να διαχειριστούν υπεύθυνα την κατάσταση.
«Αν παρουσιάζετε αυτές τις τεχνολογίες ως σχεδόν υπερφυσικές ως προς τον κίνδυνο που ενέχουν, μας κάνει να νιώθουμε ανίσχυροι, σαν να είμαστε ανίσχυροι», λέει η Shannon Vallor, πρόεδρος του τμήματος ηθικής των δεδομένων στο Πανεπιστήμιο του Εδιμβούργου. «Σαν οι μόνοι άνθρωποι στους οποίους θα μπορούσαμε να στραφούμε να είναι οι ίδιες οι εταιρείες.»
Ένας εκπρόσωπος της Anthropic ανέφερε ότι η εταιρεία έχει ξεκαθαρίσει τη θέση της, παραπέμποντας σε αναρτήσεις που υποστηρίζουν τις δυνατότητες του Mythos, χωρίς όμως να απαντήσει στην ουσία των επικρίσεων του άρθρου.
Δεν είναι η πρώτη φορά που ο διευθυντής της Anthropic, Dario Amodei, εμπλέκεται σε ένα εργαλείο που χαρακτηρίζεται «υπερβολικά επικίνδυνο». Το 2019, όταν ήταν στην OpenAI, η εταιρεία ανακοίνωσε το GPT-2, δηλώνοντας ότι δεν μπορούσε να το κυκλοφορήσει λόγω «ανησυχιών σχετικά με κακόβουλες εφαρμογές της τεχνολογίας». Παρόλο που ήταν πολύ λιγότερο εξελιγμένο από το σημερινό ChatGPT, το κυκλοφόρησαν λίγους μήνες μετά. Ο Sam Altman παραδέχτηκε αργότερα ότι οι φόβοι εκείνοι ήταν «άστοχοι».
Ο Altman επέκρινε πρόσφατα το «μάρκετινγκ που βασίζεται στον φόβο» της Anthropic, αν και ο ίδιος χρησιμοποιεί την ίδια τακτική εδώ και χρόνια. «Η τεχνητή νοημοσύνη πιθανότατα θα οδηγήσει στο τέλος του κόσμου, αλλά εν τω μεταξύ, θα υπάρχουν σπουδαίες εταιρείες», δήλωνε το 2015. Αργότερα ισχυρίστηκε ότι χάνει τον ύπνο του αναρωτιόμενος αν έκανε κακό με την κυκλοφορία του ChatGPT.
Το 2023, εκατοντάδες ηγέτες της τεχνολογίας, ανάμεσά τους οι Altman, Gates και Hassabis, υπέγραψαν δήλωση ότι: «Η μείωσης του κινδύνου εξαφάνισης από την τεχνητή νοημοσύνη πρέπει να αποτελεί παγκόσμια προτεραιότητα, παράλληλα με άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος». Την ίδια χρονιά, ο Elon Musk ζήτησε εξάμηνη παύση στην ανάπτυξη της τεχνολογίας, μόνο και μόνο για να ανακοινώσει τη δική του εταιρεία, την xAI, λίγους μήνες μετά.
«Είναι απλώς μέρος αυτού του μοτίβου αβάσιμων ισχυρισμών εξουσίας», λέει η καθηγήτρια Emily M. Bender. «Λένε «κοιτάξτε εδώ», χωρίς να δίνουν σημασία στην καταστροφή του περιβάλλοντος, στην εκμετάλλευση των εργαζομένων και σε όλα αυτά τα συστήματα που καταστρέφουμε στην κοινωνία. Το μόνο που πρέπει να μας απασχολεί είναι να βεβαιωθούμε ότι αυτό το πράγμα δεν θα μετατραπεί σε κάτι κακό που θα καταστρέψει την ανθρωπότητα.»
Η OpenAI, από την πλευρά της, δηλώνει ότι θα «αντισταθεί στην πιθανότητα αυτή η τεχνολογία να συγκεντρώσει την εξουσία στα χέρια λίγων», προσθέτοντας ότι οι αποφάσεις πρέπει να λαμβάνονται δημοκρατικά.
Τελικά, είναι το Mythos τόσο κακό;
Η Anthropic ισχυρίζεται ότι το Mythos εντόπισε χιλιάδες σοβαρές ευπάθειες και ξεκίνησε συνεργασίες με 40 εταιρείες για την επιδιόρθωσή τους. Ωστόσο, η Heidy Khlaaf από το AI Now Institute παραμένει δύσπιστη. Επισημαίνει ότι η εταιρεία δεν δημοσίευσε τα ποσοστά των «ψευδών θετικών» αποτελεσμάτων, μια βασική μέτρηση για την αξιοπιστία τέτοιων εργαλείων. Η Anthropic απέφυγε να απαντήσει σε αυτό, όπως και στις φήμες ότι καθυστέρησε την κυκλοφορία του Mythos επειδή δεν είχε την απαραίτητη υπολογιστική ισχύ.
«Πιστεύω ότι υπάρχουν πολλές ασυνέπειες σε αυτή την αφήγηση ότι το Mythos είναι πανίσχυρο και δεν μπορούμε να το κυκλοφορήσουμε», λέει η Khlaaf, τονίζοντας ότι οι ισχυρισμοί της εταιρείας δεν τεκμηριώνονται επαρκώς.
Η OpenAI και η Anthropic υποστηρίζουν ότι ο λόγος ύπαρξής τους είναι η αποτροπή της καταστροφής. Όμως, όπως λέει η Vallor, «αν θέλετε να καταλάβετε πώς θα συμπεριφερθεί μια οργάνωση, ειδικά μια εταιρεία, κοιτάξτε ποια είναι τα κίνητρά της». Η Google υπαναχώρησε στις δεσμεύσεις της για τα όπλα, η OpenAI μάχεται για τον κερδοσκοπικό της χαρακτήρα και η Anthropic εγκατέλειψε κάποιες δικές της δικλείδες ασφαλείας.
«Δεν θα βασιζόμουν σε [καμία από αυτές τις εταιρείες] να απομακρυνθεί από την ευκαιρία να κυριαρχήσει στην αγορά προκειμένου να παραμείνει ο καλός», σημειώνει η Vallor. Εν τω μεταξύ, υπάρχουν άμεσα προβλήματα: λανθασμένες διαγνώσεις στην υγεία, τεράστιες εκπομπές ρύπων από τα κέντρα δεδομένων, περιστατικά ψύχωσης από τη χρήση AI και η εξάπλωση των deepfakes.
Δαίμονες ή μεσσίες
Οι ίδιοι που προειδοποιούν για την καταστροφή, υπόσχονται και τη σωτηρία. Ο Altman προβλέπει λύση του κλιματικού προβλήματος και διαστημικές αποικίες, ενώ ο Amodei υπόσχεται μια «χώρα ιδιοφυιών σε ένα κέντρο δεδομένων».
Σύμφωνα με τη Vallor, η ουτοπία και η αποκάλυψη είναι οι δύο όψεις του ίδιου νομίσματος. Αυτό κάνει τον κόσμο να νιώθει ότι δεν μπορεί να ελέγξει την κατάσταση μέσω νόμων και απλώς περιμένει να δει αν η τεχνολογία θα εξελιχθεί σε δαίμονα ή μεσσία. Όμως αυτά δεν είναι θεοί, είναι προϊόντα. «Τίποτα σε αυτές δεν είναι ανεξέλεγκτο. Εκτός αν επιλέξουμε να μην τις ελέγξουμε», καταλήγει.
Είναι πιθανό η AI να κυριαρχήσει στον κόσμο, αλλά μήπως αυτή η ιστορία μας θυμίζει άλλες υποσχέσεις του παρελθόντος; Το Metaverse, το Bitcoin ή τα κοινωνικά δίκτυα που θα έσωζαν τη δημοκρατία; Ίσως συμβούν, ίσως και όχι.
Όσα είπαν Τραμπ και Πούτιν: Η πρόταση για τα αποθέματα ουρανίου του Ιράν και η εκεχειρία στην Ουκρανία
Δημοσκόπηση Metron Analysis: «Βουτιά» 2,5 μονάδων για τη ΝΔ - Μειώνεται η ψαλίδα με το ΠΑΣΟΚ
Τραγωδία στην Ηλεία: Νεκρός 13χρονος που οδηγούσε πατίνι και συγκρούστηκε με ΙΧ
«Δαίμονες ή μεσσίες;»: Γιατί οι εταιρείες τεχνητής νοημοσύνης θέλουν να τις φοβόμαστε
Live όλες οι εξελίξεις λεπτό προς λεπτό, με την υπογραφή του www.ethnos.gr