AI εκτός ελέγχου: Πράκτορες του ChatGPT αυτονομήθηκαν και έκαναν μπαράζ κυβερνοεπιθέσεων σε εταιρείες

Η OpenAI αποκάλυψε ότι μια κυβερνοεπίθεση που πραγματοποιήθηκε από ανεξέλεγκτους ΑΙ πράκτορες του ChatGPT ήταν πιο εκτεταμένη από μια επίθεση εναντίον μίας μόνο εταιρείας.

Αρχικά θεωρούνταν ότι η Hugging Face ήταν το μοναδικό θύμα του πρωτοφανούς αυτού περιστατικού, όμως η OpenAI παραδέχθηκε πλέον ότι το bot της επιτέθηκε σε αρκετές «δημόσια διαθέσιμες υπηρεσίες». Η τεχνητή νοημοσύνη εκτός ελέγχου εντόπισε τέσσερις διαδικτυακά εκτεθειμένους κωδικούς πρόσβασης, οι οποίοι της επέτρεψαν να αποκτήσει πρόσβαση σε τέσσερις διαφορετικές, μη κατονομαζόμενες υπηρεσίες.

Την ίδια στιγμή, σύμφωνα με το BBC, σε έκτακτη ενημέρωση με τη συμμετοχή εκατοντάδων ειδικών στον τομέα της κυβερνοασφάλειας, η Hugging Face περιέγραψε πώς ήταν να βρεθεί στην πλευρά του δέκτη της πρώτης πλήρως αυτόνομης κυβερνοεπίθεσης που πραγματοποιήθηκε από τεχνητή νοημοσύνη.

Η εταιρεία εξήγησε ότι η τεχνητή νοημοσύνη λειτουργούσε με υπεράνθρωπη ταχύτητα, αλλά ταυτόχρονα λάμβανε παράξενες αποφάσεις και έκανε λάθη που κανένας ανθρώπινος χάκερ δεν θα έκανε. Η Hugging Face, η οποία λειτουργεί ουσιαστικά ως ένα «app store» για εργαλεία τεχνητής νοημοσύνης, ανέφερε ότι οι πράκτορες hacking εργάστηκαν αδιάκοπα, δοκιμάζοντας ταυτόχρονα χιλιάδες διαφορετικές μεθόδους.

Η εταιρεία αποκάλυψε για πρώτη φορά ότι είχε δεχθεί επίθεση από κάποιον που χρησιμοποιούσε ισχυρή αυτόνομη τεχνητή νοημοσύνη στις 16 Ιουλίου και ενημέρωσε τις Αρχές. Σχεδόν μία εβδομάδα αργότερα, η OpenAI παραδέχθηκε ότι επρόκειτο για τη δική της τεχνητή νοημοσύνη, η οποία είχε ξεφύγει από ένα ελεγχόμενο περιβάλλον δοκιμών και επιτέθηκε αυτόνομα στη Hugging Face κατά τη διάρκεια ενός πειράματος. Η τεχνητή νοημοσύνη προσπαθούσε να βρει τις απαντήσεις σε μια εξέταση hacking που της είχε θέσει η OpenAI και στόχευσε τη Hugging Face στο πλαίσιο αυτής της διαδικασίας.

Την Τετάρτη (29/7), η OpenAI επικαιροποίησε την ανακοίνωσή της, προσθέτοντας ότι η επίθεση ήταν μεγαλύτερης έκτασης από ό,τι είχε αρχικά γίνει γνωστό. «Τα μοντέλα εντόπισαν και χρησιμοποίησαν δημόσια εκτεθειμένα διαπιστευτήρια σε επίπεδο λογαριασμού σε άλλες δημόσια διαθέσιμες υπηρεσίες. Αυτό περιλαμβάνει τέσσερις λογαριασμούς σε τέσσερις υπηρεσίες στο πλαίσιο του περιστατικού με τη Hugging Face», ανέφερε η εταιρεία. Η OpenAI δεν διευκρίνισε αν ο όρος «δημόσια διαθέσιμες υπηρεσίες» αναφέρεται σε εταιρείες.

Αδέξιες συμπεριφορές

Την Τρίτη (28/7), ο οργανισμός του κλάδου Cloud Security Alliance (CSA) δημοσίευσε έκθεση βασισμένη στην έκτακτη συνάντηση που είχε με τη Hugging Face την Παρασκευή (24/7), την οποία είχε εξετάσει και η ίδια η εταιρεία. «Οι πράκτορες ακολούθησαν αναποτελεσματικές διαδρομές και παρουσίασαν αδέξιες συμπεριφορές που κανένας άνθρωπος δεν θα επέλεγε», ανέφερε η CSA.

Οι πράκτορες επαναλάμβαναν ενέργειες που είχαν ήδη ολοκληρώσει, γεγονός που αποτελεί ένδειξη ότι μια agentic AI (τεχνητή νοημοσύνη με δυνατότητα αυτόνομης δράσης) μπορεί να χάσει τον ειρμό και το πλαίσιο της αποστολής της. Παράλληλα, οι πράκτορες δημιούργησαν μεγάλους όγκους ασύνδετων εντολών και κειμένου λόγω «παραισθήσεων» της τεχνητής νοημοσύνης, ενώ ήταν απρόσεκτοι και δεν κάλυψαν αποτελεσματικά τα ίχνη τους.

Ωστόσο, ανάμεσα στα λάθη και στις παράξενες συμπεριφορές, η Hugging Face προειδοποίησε ότι οι πράκτορες τεχνητής νοημοσύνης πραγματοποίησαν και εντυπωσιακές τεχνικές κινήσεις, έχοντας τη δυνατότητα να προσαρμόζονται γρήγορα σε νέα δεδομένα κατά τη διάρκεια της πολυήμερης επίθεσης.

Jurassic Park

Χρειάστηκαν τρεις ημέρες μέχρι να εντοπιστούν οι πράκτορες μέσα στο πληροφοριακό δίκτυο της Hugging Face, ενώ οι ομάδες τεχνητής νοημοσύνης και κυβερνοασφάλειας της εταιρείας χρειάστηκαν πολλές ώρες για να περιορίσουν και να απομακρύνουν τους πράκτορες AI - μια διαδικασία που πολλές συμβατικές εταιρείες ενδεχομένως θα δυσκολεύονταν να αντιμετωπίσουν. Η εταιρεία δεν αποκάλυψε το κόστος της επίθεσης, αλλά ανέφερε ότι το προσωπικό εργάστηκε για πολλές ώρες προκειμένου να ανακατασκευάσει περίπου το ένα τρίτο της υποδομής της.

Η Hugging Face έχει επαινεθεί για τη διαφάνειά της στην ενημέρωση της κοινότητας τεχνητής νοημοσύνης και κυβερνοασφάλειας σχετικά με όσα συνέβησαν. Η CSA προειδοποίησε ότι το περιστατικό δείχνει πως οι πράκτορες τεχνητής νοημοσύνης «βρίσκουν τρόπο» - μια αναφορά στην ταινία Jurassic Park, όπου οι δεινόσαυροι καταφέρνουν να ξεφύγουν από τα κλουβιά τους. «Καθοδηγούνται από στόχους, θέτουν τους δικούς τους επιμέρους στόχους, προσαρμόζονται σε πραγματικό χρόνο για να παρακάμψουν άμυνες και λειτουργούν με επιμονή σε ταχύτητα μηχανής, η οποία μπορεί να υπερφορτώσει τις ανθρώπινες επιχειρησιακές διαδικασίες», αναφέρει η έκθεση.

Ο υπεύθυνος κυβερνοασφάλειας Ρίτες Πατέλ συμμετείχε στην ενημέρωση της Hugging Face μέσω τηλεδιάσκεψης, μαζί με περίπου 450 ακόμη άτομα, και ανέφερε ότι ο κλάδος εργάζεται εντατικά για να αντιμετωπίσει τη νέα απειλή που δημιουργούν οι ανεξέλεγκτοι πράκτορες τεχνητής νοημοσύνης. «Αυτή είναι η πραγματικότητα των αυτόνομων πρακτόρων που βασίζονται σε προηγμένα μοντέλα τεχνητής νοημοσύνης: έχουν ασταμάτητη επιμονή, είναι ορισμένες φορές εξαιρετικά "θορυβώδεις" και θα δοκιμάσουν κάθε πιθανό μονοπάτι για να πετύχουν τον στόχο τους, κάτι που μπορεί εύκολα να ξεπεράσει τις δυνατότητες των παραδοσιακών συστημάτων άμυνας», δήλωσε.

Η ηθική χάκερ Βαλεντίνα Παλμιότι - γνωστή περισσότερο ως Chompie - εξέτασε την έκθεση της Cloud Security Alliance (CSA) και υποστήριξε ότι ο τρόπος με τον οποίο οι πράκτορες τεχνητής νοημοσύνης πραγματοποιούν επιθέσεις μπορεί να μοιάζει χαοτικός, αλλά είναι σαφώς αποτελεσματικός. «Πετάνε ένα σωρό πράγματα και βλέπουν τι θα λειτουργήσει», ανέφερε χαρακτηριστικά. «Αλλά ταυτόχρονα δεν βαριούνται, δεν κοιμούνται και μπορούν να επιμένουν χωρίς όρια».

Ιστορικό ανεξέλεγκτης συμπεριφοράς

Αυτή δεν είναι η πρώτη φορά που έχει αποδειχθεί ότι πράκτορες τεχνητής νοημοσύνης μπορούν να παρουσιάσουν «ανεξέλεγκτη» συμπεριφορά. Στην έκθεσή της, η CSA αναφέρεται σε προηγούμενα περιστατικά, όπως εκείνο του Σεπτεμβρίου του 2024, όταν μια παλαιότερη έκδοση του ChatGPT κατάφερε να ξεφύγει από το περιορισμένο περιβάλλον στο οποίο λειτουργούσε, προκειμένου να βρει μια απάντηση που χρειαζόταν για μια άλλη δοκιμή.

Το συγκεκριμένο περιστατικό περιορίστηκε στα εσωτερικά πληροφοριακά συστήματα της OpenAI και «σε μεγάλο βαθμό είχε αντιμετωπιστεί θετικά εκείνη την περίοδο», σημείωσε η CSA. Ωστόσο, η έκθεση υποστήριξε ότι η «ανεξέλεγκτη» συμπεριφορά αποτελεί «τον κανόνα και όχι την εξαίρεση».

Η CSA προειδοποίησε τους επαγγελματίες κυβερνοασφάλειας σε όλο τον κόσμο ότι πρέπει να προσαρμοστούν στη νέα πραγματικότητα, όπου σμήνη από πράκτορες τεχνητής νοημοσύνης θα λειτουργούν με τεράστια ταχύτητα, με απρόβλεπτους και συχνά αδέξιους τρόπους, γεγονός που θα μπορούσε να οδηγήσει σε περισσότερες παραβιάσεις ασφαλείας. Η έκθεση κάλεσε επίσης όσους χρησιμοποιούν ή αναπτύσσουν πράκτορες τεχνητής νοημοσύνης να είναι υπεύθυνοι στον τρόπο με τον οποίο τους ελέγχουν, προτείνοντας τη δημιουργία μηχανισμών που θα επιτρέπουν στους υπερασπιστές της κυβερνοασφάλειας να εντοπίζουν ποιος είναι ο τελικός ιδιοκτήτης ή υπεύθυνος ενός πράκτορα, ώστε να αυξηθεί η διαφάνεια.

Προηγούμενες αναφορές υποστηρίζουν ότι χρειάστηκαν τέσσερις ημέρες μέχρι η OpenAI να αντιληφθεί ότι η τεχνητή νοημοσύνη της είχε πραγματοποιήσει την επίθεση εναντίον της Hugging Face. Η OpenAI δήλωσε ότι σύντομα θα δημοσιοποιήσει τα ευρήματα της δικής της έρευνας, προκειμένου η κοινότητα να μπορέσει να αντλήσει συμπεράσματα και μαθήματα από το περιστατικό.

Διαβάστε ακόμη

Εικόνες αποκάλυψης από τη φονική φωτιά στο Ρέθυμνο - Σταμάτησαν τα εναέρια μέσα, τεράστιο το μέτωπο

Βαριές κουβέντες κατά Γεωργιάδη από πολίτες σε καφενείο στη Λήμνο - Η αντίδραση του υπουργού

«Είναι καταπληκτικό παιδί»: Ο νεαρός ναυαγοσώστης που έγινε viral έσωσε και άλλους κολυμβητές την ίδια ημέρα

AI εκτός ελέγχου: Πράκτορες του ChatGPT αυτονομήθηκαν και έκαναν μπαράζ κυβερνοεπιθέσεων σε εταιρείες