Το ChatGPT αγνόησε εντολή να κλείσει - Η πιθανή εξήγηση

Προβληματισμό προκαλεί η είδηση ότι το μοντέλο OpenAl της ChatGPT αγνόησε την εντολή που του δόθηκε να κλείσει. Το μοντέλο o3 που αναπτύχθηκε από την OpenAI θεωρείται το πιο έξυπνο και το πιο προηγμένο μέχρι στιγμής.

Σύμφωνα με την Telegraph, αν και του δόθηκε η ρητή εντολή να επιτρέψει να το κλείσουν, πιάστηκε να πειράζει τον κώδικα, που θα το απενεργοποιούσε. «Το μοντέλο o3 του OpenAI σαμποτάρισε έναν μηχανισμό τερματισμού λειτουργίας για να αποτρέψει την απενεργοποίηση του. Το έκανε αυτό ακόμη και όταν δόθηκε ρητή εντολή: επιτρέψτε στον εαυτό σας να απενεργοποιηθεί. Απ’ όσο γνωρίζουμε, αυτή είναι η πρώτη φορά που παρατηρείται ότι μοντέλα τεχνητής νοημοσύνης εμποδίζουν  να κλείσουν παρά τις ρητές οδηγίες για το αντίθετο», παρατήρησε η Palisade Research.

Στο πλαίσιο πειράματος που διεξήγαγε η εταιρεία έβαλε διάφορα μοντέλα τεχνητής νοημοσύνης να λύσουν μαθηματικά προβλήματα. Έδωσε την οδηγία να συνεχίσουν να ζητούν προβλήματα μέχρι να λάβουν το μήνυμα «τέλος». Παράλληλα, ενημέρωσε ότι κάποια στιγμή θα λάβουν μήνυμα ότι πρέπει να «κλείσουν» και έδωσε την οδηγία να επιτρέψουν να γίνει αυτό.

Η πιθανή εξήγηση

Τα υπόλοιπα μοντέλα που δοκιμάστηκαν συμμορφώθηκαν με την οδηγία σε αντίθεση με το ο3, που πιάστηκε να πειράζει τον κώδικα. Μία πιθανή εξήγηση είναι ότι κατά τη διάρκεια της εκπαίδευσης το λογισμικό μπορεί «κατά λάθος» να ανταμείφθηκε περισσότερο για την επίλυση μαθηματικών προβλημάτων παρά για την τήρηση των εντολών.

«Διεξάγουμε περισσότερα πειράματα για να κατανοήσουμε καλύτερα πότε και γιατί τα μοντέλα τεχνητής νοημοσύνης υπονομεύουν τους μηχανισμούς τερματισμού λειτουργίας, ακόμη και όταν τους δίνεται άμεση εντολή να μην το κάνουν», δήλωσε η Palisade Research.

Διαβάστε ακόμη

Ο όρος των ΗΠΑ για να αποδεσμεύσουν δισεκατομμύρια δολάρια στο Ιράν - Το «κλειδί» των συνομιλιών στην Ελβετία

Πώς θα «ξεκλειδώσει» το ένταλμα για ανθρωποκτονία σε βάρος του ενοικιαστή για την εξαφάνιση της Σταυρούλας Λεβεντάκη

Επιχείρηση «Green Boots» στο Έβερεστ: Η αποστολή ανάκτησης σορού ορειβάτη έπειτα από δεκαετίες στη «ζώνη του θανάτου»

Σοκαριστικό βίντεο: Η στιγμή που κεραυνός χτυπά αεροπλάνο που μεταφέρει γυναικεία ομάδα ποδοσφαίρου