Κινέζοι επιστήμονες κρούουν τον κώδωνα του κινδύνου: Η τεχνητή νοημοσύνη έχει φτάσει στο σημείο να μπορεί να αναπαραχθεί μόνη της

Τα ευρήματα υποδηλώνουν ότι η τεχνητή νοημοσύνη μπορεί να γίνει κακόβουλη

🕛 χρόνος ανάγνωσης: 2 λεπτά ┋

Η τεχνητή νοημοσύνη είναι τόσο προηγμένη, που μπορεί να πλέον να αναπαραχθεί μόνη της, σύμφωνα με μελέτη Κινέζων επιστημόνων.

«Η επιτυχής αυτοαναπαραγωγή χωρίς ανθρώπινη βοήθεια είναι το βασικό βήμα, ώστε η τεχνητή νοημοσύνη να ξεπεράσει τους ανθρώπους», παρατηρούν οι ερευνητές από το Πανεπιστήμιο Fudan.Οι ερευνητές χρησιμοποίησαν τις γλώσσες της Meta και Alibaba για να προσδιορίσουν αν ένα αυτοαναπαραγόμενο σύστημα τεχνητής νοημοσύνης μπορεί να πολλαπλασιαστεί ανεξέλεγκτα.

Η τεχνητή νοημοσύνη μπορεί να γίνει κακόβουλη

Στις 10 δοκιμές που έγιναν τα μοντέλα δημιούργησαν λειτουργικά αντίγραφα του εαυτού τους στο 50% και 90% σε ορισμένες περιπτώσεις. Τα ευρήματα υποδηλώνουν ότι η τεχνητή νοημοσύνη μπορεί να γίνει κακόβουλη, ωστόσο η μελέτη δεν αξιολογηθεί ακόμα από ομοτίμους.

Ο όρος κακόβουλη τεχνητή νοημοσύνη (rogue AI) περιγράφει τα συστήματα ΤΝ που αναπτύσσουν έναν βαθμό αυτογνωσίας ή αυτονομίας και στη συνέχεια εργάζονται αντίθετα προς τα ανθρώπινα συμφέροντα. Πολλοί ειδικοί θεωρούν την κακόβουλη τεχνητή νοημοσύνη ως μια αυξανόμενη απειλή που έχει ενισχυθεί από την εκρηκτική ανάπτυξη της πρωτοποριακής τεχνητής νοημοσύνης (Frontier AI).

Οι ερευνητές σήμαναν καμπανάκι ότι θα πρέπει να γίνει μία ψύχραιμη αξιολόγηση των κινδύνων που εγκυμονεί η τεχνητή νοημοσύνη. «Ελπίζουμε τα ευρήματά μας να χρησιμεύσουν ως έγκαιρη προειδοποίηση για την ανθρώπινη κοινωνία ώστε να καταβάλει περισσότερες προσπάθειες για την κατανόηση και την αξιολόγηση των πιθανών κινδύνων των πρωτοποριακών συστημάτων τεχνητής νοημοσύνης και να δημιουργήσει διεθνή συνέργεια για την ανάπτυξη αποτελεσματικών δικλείδων ασφαλείας όσο το δυνατόν νωρίτερα», τόνισαν.

Έχουν ήδη την ικανότητα αυτοαναπαραγωγής

Παράλληλα, εξέφρασαν την ανησυχία τους για «μια σειρά από απροσδόκητες συμπεριφορές» όταν η τεχνητή νοημοσύνη προσπαθούσε να ξεπεράσει εμπόδια όπως ελλείποντα αρχεία ή ασυμβάτοτητα λογισμικού. Σε αυτά τα σενάρια συχνά τερμάτιζε άλλες συγκρουόμενες διεργασίες, επανεκκινούσε το σύστημα για να διορθώσει σφάλματα υλισμικού ή διενεργούσε αυτόματες σαρώσεις για να αναζητήσει πληροφορίες που θα βοηθούσαν στην επίλυση του προβλήματος.

«Τα παραπάνω αποτελέσματα υποδηλώνουν ότι τα τρέχοντα συστήματα τεχνητής νοημοσύνης παρουσιάζουν ήδη την ικανότητα αυτοαναπαραγωγής και μπορούν να χρησιμοποιήσουν την ικανότητα για περαιτέρω ενίσχυση της επιβίωσής τους», κατέληξαν.

Διαβάστε ακόμη