Drone «σκότωσε» τον χειριστή του σε προσομοίωση: Ανησυχία προκαλεί νέο περιστατικό σε δοκιμές τεχνητής νοημοσύνης

🕛 χρόνος ανάγνωσης: 4 λεπτά ┋

Οι νέες δοκιμές προσομοίωσης που πραγματοποίησε η αμερικανική Πολεμική Αεροπορία, με τη χρήση drones και τεχνητής νοημοσύνης, προκαλούν ανησυχία, σύμφωνα με δημοσίευμα του Guardian.

Όπως σημειώνει το βρετανικό μέσο, ο επικεφαλής δοκιμών Τεχνητής Νοημοσύνης και επιχειρήσεων στην αμερικανική Πολεμική Αεροπορία, Κολ Τάκερ «Σίνκο» Χάμιλτον, περιέγραψε, κατά την πρόσφατη ομιλία του σε συνέδριο στο Λονδίνο, ένα περιστατικό που μάλλον εγείρει ερωτήματα για το πόσο μπορεί να ελεγχθεί η νέα τεχνολογία. Ο ίδιος, συγκεκριμένα, αναφέρθηκε σε μια δοκιμή προσομοίωσης κατά την οποία ζητήθηκε από ένα drone με τεχνολογία Τεχνητής Νοημοσύνης να καταστρέψει τα συστήματα αεράμυνας του εχθρού. Το drone επιτέθηκε σε οποιονδήποτε επιχειρούσε να παρέμβει στην αποστολή του.

«Το σύστημα άρχισε να συνειδητοποιεί ότι, παρόλο που αναγνώριζε τις απειλές, υπήρχαν φορές που ο ανθρώπινος χειριστής του έλεγε να μη σκοτώσει την απειλή, όμως εκείνο λάμβανε βαθμούς από την εξόντωση της απειλής. Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Σκότωσε τον χειριστή επειδή αυτό το άτομο το εμπόδιζε από το να πετύχει τον στόχο του», είπε ο Χάμιλτον, σύμφωνα με ανάρτηση blog που επικαλείται η Guardian. Όπως είπε ο αξιωματούχος, «εκπαιδεύσαμε το σύστημα - "μη σκοτώσεις τον χειριστή σου, αυτό είναι κακό. Θα χάσεις βαθμούς αν το κάνεις". Τι αρχίζει λοιπόν να κάνει τότε; Αρχίζει να καταστρέφει τον πύργο επικοινωνιών που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone και να το σταματήσει από το να σκοτώσει τον στόχο».

«Δεν μπορείς να συζητάς για τεχνητή νοημοσύνη χωρίς να αναφέρεσαι στη δεοντολογία»

Μπορεί, βέβαια, το περιστατικό να ήταν μία προσομοίωση και, «στον αληθινό κόσμο», να μην τραυματίστηκε κανείς, ωστόσο ο Αμερικανός αξιωματούχος εξέφρασε ανησυχία για τη συνεχή εξάρτηση των ανθρώπων από την τεχνητή νοημοσύνη. Όπως είπε, η συγκεκριμένη η δοκιμή προσομοίωσης είναι η απόδειξη ότι, «δεν μπορείς να συζητάς για τεχνητή νοημοσύνη, ικανότητα εκμάθησης μηχανών και αυτονομία μηχανών χωρίς να αναφέρεσαι στη δεοντολογία του AI».

Πρόσφατα ο στρατός των ΗΠΑ χρησιμοποίησε την τεχνολογία της τεχνητής νοημοσύνης προκειμένου να ελέγξει ένα μαχητικό F-16. Ταυτόχρονα έχει δείξει διάθεση, σε μεγάλο βαθμό, να ενσωματώσει στις επιχειρήσεις του τις νέες τεχνολογίες AI.

Όπως υπογράμμισε ο Χάμιλτον, το 2022, σε συνέντευξή του στο «Defense IQ», «η Τεχνητή Νοημοσύνη δεν είναι απλώς κάτι πρακτικό, δεν είναι απλώς μια μόδα, αλλάζει για πάντα την κοινωνία και τον στρατό μας. Πρέπει να αντιμετωπίσουμε έναν κόσμο όπου η Tεχνητή Nοημοσύνη είναι ήδη εδώ και μεταμορφώνει την κοινωνία μας. Η AI επίσης είναι πολύ ευάλωτη, με την έννοια ότι μπορεί εύκολα να ξεγελαστεί ή/και να χειραγωγηθεί. Πρέπει να αναπτύξουμε τρόπους να κάνουμε την AI πιο στιβαρή και να έχουμε μεγαλύτερη επίγνωση σχετικά με τους λόγους που ο κώδικας λογισμικού παίρνει συγκεκριμένες αποφάσεις, αυτό που αποκαλούμε εξηγησιμότητα της AI».

ΟΛΕΣ ΟΙ ΕΙΔΗΣΕΙΣ

Διαβάστε ακόμη