AI και βιολογικά όπλα: Η προειδοποίηση της MI5 και η νέα ασύμμετρη απειλή

Στην ετήσια ομιλία του για τις απειλές κατά της εθνικής ασφάλειας, ο Σερ Κεν ΜακΚάλουμ, επικεφαλής της βρετανικής υπηρεσίας πληροφοριών MI5, προειδοποίησε ότι η Τεχνητή Νοημοσύνη (AI) έχει τη δυνατότητα να «αλλάξει τα δεδομένα» όσον αφορά τα υπάρχοντα, αλλά ακόμα και τα νέα βιολογικά όπλα.

Έρευνα του Guardian, εξετάζει το πώς η AI θα μπορούσε να συμβάλει στην ανάπτυξη βιολογικών όπλων, καθώς και τα εμπόδια που εξακολουθούν να υφίστανται.

Πώς θα μπορούσε η ΑΙ να βοηθήσει στην κατασκευή βιολογικών όπλων;

Αυτό εξαρτάται από το ποιος επιδιώκει να τα κατασκευάσει. Ένας κίνδυνος αφορά τον μεμονωμένο, ανειδίκευτο κακόβουλο παράγοντα ή μια τρομοκρατική ομάδα που δραστηριοποιείται σε ένα αυτοσχέδιο εργαστήριο. Τα συστήματα συνομιλίας AI (chatbots) θα μπορούσαν να τους βοηθήσουν να αποκτήσουν δεξιότητες, συγκεντρώνοντας σχετικές πληροφορίες, σχεδιάζοντας πειράματα και επιλύοντας τεχνικά προβλήματα. Είναι πιθανό μια τέτοια προσπάθεια να εστίαζε στη χρήση υπαρχόντων παθογόνων οργανισμών και τοξινών.

Ο άλλος κίνδυνος προέρχεται από οργανώσεις με μεγάλους πόρους και από κράτη που διαθέτουν πληθώρα εξειδικευμένων επιστημόνων, εργαστήρια υψηλού βαθμού βιοασφάλειας και όλο τον απαιτούμενο εξοπλισμό και τα αντιδραστήρια για να εργαστούν με ασφάλεια πάνω σε βιολογικά όπλα.

Τα εργαλεία Τεχνητής Νοημοσύνης θα μπορούσαν, για παράδειγμα, να βοηθήσουν τους ερευνητές να εντοπίσουν γενετικές τροποποιήσεις που θα καθιστούσαν τα υπάρχοντα παθογόνα πιο θανατηφόρα. Αυτή είναι η πιο άμεση ανησυχία, σύμφωνα με τη Δρ Φίλιππα Λέντζος, αναπληρώτρια καθηγήτρια Επιστήμης και Διεθνούς Ασφάλειας στο King’s College του Λονδίνου. «Σε αυτή την περίπτωση, η AI δεν καταργεί την ανάγκη για εξειδίκευση, αλλά ενισχύει την ήδη υπάρχουσα τεχνογνωσία», αναφέρει η ίδια.

Ένας πιο μακρινός κίνδυνος προέρχεται από εξαιρετικά εξειδικευμένες ομάδες που χρησιμοποιούν την AI για να σχεδιάσουν εντελώς νέα παθογόνα και τοξίνες, ανθεκτικά στα φάρμακα ή χωρίς γνωστά αντίδοτα.

Έχουν γίνει προσπάθειες χρήσης της AI για την κατασκευή βιολογικών όπλων;

Πέρυσι, η αστυνομία στην Ινδία αποκάλυψε μια ύποπτη συνωμοσία βιοτρομοκρατίας, στην οποία ένας γιατρός και άλλα άτομα χρησιμοποίησαν ερωτήματα σε chatbots και αναζητήσεις μέσω AI, φερόμενοι ότι προσπαθούσαν να κατασκευάσουν ρισίνη, μια θανατηφόρα τοξίνη, χρησιμοποιώντας σκεύη κουζίνας. Δεν είναι σαφές εάν οι απαντήσεις της AI βοήθησαν, αλλά άλλες αναφορές υποδηλώνουν ότι τα εργαλεία αυτά μπορούν να παρέχουν σχετικές και επικίνδυνες πληροφορίες.

Η εταιρεία Τεχνητής Νοημοσύνης Anthropic ήγειρε περαιτέρω ανησυχίες τον Σεπτέμβριο, όταν ανέφερε πέντε περιπτώσεις επιστημόνων σε ανώνυμες χώρες που προσπάθησαν να χρησιμοποιήσουν το chatbot Claude για εργασίες που ενδέχετο να είναι επικίνδυνες και αφορούσαν ιούς ή τοξίνες. Μια προειδοποιητική ένδειξη, σύμφωνα με την εταιρεία, ήταν ότι μόλις οι ερευνητές αποκλείστηκαν, βρήκαν τρόπους παρακάμψεως των περιορισμών.

Σε μία περίπτωση, η Anthropic ανέφερε ότι ερευνητές χρησιμοποίησαν το chatbot για να σχεδιάσουν πειράματα εισαγωγής μεταλλάξεων σε έναν ιό της γρίπης των πτηνών υψηλής παθογονικότητας, προκειμένου να διευκολυνθεί η προσαρμογή και η διασπορά του σε θηλαστικά. Αυτή η εργασία, όπως και οι υπόλοιπες περιπτώσεις, ενδέχεται να υποδηλώνουν προσπάθειες να καταστούν τα παθογόνα πιο επικίνδυνα, ωστόσο τέτοιες μελέτες διεξάγονται και σε νόμιμα εργαστήρια, προκειμένου να βοηθηθούν οι ερευνητές στον εντοπισμό μελλοντικών πανδημιών και στην ανάπτυξη εμβολίων και φαρμάκων.

Τι άλλο έχει προκαλέσει ανησυχία στην επιστημονική κοινότητα;

Μια σειρά από μελέτες έχει δείξει πώς τα εργαλεία AI μπορούν να παρέχουν δυνητικά επικίνδυνες πληροφορίες σχετικά με τα βιολογικά όπλα. Σε μια πρόσφατη άσκηση στο Τεχνολογικό Ινστιτούτο της Μασαχουσέτης (MIT), ζητήθηκε από φοιτητές μη επιστημονικών κατευθύνσεων να εξετάσουν αν θα μπορούσαν να καθοδηγήσουν ένα chatbot AI ώστε να τους βοηθήσει να προκαλέσουν μια πανδημία. Μέσα σε μία ώρα, τα chatbots παρέθεσαν τέσσερα δυνητικά πανδημικά παθογόνα, εξήγησαν πώς να κατασκευαστούν από συνθετικό DNA και παρείχαν ονόματα εταιρειών συνθετικού DNA που ήταν αμφίβολο αν έλεγχαν τις παραγγελίες τους. Ωστόσο, στην πράξη αυτό είναι ευκολότερο να λέγεται παρά να γίνεται.

Σε μια άλλη περίπτωση, ο ερευνητής του Πανεπιστημίου Στάνφορντ, Δρ Ντέιβιντ Ρέλμαν, περιέγραψε πώς μια AI εξήγησε τον τρόπο τροποποίησης ενός παθογόνου ώστε να καταστεί ανθεκτικό στη θεραπεία. Ένας άλλος επιστήμονας αποκάλυψε ότι ένα chatbot AI εξήγησε πώς μπορεί να χρησιμοποιηθεί ένα μετεωρολογικό μπαλόνι για την εξαπόλυση βιολογικών όπλων από τον αέρα.

Η φύση διπλής χρήσης της βιολογικής έρευνας καθιστά δύσκολο τον διαχωρισμό της πολύτιμης εργασίας που προστατεύει την υγεία από τις προσπάθειες ανάπτυξης βιολογικών όπλων.

Το 2025, επιστήμονες στο Εθνικό Εργαστήριο του Λος Άλαμος εκπαίδευσαν μια AI να προβλέπει πώς εξαιρετικά ισχυρές νευροτοξίνες από θαλάσσια σαλιγκάρια προσδένονται στα ανθρώπινα κύτταρα -μια εργασία που θα μπορούσε να βοηθήσει στην ανάπτυξη αντιδότων. Ωστόσο, η κυβέρνηση των ΗΠΑ ανησύχησε όταν Κινέζοι ερευνητές βασίστηκαν σε αυτή την εργασία για να αναπτύξουν το δικό τους εργαλείο σχεδιασμού νέων τοξινών. Οι Κινέζοι ερευνητές δήλωσαν ότι η εργασία αποσκοπούσε αποκλειστικά στην ανάπτυξη φαρμάκων.

Τον Απρίλιο, επιστήμονες εξέφρασαν περαιτέρω ανησυχίες όταν δημιουργήθηκαν οι πρώτοι ιοί που σχεδιάστηκαν από AI. Οι συγκεκριμένοι ιοί ανήκουν σε μια κατηγορία που προσβάλλει μόνο βακτήρια και η σχετική εργασία θα μπορούσε να οδηγήσει σε νέα φάρμακα, αλλά οι ειδικοί προειδοποίησαν ότι ήγειρε «επείγοντα ζητήματα βιοασφάλειας και βιοπροστασίας».

Ποια εμπόδια δυσκολεύουν τη χρήση της AI;

Το μεγαλύτερο μέρος των εργασιών για τα βιολογικά όπλα βρίσκεται πέρα από τις δυνατότητες ανειδίκευτων ομάδων: πέραν του ότι είναι εξαιρετικά τεχνικό, είναι και εξαιρετικά επικίνδυνο. Παρότι τα chatbots AI μπορούν να καθοδηγηθούν ώστε να δώσουν πληροφορίες για τα βιολογικά όπλα, μια λίστα οδηγιών δεν είναι αρκούσα. «Οι πληροφορίες είναι μόνο ένα μέρος του προβλήματος», αναφέρει η Λέντζος. «Η άρρητη τεχνογνωσία, η πρόσβαση σε βιολογικά υλικά και εξοπλισμό, η πειραματική επιβεβαίωση, η κλιμάκωση της παραγωγής και η μέθοδος διασποράς παραμένουν όλα ουσιαστικά εμπόδια».

Η Σόνια Μπεν Ουαγράμ-Γκόρμλεϊ, αναπληρώτρια διευθύντρια του προγράμματος βιοάμυνας στο Πανεπιστήμιο George Mason της Βιρτζίνια, αναφέρει ότι η άρρητη γνώση -η άγραφη τεχνογνωσία στην οποία η AI είναι αμφίβολο να βοηθήσει- υπήρξε καθοριστική για την επιτυχία των ιστορικών κρατικών προγραμμάτων βιολογικών όπλων.

Ο καθηγητής Μάρτιν Πατσέσα στο Πανεπιστήμιο της Ζυρίχης δήλωσε ότι η πρόσβαση σε υλικά είναι κρίσιμης σημασίας. «Οποιοσδήποτε πτυχιούχος φυσικός θα μπορούσε να σχεδιάσει σχέδια για μια δυνητικά πιο αποτελεσματική πυρηνική βόμβα, αλλά από πού θα βρει ένα κομμάτι ουράνιο; Το ίδιο ισχύει και για τα βιολογικά όπλα. Εάν έχεις πρόσβαση σε υλικά και εγκαταστάσεις ικανές να τα παράγουν, τότε η AI δεν πρόκειται να κάνει μεγάλη διαφορά αν θέλεις να προκαλέσεις κακό».

Ποια πρόσθετα μέτρα προστασίας απαιτούνται;

Ορισμένες εταιρείες Τεχνητής Νοημοσύνης λαμβάνουν μέτρα για να αποτρέψουν τη χρήση των εργαλείων τους για την ανάπτυξη βιολογικών όπλων, αλλά η πλειονότητα δεν ανακοινώνει τι πράττει, εάν πράττει κάτι, αναφέρει ο καθηγητής Τομ Ίνγκλεσμπι, διευθυντής του Κέντρου Ασφάλειας Υγείας του Πανεπιστημίου Johns Hopkins. «Δεν έχουμε ακόμη επίσημες κυβερνητικές πολιτικές σε καμία χώρα για την προστασία από αυτού του είδους την κατάχρηση», σημειώνει.

Ο ίδιος ζητά τη διενέργεια επίσημων, ανεξάρτητων αξιολογήσεων των νέων μοντέλων AI πριν από την κυκλοφορία τους, με εξάλειψη οποιουδήποτε κινδύνου πριν τα μοντέλα δοθούν στη δημοσιότητα. Επιπλέον, θα πρέπει να περιοριστεί η πρόσβαση σε βιολογικά δεδομένα υψηλού κινδύνου, όπως πληροφορίες για το πώς τα παθογόνα θα μπορούσαν να διασπαρθούν ευκολότερα.

Παράλληλα, οι εταιρείες που κατασκευάζουν γενετικό υλικό για ερευνητές οφείλουν να ελέγχουν τις παραγγελίες για να διασφαλίζουν ότι δεν αφορούν τη δημιουργία νέων, εξαιρετικά επικίνδυνων ιών. Κάποιος έλεγχος πραγματοποιείται ήδη, αλλά είναι σε μεγάλο βαθμό εθελοντικός και μπορεί να παρακαμφθεί εάν οι ερευνητές χρησιμοποιήσουν AI για να σχεδιάσουν νέες, επιβλαβείς γενετικές αλληλουχίες που οι εταιρείες δεν ελέγχουν.

Διαβάστε ακόμη

Η Ευρώπη σε δύο στρατόπεδα για ενέργεια και προϋπολογισμό - Οι «σκληροί» και οι πιέσεις της Ελλάδας

Νέα καταγγελία κατά της Γκίλφοϊλ: «Έχω εκρηκτικό ηχητικό από την Ελλάδα που μπορεί να ρίξει τον Τραμπ»

Κατασχέθηκαν φιαλίδια από το ιατρείο της οδού Καρνεάδου για τον θάνατο του Μαζωνάκη - Τι περιέχουν

AI και βιολογικά όπλα: Η προειδοποίηση της MI5 και η νέα ασύμμετρη απειλή