Το Claude “μπλόκαρε” επιστήμονες με βιολογικά όπλα

Η ραγδαία εξέλιξη των γλωσσικών μοντέλων φέρνει στο προσκήνιο νέους και πρωτοφανείς κινδύνους για την παγκόσμια ασφάλεια. Σύμφωνα με πρόσφατη, ιδιαίτερα ανησυχητική αναφορά της Anthropic, η εταιρεία εντόπισε και απέκλεισε πολλούς επιστήμονες που χρησιμοποιούσαν το Claude για δραστηριότητες οι οποίες θα μπορούσαν να συνδεθούν με την ανάπτυξη βιολογικών όπλων.

Η λεγόμενη βιολογική κατάχρηση αποτελεί μία μόνο από τις επικίνδυνες μορφές χρήσης που καταγράφονται στην έκθεση. Ωστόσο, αποκτά ολοένα μεγαλύτερη σημασία καθώς τα σύγχρονα μοντέλα τεχνητής νοημοσύνης γίνονται ικανότερα στην υποστήριξη σύνθετων επιστημονικών εργασιών. Εργασίες που παλαιότερα απαιτούσαν εξειδικευμένες ομάδες και μεγάλο χρονικό διάστημα μπορούν πλέον να επιταχυνθούν σημαντικά μέσω ενός AI συστήματος.

Η Anthropic παρουσιάζει πέντε διαφορετικές περιπτώσεις στις οποίες τα μοντέλα της φέρεται να χρησιμοποιήθηκαν για την υποστήριξη έρευνας με πιθανές βιολογικές προεκτάσεις. Παράλληλα, εξηγεί πώς λειτούργησαν τα συστήματα ασφαλείας, ποια σημάδια εντόπισαν και γιατί η εταιρεία αποφάσισε να επέμβει άμεσα.

Η λεπτή γραμμή μεταξύ έρευνας και απειλής

Ο εντοπισμός κακόβουλης χρήσης δεν είναι απλός. Η έρευνα για ένα νέο εμβόλιο, μια θεραπεία ή έναν τρόπο περιορισμού μιας επιδημίας μπορεί να περιλαμβάνει τεχνικές και πληροφορίες που, υπό διαφορετικές συνθήκες, θα μπορούσαν να αξιοποιηθούν για την ανάπτυξη βιολογικών όπλων. Αυτή η επικάλυψη δημιουργεί ένα εξαιρετικά δύσκολο πρόβλημα για τις εταιρείες τεχνητής νοημοσύνης.

Ο Jacob Klein, επικεφαλής του τμήματος πληροφοριών απειλών της Anthropic, υπογράμμισε ότι η πραγματικότητα απέχει σημαντικά από την εικόνα που παρουσιάζουν συχνά οι ταινίες επιστημονικής φαντασίας. Οι ερευνητές δεν αντιμετωπίζουν απαραίτητα ανθρώπους που δηλώνουν ανοιχτά ότι θέλουν να κατασκευάσουν ένα όπλο. Αντίθετα, καλούνται να αξιολογήσουν περίπλοκα αιτήματα, τα οποία μπορεί να έχουν τόσο νόμιμες όσο και επικίνδυνες ερμηνείες.

Σε μία χαρακτηριστική περίπτωση, που καταγράφηκε τον περασμένο Μάιο, ο ειδικός ταξινομητής βιολογικής ασφάλειας της Anthropic επισήμανε ένα αίτημα χρήστη προς το Claude. Ο χρήστης ζητούσε τη σύνταξη πρότασης χρηματοδότησης για έρευνα gain-of-function στον ιό chikungunya.

Ο συγκεκριμένος ιός δεν διαθέτει εγκεκριμένη θεραπεία και μπορεί να προκαλέσει εξουθενωτικά συμπτώματα, τα οποία διαρκούν για εβδομάδες ή ακόμη και μήνες. Η έρευνα gain-of-function αφορά τη γενετική τροποποίηση ενός οργανισμού, με στόχο τη μελέτη των ιδιοτήτων του. Στη συγκεκριμένη περίπτωση, η πρόταση φέρεται να στόχευε στην αύξηση της μεταδοτικότητας του ιού και στην ενίσχυση της ικανότητάς του να αποφεύγει την ανοσολογική απόκριση.

Το γεγονός ότι η έρευνα συνδεόταν με στρατιωτικό ερευνητικό ίδρυμα έκανε την υπόθεση ακόμη πιο ευαίσθητη. Παρότι ένα τέτοιο πλαίσιο δεν αποδεικνύει από μόνο του κακόβουλη πρόθεση, αύξησε σημαντικά το επίπεδο κινδύνου που έπρεπε να αξιολογήσει η Anthropic.

Έρευνα για τη γρίπη των πτηνών και τοξίνες δηλητηρίου

Η εταιρεία εντόπισε παρόμοιες ανησυχίες σε αιτήματα που αφορούσαν τη γρίπη των πτηνών. Η συγκεκριμένη κατηγορία ιών έχει προκαλέσει επανειλημμένα προβληματισμό στη διεθνή επιστημονική κοινότητα, λόγω της πιθανότητας μετάδοσης από τα ζώα στον άνθρωπο και των σοβαρών επιπτώσεων που θα μπορούσε να έχει μια ευρύτερη εξάπλωση.

Σε άλλη περίπτωση, ένας ερευνητής χρησιμοποίησε το Claude για να δημιουργήσει έναν άτλαντα πεπτιδίων που προέρχονταν από τοξίνες δηλητηρίου. Παράλληλα, ζήτησε τη δημιουργία ενός μοντέλου που θα μπορούσε να βελτιστοποιεί συγκεκριμένα χαρακτηριστικά της τοξίνης. Ένα τέτοιο αίτημα μπορεί να έχει θεωρητική ή φαρμακευτική αξία, όμως τα ίδια εργαλεία θα μπορούσαν να χρησιμοποιηθούν για την ενίσχυση της επικινδυνότητας μιας βιολογικής ουσίας.

Η Anthropic αναφέρει επίσης περιστατικά στα οποία τα μοντέλα της χρησιμοποιήθηκαν για παρακολούθηση, ανάπτυξη λογισμικού υποκλοπής, δημιουργία προπαγανδιστικού περιεχομένου και σχεδιασμό οπλικών συστημάτων. Οι περιπτώσεις αυτές δείχνουν ότι οι κίνδυνοι δεν περιορίζονται στη βιολογία, αλλά επεκτείνονται σε ένα ευρύ φάσμα δραστηριοτήτων που μπορούν να επηρεάσουν την ασφάλεια και τη δημοκρατική λειτουργία των κοινωνιών.

Αυστηρότερα μέτρα ασφαλείας και προστασία των ερευνητών

Σύμφωνα με τα στοιχεία της εταιρείας, οι λογαριασμοί χρηστών που παραβίασαν τους κανόνες ή χρησιμοποίησαν καταχρηστικά το Claude αποκλείστηκαν οριστικά. Τα δεδομένα από τα περιστατικά αυτά αξιοποιούνται ήδη για τη βελτίωση των μηχανισμών ανίχνευσης και των δικλείδων ασφαλείας.

Η Anthropic, ωστόσο, επέλεξε να μην αποκαλύψει τα ονόματα των επιστημόνων ή των ιδρυμάτων που εμπλέκονται. Η απόφαση αυτή συνδέεται με την ευαίσθητη φύση της βιολογικής έρευνας, αλλά και με την απουσία αποδείξεων ότι οι συγκεκριμένοι άνθρωποι είχαν πράγματι κακόβουλες προθέσεις. Η δημόσια αποκάλυψη των στοιχείων τους θα μπορούσε να προκαλέσει αδικαιολόγητη στοχοποίηση ή να τους εκθέσει σε σοβαρούς κινδύνους.

Η υπόθεση του Claude καταδεικνύει ένα ευρύτερο πρόβλημα: όσο πιο χρήσιμα γίνονται τα μοντέλα τεχνητής νοημοσύνης, τόσο μεγαλύτερη είναι η ανάγκη για αυστηρούς ελέγχους. Η ισορροπία ανάμεσα στην επιστημονική ελευθερία και την πρόληψη επικίνδυνης κατάχρησης δεν είναι εύκολη. Παρ’ όλα αυτά, τα περιστατικά που κατέγραψε η Anthropic δείχνουν ότι η συγκεκριμένη συζήτηση δεν αφορά πλέον ένα μακρινό σενάριο, αλλά μια υπαρκτή και άμεση πρόκληση.

Το Claude δεν «μπλόκαρε» επιστήμονες επειδή κάθε βιολογική έρευνα είναι ύποπτη. Τα μέτρα της εταιρείας υπογραμμίζουν, όμως, πόσο δύσκολο είναι να διαχωριστεί η νόμιμη επιστημονική πρόοδος από τη δραστηριότητα που μπορεί να οδηγήσει σε βιολογικά όπλα. Καθώς τα AI μοντέλα εξελίσσονται, η αποτελεσματική εποπτεία, η διαφάνεια και οι υπεύθυνες πολιτικές ασφαλείας θα είναι απαραίτητες για να αξιοποιηθούν τα οφέλη τους χωρίς να αυξηθούν οι κίνδυνοι για την κοινωνία.