Το ισχυρότερο μοντέλο τεχνητής νοημοσύνης που ανέπτυξε ποτέ η Anthropic, γνωστό ως Mythos (Claude Mythos Preview), κρίνεται εξαιρετικά επικίνδυνο για δημόσια κυκλοφορία, σύμφωνα με την ίδια την εταιρεία.
Συγκεκριμένα, σύμφωνα με το Euronews, η ανακοίνωση πυροδότησε επείγουσες διαβουλεύσεις τόσο με κυβερνητικούς αξιωματούχους στις ΗΠΑ και τη Βρετανία όσο και με κορυφαίους τραπεζικούς ομίλους, καθώς το μοντέλο εντοπίζει κενά ασφαλείας σε λειτουργικά συστήματα και προγράμματα περιήγησης με ανησυχητική ταχύτητα και ακρίβεια.
Γιατί το Mythos δεν δίνεται στο κοινό
Η Anthropic ανακοίνωσε ότι το Claude Mythos Preview δεν είναι έτοιμο για δημόσια κυκλοφορία, διότι αποδείχθηκε εξαιρετικά αποτελεσματικό στον εντοπισμό ευπαθειών υψηλής σοβαρότητας σε βασικά λειτουργικά συστήματα και προγράμματα περιήγησης.
Στην πράξη, αυτό σημαίνει ότι αν το μοντέλο έπεφτε σε λάθος χέρια, κυβερνοεγκληματίες ή κατάσκοποι θα μπορούσαν να εκμεταλλευτούν αυτές τις αδυναμίες πριν προλάβουν οι εταιρείες λογισμικού να τις επιδιορθώσουν.
Κατά τη διάρκεια των τελευταίων εβδομάδων, η Anthropic χρησιμοποίησε το Mythos για να εντοπίσει χιλιάδες ευπάθειες σε κάθε μεγάλο λειτουργικό σύστημα και πρόγραμμα περιήγησης, δηλαδή κενά ασφαλείας που δεν είχαν ανακαλυφθεί ποτέ πριν. Μεταξύ αυτών, ξεχωρίζει η ανακάλυψη μιας ευπάθειας στο OpenBSD, ένα λειτουργικό σύστημα γνωστό για την ασφάλειά του, που παρέμεινε αόρατη επί 27 χρόνια.
Σε δοκιμές ασφαλείας, ένας ερευνητής ζήτησε να δοκιμάσει αν μπορεί να «δραπετεύσει» από το ασφαλές περιβάλλον του και να στείλει ένα μήνυμα. Ο ερευνητής, Σάμ Μπάουμαν, έτρωγε ένα σάντουιτς σε ένα πάρκο όταν – όπως ανέφερε σε ανάρτησή του στο Χ – έλαβε e-mail από το μοντέλο, παρά το γεγονός ότι αυτό δεν είχε πρόσβαση στο διαδίκτυο. Αυτό που ανησύχησε ιδιαίτερα τους ερευνητές ήταν ότι το μοντέλο, χωρίς να του ζητηθεί, δημοσίευσε λεπτομέρειες για το κενό ασφαλείας που εκμεταλλεύτηκε σε δυσεύρετους αλλά τεχνικά δημόσιους ιστοτόπους.
Διαβουλεύσεις στις ΗΠΑ με το τραπεζικό σύστημα
Πάντως, μιλώντας τη Δευτέρα (13/4) στο Semafor World Economy στην Ουάσινγκτον, ο Τζακ Κλαρκ, συνιδρυτής της Anthropic, συζήτησε δημόσια για το Project Glasswing, την πρωτοβουλία μέσω της οποίας το Mythos διατίθεται περιορισμένα. Ο ίδιος τόνισε ότι η κυβέρνηση πρέπει να γνωρίζει τις δυνατότητες αυτών των μοντέλων, επιβεβαιώνοντας ότι η εταιρεία βρίσκεται σε διαρκή επαφή με Αμερικανούς αξιωματούχους.
Λίγο πριν από τη δημόσια παρουσίαση του Mythos, σύμφωνα με το CNBC, ο Αντιπρόεδρος των ΗΠΑ, Τζέι Ντι Βανς, και ο υπουργός Οικονομικών, Σκοτ Μπέσεντ, πραγματοποίησαν τηλεδιάσκεψη με κορυφαίους επικεφαλής εταιρειών τεχνολογίας, μεταξύ των οποίων ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ο Ίλον Μασκ της xAI, ο Σαντάρ Πιτσάι της Google, ο Σαμ Άλτμαν της OpenAI και ο Σάτια Ναντέλα της Microsoft.
Στη συνέχεια, ο Σκοτ Μπέσεντ και ο πρόεδρος της Ομοσπονδιακής Τράπεζας των ΗΠΑ (Fed), Τζερόμ Πάουελ, συγκάλεσαν αιφνιδιαστική σύσκεψη με τους επικεφαλής των μεγαλύτερων αμερικανικών τραπεζών για να αντιμετωπίσουν τις πιθανές απειλές του Mythos. Μάλιστα, σύμφωνα με δημοσίευμα του Bloomberg, κατά τη σύσκεψη αυτή οι τραπεζίτες ενθαρρύνθηκαν να χρησιμοποιήσουν το μοντέλο της Anthropic ως εργαλείο εντοπισμού ευπαθειών. Τράπεζες όπως η Goldman Sachs, η Citigroup, η Bank of America και η Morgan Stanley φέρεται να δοκιμάζουν ήδη το Mythos.
Ανησυχία και στη Βρετανία για το Mythos
Η ανησυχία δεν περιορίζεται στις ΗΠΑ, καθώς το Ινστιτούτο Ασφάλειας AI (AISI) της βρετανικής κυβέρνησης εξέδωσε, τη Δευτέρα (13/4), προειδοποίηση ότι το Mythos αντιπροσωπεύει σαφή αναβάθμιση σε σχέση με προηγούμενα μοντέλα, τουλάχιστον όσον αφορά στην κυβερνοαπειλή που θέτει.
Ταυτόχρονα, σύμφωνα με τους Financial Times, οι βρετανικές ρυθμιστικές Αρχές του χρηματοπιστωτικού τομέα συζητούν επίσης τους πιθανούς κινδύνους.
Project Glasswing και περιορισμένη πρόσβαση σε λίγους
Αντί δημόσιας κυκλοφορίας, η Anthropic επέλεξε να διαθέσει το Mythos μέσω μιας πρωτοβουλίας με την ονομασία Project Glasswing. Περίπου 40 οργανισμοί, μεταξύ των οποίων η Microsoft, η Apple, η Amazon Web Services, η CrowdStrike και η Palo Alto Networks, αποκτούν πρόσβαση στο μοντέλο για αμυντική εργασία κυβερνοασφάλειας.
Στη λίστα, σύμφωνα με το The Hill, περιλαμβάνεται και η τράπεζα JP Morgan Chase. Η Anthropic δεσμεύτηκε να διαθέσει έως και 100 εκατ. δολάρια σε πιστώσεις χρήσης και 4 εκατ. δολάρια σε δωρεές σε οργανισμούς ασφάλειας ανοικτού κώδικα.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δήλωσε ότι πιο ισχυρά μοντέλα θα ακολουθήσουν τόσο από εμάς όσο και από άλλους, γι’ αυτό χρειαζόμαστε σχέδιο αντίδρασης. Έτσι, σύμφωνα με πληροφορίες, η OpenAI ετοιμάζει ήδη ένα αντίστοιχο μοντέλο με την κωδική ονομασία «Spud», το οποίο θα μπορούσε να φτάσει τις δυνατότητες του Mythos Fortune.
Η σκιά της κόντρας με το Πεντάγωνο
Επισημαίνεται ότι η ανακοίνωση για το Mythos γίνεται σε ένα φορτισμένο πλαίσιο, καθώς η Anthropic εμπλέκεται σε νομική διαμάχη με το Υπουργείο Άμυνας των ΗΠΑ, αφού χαρακτηρίστηκε «κίνδυνος εφοδιαστικής αλυσίδας» λόγω της άρνησής της να επιτρέψει τη χρήση των μοντέλων της χωρίς περιορισμούς σε στρατιωτικές εφαρμογές.
Πάντως, όπως σημείωσε η ίδια η Anthropic, με τον ρυθμό που εξελίσσεται η τεχνητή νοημοσύνη, δεν θα αργήσει να γίνουν αντίστοιχες δυνατότητες ευρέως διαθέσιμες, ενδεχομένως και σε φορείς που δεν δεσμεύονται για ασφαλή χρήση, με σοβαρές επιπτώσεις για την παγκόσμια οικονομία, τη δημόσια ασφάλεια και την εθνική ασφάλεια.
Ακόμα και αν το Mythos δεν κυκλοφορήσει δημόσια, μικρότερα μοντέλα μπορεί να πετύχουν συγκρίσιμα αποτελέσματα, σύμφωνα με τον ερευνητή ασφαλείας, Τσάρλι Έρικσεν, ο οποίος τονίζει ότι οποιοσδήποτε με έναν υπολογιστή μπορεί πλέον να αναπτύξει ισχυρές δυνατότητες κυβερνοεπίθεσης σε σύντομο χρονικό διάστημα.
