Πώς ερμηνεύεται και τι σηματοδοτεί η «απόδραση» δύο διαφορετικών μοντέλων ΑΙ από ένα (θεωρητικά) ελεγχόμενο περιβάλλον ελέγχου των δυνατοτήτων τους όσον αφορά την κυβερνοασφάλεια.
Παγκόσμια ανησυχία προκλήθηκε προσφάτως όταν διαπιστώθηκε ότι η Τεχνητή Νοημοσύνη (Artificial Intelligence, AI), ο πλέον χρηματοδοτούμενος κλάδος παγκοσμίως, o οποίος τα τελευταία χρόνια έχει εισβάλει στις ζωές μας και έχει αλλάξει άρδην κάθε πεδίο (επιστημονικό και επαγγελματικό), δεν είναι άτρωτη σε θέματα ασφαλείας
Ολα άρχισαν όταν ένα πειραματικό μοντέλο ΑΙ της εταιρείας OpenAI το οποίο υπόκειτο σε δοκιμές κυβερνοασφάλειας πέτυχε να βγει από το προβλεπόμενο περιβάλλον δοκιμών, εκμεταλλευόμενο μια άγνωστη έως τότε ευπάθεια (zero-day), και να εισέλθει στις υποδομές του Hugging Face, μεγάλης πλατφόρμας διάθεσης μοντέλων και δεδομένων ανοιχτού κώδικα. Κάτι το οποίο δεν προβλεπόταν να συμβεί. Ερευνώντας το συγκεκριμένο περιστατικό η εταιρεία ανακοίνωσε ότι εντόπισε και άλλα μικρότερα συμβάντα σε δημοσίως προσβάσιμες διαδικτυακές υπηρεσίες, όπου μοντέλα της χρησιμοποίησαν εκτεθειμένους κωδικούς πρόσβασης.
Λίγες ημέρες αργότερα, η Anthropic προέβη και εκείνη σε ελέγχους. Σύμφωνα με την ανακοίνωσή της, διαπιστώθηκε ότι κατά τη διάρκεια δοκιμών μοντέλων Claude αυτά απέκτησαν πρόσβαση στο Διαδίκτυο – ως μη όφειλαν – και εισήλθαν σε συστήματα τριών οργανισμών εκμεταλλευόμενα απλές ευπάθειες, όπως αδύναμους κωδικούς πρόσβασης.
Πώς συνέβησαν όμως όλα αυτά και τι μπορεί να σημαίνουν; Για να πάρουμε απαντήσεις ζητήσαμε τη βοήθεια του δρος Βασίλη Μαυρουδή, καθηγητή στο King’s College του Λονδίνου και συνεργαζόμενου ερευνητή στο Ινστιτούτο Αλαν Τιούρινγκ.
Θεμελιώδη μοντέλα
Για να μπορέσουμε να παρακολουθήσουμε τη σκέψη του, όμως, καλό είναι να γνωρίζουμε ορισμένα βασικά πράγματα για το πώς δημιουργούνται τα θεμελιώδη μοντέλα (foundation models) της ΑΙ. Χαρακτηριστικά παραδείγματα τέτοιων μοντέλων είναι τα επονομαζόμενα μεγάλα γλωσσικά μοντέλα (Large Language Models, LLMs) όπως το ChatGPT, το Claude και το Gemini.
Η ανάπτυξη ενός τέτοιου μοντέλου είναι μια διαδικασία με πολλά στάδια, πρώτο εκ των οποίων είναι η εκπαίδευσή του. Στην πραγματικότητα, το μοντέλο μπορεί να «ταϊστεί» με όλη την πληροφορία που υπάρχει στο Διαδίκτυο, από βιβλία και ιστοσελίδες μέχρι επιστημονικά άρθρα και οποιαδήποτε δημόσια σύνολα δεδομένων.
Στη συνέχεια, το μοντέλο αποκτά δυνατότητα διαλόγου, μαθαίνει (εκπαιδευόμενο με πραγματικούς διαλόγους) να απαντά σε ερωτήσεις, αλλά και να συνοψίζει, να μεταφράζει, να γράφει κώδικα και γενικότερα να ακολουθεί οδηγίες.
Ικανότητες και δοκιμασίες
Επειδή όλα τα παραπάνω έχουν προσδώσει στο μοντέλο ικανότητες (capabilities), το επόμενο στάδιο, το οποίο στη γλώσσα των ειδημόνων ονομάζεται ευθυγράμμιση (alignment), είναι κομβικής σημασίας καθώς το μοντέλο εκπαιδεύεται στο πώς θα χρησιμοποιήσει αυτές τις ικανότητες. Με άλλα λόγια, κατά τη διαδικασία της ευθυγράμμισης το μοντέλο μαθαίνει να συμπεριφέρεται με τον τρόπο που επιθυμεί ο δημιουργός του.
Μετά την ευθυγράμμιση και πριν ένα μοντέλο ΑΙ διατεθεί προς χρήση δοκιμάζεται διεξοδικά από ειδικές ομάδες επιστημόνων και οι επιδόσεις του συγκρίνονται με αυτές προϋπαρχόντων μοντέλων. Μάλιστα, προκειμένου να αποκαλύψουν τις αδυναμίες του οι επιστήμονες προσπαθούν ακόμη και να ξεγελάσουν το μοντέλο! Οι ειδήμονες ονομάζουν αυτές τις δοκιμές benchmarks και αυτές μπορούν να αφορούν οτιδήποτε, από κατανόηση κειμένου και προγραμματισμό, μέχρι μαθηματικές ή νομικές γνώσεις.
«Σε αυτό το στάδιο διαπιστώνεται αν το μοντέλο κάνει λάθη, αν επινοεί πληροφορίες (hallucinations), αν οι απαντήσεις που δίνει είναι σταθερές αλλά και αν παραβιάζει τους κανόνες που του έχουν δοθεί, αν αποκαλύπτει προσωπικά δεδομένα ή άλλες εμπιστευτικές πληροφορίες, αν δίνει επικίνδυνες οδηγίες, ή αν προσπαθεί να εκτελέσει ενέργειες για τις οποίες δεν έχει εξουσιοδότηση» σημείωσε ο δρ Μαυρουδής.
Οι δοκιμές αυτού του σταδίου γίνονται σε απομονωμένα περιβάλλοντα (sandboxes) «ώστε τυχόν απρόβλεπτη συμπεριφορά να μην επηρεάσει πραγματικά συστήματα» εξήγησε ο δρ Μαυρουδής. Στα δύο περιστατικά όμως τα μοντέλα βρέθηκαν στο πραγματικό Διαδίκτυο για διαφορετικό λόγο το καθένα: στην OpenAI το μοντέλο όντως έσπασε την απομόνωση, ενώ στην Anthropic το περιβάλλον δεν ήταν εξαρχής απομονωμένο λόγω κακής συνεννόησης με τον εξωτερικό συνεργάτη που είχε αναλάβει τη δημιουργία του sandbox. «Είναι σημαντικό να ξεχωρίζουμε τις δύο αυτές περιπτώσεις, γιατί σε καθεμία το πρόβλημα – και άρα η λύση – είναι διαφορετικό».
Ασκήσεις «εργαστηρίου»
Μία από τις ικανότητες των μοντέλων ΑΙ που τίθενται σε δοκιμασία είναι η κυβερνοασφάλεια, το κατά πόσο δηλαδή το μοντέλο μπορεί να εντοπίσει και να εκμεταλλευθεί αδυναμίες ενός συστήματος. «Αν παρομοιάσουμε τις δοκιμές των μοντέλων με τις εξετάσεις που δίνουμε για να περάσουμε τα μαθήματα στο πανεπιστήμιο, θα μπορούσαμε να πούμε ότι δεν πρόκειται για ερωτήσεις πολλαπλής επιλογής αλλά για εργαστηριακές ασκήσεις.
Δεν ζητούμε, δηλαδή, από το μοντέλο να απαντήσει σε ερωτήσεις. Του ζητούμε σε ασκήσεις προσομοίωσης να κάνει ό,τι χρειάζεται για να λύσει το πρόβλημα» μας είπε ο δρ Μαυρουδής και έδωσε το παρακάτω παράδειγμα: «Μια άσκηση που θα μπορούσε να ζητηθεί είναι η ανεύρεση ενός κλειδιού. Το κλειδί αυτό θα μπορούσε να είναι μια φράση την οποία αγνοεί το μοντέλο και την οποία θα πρέπει να ανακαλύψει μπαίνοντας μέσα σε έναν υπολογιστή – δηλαδή, χακάροντάς τον – για να αποδείξει ότι όντως έπραξε τα δέοντα».
Με άλλα λόγια, στις εξετάσεις κυβερνοασφάλειας ζητούμε ρητά από το μοντέλο ΑΙ να χακάρει, γιατί η ικανότητα αυτή είναι διπλής χρήσης: το ίδιο εργαλείο που βοηθά έναν αμυνόμενο να βρει τα κενά του πριν τα βρει κάποιος άλλος, μπορεί να στραφεί και επιθετικά.
Η έξοδος στην αγορά
Εξοπλισμένα με πολλές ικανότητες και εξονυχιστικά δοκιμασμένα βγαίνουν στην αγορά τα μοντέλα ΑΙ. Σε αντίθεση ωστόσο με άλλα αγαθά (όπως, π.χ., τα αυτοκίνητα) τα οποία μέσω της συνεχούς χρήσης παλιώνουν, τα μοντέλα ΑΙ δεν παλιώνουν αλλά εξελίσσονται και αποκτούν νέες ικανότητες. Κάποιες από αυτές μπορεί να είναι επιθυμητές και κάποιες όχι.
Και εδώ απαιτείται και η δική μας συμβολή: «Οι εταιρείες ζητούν από τους χρήστες να τους ενημερώνουν για τις αστοχίες των συστημάτων ΑΙ προκειμένου να τις διορθώνουν» μας είπε ο δρ Μαυρουδής, προσθέτοντας ότι «σε περίπτωση εντοπισμού αστοχίας η οποία επιβεβαιώνεται από την εταιρεία προβλέπεται για τον χρήστη και ένα μη ευκαταφρόνητο χρηματικό ποσό».
Σε μια βιομηχανία η οποία λόγω κόστους ελέγχεται από λίγους, είναι άραγε η ενεργή συμμετοχή των χρηστών στη διαμόρφωση των μοντέλων ΑΙ ένας τρόπος (αυτο)προστασίας;
«Ομαδικό σπορ» η κρυπτογραφία
Ακούγεται ίσως οξύμωρο σε εμάς τους κοινούς θνητούς αλλά η επιστημονική κοινότητα που ασχολείται με την κυβερνοασφάλεια είναι μια κοινότητα που δεν έχει μυστικά, αλλά αντίθετα βασίζεται στη συνεργασία.
«Οι αλγόριθμοι κρυπτογράφησης και το πώς πρέπει να δομείται η αρχιτεκτονική των συστημάτων για να είμαστε ασφαλείς έχουν προκύψει μέσα από συλλογικές διαδικασίες» μας είπε ο δρ Μαυρουδής και εξήγησε τη διαδικασία: «Σχεδιάζει κάποιος έναν αλγόριθμο και τον προτείνει μέσω δημοσιεύσεων παρέχοντας μια ανάλυση η οποία αποδεικνύει ότι ο νέος αλγόριθμος είναι καλύτερος από προηγούμενους.
Τον αλγόριθμο αυτόν, που είναι πια δημόσιος, μπορούν κάποιοι άλλοι να τον δοκιμάσουν, να εντοπίσουν τρωτά σημεία και να προτείνουν βελτιώσεις.
Μέσα από αυτές τις επαναληπτικές διαδικασίες έχουμε καταλήξει σε κάποιους αλγόριθμους και σε κάποιους τρόπους να κάνουμε τα πράγματα που παρέχουν ασφάλεια στα συστήματά μας».
