Η τεχνητή νοημοσύνη και η μηχανική εκμάθηση (machine learning) βρίσκονται σταθερά τα τελευταία χρόνια στις επικεφαλίδες των τεχνολογικών ειδησεογραφικών ιστοσελίδων και η ραγδαία πρόοδος τους βρίσκεται στο επίκεντρο των συζητήσεων με ειδικούς από τον χώρο της κυβερνοασφάλειας.
Γιώργος Καπανίρης
Executive Director , NSS
www.nss.gr
Άραγε θα αξιοποιήσουν περαιτέρω οι κυβερνοεγκληματίες τη μηχανική εκμάθηση στις επιθέσεις τους; Μπορούν οι αμυνόμενοι να δημιουργήσουν κάποιο μοντέλο μηχανικής εκμάθησης που να είναι ικανό να ανιχνεύσει κακόβουλα προγράμματα; Η μηχανική εκμάθηση αποτελεί ουσιαστικό και κρίσιμης σημασίας κομμάτι της κυβερνοασφάλειας σήμερα ωστόσο απαιτείται να γίνει μέρος μιας ευρύτερης λύσης για να είναι αποτελεσματική. Δεν μοιάζει συνετό, για οποιοδήποτε προϊόν ασφαλείας, να βασίζεται αποκλειστικά στη μηχανική εκμάθηση ως το βασικό ή το μόνο επίπεδο άμυνας. Αυτή η προσέγγιση του τύπου «όλα τα αυγά σε ένα καλάθι» αφήνει κενά και διευκολύνει τους κυβερνοεγκληματίες καθώς τους αφήνει μόνο μία «πόρτα για να ρίξουν».
Ένα προϊόν κυβερνοασφάλειας, το οποίο βασίζεται σε μία προσέγγιση πολλαπλών τεχνολογιών, όπως το Sophos Intercept X, παρουσιάζει ένα σύνολο αλληλο-ενισχυόμενων και αλληλο-συμπληρωμένων «εμποδίων» που θα πρέπει να ξεπεραστούν ταυτόχρονα για να επιτύχει το στόχο της μία επίθεση. Η μηχανική εκμάθηση αποτελεί μόνο μία τεχνολογία από ένα σύνολο τεχνολογιών προστασίας στο Intercept X που έχουν σχεδιαστεί ειδικά για την ανίχνευση του κακόβουλου λογισμικού και των δυνητικά ανεπιθύμητων εφαρμογών, ακόμα και αν είναι εντελώς άγνωστες. Και η Sophos έχει προχωρήσει ένα βήμα παραπέρα στην εφαρμογή της μηχανικής εκμάθησης, πέρα από το να κάνει απλώς προβλέψεις για αρχεία. Για παράδειγμα στο προϊόν Endpoint Detection and Response έχουν συμπεριληφθεί «σύμβουλοι» για την παροχή πρόσθετων πληροφοριών ώστε να ενισχυθεί και να επιταχυνθεί η διαδικασία λήψης αποφάσεων. Στην ουσία, αυτοί οι ψηφιακοί σύμβουλοι παρέχουν κατά κάποιο τρόπο τη διαίσθηση και τις γνώσεις ειδικών αναλυτών κακόβουλου λογισμικού στον χειρισμό ύποπτων συμβάντων ή αντικειμένων.
Η μηχανική εκμάθηση αποτελεί στόχο
Οι κυβερνοεγκληματίες αναζητούν αδιάκοπα νέους και απλούστερους τρόπους για να εισέρχονται σε συστήματα και να ελίσσονται εντός των δικτύων. Επόμενο είναι λοιπόν να υποθέσουμε ότι θα έβαζαν στόχο κάποιο μοντέλο μηχανικής εκμάθησης και θα αναζητούσαν τρόπους να το εξαπατήσουν για να πιστέψει ότι μια επίθεση είναι «ακίνδυνη». Η Sophos έχει προετοιμαστεί για αυτό το ενδεχόμενο καθώς και για άλλους πιθανούς τύπους και τεχνικές επιθέσεων. Η στρατηγική της Sophos είναι να παραμείνουν τα προϊόντα της ανθεκτικά σε τέτοιες επιθέσεις και για να πετύχει αυτόν τον στόχο προχώρησε στην διεξαγωγή μίας επιμελούς και λεπτομερούς έρευνας στον κλάδο των νευρωνικών δικτύων και της αρχιτεκτονικής τους και παράλληλα ενοποίησε τις τεχνολογίες ασφάλειας επόμενης γενιάς και τις παραδοσιακές τεχνολογίες σε μία ενιαία λύση. Μέσα σε αυτή περιλαμβάνονται επίπεδα ανάλυσης, ανιχνεύσεις συμπεριφοράς, στατικές ανιχνεύσεις, heuristics, μοντέλα μηχανικής εκμάθησης, τεχνολογίες anti-exploitation και anti-ransomware και άλλα πολλά. Μόνο μέσω μίας προσεκτικά ανεπτυγμένης αρχιτεκτονικής και σε συνδυασμό με ανεξάρτητες, αγνωστικιστικές (agnostic) και αλληλο-συμπληρωματικές τεχνολογίες προστασίας μπορεί η δύναμη της μηχανικής εκμάθησης να χρησιμοποιηθεί με ασφάλεια.
Επιθετικές έρευνες
Εδώ και αρκετά χρόνια, η Sophos διεξάγει έρευνες ασφάλειας από την πλευρά του επιτιθέμενου πάνω σε μοντέλα μηχανικής εκμάθησης στο πλαίσιο της εσωτερικής της έρευνας για την ασφάλεια της μηχανικής εκμάθησης και τη βελτίωση της ανθεκτικότητας των προϊόντων της. Από τον Φεβρουάριο του 2017, έχει αναπτύξει μία προηγμένη, αγνωστικιστική από άποψη προϊόντος τεχνική, ως απόδειξη της ορθότητας της ιδέας, που θα μπορούσε να ξεγελάσει τα περισσότερα, αν όχι όλα τα μοντέλα μηχανικής μάθησης μεταλλάσσοντας ένα υγιές, καλόβουλο αρχείο σε κακόβουλο. Η συντριπτική πλειοψηφία των μοντέλων θα πίστευε ότι το αρχείο ήταν το αυθεντικό αρχείο που δεν εμπεριέχει κάτι κακόβουλο. Ακόμα και σήμερα, αυτό το proof-of-concept καταφέρνει να εξαπατήσει τα περισσότερα μοντέλα μηχανικής μάθησης σε λύσεις ασφαλείας endpoint. Όπως ήταν φυσικό, η Sophos δεν έκανε ευρέως γνωστή την έρευνα της για να μην πέσει στα χέρια κυβερνοεγκληματιών. Εκτιμώντας και κατανοώντας τις προσεγγίσεις που θα μπορούσαν να ακολουθήσουν οι κυβερνοεγκληματίες, η Sophos υπογραμμίζει τη σημασία της στρατηγικής της να προσφέρει πολλαπλές αμυντικές τεχνολογίες σε μία λύση, οι οποίες καλύπτουν ένα ευρύ φάσμα τεχνικών και δυνατοτήτων.
Κυβερνοασφάλεια
Η ομάδα SophosLabs Data Science έχει συμβάλλει σε σημαντικό βαθμό στην έρευνα στον τομέα της τεχνητής νοημοσύνης, όπως αποδεικνύεται από τεχνικές μελέτες στην ιστοσελίδα της ή από τις καταχωρίσεις της στο Google Scholar. Η εκτεταμένη και συνεχής έρευνα και δημοσίευση των καινοτομιών της στον τομέα της άμυνας αποτελεί πυλώνα του ήθους της εταιρείας και τα αποτελέσματα αυτής της έρευνας επηρεάζουν και καθορίζουν τη σύνθεση και την ενορχήστρωση των τεχνολογικών επιπέδων προστασίας στο Intercept X και σε όλες τις άλλες λύσεις της Sophos.
Οι έρευνες της Sophos αποτελούν βασική πηγή έμπνευσης και μάθησης για την αδιάκοπη εφαρμογή βελτιστοποιήσεων στα προϊόντα της ώστε να γίνονται διαρκώς πιο ανθεκτικά σε κυβερνοεπιθέσεις. Επιπλέον, τα επίπεδα άμυνας έχουν σχεδιαστεί για να αναλαμβάνουν «δράση» ανεξάρτητα, έτσι ώστε, σε περίπτωση που κάποια απειλή «περάσει» από ένα επίπεδο, το επόμενο να είναι σε θέση να αντισταθεί εξασφαλίζοντας την προστασία του συστήματος.
Η ψηφιακή ασφάλεια και η φυσική ασφάλεια έχουν πολλά κοινά στοιχεία. Σκεφτείτε ένα κτίριο και πως θα μπορούσατε να το προστατεύσετε. Αν δεν σκοπεύετε να χτίσετε τίποτα περισσότερο από έναν τεράστιο τοίχο, μπορεί η αναρρίχηση να αποδειχτεί δύσκολη, ωστόσο αργά ή γρήγορα κάποιος θα βρει έναν τρόπο να περάσει πάνω από αυτό (ή κάτω από αυτό). Τα απλά εμπόδια μπορεί να είναι απλά στην κατασκευή, είναι όμως και εύκολο να παρακαμφθούν. Ο στόχος της Sophos ήταν πάντα η κατασκευή φρουρίων, μέσα στα οποία υπάρχουν ένοπλοι φύλακες, εκπαιδευμένοι σκύλοι, κλειστά κυκλώματα καμερών, συρματοπλέγματα, αισθητήρες κίνησης κ.α. Μπορεί να καταφέρετε να πηδήξετε τον τοίχο ωστόσο εξακολουθούν να υπάρχουν πολλά ακόμη εμπόδια να ξεπεράσετε.
Η Sophos επενδύει διαρκώς σχετικά με την τεχνητή νοημοσύνη και δημιουργεί πρωτοποριακές τεχνολογίες στην επιστήμη δεδομένων και τη μηχανική εκμάθηση για την ασφάλεια των πληροφοριών καθώς και την αλληλεπίδραση ανθρώπου-τεχνητής νοημοσύνης και την οπτικοποίηση πληροφοριών. (https://ai.sophos.com/)
