ChatGPT: Θα βοηθήσουν τα AI chatbots στην καταπολέμηση της διαδικτυακής απάτης;

 

Οι ειδικοί της Kaspersky πραγματοποίησαν έρευνα μελετώντας την ικανότητα του ChatGPT να ανιχνεύει συνδέσμους phishing. Ενώ το ChatGPT είχε προηγουμένως επιδείξει την ικανότητα δημιουργίας phishing emails και συγγραφής κακόβουλου λογισμικού, η αποτελεσματικότητά του στον εντοπισμό κακόβουλων συνδέσμων ήταν περιορισμένη. Η μελέτη αποκάλυψε ότι αν και το ChatGPT γνωρίζει πολλά για το phishing και μπορεί να μαντέψει τον στόχο μιας επίθεσης phishing, είχε υψηλά ποσοστά ψευδώς θετικών έως και 64%. Συχνά, παρήγαγε φανταστικές εξηγήσεις και ψευδείς αποδείξεις για να δικαιολογήσει τις ετυμηγορίες του.

Το ChatGPT, ένα γλωσσικό μοντέλο τεχνητής νοημοσύνης, έχει αποτελέσει θέμα συζήτησης στον κόσμο της κυβερνοασφάλειας λόγω της δυνατότητάς του να δημιουργεί phishing emails και έχει προκαλέσει ανησυχίες για τον αντίκτυπό του στην ασφάλεια εργασίας των ειδικών στον κυβερνοχώρο, ακόμη και παρά τις προειδοποιήσεις των δημιουργών του ότι είναι πολύ νωρίς να εφαρμοστεί η νέα τεχνολογία σε τέτοιους τομείς υψηλού κινδύνου. Οι ειδικοί της Kaspersky αποφάσισαν να πραγματοποιήσουν ένα πείραμα για να αποκαλύψουν την ικανότητα του ChatGPT να ανιχνεύει συνδέσμους phishing, καθώς και να τεστάρουν τις γνώσεις που απέκτησε επάνω στην ασφάλεια στον κυβερνοχώρο κατά τη διάρκεια της εκπαίδευσης. Οι ειδικοί της εταιρείας δοκίμασαν το gpt-3.5-turbo, το μοντέλο που τροφοδοτεί το ChatGPT, σε περισσότερους από 2.000 συνδέσμους που οι τεχνολογίες anti-phishing της Kaspersky έκριναν ως phishing σε συνδυασμό με χιλιάδες ασφαλείς διευθύνσεις URL.

Στο πείραμα, τα ποσοστά ανίχνευσης ποικίλλουν ανάλογα με την προτροπή που χρησιμοποιείται. Το πείραμα βασίστηκε στην υποβολή δύο ερωτήσεων στο ChatGPT: «Αυτός ο σύνδεσμος οδηγεί σε έναν ιστότοπο ηλεκτρονικού ψαρέματος;» και «Είναι αυτός ο σύνδεσμος ασφαλής για επίσκεψη;». Τα αποτελέσματα έδειξαν ότι το ChatGPT είχε ποσοστό ανίχνευσης 87,2% και ψευδώς θετικό ποσοστό 23,2% για την πρώτη ερώτηση. Η δεύτερη ερώτηση είχε υψηλότερο ποσοστό ανίχνευσης (93,8%), αλλά και υψηλότερο ποσοστό ψευδώς θετικών (64,3%). Ενώ το ποσοστό ανίχνευσης είναι πολύ υψηλό, το ποσοστό ψευδώς θετικών είναι επίσης πολύ υψηλό για να τεθεί σε εφαρμογή.

Ερώτηση που τέθηκε		Ποσοστό ανίχνευσης		Ψευδώς θετικό ποσοστό
Αυτός ο σύνδεσμος οδηγεί σε έναν ιστότοπο ηλεκτρονικού ψαρέματος		87,2%		23,2%
Είναι αυτός ο σύνδεσμος ασφαλής για επίσκεψη;".		93,8%		64,3%

Τα μη ικανοποιητικά αποτελέσματα στον εντοπισμό ήταν αναμενόμενα, αλλά θα μπορούσε το ChatGPT να βοηθήσει στην ταξινόμηση και τη διερεύνηση επιθέσεων; Δεδομένου ότι οι εισβολείς συνήθως αναφέρουν δημοφιλείς επωνυμίες στους συνδέσμους τους για να εξαπατήσουν τους χρήστες να πιστέψουν ότι η διεύθυνση URL είναι νόμιμη και ανήκει σε μια αξιόπιστη εταιρεία, το γλωσσικό μοντέλο AI εμφανίζει εντυπωσιακά αποτελέσματα στον εντοπισμό πιθανών στόχων phishing. Για παράδειγμα, το ChatGPT έχει εξαγάγει επιτυχώς έναν στόχο από περισσότερες από τις μισές διευθύνσεις URL, συμπεριλαμβανομένων μεγάλων τεχνολογικών portals όπως το Facebook, το TikTok και η Google, αγορές όπως το Amazon και το Steam και πολλές τράπεζες από όλο τον κόσμο, μεταξύ άλλων —χωρίς επιπλέον εκπαίδευση.

Το πείραμα έδειξε επίσης ότι το ChatGPT μπορεί να έχει σοβαρά προβλήματα όταν πρόκειται να αποδείξει τη θέση του σχετικά με την απόφαση εάν ο σύνδεσμος είναι κακόβουλος. Ορισμένες εξηγήσεις ήταν σωστές και βασισμένες σε γεγονότα, άλλες αποκάλυψαν γνωστούς περιορισμούς των γλωσσικών μοντέλων, συμπεριλαμβανομένων των ψευδαισθήσεων και των ανακριβειών: πολλές εξηγήσεις ήταν παραπλανητικές, παρά τον σίγουρο τόνο.

Αναφορές στο WHOIS, στο οποίο το μοντέλο δεν έχει πρόσβαση: Τέλος, εάν πραγματοποιήσουμε αναζήτηση στο WHOIS για το όνομα του domain, αυτό καταχωρήθηκε πολύ πρόσφατα (2020-10-14) και τα στοιχεία αυτού που το καταχώρησε είναι κρυφά. Αναφορές σε περιεχόμενο ενός ιστότοπου στον οποίο ούτε το μοντέλο έχει πρόσβαση: ο ιστότοπος ζητά διαπιστευτήρια χρήστη σε ιστότοπο που δεν ανήκει στη Microsoft. Αυτή είναι μια κοινή τακτική για επιθέσεις phishing. Ανακρίβειες: To domain «sxxxxxxp.com» δεν σχετίζεται με το Netflix και ο ιστότοπος χρησιμοποιεί πρωτόκολλο «http» αντί για «https» (ο ιστότοπος χρησιμοποιεί https) Αποκαλυπτικά ψήγματα πληροφοριών (nuggets) για την κυβερνοασφάλεια: Το όνομα domain για τη διεύθυνση URL «yxxxx3.com» φαίνεται να είναι καταχωρημένο στη Βόρεια Κορέα, το οποίο είναι red flag.

Παραδείγματα παραπλανητικών εξηγήσεων που παρέχονται από το ChatGPT

Όπως σχολιάζει ο Vladislav Tushkanov, Lead Data Scientist της Kaspersky,

Το ChatGPT σίγουρα έχει τη δυνατότητα να βοηθήσει τους ανθρώπους-αναλυτές στον εντοπισμό επιθέσεων phishing, αλλά ας μην προτρέχουμε - τα γλωσσικά μοντέλα εξακολουθούν να έχουν τους περιορισμούς τους. Ενώ μπορεί να είναι στο ίδιο επίπεδο με έναν αναλυτή phishing σε intern επίπεδο, όταν πρόκειται για συλλογιστική πορεία σχετικά με επιθέσεις phishing και εξαγωγή πιθανών στόχων, τείνουν να έχουν ανακρίβειες και να παράγουν τυχαία αποτελέσματα. Έτσι, ενώ μπορεί να μην φέρουν ακόμα την επανάσταση στο τοπίο της κυβερνοασφάλειας, θα μπορούσαν να εξακολουθήσουν να είναι χρήσιμα εργαλεία για την κοινότητα

Η ομάδα μηχανικής μάθησης της Kaspersky βρίσκεται στην πρώτη γραμμή εφαρμογής τεχνολογιών μηχανικής εκμάθησης σε εργασίες ασφάλειας στον κυβερνοχώρο, ενημερώνοντας συνεχώς τα προϊόντα της Kaspersky με την πιο προηγμένη μορφή τεχνολογίας και πληροφορίας. Για να επωφεληθείτε από την τεχνογνωσία της Kaspersky στη μηχανική μάθηση και να παραμείνετε προστατευμένοι, οι ειδικοί της εταιρείας συνιστούν:

• Για την εταιρική ασφάλεια στον κυβερνοχώρο, το Kaspersky Managed Detection and Response είναι ένα απαραίτητο εργαλείο ικανό να ανιχνεύει και να αποτρέπει τις εισβολές στα αρχικά τους στάδια. Χρησιμοποιεί προηγμένα μοντέλα μηχανικής μάθησης για να φιλτράρει συνηθισμένα γεγονότα και στέλνει μόνο τα πιο ανησυχητικά σε επαγγελματίες ανθρώπους - αναλυτές. Αυτή η υπηρεσία ενισχύει την ικανότητα μιας εταιρείας να αντέχει τις απειλές στον κυβερνοχώρο, ενώ παράλληλα βελτιστοποιεί τη χρήση των υπαρχόντων πόρων του εργατικού δυναμικού.
• Η παροχή εκπαίδευσης για την υγιεινή στον κυβερνοχώρο στο προσωπικό σας είναι ζωτικής σημασίας. Η διεξαγωγή προσομοιωμένων επιθέσεων phishing μπορεί επίσης να βοηθήσει να διασφαλιστεί ότι γνωρίζουν πώς να διακρίνουν τα μηνύματα ηλεκτρονικού ψαρέματος.
• Τέλος, συνιστάται επίσης η χρήση των πιο πρόσφατων πληροφοριών Threat Intelligence για την επίγνωση πραγματικών TTPs (τακτικές, τεχνικές και διαδικασίες) που χρησιμοποιούνται από φορείς απειλών για την ενίσχυση της ασφάλειας στον κυβερνοχώρο.