Το τμήμα έρευνας της Check Point Software, Check Point Research (CPR) παρατηρεί πως οι εγκληματίες του κυβερνοχώρου τείνουν να χρησιμοποιούν bots του Telegram για να παρακάμψουν τους περιορισμούς ChatGPT σε υπόγεια φόρουμ. Τα bots χρησιμοποιούν το API του OpenAI για να επιτρέψουν τη δημιουργία κακόβουλων μηνυμάτων ηλεκτρονικού ταχυδρομείου ή κώδικα. Οι κατασκευαστές bot καλύπτουν επί του παρόντος έως και 20 δωρεάν αιτήματα, αλλά στη συνέχεια χρεώνουν 5.50 $ για κάθε 100. Η CPR προειδοποιεί για συνεχείς προσπάθειες από εγκληματίες στον κυβερνοχώρο να παρακάμψουν τους περιορισμούς του ChatGPT προκειμένου να χρησιμοποιήσουν το OpenAI για να κλιμακώσουν κακόβουλους σκοπούς.
Η Check Point Research (CPR) επισημαίνει ότι οι εγκληματίες του κυβερνοχώρου χρησιμοποιούν bots και scripts του Telegram για να παρακάμψουν τους περιορισμούς του ChatGPT.
Συνομιλία Telegram ChatGPT Bot-as-a-Service
Η CPR βρήκε διαφημίσεις bots Telegram σε υπόγεια φόρουμ. Τα bots χρησιμοποιούν το API του OpenAI για να επιτρέψουν σε έναν παράγοντα απειλής να δημιουργήσει κακόβουλα μηνύματα ηλεκτρονικού ταχυδρομείου ή κώδικα. Οι δημιουργοί του bot προσφέρουν έως και 20 δωρεάν αιτήματα, αλλά στη συνέχεια χρεώνουν 5.50 $ για κάθε 100.
Εικόνα 1. Υπόγεια διαφήμιση του bot OpenAI στο Telegram σε φόρουμ
Εικόνα 2. Παράδειγμα ηλεκτρονικού “ψαρέματος” που δημιουργήθηκε σε ένα Telegram bot για να αποδείξει τη δυνατότητα χρήσης του API του OpenAI χωρίς περιορισμούς
Εικόνα 3. Παράδειγμα της δυνατότητας δημιουργίας κώδικα κακόβουλου λογισμικού χωρίς περιορισμούς κατάχρησης σε ένα Telegram bot χρησιμοποιώντας το API OpenAI
Εικόνα 4. Το μοντέλο επιχειρηματικής λειτουργίας του καναλιού ChatGPT με βάση το API
Σενάρια για παράκαμψη περιορισμών ChatGPT
Η CPR παρατηρεί επίσης τους εγκληματίες του κυβερνοχώρου να δημιουργούν βασικές δέσμες ενεργειών που χρησιμοποιούν το OpenAIs API για να παρακάμψουν τους περιορισμούς κατάχρησης.
Εικόνα 5. Παράδειγμα δέσμης ενεργειών που υποβάλλει απευθείας ερώτημα στο API και παρακάμπτει τους περιορισμούς για την ανάπτυξη κακόβουλου λογισμικού
Σχόλιο: Sergey Shykevich, Threat Group Manager στην Check Point Software
«Ως μέρος της πολιτικής περιεχομένου του, το OpenAI δημιούργησε εμπόδια και περιορισμούς για να σταματήσει τη δημιουργία κακόβουλου περιεχομένου στην πλατφόρμα του. Ωστόσο, βλέπουμε τους εγκληματίες του κυβερνοχώρου να εργάζονται γύρω από τους περιορισμούς του και υπάρχει ενεργή συζήτηση στα υπόγεια φόρουμ που αποκαλύπτει πώς να χρησιμοποιήσετε το OpenAI API για να παρακάμψετε τα εμπόδια και τους περιορισμούς του ChatGPT. Αυτό γίνεται κυρίως με τη δημιουργία bots Telegram που χρησιμοποιούν το API και αυτά τα bots διαφημίζονται σε φόρουμ hacking για να αυξήσουν την έκθεσή τους. Η τρέχουσα έκδοση του API του OpenAI χρησιμοποιείται από εξωτερικές εφαρμογές και έχει πολύ λίγους περιορισμούς κατάχρησης. Ως αποτέλεσμα, επιτρέπει τη δημιουργία κακόβουλου περιεχομένου, όπως μηνύματα ηλεκτρονικού “ψαρέματος” και κώδικα κακόβουλου λογισμικού χωρίς τους περιορισμούς ή τα εμπόδια που έχει θέσει το ChatGPT στο interface του χρήστη τους. Αυτή τη στιγμή, βλέπουμε συνεχείς προσπάθειες από εγκληματίες στον κυβερνοχώρο για να βρουν τρόπους γύρω από τους περιορισμούς του ChatGPT.»
