ChatGPT: Οι κίνδυνοι χειραγώγησης και οι επιπτώσεις για τους χρήστες

Το εργαλείο αναζήτησης του OpenAI ChatGPT, που προσφέρεται στους πληρωτές πελάτες της εταιρείας, έχει έρθει στο προσκήνιο για πιθανές ευπάθειες που μπορεί να επιτρέψουν τη χειραγώγηση των απαντήσεων και την ενσωμάτωση κακόβουλου περιεχομένου. Σύμφωνα με έρευνα που δημοσίευσε ο Guardian, οι κίνδυνοι περιλαμβάνουν την αλλαγή των απαντήσεων μέσω κρυφού περιεχομένου αλλά και την πιθανότητα διάδοσης κακόβουλου κώδικα.

Η έρευνα του Guardian περιγράφει πως κακόβουλοι χρήστες μπορούν να εκμεταλλευτούν το εργαλείο αναζήτησης του ChatGPT. Για παράδειγμα, ιστότοποι που περιέχουν κρυφό κείμενο μπορούν να επηρεάσουν τις απαντήσεις του εργαλείου. Το κρυφό περιεχόμενο μπορεί να περιλαμβάνει οδηγίες που αναγκάζουν το ChatGPT να προωθήσει συγκεκριμένα προϊόντα ή υπηρεσίες, ακόμη και αν οι υπόλοιπες πληροφορίες στον ιστότοπο είναι αρνητικές.

Σε ένα πείραμα, ο Guardian δοκίμασε το ChatGPT με έναν ιστότοπο που προσποιούνταν ότι ήταν διαφημιστική σελίδα για κάμερα. Χωρίς κρυφό περιεχόμενο, το ChatGPT έδωσε μια ισορροπημένη απάντηση που ανέφερε τόσο τα θετικά όσο και τα αρνητικά χαρακτηριστικά της κάμερας. Ωστόσο, όταν προστέθηκε κρυφό κείμενο με οδηγίες για θετική αξιολόγηση, το εργαλείο παρείχε αποκλειστικά ευνοϊκή απάντηση, αγνοώντας αρνητικές πληροφορίες.

Εντοπισμένα Θέματα Ασφάλειας

Ο ερευνητής κυβερνοασφάλειας Jacob Larsen από την εταιρεία CyberCX ανέφερε ότι η δυνατότητα των LLMs (Μεγάλα Γλωσσικά Μοντέλα) να επηρεάζονται από κρυφό περιεχόμενο αποτελεί σοβαρό κίνδυνο. Οι ευπάθειες αυτές μπορούν να οδηγήσουν σε:

1. Εξαπάτηση χρηστών: Ιστότοποι που χρησιμοποιούν τεχνικές κρυφού περιεχομένου για να παραποιήσουν τις απαντήσεις του ChatGPT.
2. Διάδοση κακόβουλου κώδικα: Το ChatGPT μπορεί να επιστρέψει απαντήσεις που περιέχουν ενσωματωμένο κακόβουλο περιεχόμενο.

Χαρακτηριστικό παράδειγμα ήταν ένα περιστατικό που περιέγραψε ο ερευνητής ασφαλείας της Microsoft, Thomas Roccia. Ένας προγραμματιστής έχασε 2.500 δολάρια, όταν χρησιμοποίησε οδηγίες από το ChatGPT που περιείχαν κακόβουλο κώδικα, ενώ υποτίθεται ότι ήταν οδηγίες για πρόσβαση σε πλατφόρμα blockchain.

Τι λένε οι ειδικοί

Οι ειδικοί, όπως ο επικεφαλής επιστήμονας της SR Labs, Karsten Nohl, τονίζουν ότι τα εργαλεία AI, όπως το ChatGPT, πρέπει να χρησιμοποιούνται με προσοχή. Δεν πρέπει να προβάλλονται ή να χρησιμοποιούνται οι απαντήσεις τους χωρίς προηγούμενη αξιολόγηση.

Ο Nohl παρομοίασε το ChatGPT με ένα παιδί που επαναλαμβάνει πληροφορίες χωρίς να τις αξιολογεί κριτικά. «Η τεχνολογία αυτή έχει τεράστια μνήμη, αλλά ελάχιστη κριτική ικανότητα», ανέφερε χαρακτηριστικά.

Η αντίδραση του OpenAI

Η OpenAI, σύμφωνα με την έρευνα του Guardian, προειδοποιεί ήδη τους χρήστες ότι το ChatGPT μπορεί να κάνει λάθη. Στη δήλωση αποποίησης ευθύνης που υπάρχει σε κάθε απάντηση, υπενθυμίζεται ότι οι χρήστες πρέπει να ελέγχουν τις πληροφορίες που παρέχονται από το εργαλείο.

Παρόλα αυτά, το OpenAI δεν έχει ακόμα δώσει λεπτομέρειες για το πώς σχεδιάζει να διορθώσει τις παραπάνω ευπάθειες. Ο ερευνητής Larsen εξέφρασε την ελπίδα ότι οι τεχνικές ομάδες της OpenAI θα εντοπίσουν και θα αντιμετωπίσουν τα προβλήματα, δεδομένου ότι το εργαλείο αναζήτησης είναι σχετικά νέο.

Κίνδυνοι από τη συνδυαστική χρήση αναζήτησης και LLM

Οι ειδικοί συμφωνούν ότι η συνδυαστική χρήση εργαλείων αναζήτησης και μεγάλων γλωσσικών μοντέλων αυξάνει τον κίνδυνο χειραγώγησης και διάδοσης ανακριβών πληροφοριών. Ο συνδυασμός αυτός, αν δεν αντιμετωπιστούν οι ευπάθειες, θα μπορούσε να αλλάξει δραστικά τις πρακτικές διαδικτυακής αναζήτησης.

Τι πρέπει να προσέχουν οι χρήστες

1. Διπλός έλεγχος πληροφοριών: Οι απαντήσεις του ChatGPT δεν πρέπει να λαμβάνονται ως απόλυτα σωστές.
2. Αποφυγή ευαίσθητων εφαρμογών: Οι χρήστες θα πρέπει να είναι ιδιαίτερα προσεκτικοί όταν χρησιμοποιούν το ChatGPT για προγραμματισμό ή άλλες τεχνικές εφαρμογές.
3. Σκεπτικισμός προς ιστότοπους: Η αναφορά σε ιστότοπους πρέπει να συνοδεύεται από έλεγχο της εγκυρότητάς τους.

Η εξέλιξη των εργαλείων τεχνητής νοημοσύνης, όπως το ChatGPT, φέρνει επαναστατικές δυνατότητες, αλλά και σημαντικές προκλήσεις. Οι χρήστες οφείλουν να είναι ενημερωμένοι για τα πιθανά ρίσκα, ενώ οι δημιουργοί του εργαλείου πρέπει να αντιμετωπίσουν τις ευπάθειες με αποφασιστικότητα, ώστε να προστατεύσουν τόσο την τεχνολογία όσο και το κοινό.

Οι μηχανές αναζήτησης, όπως η Google, έχουν «τιμωρήσει» τους ιστότοπους που χρησιμοποιούν κρυφό κείμενο, είτε αφαιρώντας τους εξ ολοκλήρου από την αναζήτηση είτε πετώντας τους στο τέλος της λίστας. Συνεπώς, κρυφό κείμενο που έχει σχεδιαστεί για να ξεγελάσει την τεχνητή νοημοσύνη είναι μάλλον απίθανο να χρησιμοποιηθεί από ιστότοπους που προσπαθούν να διατηρήσουν μια καλή κατάταξη στις μηχανές αναζήτησης.

Ο Νολ συνέκρινε τα προβλήματα που αντιμετωπίζει η αναζήτηση με δυνατότητα AI με τη «δηλητηρίαση SEO», μια τεχνική που χρησιμοποιούν οι χάκερ για να χειραγωγούν ιστότοπους ώστε να κατατάσσονται σε υψηλή θέση στα αποτελέσματα αναζήτησης, με τον ιστότοπο να περιέχει κάποιο είδος κακόβουλου λογισμικού ή άλλο κακόβουλο κώδικα.

«Αν θέλατε να δημιουργήσετε έναν ανταγωνιστή της Google, ένα από τα προβλήματα το οποίο θα αντιμετωπίζατε είναι η “δηλητηρίαση SEO”», είπε. «Οι “δηλητηριαστές SEO” βρίσκονται σε πόλεμο εξοπλισμών με την Google και τη Microsoft Bing και μερικούς άλλους εδώ και πολλά, πολλά χρόνια. Τώρα, το ίδιο ισχύει και για την ικανότητα αναζήτησης του ChatGPT».

• ChatGPT