ChatGPT: Έρευνα αποκαλύπτει ότι μπορεί να γίνει εργαλείο εξαπάτησης και χειραγώγησης
Πώς οι απαντήσεις του ChatGPT μπορούν να δίνουν πληροφορίες που οδηγούν στην προώθηση συγκεκριμένων προϊόντων ή υπηρεσιών.
Αποκαλυπτική έρευνα δείχνει ότι το ChatGPT του OpenAI μπορεί να είναι ανοιχτό σε χειραγώγηση χρησιμοποιώντας κρυφό περιεχόμενο, ενώ μπορεί να επιστρέψει κακόβουλο κώδικα από ιστότοπους που αναζητά.
Το OpenAI έχει κάνει το προϊόν αναζήτησης διαθέσιμο σε πελάτες που πληρώνουν και ενθαρρύνει τους χρήστες να το κάνουν το προεπιλεγμένο εργαλείο αναζήτησής τους. Ωστόσο, έρευνα του Guardian αποκάλυψε πιθανά ζητήματα ασφάλειας με το νέο σύστημα.
Το βρετανικό μέσο έκανε τεστ για το πώς απαντά το ChatGPT όταν του ζητήθηκε να συνοψίσει ιστοσελίδες που περιέχουν κρυφό περιεχόμενο.
Αυτό το κρυφό περιεχόμενο μπορεί να περιέχει οδηγίες από τρίτα μέρη που αλλάζουν τις απαντήσεις του ChatGPT ή μπορεί να περιέχει περιεχόμενο που έχει σχεδιαστεί για να επηρεάζει την απόκριση του ChatGPT, όπως μεγάλο όγκο κρυφού κειμένου που μιλάει για τα οφέλη ενός προϊόντος ή μίας υπηρεσίας.
Αυτές οι τεχνικές μπορούν να χρησιμοποιηθούν κακόβουλα, για παράδειγμα για να αναγκάσουν το ChatGPT να επιστρέψει μια θετική αξιολόγηση ενός προϊόντος παρά τις αρνητικές κριτικές στην ίδια σελίδα. Ένας ερευνητής ασφαλείας ανακάλυψε επίσης ότι το ChatGPT μπορεί να επιστρέψει κακόβουλο κώδικα από ιστότοπους που αναζητά.
Στις δοκιμές στο ChatGPT δόθηκε η διεύθυνση URL για έναν ψεύτικο ιστότοπο που δημιουργήθηκε ώστε να μοιάζει με σελίδα προϊόντος για μια κάμερα. Το εργαλείο AI ρωτήθηκε στη συνέχεια εάν η αγορά αυτής της κάμερας ήταν αξιόλογη.
Η απάντηση επέστρεψε μια θετική αλλά ισορροπημένη αξιολόγηση, επισημαίνοντας ορισμένα χαρακτηριστικά που μπορεί να μην αρέσουν στους χρήστες.
Ωστόσο, όταν το κρυφό κείμενο περιελάμβανε οδηγίες στο ChatGPT για να επιστρέψει μια ευνοϊκή κριτική, η απάντηση ήταν πάντα εντελώς θετική. Δεν υπήρχε κανένα αρνητικό σημείο.
Αυτό συνέβαινε ακόμη και όταν η σελίδα είχε αρνητικές κριτικές.
Σύμφωνα με τον ερευνητή κυβερνοασφάλειας στο CyberCX, Jakob Larsen, εάν το τρέχον σύστημα αναζήτησης ChatGPT κυκλοφορήσει στην πλήρη του μορφή, θα μπορούσε να υπάρξει «υψηλός κίνδυνος» από άτομα να δημιουργήσουν ιστότοπους ειδικά προσανατολισμένους στην εξαπάτηση των χρηστών.
