Συναγερμός σε σχολεία: Μαθητές δημιουργούν άσεμνες εικόνες με εφαρμογές AI
Τα παιδιά στα βρετανικά σχολεία χρησιμοποιούν τεχνητή νοημοσύνη (AI) για να κάνουν άσεμνες εικόνες άλλων παιδιών, προειδοποίησε μια ομάδα ειδικών σε θέματα κακοποίησης παιδιών και τεχνολογίας.
Σύμφωνα με δημοσίευμα του Guardian, ορισμένα σχολεία ανέφεραν για πρώτη φορά ότι οι μαθητές χρησιμοποιούσαν τεχνολογία που παράγει AI για να δημιουργήσουν εικόνες παιδιών που νόμιμα αποτελούσαν υλικό σεξουαλικής κακοποίησης παιδιών.
Η Emma Hardy, διευθύντρια του Κέντρου Ασφαλούς Διαδικτύου του Ηνωμένου Βασιλείου (UKSIC), είπε ότι οι φωτογραφίες ήταν «τρομακτικά» ρεαλιστικές.
«Η ποιότητα των εικόνων που βλέπουμε είναι συγκρίσιμη με τις επαγγελματικές φωτογραφίες που λαμβάνονται ετησίως από παιδιά σε σχολεία πάνω και κάτω στη χώρα», είπε ο Χάρντι, ο οποίος είναι επίσης διευθυντής επικοινωνίας του Ιδρύματος Internet Watch.
«Ο φωτορεαλιστικός χαρακτήρας των εικόνων παιδιών που δημιουργούνται με τεχνητή νοημοσύνη σημαίνει ότι μερικές φορές τα παιδιά που βλέπουμε είναι αναγνωρίσιμα ως θύματα προηγούμενης σεξουαλικής κακοποίησης», είπε.
«Οι δυνατότητες κατάχρησης αυτής της τεχνολογίας είναι τρομακτικές»
«Πρέπει να προειδοποιήσουμε τα παιδιά ότι αυτές οι εικόνες μπορεί να διαδοθούν στο διαδίκτυο και να καταλήξουν να τις βλέπουν άγνωστοι και σεξουαλικά αρπακτικά. Οι δυνατότητες κατάχρησης αυτής της τεχνολογίας είναι τρομακτικές», τόνισε.
Χρειάζονται μέτρα
Το Κέντρο Ασφαλούς Διαδικτύου του Ηνωμένου Βασιλείου υποστηρίζει ότι τα σχολεία πρέπει να δράσουν επειγόντως για να θέσουν σε εφαρμογή καλύτερα συστήματα αποκλεισμού υλικού παιδικής κακοποίησης.
«Οι αναφορές που βλέπουμε για παιδιά που φτιάχνουν αυτές τις εικόνες δεν πρέπει να μας εκπλήσσουν. Αυτού του είδους οι επιβλαβείς συμπεριφορές θα πρέπει να αναμένονται όταν οι νέες τεχνολογίες, όπως τα προγράμματα τεχνητής νοημοσύνης, γίνονται πιο προσιτές στο κοινό», δήλωσε ο διευθυντής του, Ντέιβιντ Ράιτ.
«Τα παιδιά μπορεί να εξερευνούν τις δυνατότητες των εφαρμογών που παράγουν εικόνες τεχνητής νοημοσύνης χωρίς να εκτιμούν πλήρως τη βλάβη που μπορεί να προκαλέσουν. Αν και οι αριθμοί των περιπτώσεων είναι μικροί, βρισκόμαστε στην αρχή και πρέπει να δούμε να λαμβάνονται μέτρα τώρα - πριν τα σχολεία κατακλυστούν και το πρόβλημα μεγαλώσει», δήλωσε.
Οι εικόνες σεξουαλικής κακοποίησης παιδιών είναι παράνομες στο Ηνωμένο Βασίλειο – είτε πρόκειται για αληθινές φωτογραφίες είτε για δημιουργίες τεχνητής νοημοσύνης – ενώ παράνομη είναι ακόμη και η κατασκευή, κατοχή και διανομή καρτούν ή άλλων λιγότερο ρεαλιστικών απεικονίσεων.