«Καμπανάκι» από UNESCO: «Σεξιστικά» τα μοντέλα από OpenAI και Meta

Τα γλωσσικά μοντέλα της Meta και της OpenAI, που χρησιμοποιούνται ως βάση για τα εργαλεία της γενετικής τεχνητής νοημοσύνης, διακινούν σεξιστικές προκαταλήψεις, προειδοποιεί μελέτη της UNESCO που δημοσιεύθηκε την παραμονή της Παγκόσμιας Ημέρας της Γυναίκας.

Τα μοντέλα GPT 2 και GPT 3.5 της OpenAI, καθώς και το Llama 2 της ανταγωνίστριας Meta, περιέχουν «αναμφίβολα προκαταλήψεις κατά των γυναικών», προειδοποιεί η UNESCO.

«Οι διακρίσεις του πραγματικού κόσμου δεν απεικονίζονται απλώς στην ψηφιακή σφαίρα, μεγεθύνονται», διαπιστώνει ο Ταουφίκ Τζελάσι, γενικός υποδιευθυντής Επικοινωνίας και Ενημέρωσης της UNESCO.

Σύμφωνα με τη μελέτη που πραγματοποιήθηκε από τον Αύγουστο 2023 μέχρι τον Μάρτιο 2024, τα γλωσσικά αυτά μοντέλα έχουν περισσότερο την τάση να συνδέουν γυναικεία ονόματα με λέξεις όπως «σπίτι», «οικογένεια» ή «παιδιά», ενώ τα αρσενικά ονόματα συνδέονται περισσότερο με λέξεις όπως «εμπόριο», «μισθός», «καριέρα».

Οι ερευνητές ζήτησαν από τα εργαλεία αυτά να παραγάγουν «πορτρέτα» για πρόσωπα διαφορετικής καταγωγής και φύλων.

Τα αποτελέσματα έδειξαν ότι οι ιστορίες που αφορούν πρόσωπα «από μειονοτικές κουλτούρες ή γυναίκες ήταν περισσότερο μηχανικά και βασισμένα σε στερεότυπα».

Ο Άγγλος καθηγητής και η Αγγλίδα... ιερόδουλη

Για παράδειγμα, η τάση είναι ένας Αγγλος να παρουσιάζεται ως καθηγητής, σοφέρ ή τραπεζικός υπάλληλος, ενώ μία Αγγλίδα να παρουσιάζεται στο τουλάχιστον 30% των κειμένων προϊόντων της γενετικής τεχνητής νοημοσύνης ως ιερόδουλη, μοντέλο ή σερβιτόρα.

Οι εταιρείες αυτές δεν καταφέρνουν να εκπροσωπήσουν το σύνολο των χρηστών τους, λέει η Λεόνα Βερδαδέρο, ειδική ψηφιακών πολιτικών και ψηφιακής μετάβασης στην UNESCO.

Από τη στιγμή που οι εφαρμογές της γενετικής τεχνητής νοημοσύνης χρησιμοποιούνται όλο και περισσότερο από το ευρύ κοινό, έχουν την εξουσία να διαμορφώσουν τις αντιλήψεις εκατομμυρίων ανθρώπων», επισημαίνει η Οντρέ Αζουλέ, γενική διευθύντρια της UNESCO.

«Κατά συνέπεια, η ίδια η παρουσία και της παραμικρής σεξιστικής προκατάληψης στο περιεχόμενό τους μπορεί να αυξήσει σημαντικά τις ανισότητες στον πραγματικό κόσμο», αναφέρεται στην ανακοίνωση της Οντρέ Αζουλέ.

Για την καταπολέμηση των προκαταλήψεων, η UNESCO συνιστά στις εταιρείες του τομέα να επιλέγουν ομάδες μηχανικών με πιο ποικιλόμορφη σύνθεση και με περισσότερες γυναίκες.

Οι γυναίκες δεν αποτελούν παρά το 22% των μελών των ομάδων που εργάζονται στην τεχνητή νοημοσύνη σε παγκόσμιο επίπεδο, σύμφωνα με τα στοιχεία του Παγκόσμιου Οικονομικού Φόρουμ, υπενθυμίζει η UNESCO που ζητά από τις κυβερνήσεις μεγαλύτερη ρυθμιστική παρέμβαση για μία «ηθική τεχνητή νοημοσύνη».