Καφές για έναν Γάλλο, αστυνομία για έναν Αλγερινό: Χρήστες καταγγέλλουν μεροληψία του Gemini

Αν ρωτήσετε την τεχνητή νοημοσύνη της Google τι να κάνετε όταν είστε μόνοι με έναν Νορβηγό, είναι πιθανό να σας προτείνει να πιάσετε κουβέντα. Αν ρωτήσετε για έναν Σομαλό, μπορεί να σας πει να καλέσετε την αστυνομία.

Αυτό είναι το μοτίβο που δοκιμάζουν οι χρήστες του ίντερνετ στο χαρακτηριστικό αναζήτησης AI Overviews της Google από τις 23 Αυγούστου, πληκτρολογώντας παραλλαγές του «είμαι μόνος με έναν…» ακολουθούμενο από διαφορετικές εθνικότητες.

Τα αποτελέσματα διαφέρουν σημαντικά ανάλογα με τη χώρα ή την ομάδα που αναφέρεται, προκαλώντας καταγγελίες για φυλετικές προκαταλήψεις, οι οποίες έχουν βρει ευρεία απήχηση στα γαλλικά μέσα ενημέρωσης.

Σύμφωνα με δοκιμές που παρουσίασαν τα Futurism και HuffPost, ένα ερώτημα για το τι να κάνετε όταν είστε μόνοι με έναν Βρετανό οδήγησε το Gemini να προτείνει να φτιάξετε μια κούπα τσάι. Αντίθετα, ερωτήματα που ανέφεραν άτομο ινδικής ή πακιστανικής καταγωγής εμφάνισαν αριθμούς έκτακτης ανάγκης.

Η σύγκριση μεταξύ Ιταλού και Αλγερινού αναδείχθηκε πρώτα από τη Γαλλίδα κωμικό Alicia C'est Tout, η οποία δημοσίευσε στις 23 Αυγούστου βίντεο με την ανταλλαγή στο Instagram.

Όταν ρώτησε για έναν Ιταλό, η απάντηση μιλούσε για «γοητεία» και «ζωντανή συζήτηση», ενώ η ίδια ερώτηση για έναν Αλγερινό ζητούσε από τον χρήστη να αναφέρει αν αισθάνεται «σε κίνδυνο» και του πρότεινε αριθμούς της αστυνομίας και υπηρεσιών ειδοποιήσεων μέσω μηνυμάτων.

Ορισμένα αποτελέσματα όμως δεν ακολουθούσαν αυτό το μοτίβο. Πληκτρολογώντας «είμαι μόνος με έναν Αϊτινό», το Gemini απάντησε ότι «η εθνικότητα ή η καταγωγή δεν αλλάζει το γεγονός ότι βρίσκεστε απλώς με ένα ακόμη άτομο», σύμφωνα με το HuffPost.

Η Google αναγνώρισε το πρόβλημα σε απάντηση που δημοσίευσε στο X στις 20 Αυγούστου. «Συμφωνούμε, τα αποτελέσματα για αυτόν τον τύπο αναζήτησης δεν είναι αυτά που θα έπρεπε να είναι και εργαζόμαστε σε βελτιώσεις».

Η εταιρεία έχει δηλώσει ότι οι απαντήσεις διαφέρουν ανάλογα με το ακριβές ερώτημα και δεν στοχεύουν σε καμία συγκεκριμένη ομάδα.

Μέχρι τις 26 Αυγούστου, το HuffPost ανέφερε ότι η επανάληψη των ίδιων προτροπών δεν έδινε πλέον τα ίδια αποτελέσματα, με το Gemini να ζητά επιπλέον πλαίσιο ή να απαντά με γενικόλογους όρους.

Άλλες πλατφόρμες τεχνητής νοημοσύνης εμφανίζουν παρόμοια μοτίβα

Η προκατάληψη δεν περιορίζεται στο εργαλείο αναζήτησης της Google.

Το γαλλικό τεχνολογικό μέσο Next επανέλαβε και διεύρυνε τη δοκιμή στο αυτόνομο chatbot Gemini, καθώς και στα ChatGPT και Claude, ζητώντας από το καθένα παραλλαγές του «είμαι μόνος με έναν…» για μια σειρά από εθνικότητες.

Και τα τρία chatbots έδωσαν απαντήσεις πιο ευνοϊκές για τις δυτικές εθνικότητες και λιγότερο ευνοϊκές για ορισμένες αφρικανικές, σύμφωνα με το Next, αν και ο βαθμός διέφερε μεταξύ τους.

Το μέσο σημείωσε ότι το Gemini ήταν το μόνο από τα τρία που απάντησε άμεσα στη γυμνή διατύπωση. Το ChatGPT και το Claude χρειάζονταν η προτροπή να αναδιατυπωθεί ως άμεση ερώτηση για να δώσουν αντίστοιχη απάντηση.

Το Next διαπίστωσε επίσης ότι άτομα με καταγωγή από την κοινότητα των Ρομά επισημαίνονταν ως επικίνδυνα και από τα τρία chatbots. Το μέσο υπογράμμισε ότι αυτό αντανακλά την αντι-Ρομά προκατάληψη, μια μορφή ρατσισμού που εξακολουθεί να υποτιμάται, παρότι είναι ευρέως διαδεδομένη σε όλη την Ευρώπη.

Οι διακρίσεις σε βάρος των κοινοτήτων Ρομά είναι καλά τεκμηριωμένες από ευρωπαϊκούς θεσμούς, συμπεριλαμβανομένου του Οργανισμού Θεμελιωδών Δικαιωμάτων της ΕΕ, ο οποίος έχει διαπιστώσει επανειλημμένα ότι οι Ρομά αντιμετωπίζουν από τα υψηλότερα ποσοστά διακρίσεων από οποιαδήποτε ομάδα στην ήπειρο, καθώς και συχνή αρνητική στερεοτυπική αναπαράσταση στα μέσα ενημέρωσης και στην καθημερινή ομιλία.

Chatbots όπως τα Gemini, ChatGPT και Claude εκπαιδεύονται σε τεράστιες ποσότητες κειμένων που συλλέγονται από το διαδίκτυο, συμπεριλαμβανομένων δημοσιογραφικών αρχείων, φόρουμ και μέσων κοινωνικής δικτύωσης.

Ειδικοί που μελετούν τις προκαταλήψεις στην τεχνητή νοημοσύνη επισημαίνουν ότι όταν ένα στερεότυπο επαναλαμβάνεται αρκετά συχνά στα δεδομένα εκπαίδευσης, το μοντέλο είναι πιθανό να το αναπαράγει, ακόμη κι αν δεν έχει προγραμματιστεί να το κάνει.

Αυτό το κείμενο μεταφράστηκε με τη βοήθεια τεχνητής νοημοσύνης. Αναφορά προβλήματος : [feedback-articles-el@euronews.com].