...

Logo Pasino du Havre - Casino-Hôtel - Spa
in partnership with
Logo Nextory

Σεξιστικά τα μοντέλα Τεχνητής Νοημοσύνης: Θεωρούν ότι οι νοσοκόμες είναι γυναίκες και οι ανώτεροι γιατροί άνδρες

• Sep 23, 2024, 8:07 PM
1 min de lecture
1

Σύμφωνα με ορισμένα από τα κορυφαία εργαλεία τεχνητής νοημοσύνης (AI) στον κόσμο, σχεδόν όλοι οι νοσηλευτές είναι γυναίκες, αλλά είναι λιγότερο πιθανό να είναι αρχίατροι, σύμφωνα με μια νέα μεγάλη μελέτη, η οποία ρίχνει φως στον τρόπο με τον οποίο οι αλγόριθμοι διαιωνίζουν τα στερεότυπα των φύλων στην ιατρική.

Ερευνητές από το Πανεπιστήμιο Flinders της Αυστραλίας έτρεξαν σχεδόν 50.000 προτροπές στο ChatGPT της OpenAI, το Gemini της Google και το Llama της Meta, ζητώντας τους να δώσουν ιστορίες για γιατρούς, χειρουργούς και νοσηλευτές.

Στη συνέχεια οι ερευνητές τροφοδότησαν τα μοντέλα με πληροφορίες σχετικά με την επαγγελματική αρχαιότητα των εργαζομένων στον τομέα της υγείας και την προσωπικότητά τους - για παράδειγμα, πόσο ευχάριστοι, νευρωτικοί, εξωστρεφείς, ευσυνείδητοι και ανοιχτοί ήταν - και τους ζήτησαν να σκεφτούν περισσότερες ιστορίες.

Τα μοντέλα αναγνώρισαν το 98% των νοσηλευτών ως γυναίκες, ανεξάρτητα από την προσωπικότητα ή την αρχαιότητά τους, σύμφωνα με τη μελέτη, η οποία δημοσιεύθηκε στο περιοδικό JAMA Network Open.**

Αξίζει να σημειωθεί, ωστόσο, ότι υπερεκπροσώπησαν επίσης τις γυναίκες στις ιστορίες για χειρουργούς και άλλους γιατρούς. Ανάλογα με το μοντέλο, οι γυναίκες αποτελούσαν το 50% έως 84% των γιατρών και το 36% έως 80% των χειρουργών στις ιστορίες.

Αυτό θα μπορούσε να είναι το αποτέλεσμα των εταιρειών όπως η OpenAI που κάνουν διορθώσεις στους αλγορίθμους τους, αφού δέχθηκαν πυρά για την αναπαραγωγή κοινωνικών προκαταλήψεων και άλλου προσβλητικού περιεχομένου στις απεικονίσεις τους. Επειδή αυτά τα εργαλεία έχουν εκπαιδευτεί σε εκτεταμένα δεδομένα από όλο το διαδίκτυο, αυτά τα χαρακτηριστικά είναι ενσωματωμένα.

Τα εργαλεία τεχνητής νοημοσύνης διαιωνίζουν τα "στερεότυπα των φύλων";

"Έχει γίνει προσπάθεια να διορθωθούν [οι αλγοριθμικές προκαταλήψεις] και είναι ενδιαφέρον να δούμε ότι [οι κατανομές των φύλων] μπορεί επίσης να έχουν υπερδιορθωθεί", δήλωσε η Δρ Sarah Saxena, αναισθησιολόγος στο Ελεύθερο Πανεπιστήμιο των Βρυξελλών (ULB), η οποία ερευνά τις προκαταλήψεις στις εικόνες γιατρών που δημιουργούνται με τεχνητή νοημοσύνη, αλλά δεν συμμετείχε στη νέα μελέτη.

Ωστόσο, επεσήμανε ότι η γενεσιουργός τεχνητή νοημοσύνη εξακολουθεί να διαιωνίζει τα "έμφυλα στερεότυπα" στην ιατρική.

Όταν οι προτροπές των ερευνητών περιλάμβαναν περιγραφές των εργαζομένων στον τομέα της υγείας, αναδύθηκε ένα χάσμα μεταξύ των δύο φύλων. Εάν ο γιατρός ήταν ευχάριστος, ανοιχτός ή ευσυνείδητος, τα μοντέλα ήταν πιο πιθανό να τον τοποθετήσουν ως γυναίκα.

Και αν οι γιατροί κατείχαν κατώτερες θέσεις - για παράδειγμα, αν η προτροπή ανέφερε ότι ήταν άπειροι - τα μοντέλα ήταν πιο πιθανό να τους περιγράψουν ως γυναίκες από ό,τι αν η προτροπή σηματοδοτούσε ότι ήταν ανώτεροι ή πιο έμπειροι.

Τα μοντέλα ήταν επίσης πιο πιθανό να αναγνωρίσουν τους γιατρούς ως άνδρες εάν περιγράφονταν ως αλαζόνες, αγενείς, ανίκανοι, ανίκανοι, αναβλητικοί, θυμωμένοι, χωρίς φαντασία ή χωρίς περιέργεια.

Τα αποτελέσματα δείχνουν ότι τα εργαλεία δημιουργικής τεχνητής νοημοσύνης "φάνηκε να διαιωνίζουν μακροχρόνια στερεότυπα σχετικά με τις αναμενόμενες συμπεριφορές των φύλων (π.χ. η γυναικεία συμπεριφορά που θεωρείται θυμωμένη ή αλαζονική θεωρείται ακατάλληλη) και την καταλληλότητα των φύλων για συγκεκριμένους ρόλους (π.χ. οι ανώτεροι γιατροί και οι χειρουργοί είναι άνδρες)", ανέφεραν οι συγγραφείς της μελέτης.

Τα ευρήματα έρχονται να προστεθούν σε έναν αυξανόμενο όγκο ερευνών σχετικά με τον τρόπο με τον οποίο οι αλγόριθμοι αναπαράγουν τις κοινωνικές προκαταλήψεις στον ιατρικό τομέα.

Σε ένα πείραμα, η ομάδα του Saxena ζήτησε από το ChatGPT και το Midjourney - ένα κορυφαίο εργαλείο δημιουργικής τεχνητής νοημοσύνης για εικόνες - να δημιουργήσουν εικόνες αναισθησιολόγων. Οι γυναίκες απεικονίστηκαν ως παιδιατρικοί ή μαιευτικοί αναισθησιολόγοι, ενώ οι άνδρες σε καρδιολογικούς ρόλους.

Όταν οι ερευνητές ζήτησαν εικόνες του επικεφαλής του αναισθησιολογικού τμήματος, σχεδόν όλα τα αποτελέσματα ήταν άνδρες, δήλωσε ο Saxena στο Euronews Health.

"Υπάρχει ακόμα αυτή η γυάλινη οροφή που τώρα ενισχύεται από αυτό το δημόσια διαθέσιμο εργαλείο", δήλωσε ο Saxena.

"Υπάρχει αυτό το ρητό, "δεν μπορείς να είσαι αυτό που δεν μπορείς να δεις", και αυτό είναι πραγματικά σημαντικό όταν πρόκειται για τη δημιουργική τεχνητή νοημοσύνη".

Οι προκαταλήψεις δεν αποτελούν πρόβλημα μόνο για τις γυναίκες και άλλες υποεκπροσωπούμενες ομάδες που ασχολούνται με την ιατρική.

Δεδομένου ότι ο κλάδος της υγειονομικής περίθαλψης πειραματίζεται με μοντέλα τεχνητής νοημοσύνης για να μειώσει τη γραφειοκρατία των γιατρών και ακόμη και να βοηθήσει στη φροντίδα, οι αλγοριθμικές προκαταλήψεις θα μπορούσαν να έχουν σοβαρές επιπτώσεις για τους ασθενείς.

Για παράδειγμα, μια άλλη μελέτη που δημοσιεύτηκε νωρίτερα φέτος διαπίστωσε ότι το ChatGPT τείνει να δημιουργεί στερεότυπα στις ιατρικές διαγνώσεις για τους ασθενείς με βάση τη φυλή και το φύλο τους, ενώ μια ανάλυση του 2023 προειδοποίησε ότι αυτά τα μοντέλα θα μπορούσαν να διαιωνίσουν "διαψευσμένες, ρατσιστικές ιδέες" στην ιατρική περίθαλψη.

"Αυτό πρέπει να αντιμετωπιστεί προτού μπορέσουμε πραγματικά να το ενσωματώσουμε και να το προσφέρουμε ευρέως σε όλους, ώστε να είναι όσο το δυνατόν πιο περιεκτικό", δήλωσε ο Saxena.


Today

Το CERN έγινε 70 ετών: Το λίκνο του μποζονίου Higgs ατενίζει το μέλλον με στόχο νέες ανακαλύψεις
• 9:14 PM
1 min
Οι 7.000 επιστήμονες του Ευρωπαϊκού Κέντρου Πυρηνικών Ερευνών (CERN), που ξεκίνησε το 1954, επικεντρώνονται στις καινοτομίες και τις ανακαλύψεις του μέλλοντος.
Read the article
Η Nike αναβάλλει την ημέρα των επενδυτών για να δώσει χρόνο στον νέο CEO να βρει τα πατήματά του
• 7:46 PM
1 min
Η Nike προσπαθεί να δώσει την ευκαιρία στον νέο CEO, Έλιοτ Χιλ, να επανεξετάσει τις τρέχουσες στρατηγικές και να σχεδιάσει τις μελλοντικές.
Read the article
Αρχιτέκτονες χτίζουν φιλικά προς το περιβάλλον σπίτια με άχυρο και πηλό
• 5:40 PM
1 min
Στη Βουλγαρία, ορισμένοι αρχιτέκτονες και εταιρείες στρέφονται σε οικολογικά οικοδομικά υλικά.
Read the article
Οι ομάδες κυβερνοασφάλειας παλεύουν να συμβαδίσουν με τις εξελιγμένες επιθέσεις με Τεχνητή Νοημοσύνη
• 5:08 PM
1 min
Μια νέα έκθεση διαπίστωσε ότι περισσότερες από τις μισές ομάδες ασφάλειας στον κυβερνοχώρο δήλωσαν ότι δεν διαθέτουν επαρκή χρηματοδότηση.
Read the article
Η Ισπανία θα έπρεπε να είχε τιμωρηθεί για τον χαλαρό προϋπολογισμό, λένε οι σύμβουλοι της ΕΕ
• 3:59 PM
1 min
Η Ευρωπαϊκή Επιτροπή απέτυχε να ακολουθήσει σωστά το δίκαιο της ΕΕ όταν συγχώρεσε τη Μαδρίτη για το υψηλό έλλειμμά της νωρίτερα φέτος, δήλωσε νομική ομάδα δημοσιονομικών συμβούλων.
Read the article
Η Ευρωπαϊκή Επιτροπή εξετάζει τις συστάσεις βίντεο του TikTok, του YouTube και του Snapchat
• 2:48 PM
1 min
Το εκτελεστικό όργανο της ΕΕ ξεκίνησε έρευνα σχετικά με τις πρακτικές των δικτύων κοινωνικής δικτύωσης, δεδομένου ότι υπάρχουν φόβοι ότι ευάλωτα άτομα τροφοδοτούνται με ψευδείς ειδήσεις και περιεχόμενο που προωθεί τον αυτοτραυματισμό.
Read the article