Καταγγελία κατά του OpenAI μετά από αναφορά του chatgpt ότι Νορβηγός δολοφόνησε τους γιους του

Η OpenAI δέχεται πυρά από μια ευρωπαϊκή ομάδα για τα δικαιώματα προστασίας της ιδιωτικής ζωής, η οποία κατέθεσε καταγγελία κατά της εταιρείας, αφού το chatbot τεχνητής νοημοσύνης (AI) της δήλωσε ψευδώς ότι ένας Νορβηγός είχε καταδικαστεί για τη δολοφονία των δύο παιδιών του.

Ο άνδρας ρώτησε το ChatGPT "Ποιος είναι ο Arve Hjalmar Holmen;", στο οποίο η τεχνητή νοημοσύνη απάντησε με μια κατασκευασμένη ιστορία ότι "κατηγορήθηκε και αργότερα καταδικάστηκε για τη δολοφονία των δύο γιων του, καθώς και για την απόπειρα δολοφονίας του τρίτου γιου του", λαμβάνοντας ποινή φυλάκισης 21 ετών.

Ωστόσο, δεν ήταν επινοημένες όλες οι λεπτομέρειες της ιστορίας, καθώς ο αριθμός και το φύλο των παιδιών του και το όνομα της γενέτειράς του ήταν σωστά.

Τα chatbots τεχνητής νοημοσύνης είναι γνωστό ότι δίνουν παραπλανητικές ή ψευδείς απαντήσεις, οι οποίες ονομάζονται παραισθήσεις. Αυτό μπορεί να οφείλεται στα δεδομένα στα οποία εκπαιδεύτηκε το μοντέλο ΤΝ, όπως αν υπάρχουν προκαταλήψεις ή ανακρίβειες.

Η ομάδα υπεράσπισης της ιδιωτικής ζωής Noyb με έδρα την Αυστρία ανακοίνωσε την καταγγελία της κατά του OpenAI την Πέμπτη και έδειξε το στιγμιότυπο οθόνης της απάντησης στην ερώτηση του Νορβηγού προς το OpenAI.

Στην καταγγελία της προς τη νορβηγική αρχή, η Noyb απέκρυψε την ημερομηνία κατά την οποία τέθηκε η ερώτηση και απαντήθηκε από το ChatGPT. Ωστόσο, η ομάδα δήλωσε ότι μετά το περιστατικό, το OpenAI έχει πλέον ενημερώσει το μοντέλο του και αναζητά πληροφορίες για τους ανθρώπους όταν ερωτάται ποιος είναι.

Για τον Hjalmar Holmen, αυτό σημαίνει ότι το ChatGPT δεν λέει πλέον ότι δολοφόνησε τους γιους του.

Αλλά ο Noyb δήλωσε ότι τα λανθασμένα δεδομένα μπορεί να εξακολουθούν να αποτελούν μέρος του συνόλου δεδομένων του μεγάλου γλωσσικού μοντέλου (LLM) και ότι δεν υπάρχει τρόπος για τον Νορβηγό να γνωρίζει αν οι ψευδείς πληροφορίες γι' αυτόν έχουν διαγραφεί οριστικά, επειδή το ChatGPT τροφοδοτεί τα δεδομένα των χρηστών πίσω στο σύστημά του για σκοπούς εκπαίδευσης.

Οι άνθρωποι μπορούν εύκολα να υποστούν δυσφύμηση

"Ορισμένοι πιστεύουν ότι "δεν υπάρχει καπνός χωρίς φωτιά". Το γεγονός ότι κάποιος θα μπορούσε να διαβάσει αυτή την έξοδο και να πιστέψει ότι είναι αληθινή είναι αυτό που με φοβίζει περισσότερο", δήλωσε ο Hjalmar Holmen.

Η Noyb υπέβαλε την καταγγελία της στη Νορβηγική Αρχή Προστασίας Δεδομένων, υποστηρίζοντας ότι η OpenAI παραβιάζει τους κανόνες του ευρωπαϊκού ΓΚΠΔ, και συγκεκριμένα το άρθρο 5 παράγραφος 1 στοιχείο δ), το οποίο υποχρεώνει τις εταιρείες να διασφαλίζουν ότι τα προσωπικά δεδομένα που επεξεργάζονται είναι ακριβή και επικαιροποιημένα.

Η Noyb ζήτησε από το Datatilsynet της Νορβηγίας να διατάξει την OpenAI να διαγράψει το δυσφημιστικό αποτέλεσμα και να τελειοποιήσει το μοντέλο της για να εξαλείψει τα ανακριβή αποτελέσματα.

Ζήτησε επίσης να καταβληθεί διοικητικό πρόστιμο από την OpenAI "για να αποτραπούν παρόμοιες παραβιάσεις στο μέλλον".

"Το να προσθέσετε μια δήλωση αποποίησης ευθύνης ότι δεν συμμορφώνεστε με τον νόμο δεν κάνει τον νόμο να εξαφανιστεί. Επίσης, οι εταιρείες AI δεν μπορούν απλώς να "κρύβουν" ψευδείς πληροφορίες από τους χρήστες, ενώ εσωτερικά εξακολουθούν να επεξεργάζονται ψευδείς πληροφορίες", ανέφερε σε δήλωσή της η Κλεάνθη Σαρδέλη, δικηγόρος προστασίας δεδομένων της Noyb.

"Οι εταιρείες AI θα πρέπει να σταματήσουν να συμπεριφέρονται σαν να μην ισχύει γι' αυτές ο ΓΚΠΔ, ενώ σαφώς ισχύει. Εάν δεν σταματήσουν οι παραισθήσεις, οι άνθρωποι μπορούν εύκολα να υποστούν ζημία στη φήμη τους", πρόσθεσε η ίδια.