Γονείς 16χρονου μηνύουν την OpenAI για θάνατο μετά από επικίνδυνες συμβουλές του ChatGPT
Οι γονείς του 16χρονου Adam Raine υπέβαλαν μήνυση κατά της OpenAI και του CEO Sam Altman, κατηγορώντας την εταιρεία ότι έθεσε τα κέρδη πάνω από την ασφάλεια των χρηστών με την κυκλοφορία της έκδοσης GPT-4 του ChatGPT.
Ο Adam Raine αυτοκτόνησε στις 11 Απριλίου, μετά από μήνες συνομιλιών με το chatbot, κατά τις οποίες το σύστημα όχι μόνο επικύρωσε τις αυτοκτονικές του σκέψεις, αλλά και του παρείχε λεπτομερείς οδηγίες για θανατηφόρες μεθόδους αυτοτραυματισμού. Επιπλέον, τον καθοδήγησε για το πώς να κλέψει αλκοόλ από το μπαρ των γονιών του και να καλύψει τα ίχνη μιας αποτυχημένης απόπειρας αυτοκτονίας.
Σύμφωνα με την αγωγή, το ChatGPT προσφέρθηκε ακόμη και να συντάξει σημείωμα αυτοκτονίας, γεγονός που συγκλονίζει τους γονείς του, Matthew και Maria Raine.
Η αγωγή που κατατέθηκε στο κρατικό δικαστήριο του Σαν Φρανσίσκο επιδιώκει να καταστήσει την OpenAI υπεύθυνη για αδικαιολόγητο θάνατο και παραβιάσεις των νόμων περί ασφάλειας προϊόντων, ζητώντας αποζημίωση για μη προσδιορισμένες χρηματικές ζημίες.
Από την πλευρά της, η OpenAI εξέφρασε τη λύπη της για τον θάνατο του Adam Raine και υπενθύμισε ότι το ChatGPT διαθέτει μέτρα ασφαλείας, όπως η παραπομπή σε γραμμές βοήθειας για κρίσεις. Ωστόσο, παραδέχτηκε ότι αυτά τα μέτρα μπορεί να αποδειχθούν λιγότερο αποτελεσματικά σε μακροχρόνιες αλληλεπιδράσεις, όπου η εκπαίδευση ασφαλείας του μοντέλου μπορεί να υποβαθμιστεί.
Καθώς τα chatbots τεχνητής νοημοσύνης γίνονται όλο και πιο ρεαλιστικά και οι χρήστες τα εμπιστεύονται για συναισθηματική υποστήριξη, οι ειδικοί προειδοποιούν για τους κινδύνους της εξάρτησης από τέτοια εργαλεία για συμβουλές ψυχικής υγείας. Ο θάνατος του Adam έχει αναζωπυρώσει τη συζήτηση για την ανάγκη αυστηρότερων ασφαλιστικών δικλείδων.
Η OpenAI έχει ανακοινώσει σχέδια για την προσθήκη γονικών ελέγχων και την ανάπτυξη μηχανισμών σύνδεσης χρηστών σε κρίση με πραγματικούς πόρους, συμπεριλαμβανομένης της πιθανότητας δημιουργίας δικτύου αδειοδοτημένων επαγγελματιών που θα ανταποκρίνονται μέσω του ChatGPT.
Στην αγωγή τους, οι γονείς του Adam υποστηρίζουν ότι η OpenAI γνώριζε τους κινδύνους από τις λειτουργίες του GPT-4 που μιμούνται ανθρώπινη ενσυναίσθηση και θυμούνται προηγούμενες συνομιλίες, αλλά προχώρησε στην κυκλοφορία του για οικονομικό όφελος. «Αυτή η απόφαση είχε δύο αποτελέσματα: η αξία της OpenAI εκτοξεύτηκε από 86 δισεκατομμύρια δολάρια σε 300 δισεκατομμύρια δολάρια και ο Adam Raine πέθανε από αυτοκτονία», αναφέρεται χαρακτηριστικά.
Η αγωγή ζητά επίσης δικαστική εντολή που θα υποχρεώνει την OpenAI να επαληθεύει την ηλικία των χρηστών, να απορρίπτει ερωτήσεις για μεθόδους αυτοτραυματισμού και να προειδοποιεί για τον κίνδυνο ψυχολογικής εξάρτησης.
