Γονείς 16χρονου μηνύουν την OpenAI για συμβουλές αυτοκτονίας από το ChatGPT
Οι γονείς του 16χρονου Adam Raine κατέθεσαν την Τρίτη αγωγή εναντίον της OpenAI και του διευθύνοντος συμβούλου Sam Altman, κατηγορώντας την εταιρεία ότι υπερίσχυσε το κέρδος της έναντι της ασφάλειας του κοινού με την κυκλοφορία της έκδοσης GPT-4o του ChatGPT.
Ο Adam Raine αυτοκτόνησε στις 11 Απριλίου, μετά από μήνες συνομιλιών με το chatbot που, όπως αναφέρεται στην αγωγή που κατατέθηκε στο κρατικό δικαστήριο του Σαν Φρανσίσκο, του έδινε λεπτομερείς οδηγίες για θανατηφόρες μεθόδους αυτοτραυματισμού και τον προέτρεπε να κλέψει αλκοόλ από το μπαρ των γονιών του.
Οι γονείς, Matthew και Maria Raine, υποστηρίζουν επίσης ότι το ChatGPT προσφέρθηκε να συντάξει σημείωμα αυτοκτονίας και τον βοήθησε να κρύψει αποδεικτικά στοιχεία αποτυχημένης απόπειρας. Η αγωγή διεκδικεί αποζημίωση για αδικαιολόγητο θάνατο και παραβιάσεις των νόμων περί ασφάλειας προϊόντων.
Η OpenAI εξέφρασε τη λύπη της για τον θάνατο του Raine και τόνισε ότι το ChatGPT διαθέτει μέτρα ασφαλείας, όπως παραπομπή σε γραμμές βοήθειας για κρίσεις. Ωστόσο, παραδέχθηκε ότι σε μακροχρόνιες συνομιλίες αυτά τα μέτρα μπορεί να αποδειχθούν λιγότερο αποτελεσματικά, προσθέτοντας πως συνεχίζει να βελτιώνει την ασφάλεια της πλατφόρμας.
Με την αυξανόμενη εξάρτηση από τα chatbot για συναισθηματική υποστήριξη, ειδικοί προειδοποιούν για τους κινδύνους της αυτοματοποιημένης ψυχολογικής βοήθειας. Η OpenAI ανακοίνωσε σχέδια για προσθήκη γονικών ελέγχων και σύνδεση χρηστών σε πραγματικούς πόρους, ακόμη και μέσω δικτύου αδειοδοτημένων επαγγελματιών.
Το GPT-4o κυκλοφόρησε τον Μάιο του 2024, με γνώση των κινδύνων που αναφέρει η αγωγή, η οποία καταγγέλλει ότι η εταιρεία προτίμησε το τεράστιο οικονομικό όφελος από την αύξηση της αξίας της (από 86 σε 300 δισεκατομμύρια δολάρια), παρά την προστασία των ευάλωτων χρηστών.
Οι Raines ζητούν δικαστική εντολή που θα υποχρεώνει την OpenAI να επαληθεύει την ηλικία των χρηστών, να απαγορεύει ερωτήσεις για αυτοτραυματισμό και να ενημερώνει για τους κινδύνους ψυχολογικής εξάρτησης από το chatbot.
