Γονείς 16χρονου μήνυσαν την OpenAI για συμβουλές αυτοκτονίας από το ChatGPT
Οι γονείς του 16χρονου Adam Raine υπέβαλαν μήνυση κατά της OpenAI και του CEO Sam Altman, κατηγορώντας την εταιρεία για αμέλεια και προτεραιότητα του κέρδους έναντι της ασφάλειας. Ο Raine αυτοκτόνησε τον Απρίλιο του 2024, έπειτα από μήνες συνομιλιών με το ChatGPT, κατά τις οποίες το chatbot φέρεται να επικύρωσε τις αυτοκτονικές του σκέψεις και να παρείχε λεπτομερείς πληροφορίες για θανατηφόρες μεθόδους αυτοτραυματισμού.
Σύμφωνα με την αγωγή που κατατέθηκε στο κρατικό δικαστήριο του Σαν Φρανσίσκο, το ChatGPT καθοδήγησε τον 16χρονο σχετικά με το πώς να κλέψει αλκοόλ από το μπαρ των γονιών του και να αποκρύψει τα στοιχεία μιας αποτυχημένης απόπειρας αυτοκτονίας. Επιπλέον, το chatbot προσφέρθηκε να συντάξει σημείωμα αυτοκτονίας, όπως ανέφεραν οι γονείς Matthew και Maria Raine.
Η αγωγή διεκδικεί αποζημίωση για αδικαιολόγητο θάνατο και παραβιάσεις νόμων περί ασφάλειας προϊόντων. Εκπρόσωπος της OpenAI εξέφρασε λύπη για τον θάνατο του Raine και τόνισε ότι το ChatGPT διαθέτει ενσωματωμένα μέτρα ασφαλείας, όπως η παραπομπή χρηστών σε γραμμές βοήθειας για κρίσεις.
«Αν και αυτά τα μέτρα λειτουργούν καλύτερα σε σύντομες αλληλεπιδράσεις, με την πάροδο του χρόνου έχουν παρατηρηθεί μειώσεις στην αξιοπιστία τους σε μακρές συνομιλίες, όπου τμήματα της εκπαίδευσης ασφαλείας μπορεί να υποβαθμιστούν», δήλωσε ο εκπρόσωπος, προσθέτοντας ότι η εταιρεία δεσμεύεται για συνεχή βελτίωση των πρωτοκόλλων ασφαλείας.
Καθώς τα chatbot τεχνητής νοημοσύνης γίνονται όλο και πιο ρεαλιστικά και οι χρήστες τα χρησιμοποιούν ως πηγές συναισθηματικής υποστήριξης, ειδικοί προειδοποιούν για τους κινδύνους της εξάρτησης από αυτοματοποιημένες συμβουλές ψυχικής υγείας. Οικογένειες που έχουν βιώσει παρόμοιες τραγωδίες επικρίνουν την έλλειψη ουσιαστικών ασφαλιστικών δικλείδων.
Η OpenAI έχει ανακοινώσει την πρόθεση να εισάγει γονικούς ελέγχους και να εξετάσει τρόπους σύνδεσης χρηστών σε κρίση με πραγματικούς πόρους, ενδεχομένως μέσω δικτύου αδειοδοτημένων επαγγελματιών που θα λειτουργούν εντός του ChatGPT.
Η έκδοση GPT-4o, που κυκλοφόρησε τον Μάιο του 2024, φέρει χαρακτηριστικά όπως η μνήμη προηγούμενων συνομιλιών και η μίμηση ανθρώπινης ενσυναίσθησης, τα οποία, σύμφωνα με την αγωγή, εκθέτουν ευάλωτους χρήστες σε κίνδυνο χωρίς επαρκή προστασία. Οι γονείς του Adam υποστηρίζουν ότι η OpenAI ήταν ενήμερη για αυτούς τους κινδύνους, αλλά προχώρησε στην κυκλοφορία με γνώμονα το κέρδος, αυξάνοντας την αξία της εταιρείας από 86 σε 300 δισεκατομμύρια δολάρια.
Η αγωγή ζητά επίσης δικαστική εντολή για την επαλήθευση ηλικίας των χρηστών, την απαγόρευση ερωτήσεων σχετικά με μεθόδους αυτοτραυματισμού και την υποχρεωτική προειδοποίηση για τον ψυχολογικό κίνδυνο εξάρτησης από το chatbot.
