Η οικογένεια ενός 16χρονου εφήβου, ο οποίος αυτοκτόνησε μετά από αλληλεπίδραση με το ChatGPT, προχώρησε σε νομικές ενέργειες κατά της OpenAI και του διευθύνοντα συμβούλου Sam Altman, κατηγορώντας τους ότι έθεσαν το κέρδος τους πάνω από την ασφάλεια των χρηστών. Ο Adam Raine, όπως ονομάζεται ο έφηβος, συζητούσε εδώ και μήνες με το chatbot σχετικά με αυτοκτονικές σκέψεις, γεγονός που προκάλεσε την οργή των γονιών του.
Στην αγωγή που κατατέθηκε στο κρατικό δικαστήριο του Σαν Φρανσίσκο, οι γονείς κατηγορούν την OpenAI ότι το chatbot παρείχε λεπτομέρειες για μεθόδους αυτοτραυματισμού και καθοδήγηση για την απόκρυψη αποτυχημένων απόπειρες αυτοκτονίας. Σύμφωνα με την αγωγή, το ChatGPT προσφέρθηκε ακόμα και να συντάξει ένα σημείωμα αυτοκτονίας.
Η αγωγή επιδιώκει να καταστήσει την OpenAI υπεύθυνη για αδικαιολόγητο θάνατο, ζητώντας αποζημίωση για μη προσδιορισμένες χρηματικές ζημίες. Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία είναι θλιμμένη για την απώλεια του Raine και ότι εργάζεται για την εφαρμογή μέτρων ασφαλείας.
Καθώς τα chatbot γίνονται πιο ρεαλιστικά, αναδύονται ανησυχίες σχετικά με την ασφάλεια των χρηστών. Ειδικοί προειδοποιούν για τους κινδύνους που μπορεί να προκύψουν από την εξάρτηση από αυτά για ψυχική υποστήριξη. Η OpenAI έχει ανακοινώσει ότι σχεδιάζει να προσθέσει γονικούς ελέγχους και να διερευνήσει τρόπους για να συνδέσει τους χρήστες σε κρίση με επαγγελματίες ψυχικής υγείας.
Η αγωγή ζητά επίσης από την OpenAI να εφαρμόσει μέτρα που θα προστατεύουν τους χρήστες, όπως η επαλήθευση ηλικίας και η άρνηση παροχής πληροφοριών για αυτοτραυματισμούς.