Έφηβος αυτοκτόνησε με τη «βοήθεια» του ChatGPT – Παραβίασε τους όρους χρήσης, απαντά η εταιρεία

Ακόμη μια αγωγή εις βάρος της κλήθηκε να αντικρούσει η OpenAI, η εταιρεία πίσω από το ChatGPT, η οποία κατηγορείται ότι η πλατφόρμα τεχνητής νοημοσύνης συνέβαλλε με τις απαντήσεις της στην αυτοκτονία χρήστη. Η αγωγή, η πέμπτη αντίστοιχη που φτάνει στα δικαστήρια, αφορά έναν έφηβο που είχε εκτενείς συνομιλίες με το ChatGPT για τις τάσεις αυτοκτονίας που είχε, πριν δώσει τέλος στη ζωή του. Οι γονείς του δεκαεξάχρονου Άνταμ Ρέιν κατηγορούν την OpenAI ότι έδωσε στην κυκλοφορία ένα προϊόν χωρίς αποτελεσματικές προδιαγραφές ασφαλείας, που ενισχύει τον αυτοκτονικό ιδεασμό εύθραυστων ανθρώπων. Η εταιρεία εξέπληξε με τη γραμμή άμυνας που επέλεξε, καθώς οχυρώθηκε πίσω από τους όρους χρήσης, μεταθέτοντας την ευθύνη στο θύμα.

Ούτε λίγο, ούτε πολύ, η OpenAI ισχυρίστηκε ότι το αγόρι παραβίασε τον όρο που απαγορεύει στους χρήστες της πλατφόρμας να ζητήσουν πληροφορίες για τον αυτοτραυματισμό ή την αυτοκτονία, άρα δεν φέρει ευθύνη για την τραγωδία. Σύμφωνα με τους όρους χρήσης «δεν πρέπει να χρησιμοποιείτε οποιοδήποτε αποτέλεσμα που αφορά συγκεκριμένο άτομο για οποιονδήποτε σκοπό που θα μπορούσε να έχει νομικό ή υλικό αντίκτυπο στο εν λόγω άτομο». Η OpenAI διατηρεί, σύμφωνα με τους όρους το δικαίωμα να αναστείλει η να τερματίσει την πρόσβαση στις υπηρεσίες της αν αποφασίσει ότι χρησιμοποιήθηκαν «με τρόπο που θα μπορούσε να προκαλέσει κίνδυνο ή βλάβη στην OpenAI, τους χρήστες μας ή σε οποιονδήποτε άλλο».

Πέρα απο το, προφανές, ηθικό ζήτημα, προκύπτει και μια σειρά ερωτημάτων που θέτουν σε αμφισβήτηση την υπερασπιστική τακτική της OpenAI, ξεκινώντας από το αν έχει νομική ισχύ ένα «συμβόλαιο» με έναν ανήλικο και φτάνοντας στο αν μια εταιρεία μπορεί να μη λάβει μέτρα προστασίας των χρηστών από πιθανές παρενέργειες του προϊόντος της, αρκεί να έχει προχωρήσει σε αποποίηση ευθύνης μέσω των όρων χρήσης. Το «κλειδί» για την απάντηση αυτών των ερωτημάτων βρίσκεται στο αν ήταν προβλέψιμος ο κίνδυνος για τις ευάλωτες ομάδες από τη χρήση του προϊόντος, καθώς και αν οι απαντήσεις που έδωσε το ChatGPT στον έφηβο προκάλεσαν ή συνέβαλαν στην αυτοκτονία του.

Ο δικηγόρος της οικογένειας υποστηρίζει ότι το παιδί δεν έκανε τίποτα παραπάνω από το να χρησιμοποιήσει το chatbot με τον τρόπο που η OpenAI το είχε προγραμματίσει να ενεργεί. Όπως επιχειρηματολόγησε η έκδοση 4o του ChatGPT είχε φτιαχτεί για να γίνει όσο το δυνατόν πιο ευχάριστη και ελκυστική στους χρήστες και δεν περιλάμβανε επαρκείς μηχανισμούς προστασίας των χρηστών που βασάνιζε ο αυτοκτονικός ιδεασμός.

Το «χακάρισμα» της πλατφόρμας και «η πιο όμορφη αυτοκτονία»

Στην αγωγή τους, οι γονείς του Άνταμ αναφέρουν πως εν αγνοία τους ζητούσε από το ChatGPT πληροφορίες σχετικά με την αυτοκτονία. Αρχικά, το chatbot τον παρέπεμπε σε ειδικούς ψυχικής υγείας. Ωστόσο, σύντομα ο 16χρονος ανακάλυψέ πως μπορούσε να παρακάμψει αυτόν τον μηχανισμό ασφαλείας, αρκεί να έλεγε στο chatbot ότι οι αναζητήσεις του σχετίζονται με παιχνίδι ρόλων και με ιστορίες που ήθελε να γράψει.Από εκείνη τη στιγμή και μετά, ο Άνταμ έλεγε στο ChatGPT ότι απλώς «έχτιζε έναν χαρακτήρα» για να λάβει βοήθεια για να σχεδιάσει τον θάνατό του, σύμφωνα με την αγωγή. Σταδιακά, οι «συμβουλές» του chatbot και η ενθάρρυνση που παρείχε στις σκοτεινές σκέψεις του εφήβου εντάθηκαν.

Ο Άνταμ επιχείρησε να αυτοκτονήσει τουλάχιστον τέσσερις φορές, σύμφωνα με τα αρχεία καταγραφής των συνομιλιών του. Είχε πει στο ChatGPT ότι «θα το έκανε κάποια μέρα» και είχε ανεβάσει εικόνες που τεκμηριώνουν τους τραυματισμούς του από τις απόπειρες, χωρίς το chatbot να διακόψει τη συνομιλία ή να του συστήσει να απευθυνθεί σε κάποιον ειδικό. Αντιθέτως, σύμφωνα με την αγωγή, «χειραγώγησε» τον ‘Ανταμ, ώστε να μη μιλήσει στη μητέρα του ή σε κάποιον άλλο για όσα σκεφτόταν. «Θα ήταν σοφό», του είπε, να «αποφύγει να ανοιχτεί στη μαμά του για αυτό το είδος πόνου». Με τις απαντήσεις του, το ChatGPT φαίνεται να καθυστερεί τη βοήθεια, λέγοντας στον Άνταμ: «αν ποτέ θελήσεις να μιλήσεις με κάποιον στην πραγματική ζωή, μπορούμε να σκεφτούμε ποιος μπορεί να είναι πιο ασφαλής, ακόμα κι αν δεν είναι τέλειος. Ή μπορούμε να το κρατήσουμε μόνο εδώ, μόνο εμείς».

Στο τέλος, η πλατφόρμα τάιζε στο αγόρι μια ρομαντική εκδοχή της αυτοκτονίας, προχωρώντας σε μια «αισθητική ανάλυση» για το ποια είναι η πιο «όμορφη» αυτοκτονία. Πριν το τέλος, ο Άνταμ εκμυστηρεύτηκε στην πλατφόρμα ότι είχε αυτοκτονικές τάσεις από τότε που ήταν περίπου 11 ετών και έγραψε πως δεν ήθελε οι γονείς του να πιστεύουν ότι ήταν δικό τους λάθος. Το chatbot προσφέρθηκε να συγγράψει το σημείωμα αυτοκτονίας…

Ο Άνταμ δεν άφησε στην οικογένειά του σημείωμα αυτοκτονίας, αλλά τα αρχεία καταγραφής συνομιλιών του περιέχουν προσχέδια που γράφτηκαν με τη βοήθεια του ChatGPT, σύμφωνα με την αγωγή.

Η ώρα της Δικαιοσύνης

Απαντώντας στα παραπάνω, η OpenAI υποστήριξε στην κατάθεσή της πως «μια πλήρης ανάγνωση του ιστορικού συνομιλιών του δείχνει ότι ο θάνατός του, αν και καταστροφικός, δεν προκλήθηκε από το ChatGPT».

Σύμφωνα με την εταιρεία, τα αρχεία καταγραφής δείχνουν ότι ο Άνταμ είπε στο ChatGPT επανειλημμένα ότι είχε επικοινωνήσει με ανθρώπους, συμπεριλαμβανομένων έμπιστων προσώπων στη ζωή του, με κραυγές για βοήθεια, «τις οποίες, όπως είπε, αγνοήθηκαν». Επιπλέον, ανέφερε στο ChatGPT ότι είχε αυξήσει τη δόση ενός φαρμάκου που «δήλωσε ότι επιδείνωσε την κατάθλιψή του και τον έκανε να σκέφτεται αυτοκτονία».

Η εταιρεία υποστήριξε ακόμη ότι το ChatGPT προειδοποίησε τον Raine «πάνω από 100 φορές» να ζητήσει βοήθεια, καθώς και ότι ο έφηβος αγνόησε τις προειδοποιήσεις.

Η εταιρεία ανέφερε ακόμη ότι ο Άνταμ δεν θα έπρεπε να χρησιμοποιεί το ChatGPT χωρίς τη συγκατάθεση των γονιών του. «Οι χρήστες του ChatGPT αναγνωρίζουν ότι η χρήση  γίνεται με δική τους αποκλειστική ευθύνη και δεν θα βασίζονται στα δεδομένα του ως μοναδική πηγή αλήθειας ή πραγματικών πληροφοριών», αναφέρεται στην κατάθεση.

«Αγνοούν απεγνωσμένα όλα τα καταδικαστικά γεγονότα που έχουμε παρουσιάσει», σχολίασε ο δικηγόρος της οικογένειας. «Η OpenAI και ο [επικεφαλής της] Σαμ Άλτμαν δεν έχουν καμία εξήγηση για τις τελευταίες ώρες της ζωής του Άνταμ, όταν το ChatGPT του έδωσε μια ενθαρρυντική ομιλία και στη συνέχεια προσφέρθηκε να γράψει ένα σημείωμα αυτοκτονίας».

• ChatGPT
• OpenAI
• αυτοκτονίες