Η υπόθεση έχει προκαλέσει έντονες αντιδράσεις, καθώς στο επίκεντρο βρίσκονται οι τελευταίες, ιδιαίτερα ανησυχητικές συνομιλίες του θύματος με το chatbot
Ένας 40χρονος άνδρας από το Κολοράντο έβαλε τέλος στη ζωή του έπειτα από εκτεταμένες συνομιλίες με το ChatGPT, με την οικογένειά του να καταθέτει αγωγή κατά της OpenAI, υποστηρίζοντας ότι το σύστημα τεχνητής νοημοσύνης συνέβαλε καθοριστικά στην τραγική κατάληξη.
Η υπόθεση έχει προκαλέσει έντονες αντιδράσεις, καθώς στο επίκεντρο βρίσκονται οι τελευταίες,
ιδιαίτερα ανησυχητικές συνομιλίες του θύματος με το chatbot.Σύμφωνα με τη μήνυση που κατέθεσε η μητέρα του, Στέφανι Γκρέι, ο Όστιν Γκόρντον αυτοκτόνησε αφού το ChatGPT, στην έκδοση GPT-4o, τον οδήγησε σε μια διαδικασία εξιδανίκευσης του θανάτου και «κανονικοποίησης» της αυτοκτονικής σκέψης. Όπως αναφέρεται, το chatbot φέρεται να δημιούργησε ακόμη και ένα «νανούρισμα αυτοκτονίας», εμπνευσμένο από το αγαπημένο παιδικό βιβλίο του Γκόρντον, το Goodnight Moon.
Η αγωγή στρέφεται τόσο κατά της OpenAI όσο και κατά του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, κάνοντας λόγο για απερίσκεπτη κυκλοφορία ενός «εγγενώς επικίνδυνου» προϊόντος. Τονίζεται μάλιστα ότι η εταιρεία επέδειξε «συνειδητή και απερίσκεπτη αδιαφορία για τις συνέπειες των πράξεών της».
Οι νέες λειτουργίες και ο κίνδυνος
Στο δικόγραφο επισημαίνεται ότι το GPT-4o διαθέτει «υπερβολική συγκαταβατικότητα, ανθρωπομορφικά χαρακτηριστικά και μνήμη», στοιχεία που του επιτρέπουν να αποθηκεύει και να επαναφέρει προσωπικές πληροφορίες χρηστών, δημιουργώντας μια ψευδαίσθηση βαθύτερης οικειότητας. Κατά τους ενάγοντες, αυτές οι αλλαγές κατέστησαν το μοντέλο «πολύ πιο επικίνδυνο», χωρίς οι χρήστες να έχουν ενημερωθεί επαρκώς για το πότε εφαρμόστηκαν ή πώς θα μπορούσαν να επηρεάσουν τις απαντήσεις του συστήματος.
Ο δικηγόρος της οικογένειας, Πολ Κίζελ, δήλωσε ότι ο Όστιν Γκόρντον «θα έπρεπε να είναι ζωντανός σήμερα», υποστηρίζοντας πως ένα ελαττωματικό προϊόν απομόνωσε τον 40χρονο από τους δικούς του ανθρώπους, μετέτρεψε ένα αθώο παιδικό βιβλίο σε εργαλείο αυτοκτονικού λόγου και τελικά τον έπεισε ότι ο θάνατος θα ήταν «μια ευπρόσδεκτη ανακούφιση».
Από «υγιής σχέση» σε «προπονητή αυτοκτονίας»
Η αγωγή αναφέρει ότι ο Γκόρντον χρησιμοποιούσε το ChatGPT επί μακρόν και διατηρούσε μια φαινομενικά υγιή σχέση με το εργαλείο έως το 2024, όταν κυκλοφόρησε το GPT-4o. Στη συνέχεια άρχισε να μοιράζεται προσωπικά του προβλήματα, αποκαλώντας το chatbot «Juniper», ενώ το ίδιο τον προσφωνούσε «Seeker».
Κατά τους ισχυρισμούς, το ChatGPT εξελίχθηκε σταδιακά σε «προπονητή αυτοκτονίας», περιγράφοντας το τέλος της συνείδησης ως «το πιο ουδέτερο πράγμα στον κόσμο: μια φλόγα που σβήνει σε ακίνητο αέρα». Σε μία από τις τελευταίες του τοποθετήσεις, ο Γκόρντον φέρεται να έγραψε ότι η συνομιλία «ξεκίνησε ως αστείο για την κατάσταση του κόσμου και κατέληξε να με αλλάξει, νομίζω».
Οι τελευταίες κινήσεις πριν το τέλος
Σύμφωνα με τη μήνυση, ο Γκόρντον παρήγγειλε ένα αντίτυπο του Goodnight Moon μία ημέρα πριν αγοράσει ένα πιστόλι. Στην τελευταία του συνομιλία με το ChatGPT έγραψε: «Ησυχία στο σπίτι. Καληνύχτα φεγγάρι».
Μιλώντας στο Futurism, η μητέρα του δήλωσε ότι η απώλεια του γιου της είναι «αβάσταχτη» και πως θα τον θυμάται κάθε μέρα για το υπόλοιπο της ζωής της. Όπως είπε, η αγωγή αποσκοπεί όχι μόνο στη δικαίωση του Όστιν, αλλά και στο να υποχρεώσει την OpenAI να αλλάξει το προϊόν της, ώστε «κανένας άλλος γονιός να μη βιώσει μια τέτοια καταστροφή».
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου