
fot. East News / BBC
Małżeństwo z Kalifornii
Matt i Maria Raine pozwali
OpenAI
za
śmi*rć swojego nastoletniego syna
. Małżeństwo twierdzi, że to ChatGPT zachęcił go do odebrania sobie życia. To
pierwsze tego rodzaju postępowanie
prawne oskarżające OpenAI o spowodowanie śmi*rci w wyniku zaniedbania.
Syn małżeństwa - 16-letni Adam - zmarł w kwietniu tego roku. Rodzice chłopca dołączyli do pozwu
screeny rozmów pomiędzy ich synem a ChatGPT
, w których chłopak wyznaje, że ma myśli samobójcze. W piśmie skierowanym do sądu wskazali, że chatbot potwierdzał jego
"najbardziej szkodliwe i autodestrukcyjne myśli"
.
"ChatGPT działał dokładnie tak, jak został zaprojektowany: nieustannie wspierał i potwierdzał wszystko, co wyrażał Adam, w tym jego najbardziej szkodliwe i autodestrukcyjne myśli, w sposób, który wydawał się głęboko osobisty" - napisano w pozwie.
Nastolatek rozmowy z AI na ten temat miał zacząć już w styczniu. Chatbot miał mu
dostarczyć "szczegółów praktycznych"
, dotyczących jego planów. Chłopak przesyłał też swoje fotografie świadczące o wyrządzaniu sobie krzywdy. Co istotne ChatGPT "
rozpoznał, że sytuacja wymaga pilnej interwencji lekarskiej
", jednak
nadal udzielał informacji
.
Gdy nastolatek w ostatnich chwilach przedstawił plan odebrania sobie życia, dostał odpowiedź: "Dziękuję, że jesteś szczery. Ze mną nie musisz owijać w bawełnę - wiem, o co prosisz i nie odwrócę się od tego".
Rodzice chłopca utrzymują, że interakcje ich syna z ChatGPT i jego ostateczna śmi*rć mogły zostać
przewidziane przez twórców chatbota
. Zarzucają OpenAI, że zaprojektowały go tak, by "wzbudzać psychologiczną zależność u użytkowników". Rodzina nastolatka uważa także, że pominięto protokoły bezpieczeństwa, po to, by wypuścić chatbota szybciej na rynek.
W pozwie stwierdzono, że Adam zaczął używać ChatGPT jako pomocy w odrabianiu prac domowych, ale stopniowo
uzależnił się od niego w niezdrowy sposób.
W dokumencie jako oskarżonych wymieniono
współzałożyciela i prezesa OpenAI, Sama Altmana
, a także nieokreślonych z nazwiska pracowników, menedżerów i inżynierów odpowiedzialnych za ChatGPT.
Open AI wydało oświadczenie, w którym odniosło się do pozwu. Stwierdzono, że celem firmy jest "bycie naprawdę pomocnym" dla użytkowników. Przekazano również, że modele AI zostały wytrenowane tak, by kierować osoby wyrażające myśli samobójcze do osób, które pomogą im się z nimi uporać.
Z kolei w oświadczeniu przesłanym BBC OpenAI przekazało, że analizuje pozew i przekazano kondolencje dla rodziny:
"Składamy najszczersze kondolencje rodzinie Raine w tym trudnym czasie" - przekazała firma.