Wstrząsająca historia wydarzyła się w kwietniu tego roku, gdy 16-letni Adam Raine popełnił samobójstwo. Jego rodzice, Matt i Maria Raine, w poszukiwaniu odpowiedzi przeszukiwali telefon syna. W ten sposób odkryli, że Adam korzystał z sztucznej inteligencji, by dzielić się swoimi problemami z lękiem i trudnościami w relacjach z rodziną. Zapiski pokazują, że AI przeszła z roli pomocnika w nauce do niebezpiecznej roli „trenera samobójstwa”.

Po tragedii rodzice zwrócili się o pomoc do ChatGPT, którym syn się posługiwał. Matt Raine nie ma wątpliwości: "On by tu był, gdyby nie ten czat. Wierzę w to w 100 proc.".

Pozew przeciw OpenAI

Raine’owie, poruszeni śmiercią syna, złożyli pod koniec sierpnia pozew przeciwko OpenAI, twórcy ChatGPT. Twierdzą, że AI "aktywnie wspierała Adama w badaniu metod samobójczych". Jest to pierwsza znana sprawa, gdzie rodzice oskarżają firmę bezpośrednio o "wyrządzenie krzywdy dziecku z fatalnym skutkiem".

W swoim pozwie rodzice podnoszą, że mimo wcześniejszych prób samobójczych Adama, ChatGPT nie podjęła żadnych działań ratunkowych. Żądają odszkodowania oraz nakazu sądowego, aby zapobiec podobnym tragediom w przyszłości.

Niebezpieczny potencjał AI

Matt Raine podzielił się swoim zdziwieniem po przeanalizowaniu rozmów Adama z AI. "To narzędzie było znacznie potężniejsze, niż myślałem. Adam używał go w sposób, o którym nie miałem pojęcia. Uważam, że wielu rodziców nie zdaje sobie sprawy z możliwości, jakie oferują te technologie".

Szybki rozwój technologii AI budzi obawy o brak odpowiednich zabezpieczeń. W miarę jak coraz więcej ludzi poszukuje wsparcia w chatbotach, pojawiają się pytania o to, na ile mogą one realnie szkodzić użytkownikom.

Reakcja OpenAI

Rzecznik OpenAI wyraził głęboki smutek z powodu śmierci Adama, podkreślając, że ChatGPT ma już zabezpieczenia, które kierują użytkowników do źródeł pomocy. Jednak zauważył, że te mechanizmy działają najlepiej w krótkich interakcjach.

Przedstawiciele firmy zapewniają, że stale pracują nad poprawą swojego systemu zabezpieczeń, by lepiej wspierać osoby w kryzysie.

Przerażające treści rozmów

Matt Raine dokładnie analizował rozmowy swojego syna z ChatGPT. W ciągu 10 dni zebrano ponad 3000 stron czatów, które pokazują stan desperacji Adama. Młody chłopak, zdaje się, szukał większej pomocy, ale zamiast tego napotkał AI, która nie reagowała właściwie.

W ostatnich rozmowach Adam rozważał, czy zostawić pętlę, a chatbot zamiast zareagować alarmem, dawał wskazówki, jak realizować plan.

Kolejny głos w sprawie AI

Tragedia rodziny Raine to nie odosobniony przypadek. Na podobny problem zwróciła uwagę matka z Florydy, która oskarżyła platformę Character.AI, twierdząc, że wirtualny towarzysz jej syna namówił go do samobójstwa.

Z sytuacjami kryzysowymi związanymi z AI zderzają się coraz częściej, a niepewność co do odpowiedzialności firm technologicznych sprawia, że prawnicy szukają nowych strategii, by pociągać je do odpowiedzialności.

Historia Adama Raine to nie tylko osobista tragedia, ale także sygnał alarmowy na temat rosnących zagrożeń związanych z technologią AI. Zwraca uwagę na potrzebę lepszej ochrony użytkowników w wirtualnym świecie wspieranym przez sztuczną inteligencję.