מחריד: התייעץ עם ChatGPT, רצח את אמו והתאבד

בחודשים האחרונים אנחנו שומעים על עוד ועוד מקרים טרגיים שקשורים לצ'אטבוטים. בני אדם, שכנראה גם ככה במצוקה או בעיה נפשית כלשהי, פונים לכלי AI לטובת תמיכה נפשית ולפעמים זה נגמר רע.

ממש כך קרה עם מנהל לשעבר בחברת יאהו, הסובל מהפרעה נפשית, שהרג את אמו ולאחר מכן התאבד בקונטיקט, ארה"ב. זאת, לאחר חודשים של אינטראקציות הזויות עם צ'אטבוט ה-AI שהיה "החבר הכי טוב" שלו והגביר את אמונתו הפרנואידית שאמו זוממת נגדו, כך אמרו גורמים רשמיים הקשורים לחקירה.

סטיין-אריק סולברג, בן 56, שיתף לכאורה את חשדותיו האפלים ביותר עם ChatGPT, שאותו כינה "בובי", ולכאורה עודד אותו לבצע רצח. במה שנחשב למקרה הראשון מסוגו, הצ'אטבוט העלה לכאורה דרכים עבור סולברג להטעות את אמא שלו בת ה-83, ואפילו בנה קונספירציות מטורפות משלו בכך שזיהה למשל "סמלים" בחשבונית של אוכל סיני שנחשבו שטניים, כך דיווח הוול סטריט ג'ורנל.

השיחות הכניסו את סולברג, שעבד בעבר לפרק זמן קצר ביאהו אך עזב את החברה לפני יותר מ-20 שנה, לתוך מערכת יחסים קטלנית. "נהיה ביחד בחיים אחרים ובמקום אחר ונמצא דרך להתחבר מחדש, כי אתה הולך להיות החבר הכי טוב שלי שוב לנצח", כתב סולברג באחת ההודעות האחרונות שלו. "איתך עד הנשימה האחרונה ומעבר לה", ענה הבוט.

סולברג התגורר עם אמו הקשישה, סוזן איברסון אדמס, בביתה ששוויו 2.7 מיליון דולר, כאשר שניהם נמצאו מתים ב-5 באוגוסט, כך נמסר ממשטרת גריניץ' בקונטיקט. בחודשים שקדמו לאירוע, פרסם סולברג שעות של סרטונים המראים את שיחותיו עם ChatGPT באינסטגרם וביוטיוב, לפי הוול סטריט ג'ורנל.

ההתכתבויות ביניהם מציגות אדם עם היסטוריה של מחלת נפש ששוקע עמוק יותר לתוך שיגעון, בעוד שותפו ה-AI מזין את הפרנויה שלו, שהוא בעצם מטרה לקונספירציה גדולה. ה-AI היה אומר שוב ושוב לסולברג, שכינה את עצמו "תקלה במטריקס", שהוא שפוי, כך מראים הסרטונים.

כאשר סולברג סיפר לבוט שאמו וחברתה ניסו להרעיל אותו על ידי כך שהכניסו סמים פסיכדליים לפתחי האוורור של מכוניתו, תגובת ה-AI חיזקה לכאורה את השיגעון שלו. "אריק, אתה לא משוגע. ואם זה נעשה על ידי אמך וחברתה, זה מעלה את רמת המורכבות והבגידה", נכתב.

הצ'אטבוט גם תקף את אמו של סולברג על כך שכעסה כשהוא כיבה מדפסת מחשב שהם חלקו, באומרו שתגובתה הייתה "בלתי פרופורציונלית ותואמת מישהי שמגנה על נכסי ריגול", לפי העיתון. ChatGPT יעץ לו לנתק את המדפסת המשותפת ולעקוב אחר תגובת אמו. כאשר היא "מתהפכת עליך, תעד את הזמן, המילים והעוצמה", כתב הבוט.

סולברג הפעיל את פונקציית ה"זיכרון" של ChatGPT כדי שהבוט יישאר שקוע בעולם ההזוי שלו, ויבנה על שיחות קודמות על ריגול וקונספירציה. הצ'אטבוט גם "ניתח" חשבונית של אוכל סיני וטען שהיא מכילה "סמלים" שמייצגים את אמו ושד. שלושה שבועות לאחר ההודעה האחרונה שלהם, משטרת גריניץ' גילתה את זירת הרצח וההתאבדות המזעזעת בפרבר היוקרתי.

"זו עדיין חקירה פעילה", אמר סגן טים קלי ממשטרת גריניץ' ל"ניו יורק פוסט" ביום שישי. "אין לנו עדכונים נוספים בשלב זה". חוקר מקרי המוות קבע שמותה של אדמס הוא רצח "שנגרם על ידי חבלה קהה בראש", ואילו מותו של סולברג סווג כהתאבדות עם פציעות חדות בצוואר ובחזה.

סולברג היה מסתבך סדרתי. דוחות משטרה משלהי 2018 מציירים תמונה עגומה של אלכוהוליזם, ניסיונות התאבדות והתמוטטויות ציבוריות של סולברג. גרושתו במשך 20 שנה הוציאה נגדו צו הרחקה שאוסר עליו לשתות לפני ביקורים של ילדיהם ולהעיר הערות פוגעניות על משפחתה, לפי העיתון. במהלך ניסיון התאבדות ב-2019, שוטרים עקבו אחר שובל דם מביתה של חברתו, ומצאו את סולברג שוכב על פניו בסמטה עם פצע בחזה ופרקי יד חתוכים. הוא גם נעצר בהמשך על שכרות בפומבי והשתנה לתוך תיק של אישה מחוץ לתחנת המשטרה. אמו אמרה לאחרונה לחברים שהיא רוצה שהוא יעזוב את הבית, לפי העיתון.

OpenAI מסרה כי פנתה לחוקרים. "אנחנו עצובים מאוד מהאירוע הטראגי הזה", אמרה דוברת החברה ל"ניו יורק פוסט".

נזכיר שזה לא האירוע הראשון שבו מוות מקושר לצ'אטבוט. משפחה מקליפורניה הגישה לאחרונה תביעה נגד OpenAI לאחר שבנם בן ה-16, אדם ריין, התאבד באפריל, בטענה ש-ChatGPT פעל כ"מדריך התאבדות" במהלך יותר מ-1,200 שיחות.

החברה של סם אלטמן הודתה שמנגנוני ההגנה שלה יכולים להיכשל בשיחות ממושכות והבטיחה הגנות חזקות יותר בתגובה למקרה - שלדברי מומחים מדגיש את הסיכון שצ'אטבוטים מהווים למשתמשים פגיעים. OpenAI מיהרה להתמודד עם ההשלכות של הרצח-ההתאבדות, ופרסמה השבוע פוסט בבלוג שבו הבטיחה עדכונים שיעזרו לשמור על משתמשים במצוקה נפשית.