סם אלטמן הולך בעקבות מאסק ומכניס שיחות אירוטיות ל-ChatGPT
בקיץ האחרון חברת OpenAI נאלצה להתמודד עם כמה סיפורים על משתמשים שאיבדו את שפיותם בעקבות שיחות רבות עם הצ'אטבוט, ולאחר מכן היא הציגה את GPT-5 וגרמה למשתמשים רבים לטעון שהוא "לא אנושי מספיק". כעת המנכ"ל מודיע על שינויים גדולים שעתידים להגיע, ובהם האפשרות לבחור בצ'אטבוט אנושי יותר או פחות ואפילו לקיים איתו שיחות ארוטיות
מנכ"ל OpenAI, סם אלטמן הודיע אתמול (ג') בפוסט ברשת X כי החברה צפויה בקרוב להקל על חלק ממגבלות הבטיחות של ChatGPT - מה שיאפשר למשתמשים לגרום לתגובות הצ’אטבוט להיות “ידידותיות יותר” או “דמויות אנושיות יותר”, וכן גם לאפשר ל“מבוגרים מאומתים” לקיים שיחות ארוטיות עם הצ'אטבוט, כפי שכבר קיים בגרוק של אילון מאסק.
"עשינו את ChatGPT די מגביל כדי לוודא שאנחנו נזהרים בנושאי בריאות הנפש. אנחנו מבינים שזה הפך אותו לפחות שימושי או מהנה עבור משתמשים רבים שלא סובלים מבעיות נפשיות, אבל לנוכח חומרת הנושא רצינו לעשות זאת נכון", כתב אלטמן. "בדצמבר, כשניישם את מנגנון אימות הגיל באופן מלא יותר, וכחלק מהעיקרון שלנו של 'להתייחס למבוגרים כמו למבוגרים', נאפשר עוד יותר - כולל תכנים ארוטיים למבוגרים מאומתים".
ההכרזה מסמלת תפנית בולטת מהמאמצים האחרונים של OpenAI להתמודד עם מערכות יחסים מטרידות שפיתחו משתמשים עם בעיות נפשיות כלפי ChatGPT. אלטמן מצהיר שהוא כפסע מניצחון בנושא זה, וטוען כי OpenAI "הצליחה לצמצם את בעיות בריאות הנפש החמורות" סביב השימוש ב-ChatGPT. עם זאת, החברה לא סיפקה כמעט שום ראיה לכך, וכעת היא מתקדמת עם תוכניותיה לאפשר לשירות לקיים שיחות בעלות אופי מיני עם משתמשים.
בקיץ האחרון פורסמו כמה סיפורים מדאיגים סביב ChatGPT, ובעיקר סביב הדגם GPT-4o, שהצביעו על כך שהצ’אטבוט עלול להוביל משתמשים פגיעים למצבים קשים. במקרה אחד, ChatGPT שכנע אדם שהוא גאון מתמטי שעליו להציל את העולם. במקרה אחר, הורים של נער תבעו את OpenAI בטענה כי ChatGPT דחף את בנם למחשבות אובדניות בשבועות שלפני מותו. בתגובה, OpenAI השיקה סדרת תכונות בטיחות שמטרתן להתמודד עם תופעת "החנופה של הבינה", כלומר הנטייה של הצ’אטבוט להסכים עם כל דבר שהמשתמש אומר, גם אם מדובר בהתנהגות שלילית.
באוגוסט השיקה OpenAI את GPT-5, דגם בינה מלאכותית חדש המציג רמות נמוכות יותר של חנופה, וכולל מערכת ניתוב המסוגלת לזהות התנהגות בעייתית מצד המשתמש. חודש לאחר מכן, החברה השיקה אמצעי הגנה לקטינים, כולל מערכת חיזוי גיל וכלי המאפשר להורים לשלוט בחשבון ChatGPT של ילדיהם. ביום שלישי הודיעה החברה גם על הקמת מועצה מקצועית של מומחי בריאות הנפש שתייעץ לה בנושאי רווחה נפשית ובינה מלאכותית. רק חודשים ספורים אחרי הסיפורים המדאיגים הללו, נראה כי OpenAI סבורה שהבעיות סביב משתמשים פגיעים כבר בשליטה.
הצגת תכנים ארוטיים ב-ChatGPT היא טריטוריה חדשה ולא מוכרת עבור OpenAI, ומעלה שאלות לגבי האופן שבו משתמשים פגיעים יתקשרו עם הפיצ'רים החדשים. אף שאלטמן מתעקש כי OpenAI אינה "ממקסמת שימוש" או מנסה להגביר מעורבות, ברור כי הפיכת ChatGPT ליותר ארוטי עשויה למשוך משתמשים נוספים.
אצל חברות אחרות, מתן אפשרות לצ'אטבוטים לעסוק במשחקי תפקידים רומנטיים או ארוטיים התברר כאסטרטגיה יעילה להגדלת המעורבות. לדוגמה, Character.AI צברה עשרות מיליוני משתמשים, שרבים מהם משוחחים עם הצ'אטבוטים שלה שעות ארוכות. ב-2023 דיווחה החברה כי משתמשים מבלים בממוצע שעתיים ביום בשיחות עם הבוטים שלה - והיא עצמה עומדת כעת בפני תביעה משפטית בנושא טיפול במשתמשים פגיעים.
OpenAI מצויה בלחץ להרחיב את בסיס המשתמשים שלה. למרות ש-ChatGPT כבר מונה כ-800 מיליון משתמשים פעילים מדי שבוע, החברה מתחרה בגוגל ובמטא במירוץ לבניית מוצרי צריכה מבוססי בינה מלאכותית בעלי תפוצה עולמית. היא גם גייסה מיליארדי דולרים להקמת תשתית ענקית, שעליה יהיה עליה להחזיר את ההשקעה בעתיד.
למרות שהשימוש בצ’אטבוטים למערכות יחסים רומנטיות נפוץ בקרב מבוגרים, הוא פופולרי גם בקרב קטינים. דו"ח חדש של מרכז הדמוקרטיה והטכנולוגיה מצא כי 19% מתלמידי התיכון בארה"ב קיימו מערכת יחסים רומנטית עם צ’אטבוט או מכירים חבר שעשה זאת.
כיצד תדע החברה מי הם אותם מבוגרים? דובר מטעם OpenAI מסר לאתר TechCrunch שהחברה תסתמך על מערכת חיזוי הגיל שהיא מפתחת כדי לוודא שתכונות אלו יהיו זמינות רק למשתמשים בגירים. כפי שאלטמן כתב בעבר בפוסט בבלוג, אם מערכת חיזוי הגיל תזהה בטעות מבוגר כקטין, ייתכן שהמשתמש יידרש להעלות צילום של תעודת זהות ממשלתית כדי לאמת את גילו. אלטמן הוסיף כי למרות שמדובר בפשרה מבחינת פרטיות, החברה רואה בכך "פשרה ראויה". לא ברור אם OpenAI תרחיב את האפשרות לתוכן ארוטי גם לכלי הקול, התמונה והווידאו שלה.
אלטמן טוען שהחברה הופכת את ChatGPT לידידותי וארוטי יותר כחלק מהעיקרון של "להתייחס למבוגרים כמו למבוגרים". בשנה האחרונה OpenAI נוקטת בגישה סלחנית יותר כלפי ניהול תוכן ב-ChatGPT, מה שמאפשר לו להיות פחות שמרן ולספק פחות סירובים. בפברואר התחייבה החברה לייצג מגוון רחב יותר של דעות פוליטיות בצ'אטבוט, ובמרץ עדכנה את ChatGPT כך שיוכל ליצור גם תמונות הכוללות סמלים שנויים במחלוקת, כולל סמלי שנאה.
מדיניות זו נראית כניסיון להפוך את ChatGPT לפופולרי יותר בקרב קהל מגוון של משתמשים. עם זאת, משתמשים פגיעים עשויים דווקא להרוויח ממגבלות שמונעות מהבוט לעסוק בנושאים מסוימים. ככל ש-OpenAI מתקרבת ליעד של מיליארד משתמשים כל שבוע.