מערכת AI זיהתה בטעות שקית דוריטוס כנשק - ובן 16 נאזק על ידי שוטרים
טאקי אלן, תלמיד בן 16 מתיכון קנווד בבולטימור, סיים את אימון הפוטבול שלו, אכל שקית דוריטוס והטמין אותה בכיס שלו לתומו. הוא לא האמין ש-20 דקות אחר כך, מערכת הבינה המלאכותית לזיהוי נשק של התיכון שבו הוא לומד, תזהה את השקית כאקדח, ותזעיק שוטרים חמושים, שיאזקו אותו בידיו
נער אמריקני נכבל באזיקים על ידי שוטרים חמושים - לאחר שמערכת בינה מלאכותית טעתה וחשבה שהוא נושא אקדח, כשבפועל הוא החזיק שקית דוריטוס.
"פתאום הגיעו בערך שמונה ניידות משטרה, וכולם יצאו עם נשקים שלופים לעברי, צועקים לי לרדת על הרצפה", סיפר טאקי אלן, תלמיד בן 16 מתיכון קנווד בבולטימור, ל-WMAR-2 News המקומית.
משטרת מחוז בולטימור מסרה כי השוטרים "פעלו בצורה הולמת ומידתית בהתבסס על המידע שהיה בידיהם באותו רגע".
לפי המשטרה, ההתראה שהתקבלה ממערכת הבינה המלאכותית הועברה לבדיקה אנושית, שבה נקבע שאין איום, אך מנהלת בית הספר לא הבחינה בכך, ודיווחה לצוות הביטחון של בית הספר, שהזעיק את המשטרה.
האירוע עורר קריאות מצד גורמים מקומיים לבחון מחדש את הנהלים סביב השימוש בטכנולוגיות מסוג זה בבתי הספר.
אלן סיפר כי לאחר אימון פוטבול שלו, הוא סיים לאכול שקית דוריטוס והכניס את השקית הריקה לכיסו. כעבור כ-20 דקות הגיעו למקום שוטרים חמושים. "השוטר אמר לי לרדת על הברכיים, עצר אותי ושם עליי אזיקים", סיפר.
משטרת מחוז בולטימור מסרה ל-BBC כי אלן אכן נכבל באזיקים – אך לא נעצר. "האירוע נפתר בבטחה לאחר שנקבע שאין כל איום", נכתב בהצהרתם.
אלן אמר שכיום הוא מעדיף להישאר בתוך בית הספר אחרי אימון הפוטבול, כי הוא לא מרגיש "מספיק בטוח לצאת החוצה, במיוחד אם אני אוכל שקית צ’יפס או שותה משהו".
"זיהוי נשקים הוא דבר מורכב"
במכתב להורים כתבה מנהלת בית הספר, קייט סמית’, כי צוות הביטחון של המוסד "בדק במהירות וביטל את ההתראה הראשונית לאחר שאישר שאין נשק בזירה".
"פניתי לקצין המשאבים של בית הספר ודיווחתי לו על המקרה, והוא יצר קשר עם תחנת המשטרה המקומית לקבלת סיוע נוסף", כתבה. "שוטרים הגיעו לבית הספר, חיפשו את האדם המדובר ואישרו במהירות שאינו נושא נשק".
עם זאת, נבחרי ציבור מקומיים קראו לפתוח בחקירה נוספת של האירוע. "אני קורא למערכת החינוך של מחוז בולטימור לבחון את הנהלים סביב מערכת הזיהוי מבוססת הבינה המלאכותית שבה היא משתמשת", כתב חבר המועצה המקומית איזי פאקוטה בפייסבוק.
חברת Omnilert, שמפתחת את מערכת הבינה המלאכותית לזיהוי נשקים, מסרה ל-BBC: "אנחנו מצרים על האירוע ומבקשים להביע את דאגתנו כלפי התלמיד והקהילה שנפגעה מהאירועים שבאו בעקבותיו". בחברה הסבירו כי מעורבותם הסתיימה ברגע שהאירוע סומן כ"נפתר" במערכת, והוסיפו כי "המערכת פעלה כפי שתוכננה". "למרות שהעצם התגלה מאוחר יותר כלא נשק, התהליך פעל כראוי - במטרה להעדיף את הבטיחות והמודעות באמצעות אימות אנושי מהיר", נמסר.
באתר החברה Omnilert מתארת את עצמה כ"ספקית מובילה של טכנולוגיית זיהוי נשקים מבוססת בינה מלאכותית", ומציינת שורה של בתי ספר בארה"ב בין לקוחותיה. באתר נכתב כי "זיהוי נשקים בעולם האמיתי הוא תהליך מורכב". אבל אלן סיכם בפשטות: "אני לא חושב ששקית דוריטוס צריכה להיראות כמו אקדח, בשום מצב".