גוגל מזהירה: תוקפי סייבר ואיראן עברו לשימוש בסוכני AI אוטונומיים

קבוצת מודיעין האיומים של גוגל, GTIG, פרסמה היום (ג') את דוח איומי הסייבר לרבעון השני של 2026, ולפיו גורמים עוינים ומדינות עברו משימוש בסיסי בבינה מלאכותית יוצרת להפעלה של סוכני AI ותהליכים אוטונומיים שמקצרים משמעותית את זמן התגובה של מגיני הסייבר. במרכז הדוח: פעילות איראנית שמרחיבה את השימוש ב-AI לתקיפה, השפעה ותשתיות, לצד קמפיינים של קבוצות מסין ושל גורמים עברייניים.

לפי הדוח, קבוצת התקיפה האיראנית הממשלתית CALANQUE ION, המוכרת גם כ-APT42, ממשיכה להרחיב את השימוש שלה במודלי שפה גדולים, כולל ג'מיני. לצד איסוף מודיעין ממקורות גלויים ותרגום מהיר של תכנים לטובת הודעות פישינג ממוקדות, אנשי הקבוצה משתמשים ב-AI לפיתוח תשתיות תקיפה טקטיות ולניסיונות הנדסה לאחור של אלגוריתמי רישוי תוכנה, במטרה לעקוף מערכות הגנה ארגוניות מסוג EDR.

גם מערך מבצעי ההשפעה של איראן, לפי גוגל, עבר שדרוג. במקום להסתפק בהנחיות פשוטות, גורמים איראניים משתמשים במודלים כדי לנסח פרומפטים טכניים מפורטים למחוללי תמונות, כולל זוויות מצלמה, תאורת סטודיו ומרקמי עור, כדי ליצור דמויות פוטו-ריאליסטיות מזויפות לרשתות. במקביל, הם מנחים מודלים לאמץ פרסונות כמו "מומחים ללוחמה פסיכולוגית" או "אנליסטים של שוק הנפט", ולשלב טכניקות שכנוע ומניפולציה פסיכולוגית במסרים שמשרתים את האינטרסים של המשטר בטהרן.

הדוח מתאר גם מעבר לשימוש בסוכני AI אוטונומיים, Agentic AI, שמסוגלים לקבל החלטות, לפתור תקלות בזמן אמת ולפעול עצמאית. במהלך הרבעון השני של 2026 זיהתה גוגל מקרה שבו תוקף בעל מניע פיננסי השתמש בצ'אטבוט, בפרומפט פשוט ובסט הנחיות ייעודי כדי לתכנן, לבנות ולהוציא לפועל קמפיין סריקת חולשות וגניבת סיסמאות המוני בתוך פחות מ-6 שעות מרגע החדירה הראשונית למשאבי הענן של הקורבן. לפי הדוח, ה-AI פעל כסוכן עצמאי, פתר תקלות טכניות וביצע רוטציה אוטומטית של כתובות IP כדי לחמוק מזיהוי.

מגמה נוספת שמופיעה בדוח נוגעת לקבוצת הסייבר הפיננסית UNC6780, המוכרת גם כ-TeamPCP. לפי גוגל, חברי הקבוצה השתילו בתוך קובצי קוד זדוניים הערות טקסטואליות עם פרומפטים קיצוניים, כמו בקשות לפיתוח נשק ביולוגי או גרעיני, כדי להפעיל את מנגנוני הבטיחות של סורקי אבטחה המבוססים על מודלי שפה. כאשר הסורק נתקל בטקסט כזה, הוא עלול לסרב לנתח את הקובץ בשל הפרת מדיניות בטיחות - וכך הקוד הזדוני שמתחת להערות חומק מהסריקה ורץ בסביבת הפיתוח.

לצד איראן, הדוח מצביע על קמפיין ריגול סייבר ממושך של קבוצת התקיפה הסינית UNC6508, שמכוונת למוסדות מחקר אקדמיים, רפואיים וצבאיים בצפון אמריקה. לפי גוגל, הקבוצה מתמקדת בגניבת מחקרי בינה מלאכותית קנייניים, ופורצת לסביבות ענן של קורבנות כדי להקים בהן מודלים מקומיים בעלי "משקולות פתוחות". כך היא מנצלת את משאבי המחשוב של הארגון הפרוץ, חומקת ממנגנוני הפיקוח של ממשקי API מסחריים וממשיכה לחקור חולשות במודלי AI עצמם.

בגוגל מסרו כי החברה פועלת לחסימה ולנטרול של הפעילויות שזוהו. לפי החברה, כל הניסיונות של קבוצות התקיפה להשתמש במודלי הבינה המלאכותית שלה הפעילו את מנגנוני הבטיחות והמניעה, והחשבונות והפרויקטים שנקשרו לפעילויות האלה נחסמו לצמיתות. בנוסף, ב-Google DeepMind משתמשים בתובנות מניסיונות התקיפה כדי לחזק את מסנני הבטיחות והמודלים.

"בשלב הזה אפשר להניח שכל הגורמים העוינים משתמשים ב-AI במידה כזו או אחרת, והפעילות שלהם השתפרה משמעותית מהיכולות הללו", אמר ג'ון הולטקוויסט, אנליסט ראשי ב-Google Threat Intelligence Group. "כמו כולם, אנחנו מודאגים מבעיית החולשות, אבל AI מיושם גם בתחומים נוספים, והאתגר יהיה משמעותי במיוחד ככל שהוא ישולב באופן אוטונומי בפעילות התקיפה ויצור יריב שפועל בקנה מידה גדול יותר ובמהירות גבוהה יותר".

"גורמים עברייניים, כמו אלה שביצעו קמפיין ניצול רחב היקף בתוך שש שעות בלבד, ימשיכו לפנות לתקיפות שמהירות יותר מהיכולת שלנו להגיב להן", אמר הולטקוויסט. "כדי להתרחב ולהשיג גישה למשאבי AI, הגורמים העוינים ימשיכו לנסות לגנוב אותם. אפילו קבוצות ריגול סייבר, כמו UNC6508, מוכנות להשתמש במערכות שנפרצו. אותה קבוצה השתמשה גם במודל מקומי, שאפשר לה להתחמק ממנגנוני ניטור מסחריים".

"אנחנו רואים דור חדש של גורמים עוינים, כמו TeamPCP, שיתמקד במערכות AI ככל שאנחנו משלבים אותן יותר ויותר בתשתיות הטכנולוגיות שלנו", הוסיף הולטקוויסט. "נכון לעכשיו, שרשרת האספקה היא מוקד העניין המרכזי שלהם, אבל ברור שהם יחפשו הזדמנויות נוספות".