ענקית הסייבר הבינלאומית טרנד מיקרו (Trend Micro) פרסמה את דוח מצב אבטחת ה-AI למחצית הראשונה של 2025, ובו היא מזהירה מפני עלייה חדה במספר החולשות והמתקפות על מערכות מבוססות בינה מלאכותית (AI). הדוח מתאר כיצד האצת השימוש בטכנולוגיות בינה מלאכותית בארגונים נעשית לעיתים תוך הזנחת שכבות אבטחה קריטיות, מה שמוביל לחשיפה לסיכונים חמורים, כולל השתלטות מרחוק, הדלפת מידע והשפעה על התנהגות המודלים.
לפי הדוח, עשרות פגיעויות 'יום אפס' נחשפו במערכות בינה מלאכותית, לרבות בסיסי נתונים, קונטיינרים, סוכני LLM ומנועי הסקה. אחת הדוגמאות הבולטות היא חשיפתן של מעל 200 שרתי ChromaDB לאינטרנט ללא כל הגנה, מה שאפשר גישה חופשית לנתונים. חולשות קריטיות נוספות נמצאו גם ב־Redis v8 וב־NVIDIA Triton, שם שרשרת של ארבע חולשות אפשרה הטענת נתונים מסוכנים לשרת הסקה תפעולי.
הדוח מצביע גם על מגמה מדאיגה של מתקפות על מערכות Agentic AI – סוכנים מתקדמים בעלי יכולת היסק עצמאית. צוות המחקר של טרנד מיקרו פיתח את Pandora, סוכן ניסיוני שנועד לבחון דרכי תקיפה אפשריות. באמצעותו, נחשפו תרחישים שבהם תוקפים מצליחים להטמיע הוראות זדוניות בתוכן שהסוכן טוען, מה שעלול להוביל לדליפות מידע.
בנוסף, הדוח מדגיש כי הבינה המלאכותית הפכה לכלי מרכזי בידי תוקפים, המאפשר להם ליצור פיתיונות אמינים יותר ולהרחיב את פעילותם לקורבנות חדשים. שילוב של בינה מלאכותית יוצרת (GenAI) עם מידע ביומטרי ונתונים שדלפו מאפשר יצירת זהויות דיגיטליות לצרכי הונאה, סחיטה ופעילות פלילית. הדוח מציין במיוחד את השימוש הגובר בטכנולוגיות דיפ פייק, כש-36% ממשתמשי טרנד מיקרו שדיווחו על חשיפה לתוכן כזה במסגרת ניסיונות הונאה. פלטפורמות דיפ פייק זמינות כיום גם ללא תשלום, ומספקות לתוקפים יכולות שבעבר היו נחלת מדינות בלבד.
אסור להיכנס ל-AI מהר בלי אבטחה
טרנד מיקרו מדווחת על נטייה גוברת של גורמי איום לנטוש את שירותי הרשת האפלה לטובת פלטפורמות דיפ פייק מסחריות, המציעות כלים נגישים גם לפושעים חסרי רקע טכני. בין הכלים: שיבוש הזרמות מדיה בזמן אמת, שכפול קולות והפשטת תמונות.
לדברי רייצ'ל ג'ין, סמנכ"לית פלטפורמת ארגוניות בטרנד מיקרו, "בינה מלאכותית עשויה לייצג את ההזדמנות של המאה עבור ארגונים גלובליים, אך מי שממהר מדי להיכנס לתחום, מבלי לנקוט באמצעי אבטחה מספקים, עלול בסופו של דבר לגרום ליותר נזק מתועלת. כפי שהמחקר שלנו חושף, תשתיות רבות מדי בתחום נבנות כיום מרכיבים שאינם מאובטחים או שאינם מוטלאים, מה שפותח דלת בפני תוקפים".
החברה קוראת לתעשייה לחשב מסלול מחדש ולעבור מגישת אבטחה תגובתית לגישה הוליסטית, הכוללת הטמעה רב-שכבתית, תהליכי למידה מתמשכים ושיתופי פעולה חוצי מגזרים. היא מדגישה את הצורך בשילוב אבטחה בכל שלב ממחזור החיים של מערכות AI, היערכות לעידן הקוונטי, שימוש בכלים ייעודיים כמו Cybertron, והטמעת פרקטיקות מתקדמות כגון חתימה דיגיטלית למודלים וגישת Zero Trust.
טרנד מיקרו, הפועלת בישראל מעל 20 שנה, ממשיכה להוביל את תחום אבטחת הסייבר עם פלטפורמות מבוססות AI שמגינות על מאות אלפי ארגונים ומיליוני משתמשים ברחבי העולם. החברה משתפת פעולה עם גופים בינלאומיים כמו MITRE ATLAS ו-CoSAI לקידום סטנדרטים ונהלים מותאמים לעידן הבינה המלאכותית.
קרדיט צילום תמונה ראשית: יח"צ
תקציר של ההודעה לעיתונות המלאה