AI באסטרטגיית הסייבר תשדרג משמעותית את ה-CISO והצוותים, אבל יש גם אבל

מאת תומר מאור ואודי אבן חיים

טכנולוגיית הבינה מלאכותית (AI) אמנם קיימת כבר שנים רבות במגוון רחב של שימושים, אך רק לאחרונה נעשתה קפיצה משמעותית במערכות והוטמעו אין ספור שירותים ומוצרים חדשים המייעלים ומפשטים את דרך פעולתם ואת האינטראקציה מול המשתמשים. הסיבה לכך היא כמובן הפיתוח של מודלי השפה הגדולים (Large Language Model), המאפשרים לתשאל את המודלים בשפה טבעית, ופתיחתם לציבור הרחב – חלקם כקוד פתוח וחלקם כשירותים ציבוריים. הטכנולוגיה הכי עדכנית בתחום היא בינה מלאכותית יוצרת (Generative AI), הכוללת יכולות נוספות של “הבנה” ויצירה של מסמכים וקבצים מסוגים שונים כגון וידאו, תמונות ופורמטים של קבצים מתוכנות רבות ומגוונות.

טכנולוגיית AI משולבת כבר שנים מספר גם בממד הסייבר, הן בתחום ההתקפי והן בתחום ההגנתי:

בתחום ההתקפי – נגישות הטכנולוגיה מעצבת מחדש את “שדה הקרב”, וכיום התוקפים יכולים להוציא לפועל מתקפות מתוחכמות, מהירות ובקנה מידה גדול, כאלה שהיו שמורות בעבר לקבוצות בעלות יכולות טכניות גבוהות וכיסים עמוקים בלבד. קבוצות תקיפה ופשע מאורגן רותמות את היכולות של AI, ובשילוב שיתופי פעולה עסקיים בין קבוצות תקיפה ומסחור של תשתיות תומכות תקיפה כגון מכירת נוזקות (Malwares), פרטי הזדהות וכלי תקיפה ברשת בצורה אנונימית, מצליחות לבצע מתקפות ברמה גבוהה מאוד, לעיתים ברמה מדינתית.

בתחום ההגנתי – על מנת להתמודד עם האיום הגובר, גם תפקידיהם של מנהלי אבטחת המידע והסייבר הארגוניים (CISOs) וצוותי ההגנה עוברים מהפכה של ממש. הם חייבים להיות יעילים ויצירתיים על מנת להתמודד עם האיום, ולכן מתבקש שירתמו יכולות מבוססות AI באסטרטגיית ההגנה וישדרגו את ארגז הכלים לצורך התמודדות עם התחכום הגובר מצד התוקפים.

כיצד הבינה המלאכותית תעזור לצוותי הסייבר ואיך היא יכולה לשדרג את יכולותיהם?

אחד היתרונות העיקריים של בינה מלאכותית הוא יכולת ההתאמה המהירה למצבים משתנים, תוך למידה והסקת מסקנות מניסיון עבר. צוותי אבטחה יוכלו להתמודד באופן יזום עם איומים חדשים ולא מוכרים, כאלה שאינם ניתנים לזיהוי על ידי כלים קיימים, וכן להפחית את זמן התגובה.

במקום להסתמך על חוקים וחתימות, בינה מלאכותית נשענת על טכניקות כמו למידה עמוקה (Deep Learning), למידה חיזוקית (Reinforcement Learning) ולמידה לא מפוקחת (Unsupervised Learning) כדי לאסוף, לנתח ולקטלג נתונים ממקורות שונים, כגון דיווחים על איומים, ניתוח סיכונים, מדדי ביצועים וניטור רשתות ומכשירים. בכך היא מסייעת לצוותים לגלות דפוסים אנומליים ולאבחן פגיעויות, מציעה המלצות ופעולות מבוססות על נתונים, וכן עוזרת לשפר את ההגנה על המערכות.

AI יכולה להיות מהירה ומדויקת יותר מבן אנוש, ובכך ניתן להפחית את זמן התגובה למתקפות ולהקטין פוטנציאלית את הנזק והעלויות.

יכולות ההגנה של צוותי אבטחת הסייבר ישתדרגו בין היתר בשילוב אימוץ גישת ההגנה האקטיבית. גישה זו מחליפה את הגישה המסורתית של מקרה-תגובה בכך שהיא מניחה כי האיום נמצא כבר בתוך גבולות הארגון ויש למנוע ממנו להתפשט ולפגוע בפעילות העסקית. גישה זו מקטינה את הסיכון של התקפות מתמשכות ומורכבות, ומגבירה את היכולת להתאושש מהתקפות. בנוסף, כאשר CISOs חמושים במודיעין איומים קונקרטי וממוקד המונע באמצעות בינה מלאכותית, קל להם יותר לקבל החלטות בצורה מושכלת ולהגביה את חומות ההגנה.

להגן גם על AI

אולם, כמו כל טכנולוגיה חדשה אחרת, הבינה המלאכותית מציבה בפני ארגונים, ובעיקר בפני צוותי האבטחה בהם, אתגרים חדשים הנוגעים לפרטיות המידע, נגישות למידע רגיש בידי גורמים שאינם מוסמכים, תקיפות של מערכות ה-AI עצמן המבוססות על מניפולציות של הקלט למערכות, ועוד.

במקרים של מערכות הממוקמות באופן מלא בתוך הארגון, קיימם אתגרים נוספים הנוגעים למשאבים הנדרשים להקמה ותחזוק המערכות, הן משאבי מחשוב והן משאבים אנושיים הנדרשים לתהליכי הלימוד והכיוונון של מערכות אלה. ארגונים המטמיעים מערכות אלו יצטרכו לרוב להכשיר את כוח האדם בתחומים חדשים, בעיקר ב-Data Science וסייבר, הנוגעים למשטחי התקיפה החדשים שנוספו לארגון כגון Prompt engineering.

אין ספק שמינוף יכולות ה-AI על ידי צוותי אבטחת המידע, ובראשם ה-CISO, היא כלי חזק וחיוני בעידן הסייבר הנוכחי. היא מסייעת רבות ביכולת להתמודד בביטחון עם נוף האיומים המתפתח. כך ה-CISO יכול להבין טוב יותר את המצב האבטחתי של הארגון, לקבוע עדיפויות ומדיניות, להצדיק את ההשקעות והתקציבים, לתקשר את הערך של האבטחה לבעלי העניין השונים ובשילוב אימוץ גישת ההגנה האקטיבית לשמור על הנכסים הקריטיים ולתמוך בהמשכיות העסקית של הארגון. אולם, יש לשקול בשום שכל את תהליך ההטמעה של מערכות AI ולתכנן את התהליך באופן מעמיק אשר יספק מענה לכל האתגרים הנוצרים מהמערכות עצמן.

הכותבים הם Head Of Advanced Security Center ו-Cybersecurity Strategic Account Executive ב-EY