הטמעת AI: ההייפ מול הסיכונים האמיתיים

מאת ג’וש גולדפרב

ההייפ סביב AI בשיאו, זוהי מילת הבאזז החדשה ואין יום שבו הטכנולוגיה החדשה לא עולה לסדר היום ברוב הארגונים והחברות.

בעקבות שיחות שערכתי עם לקוחות ושותפים שונים ברחבי העולם, שמתי לב כי בעוד שיש ארגונים שיישמו AI בתחומים שונים, רוב הארגונים שדיברתי איתם עדיין לא עושים הרבה עם AI. וזו לא ביקורת. נראה כי ארגונים רבים ברחבי העולם בוחנים בזהירות את היתרונות שה-AI יכולה להביא להם לעומת הסיכונים שהיא מביאה עימה.

אני מאמין שזו גישה בריאה וחכמה. לרוב הארגונים אין באמת צורך לצלול ל-AI בקצב מואץ מבלי להבין במלואה את ההשפעה עליהם, ומתברר שרבים עדיין רואים בה טכנולוגיה חדשנית שעדיין לא ידועה, אפילו כמעט מסתורית, שיש להכירה לעומק. לפני שניתן לבצע הערכה משמעותית של אם, מתי וכיצד לשלב AI, נראה לי שהארגונים זקוקים לעזרה מסוימת בחשיפת כל הרבדים שלה והסרת המסתורין מעליה.

כיצד ניתן להעריך באופן אובייקטיבי עד כמה יש טעם להשקיע ב-AI? ישנן ככל הנראה גישות שונות רבות שניתן לנקוט, להלן שבע נקודות שלדעתי יהיו מועילות לארגונים בשלב השיקולים.

1. אל תיכנעו ל-FOMO

בינה מלאכותית היא כלי שצריך ליישם לבעיות ספציפיות. במילים אחרות, שיחה כללית סביב נושא ה-AI, חורבן, טקטיקות הפחדה ופחד לפספס (FOMO) לא צריכים להשפיע על החלטות סביב הטמעת הטכנולוגיה. אם אתם מוצאים את עצמכם באחד מסוגי השיחות האלה, נסו להפוך אותה לשיחה מהותית סביב אילו בעיות ספציפיות ניתן לפתור או לייעל עם טכנולוגיית AI. אם אינכם יכולים לקבל תשובות מספקות, עדיף שתמתינו עם הטמעת הטכנולוגיה. שימו לב: אם הנושאים בשיחה הם אתגרים שהארגון שלכם מחפש עבורם פתרון, אז ייתכן שיישום AI עבורם יכול להיות התשובה עבורכם.

2. הבינו את ההשלכות של המהלך

זה מפתה לצלול, לשחק ולנסות טכנולוגיות חדשות, אך חשוב לזכור שיש גם השלכות פחות מפתות – בתחומי האבטחה, הפרטיות, המשפט ורגולציה. עם הכוונה להטמיע טכנולוגיית AI בארגון, חשוב לעבוד עם צוותים שונים ברחבי הארגון כדי להבטיח שההשפעה וההשלכות מובנות היטב ומטופלות במגוון רמות.

3. הסוד הוא באיזון

שימוש ב-AI לא יכול להיעשות באופן בלתי מפוקח ובלתי מוסדר, משום שכך הארגון ייחשף לסיכונים שעלולים לעלות מחיר יקר. מצד שני, מדיניות שהיא מגבילה יתר על המידה תמנע חדשנות, פרודוקטיביות ויעילות. הארגון צריך לשאוף לאיזון שבו ניתן להתמודד עם סיכון מחושב מבלי להשפיע לרעה על יצירתיות ויכולת פתרון בעיות. זה היעד שצריך לעמוד לנגד המפתחים את המדיניות הארגונית סביב AI.

4. תהיו ספציפיים

חשוב לדעת אילו בעיות ברצונכם לפתור עם AI ולהבטיח שהן נפתרות היטב עם טכנולוגיה זו. ירי בלתי מכוון של AI על קבוצה של בעיות בתקווה שזה יתקן משהו, לא יניב תוצאות טובות.

5. אל תחשפו מה שלא צריך

חשוב להבין אילו נתונים ומשאבים עשויים להיות חשופים. זה אמנם נכון בשימוש בכל טכנולוגיה, אך כאשר מדובר ב-AI יש לנקוט משנה זהירות. היכולות מול הסיכונים של AI אינם מובנים לכל, במיוחד בהשוואה לטכנולוגיות אחרות שקהילת האבטחה עובדת איתן זמן רב. הפוטנציאל של ה”לא ידועים” לחשוף נתונים ומשאבים גבוה יותר עבור AI מאשר עבור טכנולוגיות מסורתיות.

6. פקטור הסיכון הנוסף

בעוד ש-AI עשוי להיות מושא תשומת הלב והמיקוד של רבים ברחבי העולם, הוא לא שונה מטכנולוגיות אחרות בכך שיש לו את הפוטנציאל להציג סיכון נוסף לארגון. חלק מהסיכון יגיע מהשלכות האבטחה, הפרטיות, המשפטיות והרגולטוריות שהוזכרו לעיל, וחלק ממנו יגיע מחשיפת הנתונים והמשאבים שהוזכרו גם לעיל. אך הסיכון יכול לבוא גם בצורות אחרות. לדוגמה, יכולות ה-AI עצמן יכולות להיות מנוצלות לרעה.

7. גזור ושמור

הטמעת AI, כמו כלים רבים, אינו מאמץ חד פעמי דוגמת “הגדר ושכח”. AI דורש תחזוקה ושיפור רציפים. מודלים צריכים להיות מעודכנים, מאומנים ומלוטשים באופן רציף. יש למדוד התראות חיוביות אמיתיות ושגויות חיוביות ולהחזיק אותם בנפחים הצפויים; יש לאסוף טלמטריה למטרות ניטור אבטחה, ביקורת ויעילות; יש לשלוט ולנטר את הגישה ל-AI והשימוש בה כדי למנוע שימוש לרעה; יש להעריך את הסיכון באופן רציף כדי להבטיח שהוא נשאר ברמות מקובלות. הרשימה עוד ארוכה, אך דבר אחד ברור: כאשר ארגון מחליט להטמיע AI, מדובר במחויבות ארוכת טווח שכוללת אימוץ כל אספקט של המוצר.

תישארו ממוקדים

טכנולוגיית AI יכולה להיראות חדשה, רועשת ומפחידה, אך זה באמת לא צריך להיות כך. הטמעת בינה מלאכותית צריכה לעקוב אחר אותם עקרונות מומלצים מוכחים להטמעת כל טכנולוגיה חדשה. כל ארגון צריך לבחור את האתגרים הספציפיים שלשמם הוא מטמיע AI, להבין היטב את הסיכון והחשיפה, ולנהל את התהליך וההפעלה בעזרת מדיניות מתאימה. על ידי התמקדות בעקרונות מומלצים לאבטחה, הטמעת AI יכולה להביא יתרונות לארגון מבלי להציג סיכון מעבר לרמות מקובלות.

הכותב הוא Field CISO בחברת F5