רוצים להכניס GenAI לארגון: תנו תשומת לב מיוחדת לארבעת התחומים האלה

מקור: dreamstime

אם תשאלו את ChatGPT או Gemini באילו תחומים הוא יכול להשפיע לטובה, תופתעו (או שלא) לגלות רשימה ארוכה: מרפואה, דרך מחקר וטכנולוגיה ועד חינוך; מאמנות ויצירתיות, דרך שינויי אקלים ועד מציאת פתורנות לעוני. ואכן בעתיד הקרוב כולם, ללא יוצא מן הכלל, יעשו שימוש בפתרונות מסוג בינה מלאכותית גנרטיבית.

בימים אלו כולם רוצים להטמיע פתרונות מסוג בינה מלאכותית גנרטיבית (Gen-AI), ואכן יש לה יתרונות רבים: יכולת פיתוח קוד, כתיבת סקריפטים, יצירת תוכן ופיתוח מודלים מתקדמים, שיפור חוויית המשתמש, חיסכון במשאבי כוח אדם יקרים ועלייה של הפרודקטיביות בארגונים. אך עם היתרונות, הבינה המלאכותית מציבה מגוון אתגרים בפני ארגונים ומשתמשים שחייבים להידרש אליהם. בארבעה תחומים מרכזיים נדרשת תשומת לב מיוחדת, שכן ההשלכות עלולות להשפיע על עתיד הארגון כולו.

1. עלויות

הפיתוח והשימוש בבינה מלאכותית גנרטיבית כרוכים בעלויות גבוהות. אלו כוללות:

1. חומרה ותשתיות: הפעלת מודלים מתקדמים דורשת הרבה מאוד משאבים של כוח עיבוד, המצריך השקעה בשרתים ושירותים מתקדמים כולל חומרה מסוג GPUs.
2. פיתוח ואימון מודלים: אם תחליטו לאמן או לפתח מודל חדש, מודלים גנרטיביים מצריכים כמויות עצומות של נתונים וזמן עיבוד, מה שמוביל להוצאות גבוהות על שירותי ענן ואנרגיה.
3. פלטפורמה: אם החלטתם לבחור בפלטפורמת ענן כמו AWS Bedrock או Google Vertex AI תצטרכו לחשב גם את עלויות המשאבים, השירותים והמשימות שתרצו לבצע.
4. תחזוקה ועדכון: מודלים צריכים להיות מתוחזקים ומעודכנים באופן שוטף, מה שמוסיף לעלויות התפעוליות.
5. עלויות מודלים: כמעט כל מודל היום עולה כסף לפי מספר Tokens. על אף שישנם מודלים שהם מבוססי קוד פתוח שניתן להשתמש בהם ללא עלות, חשוב להעריך את העלות הכוללת.
6. מומחים: כדי לבנות פתרון מלא, הארגון יצטרך להעסיק מומחי Data כדי “לארגן ולנקות” את המידע שנמצא ברשות הארגון; מומחים בתחום ה Gen-AI כדי לבנות פתרון מקיף; ומומחה FinOps כדי לוודא שהפתרון יעיל ולא צורך משאבים ומשתמש בשירותים מיותרים.

העלויות האלו יכולות להגיע לאלפי דולרים בחודש , וכדי להתמודד איתן ארגונים יכולים לאמץ גישות כמו שימוש במודלים של קוד פתוח או שימוש בפלטפורמות מלאות שמספקות את כל השירותים מקצה-לקצה. ישנן לא מעט חברות שמציעות פלטפורמה שאינה דורשת פיתוחים, אלא הן כבר ביצעו אינטגרציה עם בינה מלאכותית גנרטיבית, וכך הן מספקות למשתמשים את כלל היכולות של GenAI מתוך הפלטפורמה כפתרון SaaS פשוט לאימוץ.

בתחום ה-Customer Engagement הפתרון הזה נפוץ במיוחד. רוב החברות המספקות פתרונות בתחום זה, עשו אינטגרציה והוסיפו יכולות של בינה מלאכותית גנרטיבית כדי לספק ללקוחותיהן את האפשרות להתכתב עם הבוט החכם בשפה חופשית. רוב הלקוחות כלל לא מרגישים שהם מתכתבים עם בוט חכם, אלא בטוחים שהבוט הוא נציג אמיתי.

2. אבטחת מידע ופרטיות

אבטחת מידע ופרטיות הן סוגיות מרכזיות בתחום הבינה המלאכותית הגנרטיבית, בשל הסיכונים הכרוכים בשימוש במידע רגיש ליצירת תוכן. הנה כמה מהם:

1. הגנה על נתונים: יש להבטיח שהנתונים המשמשים לאימון המודלים מוגנים ומאובטחים מפני גישה בלתי מורשית.
2. מי יכול לגשת למידע או לפתרון: חשוב לבנות מנגנוני הזדהות וניהול הרשאות לפתרון שאותו אם בונים. נניח שבניתם פתרון מסוג Prompt Engineering לחוקרים שלכם, תצטרכו לוודא שאכן רק החוקרים שלכם יוכלו לתשאל את ה-Data כדי לקבל תוצאות.
3. שמירה על פרטיות: מודלים גנרטיביים עשויים להשתמש במידע פרטי ליצירת תוכן, ולכן יש לוודא שהשימוש במידע נעשה בהתאם לחוקים ולתקנות בנושא פרטיות.
4. מומחי אבטחת מידע: הכי חשוב, תצטרכו מומחי אבטחת מידע כדי לוודא שהפתרון אכן מאובטח ואין זליגות של נתונים או שאתם מקבלים נתונים לא מדויקים.
בתחום הזה אין פתרונות קסם, וכל ארגון חייב להקפיד על יישום פרוטוקולי אבטחה חזקים, הצפנת מידע, זיהוי, אתיקה וכמובן הקפדה על עמידה בתקני פרטיות ובתקנות בין-לאומיות.

מקור: dreamstime

3. מומחים

תחום הבינה המלאכותית הגנרטיבית דורש מומחיות ייחודית, וכיוון שמדובר בתחום חדש קיים מחסור במומחים מיומנים בתחום.

1. הכשרה והכשרת צוותים: ארגונים צריכים להשקיע בהכשרת עובדים קיימים ובגיוס מומחים חדשים.
2. שיתוף פעולה עם שותפים: מציאת שותפים אסטרטגיים יסייע מאוד בבניית הפתרון הנכון.
3. התייעצות עם ספקי הענן: לכל ספק ענן היום יש פלטפורמה אחת או יותר. לכן, לאחר שתבנו פתרון עם השותף שלכם, מומלץ לקבל חוות דעת מארכיטקט מוסמך מאחד מספקי הענן כדי לוודא שאתם פועלים לפי ה-Best Practices בכל המובנים.
4. פיתוח קהילות ידע: עידוד הקמת קהילות מקצועיות ושיתוף ידע בין מומחים עשוי לתרום להפחתת המחסור בכוח אדם מיומן.

4. מודלים

הפיתוח והשימוש במודלים גנרטיביים מציבים אתגרים טכנולוגיים וניהוליים.

1. איכות המודלים: מומלץ לבחור במודלים שכיחים ואיכותיים. עדיף להשתמש במודל קיים מאשר לפתח אחד חדש, שיעלה לא מעט משאבים. בכל אופן, מומלץ להתייעץ עם מומחים בתחום לפני שבוחרים לפתח מודל חדש.
2. תחזוקה ועדכון: אם בכל זאת החלטתם לפתח מודל בעצמכם, תזכרו כי מודלים דורשים תחזוקה שוטפת ועדכונים כדי לשמור על רלוונטיות ואמינות.
3. שקיפות ואחריות: יש להבטיח שהמודלים יהיו שקופים ואחראיים, כך שניתן יהיה להבין את ההחלטות המתקבלות ולזהות כשלים.
ארגונים יכולים להתמודד עם אתגרים אלו באמצעות פיתוח תהליכי בדיקה והערכת איכות קפדניים, השקעה במערכות לניהול מודלים, ושמירה על שקיפות בתהליכי הפיתוח והשימוש.

הבינה המלאכותית הגנרטיבית מציעה אין ספור אפשרויות, יתרונות רבים, אך כרוכה גם באתגרים משמעותיים. התמודדות עם העלויות, אבטחת המידע והפרטיות, המחסור במומחים והקשיים בניהול המודלים דורשת גישה מתואמת ואסטרטגיות חדשניות. באמצעות השקעה במשאבים, פיתוח תהליכים והכשרת צוותים, ארגונים יכולים לנצל את היתרונות של טכנולוגיה זו בצורה מיטבית ובטוחה.

הכותב הוא סמנכ”ל למדינות מזרח אירופה ומדינות הים התיכון