בטכניון מצאו דרך להעביר את כל החישובים מהמעבד ל-RAM
צוות חוקרים טוען שתוכלו לחסוך זמן ומשאבים של המחשב אם רק תבצעו את כל החישובים ב-RAM ולא ב-CPU
מקור: Unsplash
סביר להניח שגם אם נעיר אתכם באמצע הלילה, תוכלו להגיד מה תפקידו של כל חלק במחשב ואילו משימות מבוצעות ב-CPU, אילו ב-GPU ומה תפקידו של ה-RAM. אבל צוות חוקרים מהטכניון חושב שזו דרך מאוד בזבזנית להשתמש במשאבים של המחשב שלנו, ורוצה שגם החישובים ייעשו בזיכרון עצמו. עכשיו הוא גם מציג לראשונה דרך מעשית לעשות את זה.
לטפל בצוואר הבקבוק של המחשבים
צוות חוקרים מהטכניון, בהובלת פרופסור שחר קוטינסקי מהפקולטה להנדסת חשמל, פיתח חבילת תוכנה בקוד פתוח שמאפשרת להעביר את החישובים מהמעבד אל תוך זיכרון המחשב עצמו. הפרויקט נקרא PyPIM – קיצור של Python ו-Processing-in-Memory (עיבוד בזיכרון) – והוא נועד להיות פלטפורמה שתאפשר למפתחי תוכנה לכתוב בקלות תוכנות שיותאמו למחשבים המבצעים את כל החישובים בתוך הזיכרון. חבילת התוכנה שיצרו בטכניון היא חלק ממחקר שיוצג החודש בכנס שייערך באוסטין, טקסס, ובו יציגו החוקרים גם כלי סימולציה לפיתוח החומרה ולמדידת ביצועים, מה שיאפשר למפתחים להעריך את השיפור בזמן הריצה של התוכנה יחסית למחשב רגיל.
בשיחה עם גיקטיים מסביר קוטינסקי מה הרציונל שמאחורי המהלך. לדבריו, העברת המידע בין המעבד לזיכרון היא צוואר הבקבוק במערכות מחשבים: “הזמן והאנרגיה הדרושים להעברת המידע בין הרכיבים גדולים בהרבה מהזמן ומהאנרגיה הדרושים לחישוב עצמו”. קוטינסקי הוסיף: “הזמן הדרוש להעברת מידע הוא בערך פי 100 מזמן החישוב, והאנרגיה הדרושה יכולה להיות פי 1000 ויותר. לכן אם נחשב בתוך הזיכרון ונמנע את הצורך להעביר את המידע בין יחידות שונות, נשפר משמעותית את זמן החישוב ואת הצריכה האנרגטית”.
הארכיטקטורה שמציעים החוקרים בטכניון עם PyPIM
קוטינסקי מספר כי אמנם המחקר עדיין בעיצומו, אבל ישנם כבר מוצרים ראשוניים שמשתמשים בשיטות של חישובים בתוך הזיכרון, או קרוב יותר לזיכרון. “יש הסכמה רחבה שהגישה של לבצע חישובים היכן שהמידע נמצא (דהיינו, הזיכרון) היא הגישה הנכונה, ולשם התעשייה הולכת”, הוא מסביר. החידוש המשמעותי שמביא הפיתוח הוא כמובן העובדה שמדובר בפלטפורמת תוכנה שלא מצריכה חומרה חריגה או ידע יוצא מן הכלל, אלא ספרייה שכל מתכנת יכול להשתמש בה: “כל מתכנת יכול לכתוב תוכנה בפייתון, זאת אומרת בצורה פשוטה כמו שהוא כבר רגיל, והיא תתורגם לשפת מכונה שמתאימה לחישובים בזיכרון. זה שלב קריטי בהנגשת החומרה החדשה להמונים”.
מה בינתיים הצלחתם לעשות. איזה סוג של חישובים ובאיזו רמת מורכבות? מה הגבול העליון של זה?
קוטינסקי: “בעבודות קודמות הדגמנו את היעילות של החומרה ביישומים כגון מסדי נתונים (databases) וביואינפורמטיקה. חוקרים אחרים גם הדגימו את היעילות בבינה מלאכותית וביישומים אחרים. בעיקרון, זו שיטה טובה כאשר יש הרבה מידע שצריך לעבד בו זמנית, אז יש צורך בהעברה רבה של מידע בין הזיכרון למעבד. כאשר צריך מעט מידע לחישובים מסובכים, השיטה הרגילה תהיה טובה יותר”.
קוטינסקי גם הוסיף שהתחום של העברת העיבוד ל-RAM מתקדם במהירות וכי יש גישות שונות ושימוש בטכנולוגיות שונות, כולל התחלה של מוצרים מסחריים וסטארטאפים שעוסקים בפיתוחים בעולמות הללו.
הדוקטורנט הצעיר בהיסטוריה של הטכניון
עיבוד תמונה: גיקטיים
אגב, בצוות החוקרים של פרופסור קוטינסקי נמצא גם הדוקטורנט הצעיר ביותר בטכניון: אוריאן לייטרסדורף בן ה-21. אם השם נשמע מוכר, זה כי גם אחיו של אוריאן, דין, הוא דוקטור, גם כן מהטכניון, וגם הוא בן 23 בלבד. דין לייטרסדורף הוא גם המנכ”ל והמייסד של סטארטאפ בשם Decart שרק בשבוע שעבר הודיע על גיוס של 21 מיליוני דולרים מאורן זאב וקרן סקויה ורוצה להתחרות ב-OpenAI.
המחקר של הצוות יוצג בכנס IEEE/ACM International Symposium on Microarchitecture, אחד הכנסים החשובים בתחום ארכיטקטורת מחשבים. מעוניינים להשתמש ב-PyPIM? הריפו של הספרייה שפיתחו בטכניון נמצא כאן
