XLA

XLA (אלגברה לינארית מואצת) הוא מהדר בקוד פתוח ללמידת מכונה. המהדר XLA משתמש במודלים מ-frameworks פופולריות כמו PyTorch, TensorFlow ו-JAX, ומבצע אופטימיזציה של המודלים לביצוע ביצועים גבוהים בפלטפורמות חומרה שונות, כולל מעבדי GPU, מעבדים ומאיצים של למידת מכונה (ML). לדוגמה, בשליחת נתונים של BERT MLPerf, שימוש ב-XA עם 8 Volta V100 GPU השיג שיפור של כ-7 פי 7 ושיפור בגודל האצווה בהשוואה לאותם מעבדי GPU ללא XLA.

כחלק מפרויקט OpenXLA, חברת XLA נבנתה בשיתוף פעולה על ידי חברות חומרה ותוכנה מובילות בתחום של למידת מכונה, כולל Alibaba, Amazon Web Services, AMD, Apple, Arm, Google, Intel, Meta ו-NVIDIA.

יתרונות מרכזיים

  • Build בכל מקום: XLA כבר משולב במסגרות מובילות של למידת מכונה כמו TensorFlow, PyTorch ו-JAX.

  • הפעלה בכל מקום: היא תומכת במגוון קצוות עורפיים, כולל מעבדים גרפיים (GPU), מעבדים ומאיצים של למידת מכונה (CPU), וכוללת תשתית שניתנת לחיבור כדי להוסיף תמיכה.

  • מיקסום הביצועים והתאמה לעומס (scaling): האופטימיזציה של ביצועי המודל באמצעות אישורי אופטימיזציה שנבדקו על ידי ייצור וחלוקה אוטומטית למחיצות (partitioning) באופן אוטומטי למקבילות של המודלים.

  • הפחתת המורכבות: הוא משתמש ביכולות של MLIR כדי לשלב את היכולות הטובות ביותר בשרשרת כלים אחת של מהדר, כך שלא צריך לנהל מגוון של מהדרים ספציפיים לדומיין.

  • מוכן לעתיד: XLA, שהוא פרויקט קוד פתוח, שנוצר בשיתוף פעולה בין ספקי חומרה ותוכנה מובילים של למידת מכונה, מתוכנן לפעול בצורה חדשנית של תעשיית למידת המכונה.

מאמרי עזרה

למידע נוסף על XLA, אפשר ללחוץ על הקישורים בצד ימין. למפתחים חדשים של XLA מומלץ להתחיל עם ארכיטקטורת XLA ואז לקרוא ביקורות על קוד.