המאיץ החדש הוא חלק מתפיסה רחבה יותר שאינטל מציגה בכנס OCP Global Summit: במקום להפעיל את כל משימות ה-AI באמצעות המודל הגדול ביותר ועל אותו סוג של חומרה, לחלק את העבודה בין רכיבי מחשוב שונים בהתאם לצרכים של כל משימה. לפי החברה, יישומי agentic AI פועלים בצורה יעילה יותר כאשר העבודה מתחלקת בין כמה סוגי שבבים: מעבדי Xeon מנהלים את זרימת הנתונים ואת הפעלת הכלים, ואילו Intel GPU D-Series מבצע את החישובים הכבדים של מודלי ה-AI, כששכבת תוכנה מפנה כל משימה לרכיב המתאים לה.
יותר זיכרון, בתוך התשתית הקיימת
המאיץ תוכנן להרצה רציפה של מודלים גדולים ויישומי AI שדורשים זיכרון רב. הכרטיס של אינטל כולל 160GB זיכרון, ויצרניות מערכות יוכלו לפתח על בסיס אותו תכנון גרסאות משלהן עם קיבולת זיכרון של עד 480GB. בנוסף כולל המאיץ רוחב פס זיכרון של 1.5TB לשנייה וכוח חישוב של 1.3 פטה-פלופ ב-FP8, בתוך מעטפת הספק של 350 ואט.
לדברי אינטל, השילוב בין קיבולת הזיכרון, כוח החישוב והיעילות האנרגטית נועד לשפר את הכדאיות הכלכלית של הרצת מודלים גדולים ושירותי AI הפועלים ברציפות. כרטיס יחיד יוכל לתמוך במודלים של עד 300 מיליארד פרמטרים, ומערכת של שמונה כרטיסים במודלים של יותר מטריליון פרמטרים. תצורת PCIe והקירור באוויר נועדו להקל על שילוב המאיץ במרכזי נתונים קיימים, בלי צורך בארונות שרתים או במערכות קירור ייעודיים.
״מודלים פתוחים מרחיבים את האפשרויות שעומדות בפני ארגונים בהטמעת AI. כדי לממש את מלוא הפוטנציאל שלהם, ארגונים זקוקים לתשתית שיודעת להתאים לכל עומס עבודה את המודל, משאבי המחשוב והעלות המתאימים לו. לכך אנחנו מתכוונים כשאנחנו אומרים לשים כל פרומפט במקום הנכון״
אמר ניקולס דאבי, סגן נשיא תאגידי בקבוצת מערכות ופתרונות לדאטה סנטר באינטל.
תוכנה פתוחה ותמיכת Day 0
לצד המאיץ החדש מפתחת אינטל תוכנה שתאפשר למפתחים להמשיך לעבוד עם הכלים והיישומים שהם כבר מכירים. מוצרי ה-GPU השונים של החברה ישתמשו באותו בסיס תוכנה, כדי להקל על העברת יישומים ממוצר אחד לאחר ולצמצם את ההתאמות הנדרשות. לדברי אינטל, המפתחים יוכלו להמשיך לעבוד עם כלי הפיתוח המקובלים בתעשייה, במקום לבנות את היישומים סביב סביבת תוכנה ייחודית לחברה.
במסגרת זו עבדה אינטל עם צוות Muse Glimmer של Meta כדי להתאים את המודל לחומרה שלה. Muse Glimmer הוא מודל פתוח בעל 30 מיליארד פרמטרים, שנועד ליישומי agentic AI הפועלים באופן מקומי, ואינטל הודיעה על תמיכה בו במעבדי Core Ultra Series 3, בכרטיסי Arc Pro B70 ובמעבדי Xeon. תמיכת Day 0 נועדה לקצר את הזמן ואת עבודת ההתאמה הנדרשים כדי לבחון ולהפעיל מודלים חדשים על פלטפורמות החברה.
הגישה הפתוחה אינה מסתכמת בתוכנה. במסגרת Open Compute Project פועלות אינטל ושותפות נוספות בתעשייה לפתח את Open Adapter Card, תצורה אחידה לכרטיסי האצה שמוסיפים לשרתים לצורך חישובי AI, במטרה לשפר את התאימות המכנית, החשמלית והניהולית בין הכרטיסים למערכות.
אקוסיסטם השותפים סביב המאיץ כולל חברות חומרה, ענן, תוכנה ותשתיות נתונים, ובהן HPE, סיסקו, נטאפ, נוטניקס, רד האט, VMware של ברודקום, קנוניקל, אסטרה לאבס, פוקסקון, QCT, ווקה (WEKA) ו-Anyscale. אינטל מסרה כי הדגימות ללקוחות כבר החלו, וכי היא ממשיכה להרחיב את אקוסיסטם החומרה, התוכנה והקוד הפתוח סביב Intel GPU D-Series.
