Amazon Web Services (AWS) הכריזה על השקת שרתי מרכז נתונים חדשים המצוידים בשבבי בינה מלאכותית (AI) מתוצרתה, ומציבה אתגר לשליטתה של Nvidia בתחום. אפל אושרה כלקוחה, ומתכננת להשתמש בשבבי Trainium2 החדשים. יחידת הענן של AWS חשפה כי שרתים אלה יהיו חלק ממחשב-על ענק, שיכלול מאות אלפי שבבים. ההכרזה נעשתה ביום שלישי.
מחשב-העל, המופעל על ידי שבבי Trainium2 של AWS, ישמש את סטארטאפ ה-AI Anthropic כחברה הראשונה שתשתמש בטכנולוגיה זו. Anthropic ידועה ביצירת מערכות AI אמינות וניתנות לפירוש, ותנצל את כוח החישוב כדי לשפר את היכולות של מודלי ה-AI שלה.
בנואה דופין, מנהל עסקים באפל, אישר גם כי ענקית הטכנולוגיה משתמשת בשבבי Trainium2, מה שמסמן אימוץ משמעותי של ההצעה החדשה של AWS.
מט גרמן, מנכ"ל AWS, חשף עוד כי החברה כבר עובדת על Trainium3, האבולוציה הבאה של שבב ה-AI שלהם, שצפוי לעשות את הופעת הבכורה שלו בשנה הבאה.
מופעי Amazon Elastic Compute Cloud (Amazon EC2) החדשים, המופעלים על ידי AWS Trainium2, זמינים כעת באופן כללי ומציגים את Trn2 UltraServers. שרתי UltraServers אלה מתוכננים לספק ביצועים יוצאי דופן ויעילות עלות לאימון ופריסה של מודלי AI מודרניים, כולל מודלי שפה גדולים (LLM) ומודלי יסוד (FM).
מופעי Trn2 מבטיחים שיפור של 30-40% בביצועי מחיר לעומת מופעי EC2 מבוססי GPU נוכחיים ומתהדרים ב-16 שבבי Trainium2, המספקים 20.8 פטאפלופס שיא של מחשוב. זה הופך אותם לאידיאליים לטיפול בעומסי AI עם מיליארדי פרמטרים.
עבור משימות AI תובעניות אף יותר, Trn2 UltraServers מציעים שירות EC2 חדש, הכולל 64 שבבי Trainium2 מקושרים לעד 83.2 פטאפלופס שיא של מחשוב. הגדרה זו מכפילה פי ארבעה את יכולות המחשוב, הזיכרון והרשת של מופע יחיד, ומאפשרת אימון ופריסה של מודלי ה-AI הגדולים ביותר בעולם.
הפרויקט המשותף בין AWS ל-Anthropic, בשם Project Rainier, מכוון לבנות EC2 UltraCluster של Trn2 UltraServers, שיהפוך לאשכול המחשוב ה-AI הגדול בעולם לאחר השלמתו.
AWS הדגישה גם את שבב Trainium3 הקרב ובא, שייוצר באמצעות תהליך ייצור של 3 ננומטר, ומבטיח להכפיל פי ארבעה את הביצועים של שרתי Trn2 Ultra הנוכחיים.
ערכת פיתוח התוכנה (SDK) AWS Neuron מאפשרת אופטימיזציה של מודלי AI לפעול על שבבי Trainium, תומכת במסגרות פופולריות כמו JAX ו-PyTorch, ומשולבת עם מרכז המודלים של Hugging Face, המארח מעל 100,000 מודלים.
מופעי Trn2 זמינים כעת באזור AWS במזרח ארה"ב (אוהיו), עם תוכניות להרחיב את הזמינות לאזורים נוספים בקרוב. בינתיים, Trn2 UltraServers מוצעים בשלב תצוגה מקדימה.
מאמר זה נוצר ותורגם בתמיכת AI ונבדק על ידי עורך. לקבלת מידע נוסף, עיין בתנאים והתניות שלנו.