אנבידיה חושפת את ארכיטקטורת NVIDIA Blackwell
ארכיטקטורת Blackwell היא דור ההמשך לארכיטקטורת NVIDIA Hopper שהושקה לפני שנתיים
עמי רוחקס דומבה
| 25/03/2024
באדיבות אנבידיה
בכנס GTC 2024 אנבידיה חשפה את ארכיטקטורת NVIDIA Blackwell, שתניע את עידן המחשוב הבא ותאפשר לארגונים בכל מקום בעולם לבנות ולהריץ בינה מלאכותית יוצרת בזמן-אמת, עם מודלי שפה גדולים (LLMs) בעלי טריליוני פרמטרים, ובעלות וצריכת אנרגיה נמוכות עד פי 25 בהשוואה לדור הקודם.
הארכיטקטורה מונעת על ידי טכנולוגיית NVLink מהדור החמישי, שבפיתוחה לקחו חלק עובדות ועובדי מרכז הפיתוח של אנבידיה ישראל.
ארכיטקטורת Blackwell GPU מבוססת על טכנולוגיות מחשוב מואץ מהפכניות, שיסייעו להניע פריצות דרך בעיבוד נתונים, פיתוח תרופות מונחה-מחשוב (Computer-Aided), סימולציות הנדסיות, מחשוב קוונטי ובינה מלאכותית יוצרת – תעשיות מתפתחות הנמצאות בתחילת דרכן ומהוות הזדמנות מהותית עבור אנבידיה.
בין החברות שיאמצו את Blackwell נמצאות Amazon, Google, Meta, Microsoft ו-OpenAI. הארכיטקטורה תאפשר אימון (Training) והסקה (Inference) למודלי שפה גדולים (LLMs) עם יכולת להגיע לסקייל של עד 10 טריליון פרמטרים.
"במשך שלושה עשורים הובלנו את פיתוח יכולות המחשוב המואץ, במטרה להניע פריצות דרך כמו למידה עמוקה ובינה מלאכותית", אמר ג'נסן הואנג, מייסד ומנכ"ל NVIDIA.
"בינה מלאכותית יוצרת היא הטכנולוגיה המגדירה את זמננו. מעבדי ה-Blackwell הם המנוע שמניע את המהפכה התעשייתית הזו. בעבודה משותפת עם הארגונים הדינמיים ביותר בעולם, נממש את ההבטחה של הבינה המלאכותית בכל תעשייה".
הארכיטקטורה החדשה נקראת על שמו של דייויד הרולד בלאקוול, מתמטיקאי שהתמחה בתאוריית המשחקים ובסטטיסטיקה, והיה לאפרו-אמריקאי הראשון שנבחר לאקדמיה הלאומית למדעים בארה"ב (National Academy of Sciences). ארכיטקטורת Blackwell היא דור ההמשך לארכיטקטורת NVIDIA Hopper שהושקה לפני שנתיים.
עם 208 מיליארד טרנזיסטורים, ארכיטקטורת בלאקוול ל-GPUs מיוצרת בהליך ייצור 4NP TSMC מותאם אישית שבמסגרתו שני GPU Dies מחוברים בחיבור שבב-אל-שבב במהירות 10 טרה-בייט לשנייה, לכדי GPU אחד.
בנוסף, שבבי Blackwell מבצעים שימוש בדור החמישי של טכנולוגיית NVLink - המפותחת, בין היתר, במרכז הפיתוח של אנבידיה בישראל – על מנת להאיץ את הביצועים של מודלים בעלי טריליוני פרמטרים ומודלי Mixture-of-Experts (ר"ת MoE).
הטכנולוגיה מציעה רוחב פס דו-כיווני חסר תקדים של 1.8 טרה-בייט לשנייה פר-GPU, ומבטיחה את היכולת לחבר עד ל-576 GPUs יחד עבור מודלי השפה המורכבים ביותר.
מוצרי תקשורת מואצת חדשים
כדי להניע את את הדור הבא של מודלי בינה מלאכותית עם טריליוני פרמטרים ותשתיות ה-AI, אנבידיה מכריזה על מוצרי תקשורת מואצת חדשים: NVIDIA Quantum-X800 InfiniBand עבור הביצועים הטובים ביותר לתשתיות AI ייעודיות, ו-NVIDIA Spectrum-X800 Ethernet עבור תשתיות מרכזי נתונים המותאמות לעידן הבינה המלאכותית.
סדרת המתגים החדשה, X800, פותחה כדי להניע טכנולוגיות AI בסקייל, והיא הראשונה בעולם להציע רוחב פס ומהירות העברת נתונים של 800 גיגה-ביט לשנייה, קצה-אל-קצה.
סדרת ה-X800 מותחת את קצה גבולות היכולת של ביצועי התקשורת עבור מחשוב בינה מלאכותית, ומציעה סביבת תוכנה שמאיצה את ביצועי אפליקציות AI, ענן, עיבוד מידע (Data Processing) ו-HPC בכל סוגי מרכזי הנתונים, כולל אלו המבוססים על ארכיטקטורת Blackwell החדשה.
"טכנולוגיות NVIDIA Networking מרכזיות ביכולת ההתרחבות של תשתיות מחשוב על ל-AI", אמר גלעד שיינר, סגן-נשיא בכיר ל-Networking ב-NVIDIA. "המתגים מסדרת NVIDIA X800 מהווים פלטפורמות תקשורת קצה-אל-קצה המאפשרות לנו להשיג יכולות בינה מלאכותית יוצרת בסקייל של טריליוני פרמטרים, החיוניות לתשתיות ה-AI החדשות".
ראשונות לאמץ את טכנולוגיות Quantum InfiniBand ו-Spectrum-X החדשות הן Microsoft Azure ו-Oracle Cloud Infrastructure. "AI הוא כלי עוצמתי שהופך מידע לידע.
מאחורי המהפכה הזו, נמצאת האבולוציה של מרכזי נתונים, שהפכו למנועי AI עתירי ביצועים, עם דרישה הולכת וגוברת לתשתיות תקשורת", אמרה נידי צ'אפל (Nidhi Chappell), סגנית-נשיא לתשתיות בינה מלאכותית ב-Microsoft Azure.
"עם האינטגרציה של פתרונות התקשורת של NVIDIA, Microsoft Azure תמשיך לבנות את התשתיות שפורצות את גבולות ה-Cloud AI".
ארכיטקטורת Blackwell היא דור ההמשך לארכיטקטורת NVIDIA Hopper שהושקה לפני שנתיים
באדיבות אנבידיה
בכנס GTC 2024 אנבידיה חשפה את ארכיטקטורת NVIDIA Blackwell, שתניע את עידן המחשוב הבא ותאפשר לארגונים בכל מקום בעולם לבנות ולהריץ בינה מלאכותית יוצרת בזמן-אמת, עם מודלי שפה גדולים (LLMs) בעלי טריליוני פרמטרים, ובעלות וצריכת אנרגיה נמוכות עד פי 25 בהשוואה לדור הקודם.
הארכיטקטורה מונעת על ידי טכנולוגיית NVLink מהדור החמישי, שבפיתוחה לקחו חלק עובדות ועובדי מרכז הפיתוח של אנבידיה ישראל.
ארכיטקטורת Blackwell GPU מבוססת על טכנולוגיות מחשוב מואץ מהפכניות, שיסייעו להניע פריצות דרך בעיבוד נתונים, פיתוח תרופות מונחה-מחשוב (Computer-Aided), סימולציות הנדסיות, מחשוב קוונטי ובינה מלאכותית יוצרת – תעשיות מתפתחות הנמצאות בתחילת דרכן ומהוות הזדמנות מהותית עבור אנבידיה.
בין החברות שיאמצו את Blackwell נמצאות Amazon, Google, Meta, Microsoft ו-OpenAI. הארכיטקטורה תאפשר אימון (Training) והסקה (Inference) למודלי שפה גדולים (LLMs) עם יכולת להגיע לסקייל של עד 10 טריליון פרמטרים.
"במשך שלושה עשורים הובלנו את פיתוח יכולות המחשוב המואץ, במטרה להניע פריצות דרך כמו למידה עמוקה ובינה מלאכותית", אמר ג'נסן הואנג, מייסד ומנכ"ל NVIDIA.
"בינה מלאכותית יוצרת היא הטכנולוגיה המגדירה את זמננו. מעבדי ה-Blackwell הם המנוע שמניע את המהפכה התעשייתית הזו. בעבודה משותפת עם הארגונים הדינמיים ביותר בעולם, נממש את ההבטחה של הבינה המלאכותית בכל תעשייה".
הארכיטקטורה החדשה נקראת על שמו של דייויד הרולד בלאקוול, מתמטיקאי שהתמחה בתאוריית המשחקים ובסטטיסטיקה, והיה לאפרו-אמריקאי הראשון שנבחר לאקדמיה הלאומית למדעים בארה"ב (National Academy of Sciences). ארכיטקטורת Blackwell היא דור ההמשך לארכיטקטורת NVIDIA Hopper שהושקה לפני שנתיים.
עם 208 מיליארד טרנזיסטורים, ארכיטקטורת בלאקוול ל-GPUs מיוצרת בהליך ייצור 4NP TSMC מותאם אישית שבמסגרתו שני GPU Dies מחוברים בחיבור שבב-אל-שבב במהירות 10 טרה-בייט לשנייה, לכדי GPU אחד.
בנוסף, שבבי Blackwell מבצעים שימוש בדור החמישי של טכנולוגיית NVLink - המפותחת, בין היתר, במרכז הפיתוח של אנבידיה בישראל – על מנת להאיץ את הביצועים של מודלים בעלי טריליוני פרמטרים ומודלי Mixture-of-Experts (ר"ת MoE).
הטכנולוגיה מציעה רוחב פס דו-כיווני חסר תקדים של 1.8 טרה-בייט לשנייה פר-GPU, ומבטיחה את היכולת לחבר עד ל-576 GPUs יחד עבור מודלי השפה המורכבים ביותר.
מוצרי תקשורת מואצת חדשים
כדי להניע את את הדור הבא של מודלי בינה מלאכותית עם טריליוני פרמטרים ותשתיות ה-AI, אנבידיה מכריזה על מוצרי תקשורת מואצת חדשים: NVIDIA Quantum-X800 InfiniBand עבור הביצועים הטובים ביותר לתשתיות AI ייעודיות, ו-NVIDIA Spectrum-X800 Ethernet עבור תשתיות מרכזי נתונים המותאמות לעידן הבינה המלאכותית.
סדרת המתגים החדשה, X800, פותחה כדי להניע טכנולוגיות AI בסקייל, והיא הראשונה בעולם להציע רוחב פס ומהירות העברת נתונים של 800 גיגה-ביט לשנייה, קצה-אל-קצה.
סדרת ה-X800 מותחת את קצה גבולות היכולת של ביצועי התקשורת עבור מחשוב בינה מלאכותית, ומציעה סביבת תוכנה שמאיצה את ביצועי אפליקציות AI, ענן, עיבוד מידע (Data Processing) ו-HPC בכל סוגי מרכזי הנתונים, כולל אלו המבוססים על ארכיטקטורת Blackwell החדשה.
"טכנולוגיות NVIDIA Networking מרכזיות ביכולת ההתרחבות של תשתיות מחשוב על ל-AI", אמר גלעד שיינר, סגן-נשיא בכיר ל-Networking ב-NVIDIA. "המתגים מסדרת NVIDIA X800 מהווים פלטפורמות תקשורת קצה-אל-קצה המאפשרות לנו להשיג יכולות בינה מלאכותית יוצרת בסקייל של טריליוני פרמטרים, החיוניות לתשתיות ה-AI החדשות".
ראשונות לאמץ את טכנולוגיות Quantum InfiniBand ו-Spectrum-X החדשות הן Microsoft Azure ו-Oracle Cloud Infrastructure. "AI הוא כלי עוצמתי שהופך מידע לידע.
מאחורי המהפכה הזו, נמצאת האבולוציה של מרכזי נתונים, שהפכו למנועי AI עתירי ביצועים, עם דרישה הולכת וגוברת לתשתיות תקשורת", אמרה נידי צ'אפל (Nidhi Chappell), סגנית-נשיא לתשתיות בינה מלאכותית ב-Microsoft Azure.
"עם האינטגרציה של פתרונות התקשורת של NVIDIA, Microsoft Azure תמשיך לבנות את התשתיות שפורצות את גבולות ה-Cloud AI".
