על רקע הודעת מטא על השקת הגרסה החדשה של מודל הבינה המלאכותית Llama 3.1, אנבידיה הודיעה על השקת שורה של יישומים וכלים שיאפשרו לארגונים ולמדינות לבנות ולשפר יישומי בינה מלאכותית שיישענו על יכולותיהם של מבחר המודלים הפתוחים שמאוגדים תחת Llama 3.1 בפיתוח Meta.
אנבידיה הודיעה על השקתם של שירותי NVIDIA AI Foundry ו-NVIDIA NIM חדשים לבנייה, פיתוח והטמעה של יישומי בינה מלאכותית יוצרת (AI Foundry). NVIDIA AI Foundry מאפשר לארגונים ומדינות ליצור ולפרוס "סופר-מודלים" (Supermodels), בהתאמה אישית לצרכיהם ולתחומי ידע ספציפיים או מקרי שימוש ייחודיים, תוך שימוש בתוכנה של אנבידיה ובמודלי השפה מסדרת Llama 3.1.
בין החברות הראשונות שיעשו שימוש ב-AI Foundry של אנבידיה נמנות מובילות עולמיות כגון אמדוקס, SAP, ServiceNow, Snowflake, Hyundai Motor Company, Getty Images ואחרות. כמו כן הודיעה אנבידיה על השקת מיקרו שירותים להסקה (Inference Microservices) כחלק מפלטפומת NVIDIA NIM שיאפשרו גם הם לארגונים לפרוס יישומי בינה מלאכותית מבוססי Llama 3.1 לאחר פיתוחם, בין היתר באמצעות AI Foundry.
לאחר הקמת המודלים החדשים המותאמים לצרכי הלקוח עם NVIDIA AI Foundry, הוא יכול ליצור מיקרו-שירותים בעזרת פלטפורמת NIM כדי להריץ את המודלים במסגרת יישומים על במרכזי נתונים On-Prem או בענן, ובגרסאות "רזות" גם על תחנות עבודה ומחשבים ניידים. חברות וארגונים מתחומים שונים – בריאות, פיננסים, תחבורה וטלקום, כבר עושים שימוש ב-NVIDIA NIM כדי להריץ מיקרו שירותים של בינה מלאכותית המבוססים על מודלי Llama של מטא. בין הארגונים שזכו לגישה למיקרו שירותים החדשים של NIM על מודל Llama 3.1 נמנים Uber, AT&T וחברות טכנולוגיה מובילות נוספות.
ג'נסן הואנג, מנכ"ל ומייסד NVIDIA, אמר: מודל Llama 3.1 של מטא מסמנים רגע מכריע במסע לאימוץ בינה מלאכותית יוצרת בארגונים בעולם. Llama 3.1 פותח את השערים לכל ארגון ותעשייה לבניית יישומי בינה מלאכותית חדישים. שירות ה-AI Foundry של אנבידיה משלב את Llama 3.1 לאורך כל תהליך הפיתוח, כדי לעזור לארגונים לבנות ולפרוס מודלי Llama מותאמים לצרכיהם
מארק צוקרברג, מנכ"ל ומייסד Meta, אמר: "המודלים החדשים של Llama 3.1 הם צעד סופר חשוב עבור בינה מלאכותית בקוד פתוח. עם NVIDIA AI Foundry, חברות יכולות ליצור ולהתאים בקלות את שירותי ה-AI המתקדמים שאנשים רוצים, ולפרוס אותם עם NIVIDIA NIM. אני נרגש מהאפשרות שהכלים הללו יהיו כעת בידיהם של אנשים".
ההשקות באות על רקע המגמה הצומחת של ארגונים ואף מדינות שרוצות לפתח בינה מלאכותית ריבונית (sovereign AI) שנשענת על מודלי שפה גדולים שהותאמו במיוחד עבור צרכים ספציפיים, אומנו על ידע ספציפי עבור תחום עסקי ספציפי או תרבות מובחנת.
ה-AI Foundry ירוץ על פלטפורמת מחשוב העל לבינה מלאכותית בענן של אנבידיה – NVIDIA DGX Cloud שפותחה בשיתוף ספקיות הענן המובילות כדי להנגיש משאבי מחשוב גמישים המתאים לצרכי המחשוב הדינמיים של תחום הבינה המלאכותית.