קומפקטי וחדשני: אנבידיה משיקה מחשב למפתחי בינה מלאכותית

NVIDIA חושפת מחשב-על קומפקטי חדש עבור מפתחי בינה מלאכותית, סטודנטים ויוצרים, שמציע ביצועי GenAI משופרים בכרבע מהמחיר של סמארטפון מתקדם. ערכת המפתחים החדשה NVIDIA Jetson Orin Nano Super מאפשרת, בין היתר, ליצור צ'אטבוטים מבוססי מודלי שפה גדולים (LLMs) עם יכולת RAG לאיחזור מידע, לבנות סוכני בינה מלאכותית לניתוח תמונות וסרטונים, ולפתח רובוטים מבוססי בינה מלאכותית. מחשב העל הקומפקטי יימכר החל מהיום במחיר של 249 דולר בלבד – מחשב העל הנגיש ביותר לעידן הבינה המלאכותית היוצרת. Jetson Orin Nano Super מציג שיפור של פי 1.7 בביצועי הסקה (Inference), זינוק של 70% בביצועים ל-67 INT8 TOPS, וגידול של 50% ברוחב הפס של הזיכרון ל-102GB/s לעומת הדור הקודם. הביצועים המשופרים של ערכת המפתחים Jetson Orin Nano Super תציג ביצועים משודרגים למגוון מודלי בינה מלאכותית יוצרת פופולריים ומודלי ה-Transformer לראייה ממוחשבת, לרבות מודלים של עליבאבא, גוגל, OpenAI, מיקרוסופט, מטא, Hugging Face וכמובן אנבידיה עצמה. ערכת המפתחים מורכבת מ-System-on-Module (SoM) עם 8GB ו-Reference Carrier Board, שמהווים פלטפורמה אידיאלית ליצירת אבות טיפוס של יישומי בינה מלאכותית למחשוב קצה (edge). ה-SoM כולל GPU של אנבידיה בארכיטקטורת Ampere עם ליבות טנסור ומעבד CPU מבוסס ARM עם 6 ליבות, שמאפשר להריץ מספר יישומי AI במקביל. הוא יכול לתמוך בעד ארבע מצלמות, עם רזולוציה וקצבי פריימים גבוהים יותר בהשוואה לגרסאות הקודמות. על הערכה החדשה ניתן להריץ מגוון יישומי בינה מלאכותית של אנבידיה, כמו למשל NVIDIA Isaac ליישומי רובוטיקה, NVIDIA Metropolis ליישומי ראייה ממוחשבת ו-NVIDIA Holoscan לעיבוד נתוני חיישנים. ניתן להפחית את זמני הפיתוח בעזרת תוכנת Omniverse Replicator NVIDIA ליצירת דאטה סינתטי, ובעזרת NVIDIA TAO Toolkit לכוונון-עדין (Fine-tuning) של מודלי AI שאומנו מראש מתוך קטלוג NGC. בנוסף, מעבדת NVIDIA Jetson AI מציעה תמיכה מיידית במודלים מתקדמים מקהילת הקוד הפתוח, ומספקת הדרכות קלות לשימוש. מפתחים יכולים גם לקבל תמיכה והשראה ממפתחים אחרים בקהילת Jetson. השותפים באקוסיסטם של Jetson מציעים תוכנות AI ומערכות נוספות, וכלי פיתוח תוכנה מגוונים, ויכולים גם לסייע בכל הקשור למצלמות וחיישנים, Carrier boards ושירותי עיצוב למוצרים.עדכוני התוכנה הזמינים ל-Jetson Orin Nano Super החדש ישפרו גם את ביצועי הבינה המלאכותית היוצרת עבור מפתחים שכבר יש ברשותם ערכות Jetson Orin NX ו-Orin Nano. Jetson Orin Nano Super זמין לרכישה באמצעות השותפים הגלובליים של אנבידיה.