"כלי בינה מלאכותית מעמידים את הארגונים בפני סכנה כפולה"

משה קרקו, מנהל הטכנולוגיות הראשי של NTT בישראל. צילום גלעד קוולרצ'יק

בשיחה בכנס סייברטק גלובל ופסגת החדשנות ספארקס, תל-אביב 2025, סקר משה קרקו, מנהל הטכנולוגיות הראשי של NTT את הסכנות שעומדות בפני השימוש הגובר במודלי בינה מלאכותית ציבוריים.

"כלי בינה מלאכותית ציבוריים כמו ChatGPT, GROK, Claude, ואחרים עלולים להעמיד ארגונים בפני סכנה כפולה: מחד, דליפה מתמדת של מידע רגיש מהארגון כמו פרטי לקוחות, סודות מסחריים ואסטרטגיה, ומאידך – סכנה שקטה אך הרסנית לא פחות: הסתמכות על מידע שגוי או גנרי. לא חייבים להיות האקר מאוד משוכלל – צריכים לדעת רק איך לשכנע או לעשות מניפולציות"

בהתייחסות לנושא זה, ציין קרקו כי "נדרש לעבוד בצורה רב שכבתית. מומחים גיבשו את מסגרת עבודה AI TRISM, המאפשרת ניתוח בחמישה ממדים קריטיים: טכנולוגיה, רגולציה, השפעה, אבטחה ומוסר".

"הפתרון לאתגרים אלו נמצא בפיתוח מערכות AI פנים-ארגוניות,המאומנות על המידע והתהליכים הספציפיים של הארגון.הן לא רק מונעות דליפת מידע אלא גם מספקות תשובות מדויקות ורלוונטיות מבוססות הרשאות גישה ממוקדות. מחקרים מראים שארגונים שהשקיעו במערכות כאלו ראוירידה של 82% בתקריות אבטחת מידע ושיפור של 64% בדיוק התשובות.

במבט קדימה, ההתמודדות עם הסכנות שמציבים האקרים באמצעות כלי AI ציבוריים דורשת פעולה בשלושה תחומים: השקעה במערכות AI בתוך הארגון, הכשרת עובדים, ויצירת תהליכי בקרה ופיקוח. על פי מחקר של חברת Deloitte, אירוע דליפת מידע עולה בממוצע 3.2 מיליון דולר. נתון זה מראה שהשקעה בפתרונות אבטחה לא רק חשובה, אלא גם משתלמת כלכלית".

מעבדת החדשנות של NTT בישראל מחברת בין סטארטאפים ישראלים לבין קבוצת NTT, תאגיד ענק יפני עם כ- 330,000 עובדים ברחבי העולם, 1000 חברות בת ברחבי העולם ומכירות של יותר מ- 100 מיליארד דולר בשנה.

הדברים נאמרו בכנס סייברטק גלובל תל-אביב 2025 אשר מפגיש את צמרת הסייבר העולמית, בהשתתפות אלפי משתתפים ממעל ל – 50 מדינות

אולי יעניין אותך גם לקרוא: