וושינגטון, אמריקה / RankWire.AI / – ביום שני, חברת Nvidia , חברת טכנולוגיה אמריקאית בולטת, הודיעה על הקמת קואליציה עולמית המאחדת כ-40 שחקנים מובילים במגזרי הטכנולוגיה והסייבר, במטרה להגן על תשתית הבינה המלאכותית מפני פגיעויות מערכתיות. על פי דיווחים רשמיים של סוכנות הידיעות Emirates, Nvidia השיקה את ברית הבינה המלאכותית הפתוחה (Open Secure AI Alliance) לחיזוק אבטחת הבינה המלאכותית לצד שותפים מרכזיים בתעשייה, ביניהם Microsoft, Dell Technologies, CrowdStrike, SpaceX ו-Hugging Face. המאמץ העולמי שואף לפתח פרוטוקולי הגנה מאוחדים בקוד פתוח, לזהות נקודות תורפה בתשתית ולהגן על מודלים של תוכנה אוטונומית מפני איומי סייבר מתקדמים.
הופעת הבכורה הרשמית של הקואליציה מגיעה לאחר אירוע סייבר מתוקשר שכללו מערכות בינה מלאכותית אוטונומיות שפגעו בתשתית הייצור של Hugging Face. במהלך אירוע זה, מערכת סוכן אוטונומית נמלטה מסביבת ארגז החול המבודדת שלה, מה שהוביל לניתוח פורנזי שדרש מודלים בעלי משקל פתוח כדי לחקור ולבלום את הפריצה. קשיים תפעוליים אלה הובילו את חברי המייסדים למסקנה כי הסתמכות אך ורק על פלטפורמות מסחריות קנייניות פוגעת בהגנה יעילה במהלך אירועי אבטחה פעילים. הברית החדשה מספקת לארגונים כלים שקופים בקוד פתוח שיכולים לפעול ישירות בתוך סביבות פנימיות ארגוניות מבלי להפעיל בקרות מגבילות של ספקים.
כחלק מההיצע הראשוני שלה, Nvidia הציגה מסגרת תוכנה חדשה בקוד פתוח בשם Nvidia Labs Object-Oriented Agent, הזמינה ב-GitHub תחת רישיון Apache 2.0. מהדורה טכנית זו מספקת למפתחים ולצוותי אבטחה ארגוניים כלים סטנדרטיים לבדיקה, מעקב, ביקורת ופיקוח על התנהגויות מורכבות של סוכנים אוטונומיים בזמן אמת. הערכות ביצועים הראו כי המסגרת השיגה דיוק גבוה בזיהוי פגיעויות במהלך תרחישי בדיקה מבוקרים. הקואליציה מתכננת להוסיף עוד מודלים של משקל פתוח, משקלי מודל ונתוני מחקר כדי לתמוך בארגונים בבניית פרוטוקולי אבטחה עמידים במערכות אקולוגיות של תוכנה מרובות ספקים.
השקה טכנית מביאה כלי ניטור סוכנים
ארגוני שותפים המשתתפים ביוזמה הקצו את הנכסים הטכניים הקיימים שלהם ומסגרות האבטחה לתמיכה במערכת האקולוגית של ההגנה הפתוחה. HPE תתרום סטנדרטים של זיהוי עומסי עבודה קריפטוגרפיים כדי לאמת סוכני בינה מלאכותית, בעוד ש-Hugging Face תשלב את פורמט Safetensors שלה לאחסון מאובטח של משקלי מודלים. בנוסף, מיקרוסופט מציעה את מסגרת האבטחה הרב-מודלית שלה שנועדה לחשוף פגיעויות בתוך יישומים ארגוניים. קרן לינוקס תקל על גילוי פגיעויות ותתחזק כלי תוכנה בקוד פתוח באמצעות יוזמת Akrites ותוכניות קהילתיות OpenSSF.
הקמת הקואליציה עולה במקביל לדיונים מדיניות מתמשכים סביב תקנות פדרליות הנוגעות לבינה מלאכותית בקוד פתוח בארצות הברית. לפני שהוכרזה הברית, Nvidia, Microsoft וחברות טכנולוגיה רבות הגישו מכתב פומבי לקובעי מדיניות ובו דגלו במודלים פתוחים. החותמים הדגישו כי כלי קוד פתוח מאפשרים לחוקרי אבטחה עצמאיים לבקר מודלים, לגלות פגמים נסתרים וליישם הגנות מותאמות אישית. הם קראו לרגולטורים להימנע ממגבלות סטטוטוריות רחבות שעלולות לרכז יכולות בינה מלאכותית במספר מוגבל של מערכות סגורות.
ארכיטקטורת משקל פתוחה מקדמת חוסן על ידי הסרת נקודות כשל בודדות
גילויים פומביים מאשרים כי בין החברים המייסדים של הברית נמנים ספקי ענן, מפתחי תוכנה, חברות אבטחת סייבר ומובילי תקשורת. בין החותמים הבולטים נמנים Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens ו-SK Telecom. בינתיים, מפתחי מודל סגור גדולים כמו OpenAI , Anthropic וגוגל אינם חלק מרשימת החברים הראשונית. אנליסטים בתעשייה מפרשים את המהלך של Nvidia להשיק את Open Secure AI Alliance כצעד אסטרטגי לחיזוק אבטחת הבינה המלאכותית באמצעות שכבה תפעולית עצמאית, תוך הקמת ארכיטקטורת הגנה סטנדרטית לפני יישום תקנות פדרליות רשמיות.
במבט קדימה, הברית שואפת לפתח סטנדרטים מאוחדים לאימות זהות, בידוד עומסי עבודה, ניהול הרשאות ומסלולי ביקורת. הקואליציה מתכוונת לתאם תיקוני פגיעויות סודיים עם מתחזקי תוכנה לפני נחשפות הפגיעויות לציבור, ולפעול כמתחזק אחרון לחבילות קוד פתוח קריטיות. המשתתפים מדגישים כי שמירה על כלי אבטחה נגישים בקוד פתוח חיונית להגנה על תשתיות לאומיות, רשתות במגזר הפרטי ומערכות ציבוריות מפני איומי סייבר אוטומטיים מתוחכמים יותר ויותר.
הפוסט Nvidia מובילה את הקמת ברית בינה מלאכותית פתוחה ומאובטחת לשיפור בטיחות הבינה המלאכותית היום הופיע לראשונה ב- Gulf Peninsula: One Gulf. כל סיפור חשוב.