meirlabs
מאיר רוזנשייןהאם בטוח להכניס נתוני חברה ל-AI?
בדרך כלל כן, אם מגדירים את זה נכון. הפחד ש'ה-AI לומד את הסודות שלנו' מבלבל בין שני דברים שונים: מודל שמעבד את הנתונים שלכם כדי לענות על בקשה אחת, שזה זמני, לעומת אימון עליהם, שבו הם נשמרים. שכבות עסקיות ו-API אינן מתאמנות על הקלט שלכם כברירת מחדל. שכבות צרכניות חינמיות לפעמים כן. הסיכון האמיתי הוא כלי שמוגדר לא נכון עם יותר גישה ממה שהעבודה צריכה, וזו בעיית הגדרה שאפשר לתקן, לא סיבה להימנע מ-AI.מבצע השקה: לקוחות ראשונים מקבלים 50% הנחה על הבנייה הראשונה, כך שהעלות בפועל היא כמחצית מהמספרים האלה. קבעו תוכנית AI חינם כדי לנצל את המבצע.
רוב בעלי העסקים מדמיינים את ה-AI משנן בשקט את המחירים שלהם ומוסר אותם למתחרה. מסגור שגוי. מודל שעונה על השאלה שלכם אינו שומר את הנתונים לאחר מכן, והשכבות שנבנו לעסקים אינן מתאמנות עליהם. הסיכון שבאמת קיים משעמם ורגיל יותר: כלי שחובר ברשלנות, מכוּון ליותר מערכות ממה שהעבודה האחת דורשת. זו בעיית הגדרה, ובעיות הגדרה נפתרות.
מהו הסיכון האמיתי?
כל השאלה נשענת על הבחנה אחת. יש מודל שמעבד את הנתונים שלכם כדי לענות על בקשה בודדת, וזה זמני: הנתונים עוברים דרכו ולא נלמדים. ויש אימון על הנתונים שלכם, שבו הקלט נשמר ונצרב לתוך גרסה עתידית של המודל. אנשים חוששים מהאפשרות השנייה ומדמיינים שהיא מתרחשת אוטומטית. היא לא. בשכבות העסקיות וה-API של הספקים הגדולים, הקלט שלכם אינו משמש לאימון כברירת מחדל. Anthropic מצהירה שאינה מתאמנת על נתוני API מסחריים, ו-OpenAI אומרת את אותו הדבר לגבי ה-API ומוצרי העסקים שלה. המקום שבו צריך להיזהר הוא שכבות הצ'אט הצרכניות החינמיות, שהיסטורית עשויות להשתמש בשיחות שלכם כדי לשפר את המודל אלא אם ביטלתם זאת. אז התשובה הכנה אינה "AI אינו בטוח", אלא "החשבון האישי החינמי הוא הכלי הלא נכון לנתוני חברה, והשכבה העסקית נבנתה בדיוק בשביל זה".
עיבודמסלולי עסקים ו-API, ברירת המחדל
נכנס, נענה, נעלם. שום דבר לא נשמר אחרי התשובה.
אימוןהחשש, לא ברירת המחדל
כבוי כברירת מחדל במסלולי עסקים ו-API. במסלול הצרכני החינמי צריך לבדוק.
איך באמת שומרים על זה בטוח?
ארבעה אמצעי בקרה מכסים את רוב העניין:
- שכבה עסקית או API עם מדיניות של אי-אימון על נתונים, כך שהעיבוד נשאר זמני.
- גישה מינימלית: הכלי מגיע רק לנתונים שתהליך העבודה האחד דורש ולא יותר, כך שכלי שמנסח תשובות תמיכה לעולם אינו נוגע בשכר.
- מינימום נתונים: נתונים אישיים או רגישים נשארים מחוץ לכל שלב שאינו זקוק להם.
- בדיקה אנושית על כל דבר בעל סיכון גבוה לפני שהוא יוצא החוצה.
בפועל החלוקה ברורה: מי שמחבר את האינטגרציה, לרוב צוות אימוץ AI קטן, מגדיר את ברירות המחדל הבטוחות ואת היקף הגישה, בעוד שהחברה מחזיקה במדיניות לגבי מה שמותר. וכשמחליטים אם לבנות את זה בבית, לשכור יועץ או להשתמש בצוות ייעודי, שאלת האבטחה ששווה לשאול לגבי כל אפשרות היא פשוט מי אחראי על ההגדרה הזו.
מה לגבי GDPR, SOC 2 או HIPAA?
אלה פחות חומה ממה שהם נראים. תאימות עוסקת בעיקר באופן שבו מטפלים בנתונים ובמידת המוכנות של הספק שלכם, לא בשאלה אם AI מותר בכלל. הדרך המעשית היא שכבה תואמת בתוספת הסכם עיבוד נתונים חתום מול הספק. GDPR, למשל, דורש שכל מעבד שמטפל בנתונים אישיים בשמכם יהיה כבול בחוזה, וזה בדיוק מה שהסכם עיבוד נתונים הוא, אז אתם חותמים על אחד ואתם בצד הנכון שלו. SOC 2 ו-HIPAA עובדים באותו אופן: בחרו ספק שנושא את ההסמכה או שיחתום על הסכם שותף עסקי, שמרו נתונים מפוקחים על אותה שכבה, וזו רשימת משימות לעבור עליה, לא סיבה להישאר בחוץ.
הכלל שאני משתמש בו לפני שכלי כלשהו נוגע בנתוני חברה אמיתיים: האם זו שכבת enterprise או API שאינה מתאמנת על הקלט שלנו, והאם היא רואה רק את מה שתהליך העבודה האחד הזה צריך? אם התשובה חיובית לשניהם, אתם על קרקע בטוחה. המקום להוכיח את זה הוא תהליך עבודה בעל סיכון נמוך תחילה, שהוא גם הדרך החכמה להתחיל לאמץ AI בכלל, לא מערכת פונה-לקוח ביום הראשון.