OpenAI הודיעה ביום רביעי כי היא מציעה שימור נתונים אפס (ZDR) עבור דגמי הגבול שלה והציגה תצוגה מקדימה של מערכת חדשה בשם Private Safety Processing, שנועדה לזהות שימוש לרעה באינטראקציות מרובות מבלי לתת לחברה גישה לתוכן לקוחות. המהלך מותח קו חד מול המתחרים: Axios דיווחה כי ההכרזה מגיעה מכיוון שאנתרופיק דורשת כעת מהלקוחות לאפשר יומני נתונים, ו-Firstpost ציין את הניגוד למהלך של Anthropic לשמירת נתונים ל-30 יום.

העיתוי אינו עדין. בהודעתה, OpenAI ציינה כי "חלק מהפריסה האחרונה של מודל חזית דרשו מהלקוחות לאפשר לספק הבינה המלאכותית שלהם לשמור תוכן רגיש לניטור בטיחות" - דרישות שלדבריה "מתנגשות עם מחויבויות האבטחה או המחויבויות שלהם כלפי האנשים שהם משרתים". החברה מציבה את הפרטיות כנשק תחרותי בתחרות ללקוחות ארגוניים בפיקוח. For more context on this story, see our ongoing AI news.

מה מבטיח שימור נתונים אפס

במסגרת הצעת ה-ZDR, לקוחות API זכאים מקבלים את מה ש-OpenAI מתאר כ"הבטחה ברורה": OpenAI לא שומרת הנחיות או מודל תגובות לאחר עיבוד הבקשה. תוכן לקוחות אינו זמין לסקירה של אנשי OpenAI, ונתוני לקוחות ארגוניים אינם משמשים להכשרת המודלים של OpenAI, אלא אם כן לקוחות בוחרים להצטרף באופן מפורש.

עבור בנקים, בתי חולים ומשרדי עורכי דין השוקלים אימוץ בינה מלאכותית, ההתחייבויות הללו מתייחסות לשובר העסקה הנפוץ ביותר: הסיכון שחומר רגיש שזורם דרך מערכות של ספק בינה מלאכותית יכול להישמר, לקרוא או להיקלט במודלים עתידיים. OpenAI מציינת שהארגונים איתם היא עובדת מטפלים ב"רשומות פיננסיות, נתוני בריאות, תוכניות עסקיות סודיות ומחקר קנייני".

השמירה על בעיית הבטיחות נפתרה

ההודעה גם מודה במתח טכני אמיתי. כפי ש-OpenAI עצמה מתארת ​​זאת, סיכוני הבטיחות החמורים ביותר של AI לא תמיד נראים באינטראקציה אחת. כוונות מזיקות יכולות להתבהר רק כאשר רואים אינטראקציות מרובות יחד - כאשר שחקנים רעים בודקים שוב ושוב אמצעי הגנה, מתאמים בין חשבונות, מסווים איומים כמחקר שגרתי, או כאשר סוכן AI ממשיך לפעול לאחר שנאמר לו להפסיק.

מערכות בטיחות קיימות תואמות ZDR מעריכות כל אינטראקציה בנפרד, מה שאומר שסיכונים מבוססי דפוס מחליקים. ספקים שהגיבו בדרישה לשמירה פתרו בעיה אחת על ידי יצירת בעיה אחרת, ואילצו את הלקוחות לבחור בין ניטור בטיחות לבין חובות הפרטיות שלהם.

כיצד פועל עיבוד בטיחות פרטי

ההחלטה המוצעת של OpenAI היא ארכיטקטונית. במסגרת עיבוד בטיחות פרטי, תוכן הלקוח נשאר בתשתית שהלקוח שולט - או, באופציה שעדיין בפיתוח, מאוחסן בתשתית OpenAI המוצפנת עם מפתחות בשליטת הלקוח. לאחר מכן, מערכות אוטומטיות מנתחות דפוסים על פני אינטראקציות קשורות ומחזירות "אותות בטיחות מוגבלים" - דגלים על שימוש לרעה פוטנציאלי - מבלי לחשוף את ההנחיות או התגובות הבסיסיות לאנשי OpenAI.

לקוחות חוקרים התראות באמצעות מידע זמין במערכות שלהם. אם הם רוצים לערער על החלטת אכיפה, להבהיר פעילות לגיטימית או לתמוך בחקירה של התעללות מאומתת, הם יכולים לבחור לשתף מידע רלוונטי עם OpenAI. פרטיות, במילים אחרות, הופכת לברירת המחדל ולאפשרות החשיפה של הלקוח.

המערכת נמצאת כעת בבדיקה אצל לקוחות מוקדמים. OpenAI טוענת שהיא מתכננת להתחיל בהשקת עיבוד בטיחות פרטי ולפרסם מאמר לבן טכני בספטמבר.

אמון ארגוני כשוק

ההודעה הגיעה עם עדות לקוח שנקראת כמו טיעון רכש. "אימוץ בינה מלאכותית ארגונית תלוי אך ורק בשליטה של ​​לקוחות בנתונים, ללא שימוש ישיר או נגזר מעבר לשירות הנבחר", אמר Sunil Agrawal, קצין אבטחת מידע ראשי ב-Glean, שהציטוט שלו OpenAI פרסם לצד הפוסט. "ככל שהמודלים הופכים ליכולים יותר, OpenAI מראה שהבטיחות יכולה להתקדם מבלי לפגוע בפרטיות ובבקרה המקיימות אמון ארגוני."

OpenAI ממסגרת את התצוגה המקדימה כתגובה לביקוש, ואמרה שהיא שמעה מלקוחות "בקול רם וברור שהם צריכים יכולת חיזוי לגבי האופן שבו התוכן שלהם יוגן ככל שמערכות בינה מלאכותית יהפכו ליכולות יותר". החברה מוסיפה כי הגישה מעוצבת על ידי לקוחות "על פני תעשיות, אזורים וגדלי חברות", וכי היא תעדכן את הלקוחות עם זמן אספקה ​​מספיק כדי לתכנן פריסות סביב השינויים.

הוויכוח שזה יעורר

חוקרי בטיחות טוענים זה מכבר שנראות לדפוסי שימוש חיונית לתפיסת שימוש לרעה לפני שהוא גורם לנזק, וחלקם ישאלו אם ניתוח אוטומטי ומוצפן יכול להתאים לאיכות הזיהוי של סקירה אנושית. תומכי הפרטיות, בינתיים, יקבלו בברכה ארכיטקטורה שמתייחסת לגישה לנתוני לקוחות כהחלטה של ​​הלקוח ולא כאל זכות ספק.

מה שברור הוא שממשל הנתונים עבר מהאותיות הקטנות המשפטיות למרכז התחרות בינה מלאכותית. ככל שדגמי חזית לוקחים על עצמם משימות ארוכות ואוטונומיות יותר בתעשיות מוסדרות, השאלה מי זוכה לראות את העקבות שהמערכות הללו משאירות אחריהן - הלקוח, הספק או אף אחד - הופכת לציר עיקרי שבו מנצחים ואובדים עסקאות בינה מלאכותית של ארגונים. OpenAI הפכה כעת את התשובה שלה למפורשת, והעמידה את יריביה בעמדה של הגנה על שלהם.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →