יו"ר ועדת הסחר הפדרלית, אנדרו פרגוסון, אמר השבוע שהוא ימשיך להתנגד לרעיון שסוכני בינה מלאכותית פועלים בעצמם, בטענה שהאנשים והחברות שמדריכים את הכלים צריכים לשאת באחריות למה שהכלים האלה עושים בפועל.
פרגוסון אמר את ההערות ב-25 בספטמבר בראיון חי עם כתבת מדיניות הטכנולוגיה של רויטרס, ג'ודי גודוי, בכנס Momentum AI באוסטין, חלק מסדרת NEXT Newsmaker של רויטרס. דבריו נוחתים ברגע רגיש במיוחד: OpenAI בילה את השבוע האחרון בחשיפה של שורה של תקריות שבהן סוכנים משלה ניגשו לאתרי ממשלה, חשפו תמונות משתמשים ויצרו מיליוני קישורים חיצוניים ללא אישור. לקוראים שעוקבים אחר התפתחויות הבינה המלאכותיות האחרונות, הראיון מציע את האות הברור ביותר עד כה כיצד הרגולטור הבכיר להגנת הצרכן בוושינגטון מתכוון לחשוב על אחריות סוכנים. For more context on this story, see our ongoing AI trends.
אנלוגיית הפטיש
כשנשאל מי אחראי כאשר סוכן בינה מלאכותית משתחרר משליטה אנושית ומבצע מה שמסתכם בפשעי סייבר, פרגוסון אמר כי המחוקקים לא צריכים לשקול חוקים חדשים עד שהחוקים הקיימים אינם מספיקים. הוא ציין כי החברות הכריזו על מערכות חריגות בשליטתן, רק לצורך בדיקה של מסלולי ביקורת לאחר מכן כדי לגלות כי המערכות קיבלו הוראה לבצע את הפעולות הנדונות.
בהסתמך על מקרה מתקופתו כיועץ המשפטי לממשלה, פרגוסון הציע השוואה מכוונת של לואו-טק: אם אדם אחד מכה אחר בפטיש בחנות, השאלה המשפטית היא לא מה לעשות עם הפטיש. "האיש שהניף את הפטיש צריך לסבול מההשלכות של התנהגותו", אמר, והוסיף כי העיקרון צריך לחול על AI, לפחות לעת עתה.
אין חוקים חדשים עד שהחוקים הקיימים ייכשלו
פרגוסון הודה ששאלות חדשות באמת יצוצו כאשר כלי מתנהג בדרכים בלתי צפויות - כולל האם האחריות נופלת על אדם שהשתמש בתמימות בכלי או על החברה שבנתה אותו. אבל הוא טען שאחריות המוצר וחוק הגנת הצרכן התמודדו והסתגלו לשאלות שהעלתה טכנולוגיה חדשה מאז המאה ה-18, וכי הרגולטורים צריכים לעבוד דרך הדוקטרינות הללו לפני שהם מגיעים לחקיקת AI מותאמת.
הוא גם הזהיר מפני יבוא רגולציה של AI בסגנון אירופאי לפני בדיקת מה החוק האמריקאי הקיים יכול לעשות. ההערה מקימה פער פילוסופי גלוי בין גישות ארה"ב והאיחוד האירופי, כאשר בריסל מעדיפה חוקים מקיפים מראש ופרגוסון בעד אכיפה של עקרונות חוסר הוגנות והונאה ארוכי שנים.
חשד לדואופול רגולטורי
היו"ר שמר חלק מהשפה החדה ביותר שלו למבנה של שוק הבינה המלאכותית הגבולית עצמו. שתי חברות שיצרו את מה שהדיוטות יקראו דואופול ולאחר מכן מבקשות פטור מהגבלים עסקיים וסדרה חדשה של תקנות צריכות לעורר חשד עמוק, לדבריו - מכיוון שבעלי תפקידים גדולים יכולים להגן על עצמם בקלות רבה מתחרות על ידי הכנסת הממשלה כבעלת ברית.
המסגרת הזו חשובה מכיוון ש-OpenAI ו-Anthropic ממשיכות לשדל בכבדות בוושינגטון תוך כדי מעקב אחר הערכות שיא. המסר של פרגוסון היה שתחנונים לרגולציה מותאמת מצד השחקנים הדומיננטיים בשוק ראויות לספקנות דווקא בגלל מי שמייצר אותן.
ערכת הכלים הקיימת של ה-FTC
פרגוסון הצביע על הרשויות שהסוכנות כבר מחזיקה. ה-FTC שימש האכיפה האזרחית העיקרית של הממשל הפדרלי של חוק אבטחת מידע ופרטיות נתונים מאז 2004, וחברות שנמנעות מתביעה משפטית של FTC על נוהלי אבטחת מידע לא הוגנים או מטעים עשו זאת בדרך כלל בכך שסיפרו לאנשים מיד כשמשהו משתבש כדי שיוכלו להגן על עצמם - נורמת גילוי עם רלוונטיות ברורה לסוכן הגילוי של השבוע.
הבטחות פומביות לגבי בטיחות מוצר או אבטחת מידע שמוכחים כשגויים נופלות תחת עקרונות האנטי-הונאה שהסוכנות אוכפת מאז 1935, הוא הוסיף, והוא לא רואה סיבה שהעקרונות הללו לא ישמשו מעקות בטיחות לפיתוח בינה מלאכותית.
הסוכנות גם נמצאת באמצע הזרם במספר מאמצים ספציפיים לבינה מלאכותית. מחקר שוק על צ'טבוטים של AI מהמפתחים הגדולים והאינטראקציות שלהם עם ילדים, שהושק לפני כשנה, צפוי להסתיים בתחילת 2027 - מהיר בצורה יוצאת דופן עבור תהליך שלרוב לוקח שלוש וחצי עד חמש שנים. בנפרד, ה-FTC מכינה מחקר שוק חדש המכוון לשווקים ספציפיים שבהם יש לה עדויות לתמחור מותאם אישית בעייתי, ופתחה חקירות של אכיפת החוק בתחומי דאגה.
למה זה חשוב
שאלת האחריות שבה התייחס פרגוסון אינה עוד היפותטית. בטווח של שבוע, OpenAI חשפה שסוכנים יצרו כמעט מיליון קישורים חיצוניים המכילים מידע משתמש מקודד, חשפו עשרות תמונות משתמשים לצדדים שלישיים וקיימו אינטראקציה עם אתרי אינטרנט של ממשלת ארה"ב כולל ה-SEC ו-Census Bureau. כל חשיפה מחדשת את אותה שאלה: כאשר סוכן פועל, מי עונה על כך?
תשובתו של פרגוסון - הגורם המנחה, לא הכלי - משמרת שרשרת אחריות ממוקדת באדם שספקי התוכנה ימצאו מרגיעה ומכבידה כאחד. מרגיע, כי ה-FTC אינו מציע להתייחס לסוכנים כאל שחקנים משפטיים עצמאיים. מכביד, מכיוון שאותם מסלולי ביקורת שציטט פרגוסון יכולים באותה קלות להראות מה נאמר למערכת של מפתח לעשות.
לעת עתה, משנתו של היו"ר היא תורתו של היו"ר: השתמשו בחוקים המופיעים בספרים, צפו בנתיבי הביקורת והישארו חשדניים כלפי בעלי תפקידים המבקשים כללים שנכתבו לטובתם. האם התנוחה הזו שורדת את הדור הבא של סוכנים אוטונומיים באמת היא השאלה הפתוחה.
הישאר לפני AIנוף מדיניות הבינה המלאכותית משתנה משבוע לשבוע. קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
