ימים לאחר ש-Anthropic החלה להפיץ סימני מים בלתי נראים על פלטי הטקסט והתמונה של קלוד, התכונה מייצרת בדיוק את סוג החיכוך שמבקרים חזו: משתמשים חוששים שהסימנים יחשפו אותם לשימוש ב-AI בעבודה או בכיתה, מפתחים המתעדים כיצד סימן המים מתנהג בתוך זרימות עבודה אמיתיות של קידוד, ושוק קטן אך גלוי להוצאת כלים מבטיחים.
אנתרופיק אומר שהשינוי מכניס את קלוד לחוק ה-AI של האיחוד האירופי, שכללי השקיפות שלו הפכו לניתנים לאכיפה עבור דגמים חדשים לאחר ה-2 באוגוסט 2026. סעיף 50 לחוק מחייב ספקי מערכות בינה מלאכותית להפוך את הפלט שנוצר על ידי מכונה ל"ניתן לזיהוי כפי שנוצר באופן מלאכותי". Anthropic אישרה כי כל הדגמים החדשים המוצעים ברחבי העולם - לא רק באיחוד האירופי - יסמנו תוכן שנוצר בינה מלאכותית "מהיום הראשון", עם תקופת חסד עד דצמבר 2026 לעדכון דגמים שפורסמו בעבר. For more context on this story, see our ongoing AI news.
הסימנים עצמם אינם נראים. פלטי טקסט "נושאים סימני מים מוטבעים", בעוד שקבצים שנוצרו כוללים מטא-נתונים של מקור בחתימה דיגיטלית כאשר הפורמט תומך בכך, על פי מאמר תמיכה של Anthropic. דגמי קלוד מוקדמים יותר יעודכנו כדי לסמן גם טקסט, כלומר כל הצי בסופו של דבר יחתים את הפלט שלו.
סימן המים מכסה טקסט ערוך, לא רק טקסט שנוצר
הפרט שהפך את הסקרנות הטכנית לתגובת נגד נחשף על ידי Ars Technica ב-13 באוגוסט: סימן המים חל על תוכן שקלוד מעבד, לא רק תוכן שהוא מייצר מאפס. Ars אפיינה את הגישה כ-"nuke it from orbit", מכיוון ש-Anthropic מסמנת את כל התוכן המעובד במקום שבו הוא נתמך, למרות שההנחיות של האיחוד האירופי לא מחייבות זאת כאשר מערכת בינה מלאכותית מבצעת "פונקציה מסייעת לעריכה סטנדרטית" - הדוגמה של הרגולציה היא תיקון דקדוק - או כאשר היא לא "משנה באופן מהותי" טקסט של משתמש.
ההבחנה הזו חשובה מכיוון שסימן מים המוחל ברמת הדגם אינו יכול להבדיל בין הדור הסיטונאי לתיקון פסיק. אשלי בלאנגר מ-Ars Technica ציינה שקלוד עשוי בסופו של דבר להטביע בדיוק את סוג הכתיבה האנושית הנגועה בקלילות שהחוק נכתב להשאיר לבד. בפועל, הסימן מסמן כל דבר שקלוד עיבד - אפילו מסמך שכתב אדם ורק ביקש מקלוד ללטש.
משתמשים חוששים להיתפס בעבודה ובבית הספר
תגובת המשתמש הייתה מהירה. TechCrunch דיווחה ב-13 באוגוסט שחלק ממשתמשי קלוד "כועסים על כך שסימני המים החדשים של אנתרופיק יתפסו אותם משתמשים בהם בעבודתם, בשיעורים שלהם." עובדים שנשענים בשקט על קלוד כדי לנסח אימיילים, דוחות או חפיסות שקופיות - וסטודנטים שמשתמשים בזה במשימות - עומדים כעת בפני האפשרות שבוס או מדריך יוכלו לאמת מעורבות בינה מלאכותית באמצעות כלי זיהוי.
Ars Technica הגדיר את הדינמיקה כ"מכתב סקרלט" - תג בלתי נראה של שימוש בבינה מלאכותית שהקורא אינו יכול לראות, אך בקרוב עשויים מוסדות. מכיוון שסימן המים עובר עם הטקסט דרך העתק-הדבק ושינויי פורמט, ההגנה הרגילה של "רק ערכתי אותו קצת" כבר לא משאירה את טביעות האצבע של ה-AI מאחור.
שוק הסרה כבר מתעורר
היכן שיש סימן מים, תעשיית הסרה באה בעקבותיו. SC Media דיווחה כי שוק לכלים להסרת סימני מים בינה מלאכותית כבר מתעורר בימים שלאחר העדכון של קלוד. פענוח תיעד כי בונים מנסים באופן פעיל לשבור את סכימת הסימון, תוך בדיקה כיצד היא מתנהגת תחת פרפרזה, תרגום ועיצוב מחדש.
בדיקות מוקדמות מצביעות על כך שסימן המים יציב נגד טיפול מזדמן אך דולף בתנאים מקצועיים. הסיקור של ה-New Stack הגיע למסקנה שהסימן "שורד העתק-הדבק, אבל לא את זרימת העבודה האמיתית של הפיתוח" - כלומר מפתחי תוכנה שעובדים מחדש באופן מהותי את הקוד המוצע על ידי AI כחלק מהנדסה רגילה עשויים לשטוף את הסימן מבלי להתכוון לכך.
איך הסימון עובד בפועל
מסביר חזותי משותף נרחב שפורסם ב-declaude.org מפרק את המנגנון. לטקסט אין פיקסלים להסתיר בהם נתונים ואף מטא נתונים לא שורד העתק-הדבק, כך שסימן המים נמצא ב"בחירות בין מילים". כפי שדוגמנית כותבת, הוא בוחר שוב ושוב בין כמה מילים הבאות סבירות לא פחות; מפתח קריפטוגרפי סודי מטה בשקט את הבחירות הללו לעבר דפוס שרק בעל המפתח יכול לזהות.
הטכניקה נובעת ממחקר של Kirchenbauer et al. משנת 2023, שפיצלה מילים מועמדות לרשימות "ירוקות" ו"אדומות" והטתה את הדור לעבר אסימונים ירוקים. ה-SynthID של גוגל מגיע ליעד דומה דרך מסלול עדין יותר, ו-Google יש סימן מים מאפליקציית Gemini וחוויית האינטרנט מאז 2024 - ה-API שלו היה חריג מתועד. החל מאוגוסט 2026, דגמי קלוד חדשים מסמנים טקסט ברמת הדגם, כאשר דגמים מוקדמים יותר אמורים להגיע.
הספקנים אומרים שההסרה נשארת טריוויאלית
לא כולם משוכנעים שמירוץ החימוש מעדיף את אנתרופי. במאמר שזכה לתפוצה נרחבת, המהנדס שון גודקה טען שסימני מים של טקסט "תמיד יהיו טריוויאליים להסרה" מכיוון שטקסט הוא מדיום דחוס במיוחד - כל שינוי חזק מספיק כדי לשרוד הסרה נחושה הוא שינוי שקורא אנושי ישים לב אליו. פרפרזה על כלים, תרגום הלוך ושוב וניסוח מחדש מכוון מאיימים כולם לשפשף דפוסים סטטיסטיים מבלי להשפיל משמעות.
הוויכוח מתנהל בקהילות מפתחים: שני מסבירי סימון מים נפרדים דורגו בין הסיפורים הנדונים ביותר ב-Hacker News השבוע, ומשכו מאות נקודות של מעורבות ביניהם.
מה קורה אחר כך
אנתרופיק אמרה שהיא תשתף בסופו של דבר פרטים על אופן זיהוי הסימנים - תמיכה טכנית שתקנה האיחוד האירופי מחייבת - אך עד שיישלח כלי זיהוי ציבורי, גורמים חיצוניים לא יכולים לאמת עד כמה הסימון באמת יסודי. החברה גם הודתה שסימני המים לא יפעלו ב"כמה פלטפורמות או תכונות" שאינן תומכות בהם.
כאשר דגמים ישנים יותר עומדים בפני תאריך יעד לעמידה בדצמבר 2026 ומעבדות יריבות יצפו אם המשתמשים מענישים את Anthropic בשל שקיפות, החודשים הקרובים יבחנו הצעה שהתעשייה נמנעה ממנה במשך שנים: האם ספקי AI יכולים להפוך את התפוקה שלהם לניתנת למעקב מבלי להפוך אותו לרעיל לאנשים המסתמכים עליה.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
