מחוקקים בקליפורניה אישרו את הצעת חוק 574 של הסנאט, חוק מדינה ראשון מסוגו שקובע כללים מחייבים לאופן שבו עורכי דין יכולים להשתמש בבינה מלאכותית יוצרת בפרקטיקה שלהם - והצעד יושב כעת על שולחנו של המושל גאווין ניוסום.
הצעת החוק, המכונה בית המשפט א.י. חוק ההגנה, אישר את בית המחוקקים השבוע לאחר שהסנאט הסכים לתיקוני האסיפה ב-31 באוגוסט בהצבעה של 39-0. הוא הוצג על ידי הסנאטור תומס אומברג, דמוקרט מסנטה אנה, שיושב ראש ועדת המשפט של הסנאט, שלדבריו המטרה היא להגן על אנשים המקבלים שירותים משפטיים ככל שכלי AI מתפשטים במקצוע. רויטרס אפיינה את האמצעי כחוק המדינה הראשון מסוגו המסדיר את השימוש של עורכי דין ב-AI גנרטיבי. אולם עד שניוסום יחתום עליו, הדרישות שלו אינן חוק. להקשר נוסף על הסיפור הזה, עיין במגמות AI המתמשכות שלנו.
מה ש-SB 574 דורש
בבסיסה, הצעת החוק משרטטת קו בהיר: עורכי דין אינם יכולים להאציל את עיסוק המשפטים למערכת בינה מלאכותית. עורך דין שמשתמש בבינה מלאכותית נשאר באחריות מלאה לעבודה המשפטית המופקת איתו.
חובות האימות הן הקונקרטיות ביותר. עורכי דין המשתמשים בבינה מלאכותית מחוללת חייבים לנקוט בצעדים סבירים כדי לאמת את דיוק הפלט - כולל ציטוטים מקרים וציטוטים סטטוטוריים - ולתקן חומר שגוי או מפוברק לפני שהם מסתמכים עליו. אם נלך רחוק יותר, כל עורך דין האחראי לתסקיר, בקשה, כתב תביעה או נייר אחר שהוגש לבית משפט בקליפורניה יצטרך לאמת באופן אישי כל ציטוט בהגשה, יהא מקורו אשר יהיה. הסתמכות על כלי בינה מלאכותית לא תתרץ ציטוט שקרי.
הגילוי הוא הנדבך השני. עורכי דין יצטרכו לחשוף את השימוש בבינה מלאכותית מחוללת לבית משפט עבור מסמכים שהוגשו לו, ואלו המשתמשים בבינה מלאכותית ליצירת חומר המופץ לציבור יצטרכו לשקול אם לחשוף את השימוש בו.
כללי סודיות עבור עידן ChatGPT
הנדבך השלישי של הצעת החוק מתייחס לאן מגיעים הנתונים של עורכי הדין. SB 574 יאסור על עורכי דין להזין מידע סודי, מזהה אישי או אחר שאינו פומבי למערכת בינה מלאכותית, אלא אם הגישה למידע זה מוגבלת לעורך הדין ולאנשים שעורך הדין מאשר אשר מחויבים בעצמם להגן על סודיותו.
ההוראה מונה את הקטגוריות הרגישות בהיקפה: מספרי תעודת זהות, תאריכי לידה, רישומים רפואיים ופסיכיאטרים, מידע פיננסי, מספרי חשבונות וכתובות או מספרי טלפון השייכים לצדדים, עדים, נפגעים ואנשי בית המשפט. יש לציין שהצעת החוק אינה אוסרת על הסף את השימוש במערכות בינה מלאכותיות עם חומר סודי - המבחן הוא האם המערכת מגבילה באופן נאות את הגישה למה שהוזן.
מדוע המחוקקים פעלו
החקיקה מגיבה למצב הכישלון הבולט ביותר של AI באולמות בית המשפט: סמכות הזויה. מודלים של שפות גדולות יכולים לייצר תשובות שנראות סמכותיות תוך המצאת מקרים, ציטוטים וחוקים, ובתי משפט ברחבי הארץ הטילו סנקציות על עורכי דין שהגישו תסקירים המצטטים רשויות משפטיות פיקטיביות שנוצרו על ידי AI.
דאגות הפרטיות גדלו לצד. מוקדם יותר השנה, השופט המחוזי של ארה"ב ג'ד רקוף בניו יורק קבע במשפט ארצות הברית נגד הפנר כי שיחות בניהול עצמי של נאשם פלילי עם קלוד של אנתרופי אינן מוגנות על ידי הרשאות עורך דין-לקוח או דוקטרינת מוצר העבודה - בין השאר בגלל שהנאשם חשף מידע לפלטפורמת AI של צד שלישי. למרות שהמקרה הזה כלל לקוח ולא עורך דין, הוא ממחיש את החשיפה שעומדת בפני מידע משפטי רגיש כאשר הוא נכנס למערכות AI של צד שלישי.
קליפורניה כבר עסקה בשאלות הללו באמצעות הדרכה מקצועית. לשכת עורכי הדין של קליפורניה עדכנה את ההנחיות המעשיות שלו לשימוש בבינה מלאכותית גנרטיבית בעיסוק במשפטים במאי 2026, המכסה כשירות, סודיות, פיקוח, תקשורת עם לקוחות וגילוי לב לבתי משפט. בית המשפט העליון של קליפורניה הורה ללשכת עורכי הדין ב-2025 לשקול לשלב עקרונות הקשורים לבינה מלאכותית בכללי ההתנהגות המקצועית, עם שינויים מוצעים שנבחנים שיבהירו את אחריותם של עורכי הדין הן למה שנכנס למערכות בינה מלאכותית והן למה שיוצא. SB 574 מעביר כמה מהמושגים הללו מהנחיה לחוק.
מעבר לעורכי הדין: בוררים ושופטים
הצעת החוק מגיעה רחוק יותר מעורכי דין. ייאסר על בוררים להאציל כל חלק מחובות קבלת ההחלטות שלהם לבינה מלאכותית, ולא יוכלו להסתמך על מידע שנוצר על ידי בינה מלאכותית מחוץ לרשומה הראייתית מבלי לחשוף תחילה את השימוש בו לצדדים, וכאשר מעשי, לתת להם הזדמנות להגיב. הצעד גם מחייב את מועצת המשפט של קליפורניה לבחון מחדש את הסטנדרטים שלה המסדירים שימוש שיפוטי בבינה מלאכותית גנרטיבית עם התפתחות הטכנולוגיה.
מה קורה אחר כך
ניוסום עדיין לא פעל על פי הצעת החוק, והחלטתו תיראה הרבה מעבר לקליפורניה. כוח השוק של המדינה הפך אותה לרגולטור דה פקטו של תעשיית הבינה המלאכותית - חוק השקיפות שלה SB 53 לדגמי חזית נחתם ב-2025 - ומושל שאיזן בעבר את קידום הבינה המלאכותית ואת זהירות הבינה המלאכותית מחליט כעת אם שימוש בבינה מלאכותית מקצועית הופך לעניין של חובה סטטוטורית עבור אוכלוסיית עורכי הדין הגדולה במדינה.
אם ייחתם, SB 574 יבחן נתיב ביניים שמדינות אחרות צפויות ללמוד: במקום לאסור בינה מלאכותית בפרקטיקה משפטית, קליפורניה תחייב את השימוש בה לחובות הקיימות של המקצוע - אימות, כנות וסודיות - כאשר עורך הדין, ולא הכלי, יישאר באחריות.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
