מודלים של בינה מלאכותית יהיו בקרוב חזקים מספיק כדי לשלוט בביולוגיה, ויציגו יתרונות וסיכונים רציניים באותה מידה, הזהיר מדען הבינה המלאכותית הראשית של טנסנט במהלך הופעה פומבית נדירה בהונג קונג בשבת, והוסיף את קולו לוויכוח הולך וגובר לגבי מה קורה כאשר מערכות בינה מלאכותית קולטות את מדעי החיים במלואם.
"יכולות הסייבר של מודלים בינה מלאכותית - ובקרוב היכולת הביולוגית של מודלים - יגיעו לסף שבו באמת אפשר להזיק", אמר יאו שוניו, מדען הבינה המלאכותית הראשית של Tencent Holdings וחוקר לשעבר של OpenAI, בסימפוזיון מדעי שנערך בשיתוף האקדמיה למדעים של הונג קונג ו-Morning Post the Future Science Prize בסין. For more context on this story, see our ongoing AI industry coverage.
עו"ד בעל משקל פתוח דורש אחריות
האזהרה של יאו בולטת פחות בתוכן מאשר במקור שלה. הוא בנה את המוניטין שלו ב-OpenAI לפני שהצטרף ל-Tencent, אחת מחברות הטכנולוגיה הגדולות בסין, וטנסנט מיקמה את עצמה בין המפרסמים האגרסיביים ביותר של דגמי AI בעלי משקל פתוח - מערכות שהפרמטרים הבסיסיים שלהן מפורסמים לציבור וניתן להוריד, לשנות ולהפעיל על ידי כל אחד.
זה מצביע על כך שהמסר הנלווה שלו מצביע על כך: "כל הסינים או כל חברת מודל פתוח צריכים להיות מאוד אחראיים ורציניים מאוד בנוגע לדאגות האבטחה והבטיחות האלה", אמר יאו, לפי ה-SCMP.
ההערכה מגיעה כאשר מערכות בינה מלאכותיות מיושמות יותר ויותר ברפואה ובביולוגיה, שם הן עשויות להאיץ את גילוין של תרופות חדשות וטיפולים אחרים - שינוי שכבר מעצב מחדש את תעשיית התרופות בסין, על פי הדיווח של SCMP. עם זאת, מומחי אבטחה מזהירים זה מכבר שאותן יכולות עשויות לסייע לשחקנים זדוניים לייצר נשק ביולוגי או לעורר את המגיפה הבאה - סיכון שהופך קשה יותר למשטרה כאשר דגמים מסוגלים משוחררים כתוכנה בעלת משקל פתוח שכל אחד יכול להפעיל ללא מעקות בטיחות.
ביולוגיה נתפסת בקרב מומחי בינה מלאכותית כגבול הגדול הבא אחרי הקידוד, תחום שבו התקדמות AI המהירה כבר שיפרה את אבטחת הסייבר העולמית. כמו יכולות סייבר, יכולות ביולוגיות הן דו-שימושיות: אותו מודל שמתכנן מועמדים מבטיחים לסמים יכול, באופן עקרוני, לסייע לתוקף. יש ויכוח אמיתי לגבי איזה צד מרוויח יותר.
ספר הבטיחות של Tencent's Own
דבריו של יאו היו בעלי משקל נוסף מכיוון שהם הגיעו ימים לאחר שהחברה שלו שלחה דגם דגל חדש. Tencent פרסמה ביום רביעי את Hy4, שדורג כדגם השני בעל הביצועים הטובים ביותר המיוצר בסין על פי חברת ההשוואה Artificial Analysis, כך דיווח ה-SCMP.
בהודעת השחרור שלה, Tencent תיארה את אמצעי הבטיחות המובנים ב-Hy4. החברה אמרה שהיא הסירה את יכולות פריצת הסייבר של הדגם תוך שמירה על יכולות הגנת הסייבר שלה על ידי סינון נתונים רלוונטיים בשלב ההדרכה. בפן הביולוגי, טנסנט אמרה כי יכולות הביולוגיות של Hy4 נותרו "הרבה מתחת" לסף הסיכון הגבוה שלה, מכיוון שהמודל עדיין לא יכול להפוך את הידע הביולוגי הבסיסי לפרוטוקולים הניתנים לפעולה - הפער, במילים אחרות, בין הבנת ספרי לימוד לבין הדרכה תפעולית שלב אחר שלב.
המסגור הזה - המדידה אם מודל יכול להמיר ידע כללי לפרוצדורות שמישות - הפך לאמת-מידה נפוצה בהערכות ביולוגיות של מערכות בינה מלאכותית. הטענה של Tencent כי Hy4 נופלת מהקו הזה היא טענה של יצרן הדגם עצמו, ואימות חיצוני של הערכות כאלה נותר מוגבל בכל התעשייה.
העיתוי משקף גם לחץ תחרותי. Tencent חשפה את Hy4 למרוץ משקל פתוח שהולך ומתלהט בין חברות הבינה המלאכותית בסין, כאשר DeepSeek, Z.ai ו-Alibaba שולחות כולן דגמים חדשים בשבועות האחרונים, לפי הסיקור הקודם של ה-SCMP על ההשקה. במערכת אקולוגית שבה פרסום משקלים הוא הכרח תחרותי, קריאתו של יאו לשיטות שחרור "מאוד אחראיות" נראית כניסיון לקבוע נורמות בתוך עצם התנועה שהופכת את ביקורות הבטיחות לקשות ביותר לאכיפה.
מאזהרות למעבדות אוטונומיות
מה שהופך את המראה של יאו למעניין במיוחד הוא שטנסנט דוחפת בו זמנית את הבינה המלאכותית עמוק יותר לתוך המעבדה. בפנייה לחדר של סטודנטים למדעי המחשב, הוא תיאר תוכניות ל"מעבדות מדעיות אוטונומיות" שישתמשו במערכות בינה מלאכותית כדי להריץ ניסויים מורכבים מקצה לקצה, כאשר קיפול חלבון הפוך צוטט כדוגמה לסוג העבודה שהחברה מכוונת אליה.
יאו טען שהמכשולים הטכניים ל-AI מדעי בטוח ובעל יכולת ייפול בזמן. "אני חושב שניתן לפתור את כל השינויים הטכניים - שם זה רק עניין של זמן", אמר, לפי ה-SCMP. "אני חושב שהאתגר הגדול יותר הוא חברתי וארגוני".
המקום הדגיש את קהל היעד של המסר: יאו דיבר עם חדר עמוס בסטודנטים למדעי המחשב - האוכלוסייה שסביר להניח שתתבסס על המודלים הללו - במהלך שבוע פרס העתיד למדע לשנת 2026, שעליו דיווח ה-SCMP משך כ-1,000 משתתפים.
החטיבה הזו - בעיות הנדסיות פתירות מול בעיות ממשל לא פתורות - הופכת בשקט לעמדה הסטנדרטית של מנהלי בינה מלאכותית משני צדי האוקיינוס השקט. עבור Tencent, זה גם הגנתי: לחברה שמתערבת בפעולה הבאה שלה על מעבדות אוטונומיות יש כל תמריץ לשכנע את הרגולטורים שניתן להנדס, לבחון ולכבד את הספים של סיכון ביולוגי.
לעת עתה, השאלה בטווח הקרוב היא האם חברות המפרסמות מודלים בעלי משקל פתוח יאמצו ספי סיכון ביו-מדידים לפני שהיכולות חוצות אותם - או לאחר מכן. האזהרה של יאו מעידה כי טנסנט, לפחות, מאמין שהשעון פועל.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
