دانشمند ارشد هوش مصنوعی Tencent در یک حضور عمومی نادر در روز شنبه در هنگ کنگ هشدار داد که مدل های هوش مصنوعی به زودی به اندازه کافی برای تسلط بر زیست شناسی، ارائه مزایا و خطرات جدی به یک اندازه، هشدار داد و صدای خود را به بحث رو به رشد در مورد اینکه چه اتفاقی می افتد زمانی که سیستم های هوش مصنوعی به طور کامل علوم زیستی را جذب می کنند، اضافه کرد.

یائو شونیو، دانشمند ارشد هوش مصنوعی Tencent Holdings و محقق سابق OpenAI، در یک سمپوزیوم علمی که توسط آکادمی علوم هنگ کنگ و فو مور آکادمی علوم هنگ کنگ به میزبانی مشترک آکادمی علوم هنگ کنگ و فو مور آکادمی علوم هنگ کنگ برگزار شد، گفت: «توانایی های سایبری مدل های هوش مصنوعی – و به زودی توانایی زیستی مدل ها – به آستانه ای می رسد که در واقع امکان آسیب رساندن به آن وجود دارد. For more context on this story, see our ongoing more AI stories.

یک مدافع وزن باز خواستار مسئولیت است

اخطار یائو به دلیل محتوایش بیشتر از منبع آن قابل توجه است. او قبل از پیوستن به Tencent، یکی از بزرگ‌ترین شرکت‌های فناوری چین، در OpenAI شهرت خود را به دست آورد و Tencent خود را در میان تهاجمی‌ترین ناشران مدل‌های هوش مصنوعی وزن باز قرار داده است - سیستم‌هایی که پارامترهای اساسی آنها به صورت عمومی منتشر می‌شوند و می‌توانند توسط هر کسی دانلود، اصلاح و اجرا شوند.

به گفته SCMP، یائو گفت: «همه شرکت‌های چینی یا هر شرکت مدل باز باید نسبت به نگرانی‌های امنیتی و ایمنی بسیار مسئولیت‌پذیر و بسیار جدی باشند.»

این ارزیابی زمانی انجام می‌شود که سیستم‌های هوش مصنوعی مرزی به طور فزاینده‌ای در پزشکی و زیست‌شناسی اعمال می‌شوند، جایی که می‌توانند کشف داروهای جدید و سایر درمان‌ها را تسریع بخشند - طبق گزارش SCMP، تغییری که در حال حاضر صنعت داروسازی چین را تغییر داده است. با این حال، کارشناسان امنیتی مدت‌ها هشدار داده‌اند که همین قابلیت‌ها می‌تواند به عوامل مخرب کمک کند تا سلاح‌های زیستی تولید کنند یا جرقه همه‌گیری بعدی را بزنند - خطری که وقتی مدل‌های توانمند به‌عنوان نرم‌افزاری با وزن باز عرضه می‌شوند که هر کسی می‌تواند بدون نرده‌های محافظ آن را اجرا کند، برای پلیس سخت‌تر می‌شود.

زیست شناسی به طور گسترده در میان متخصصان هوش مصنوعی به عنوان مرز اصلی بعدی پس از کدنویسی در نظر گرفته می شود، حوزه ای که پیشرفت سریع هوش مصنوعی در حال حاضر امنیت سایبری جهانی را تحت تاثیر قرار داده است. مانند قابلیت‌های سایبری، قابلیت‌های بیولوژیکی دارای کاربرد دوگانه هستند: همان مدلی که نامزدهای دارویی امیدوارکننده را طراحی می‌کند، در اصل می‌تواند به مهاجم کمک کند. بحث واقعی در مورد اینکه کدام طرف سود بیشتری می برد وجود دارد.

کتاب ایمنی خود Tencent

سخنان یائو وزن بیشتری داشت، زیرا چند روز پس از عرضه یک مدل پرچمدار جدید توسط شرکت او به گوش رسید. SCMP گزارش داد که تنسنت Hy4 را در روز چهارشنبه منتشر کرد که بر اساس شرکت بنچمارک Artificial Analysis به عنوان دومین مدل با عملکرد برتر تولید شده در چین رتبه بندی شد.

Tencent در اعلامیه انتشار خود، اقدامات ایمنی تعبیه شده در Hy4 را تشریح کرد. این شرکت گفت که با فیلتر کردن داده‌های مربوطه در مرحله آموزش، قابلیت‌های هک سایبری مدل را حذف کرده و در عین حال قابلیت‌های دفاع سایبری خود را حفظ کرده است. از جنبه بیولوژیکی، تنسنت گفت که قابلیت‌های زیستی Hy4 بسیار پایین‌تر از آستانه خطر بالای آن باقی مانده است، زیرا این مدل هنوز نمی‌تواند دانش بنیادی بیولوژیکی را به پروتکل‌های عملی تبدیل کند - به عبارت دیگر، شکاف بین درک کتاب درسی و راهنمایی عملیاتی گام به گام.

این چارچوب - اندازه‌گیری اینکه آیا یک مدل می‌تواند دانش عمومی را به رویه‌های قابل استفاده تبدیل کند یا خیر - به یک معیار رایج در ارزیابی‌های امنیت زیستی سیستم‌های هوش مصنوعی تبدیل شده است. ادعای Tencent مبنی بر اینکه Hy4 از این خط کوتاه نمی‌آید، ادعای سازنده خود مدل است و اعتبار خارجی چنین ارزیابی‌هایی در سراسر صنعت محدود است.

زمان بندی همچنین نشان دهنده فشار رقابتی است. بر اساس پوشش قبلی SCMP از راه اندازی، تنسنت Hy4 را در رقابتی با وزن باز در میان شرکت های هوش مصنوعی چین معرفی کرد، به طوری که DeepSeek، Z.ai و Alibaba همه مدل های جدید را در هفته های اخیر ارسال کردند. در اکوسیستمی که انتشار وزن‌ها یک ضرورت رقابتی است، فراخوان یائو برای شیوه‌های انتشار «بسیار مسئولانه» به عنوان تلاشی برای تنظیم هنجارهایی در درون حرکت است که اجرای بازبینی‌های ایمنی را سخت‌تر می‌کند.

از هشدارها تا آزمایشگاه‌های خودمختار

چیزی که ظاهر یائو را بسیار جالب می کند این است که Tencent به طور همزمان هوش مصنوعی را به اعماق آزمایشگاه می راند. وی خطاب به اتاقی از دانشجویان علوم کامپیوتر، طرح‌هایی را برای «آزمایشگاه‌های علمی مستقل» که از سیستم‌های هوش مصنوعی برای اجرای آزمایش‌های پیچیده به‌صورت سرتاسری استفاده می‌کنند، با تا کردن پروتئین معکوس به عنوان نمونه‌ای از نوع کاری که شرکت هدف قرار داده است، بیان کرد.

یائو استدلال کرد که موانع فنی برای هوش مصنوعی علمی ایمن و توانمند به مرور زمان از بین خواهند رفت. به گفته SCMP، او گفت: "من فکر می کنم همه تغییرات فنی را می توان حل کرد - جایی که فقط موضوع زمان است." "من فکر می کنم چالش بزرگتر اجتماعی و سازمانی است."

محل برگزاری بر مخاطبان مورد نظر پیام تأکید کرد: یائو با اتاقی مملو از دانشجویان علوم کامپیوتر - جمعیتی که احتمالاً بر اساس این مدل‌ها ساخته می‌شوند - در طول هفته جایزه علوم آینده در سال 2026 صحبت کرد، که SCMP گزارش داد که حدود 1000 شرکت‌کننده در آن حضور داشتند.

این تقسیم بندی - مشکلات مهندسی قابل حل در مقابل مشکلات حاکمیتی حل نشده - بی سر و صدا در حال تبدیل شدن به موقعیت استاندارد مدیران هوش مصنوعی در هر دو طرف اقیانوس آرام است. برای Tencent، این یک حالت تدافعی نیز است: شرکتی که شرط می‌بندد اقدام بعدی خود را بر روی آزمایشگاه‌های خودمختار شرط می‌بندد، انگیزه‌ای برای متقاعد کردن قانون‌گذاران دارد که آستانه‌های خطر زیستی را می‌توان مهندسی، ممیزی و احترام گذاشت.

در حال حاضر، سوال کوتاه مدت این است که آیا شرکت‌هایی که مدل‌های وزن باز را منتشر می‌کنند، آستانه‌های قابل اندازه‌گیری خطر زیستی را قبل از عبور قابلیت‌ها از آنها اتخاذ خواهند کرد یا پس از آن. هشدار یائو نشان می دهد که Tencent، حداقل، معتقد است که ساعت در حال اجرا است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →