اوراکل بی سر و صدا سیاستی را اجرا کرده است که کدهای تولید شده با هوش مصنوعی را از مشارکت در OpenJDK، پلتفرم توسعه منبع باز جاوا که مباشر این شرکت است، ممنوع می کند. این اقدام که توسط The Register گزارش شده است، به نگرانی‌های ایمنی، امنیت و مالکیت معنوی اشاره می‌کند، اما در تنش شدید با پیام‌های داخلی Oracle درباره نحوه ساخت نرم‌افزار قرار دارد. برای [اخبار فوری هوش مصنوعی] (https://aibuzzwire.news)، این داستان شکاف رو به رشد بین جاه‌طلبی هوش مصنوعی شرکتی و احتیاط مهندسی را برجسته می‌کند.

بر اساس این خط‌مشی، توسعه‌دهندگان ممکن است همچنان از مدل‌های زبان بزرگ به صورت خصوصی برای اشکال‌زدایی و بررسی کد استفاده کنند. با این حال، آنها از ارسال مطالب تولید شده توسط هوش مصنوعی به مخازن OpenJDK، درخواست های کششی یا سایر کانال های ارتباطی پروژه منع شده اند. این محدودیت عملاً مرزی بین استفاده از هوش مصنوعی به عنوان دستیار شخصی و اجازه به آن برای تولید کدی که وارد یک پایگاه کد مشترک و طولانی مدت می شود، ترسیم می کند.

چرا اوراکل خط کشی کرد

دلایل پشت این ممنوعیت عملی است تا فلسفی. کد تولید شده توسط هوش مصنوعی سه دسته از خطرات را معرفی می کند که از بین بردن آنها بعد از این واقعیت دشوار است. اول، امنیت: LLMها می‌توانند کدهایی با آسیب‌پذیری‌های ظریف تولید کنند که بازبین‌های انسانی ممکن است فوراً آن‌ها را نگیرند، به‌ویژه در زبانی به پیچیدگی جاوا با کتابخانه استاندارد عمیق و مدل همزمانی آن. دوم، مالکیت فکری: مدل‌هایی که بر روی مجموعه‌های وسیعی از کدهای موجود آموزش دیده‌اند، می‌توانند مطالب دارای مجوز را به‌لفظ یا به عبارتی نزدیک بازتولید کنند، و به طور بالقوه پروژه‌های منبع باز را با ادعاهای حق نسخه‌برداری آلوده کنند. سوم، انتساب و پاسخگویی: وقتی کد به جای نوشته شدن تولید می شود، تشخیص اینکه چه کسی مسئول اشکالات، تعهدات مجوز یا مسائل مربوط به انطباق است، دشوارتر می شود.

OpenJDK فقط یک پروژه منبع باز نیست. این پیاده‌سازی مرجع جاوا است، زبانی که در میلیاردها دستگاه در سراسر جهان از سرورهای سازمانی گرفته تا برنامه‌های اندروید اجرا می‌شود. کدهای متعهد به OpenJDK می توانند برای چندین دهه به محصولات تجاری Oracle، توزیع های JDK شخص ثالث و اکوسیستم جهانی جاوا سرازیر شوند. یک تکه کد مشکل ساز ایجاد شده توسط هوش مصنوعی می تواند مسئولیتی ایجاد کند که برای سال ها موج می زند.

تضاد با وضعیت درونی اوراکل

آنچه این سیاست را قابل توجه می کند، تضاد آن با اظهارات عمومی اوراکل در مورد استفاده از هوش مصنوعی است. لری الیسون یکی از بنیانگذاران اخیراً اعلام کرد که مدل‌های هوش مصنوعی اکنون کدهای اوراکل را می‌نویسند و این شرکت را به عنوان پیشرو در توسعه نرم‌افزار مبتنی بر هوش مصنوعی قرار می‌دهد. مایک سیسیلیا، مدیر عامل شرکت، ابزارهای هوش مصنوعی را به تیم‌های مهندسی کوچک‌تر قادر می‌سازد تا سریع‌تر ارائه دهند، نشان می‌دهد که هوش مصنوعی در استراتژی بهره‌وری اوراکل مرکزی است.

این تقسیم منعکس کننده تنش گسترده تری در صنعت فناوری است. شرکت ها مشتاق هستند تا کدهای تولید شده توسط هوش مصنوعی را به عنوان مدرکی بر نوآوری و کارایی در عملیات داخلی خود، به ویژه برای سرمایه گذاران و مشتریان، تبلیغ کنند. اما وقتی صحبت از کدهایی می‌شود که افراد دیگر به آن وابسته هستند، جایی که مسئولیت‌پذیری خارجی است و شعاع انفجار یک باگ در استقرار جهانی اندازه‌گیری می‌شود، شور و شوق کاهش می‌یابد. موضع اوراکل اساساً می گوید که کدهای تولید شده با هوش مصنوعی برای محصولات اختصاصی اوراکل به اندازه کافی خوب هستند اما برای پروژه منبع باز که کنترل می کند به اندازه کافی خوب نیستند.

OpenJDK در تردید تنها نیست

اوراکل اولین پروژه منبع باز بزرگی نیست که با این سوال دست و پنجه نرم می کند، اما یکی از بزرگترین و مهم ترین پروژه هاست. چندین انجمن منبع باز دیگر محدودیت های مشابهی را اتخاذ کرده اند یا در حال بررسی هستند. هسته لینوکس، Kubernetes و بنیاد نرم‌افزار آپاچی همگی بحث‌هایی را در مورد اینکه آیا مشارکت‌های تولید شده توسط هوش مصنوعی باید برچسب‌گذاری، محدود یا ممنوع شوند، دیده‌اند. نگرانی اصلی جهانی است: مجوزهای منبع باز و موافقت نامه های مشارکت در مورد نویسندگان انسانی طراحی شده اند که کد خود را درک کرده و مسئولیت آن را بر عهده می گیرند.

یک مدل هوش مصنوعی نمی‌تواند گواهی مبدأ توسعه‌دهنده را امضا کند، نمی‌تواند برای یک آسیب‌پذیری امنیتی پاسخگو باشد و نمی‌تواند به سؤالاتی درباره اینکه چرا کد را به روشی خاص نوشته است پاسخ دهد. هنگامی که یک انسان کد تولید شده توسط هوش مصنوعی را به عنوان کار خود ارسال می کند، به طور ضمنی چیزی را تضمین می کند که ممکن است به طور کامل درک نکند، که مدل اعتمادی را که همکاری منبع باز به آن بستگی دارد، تضعیف می کند.

پس زمینه 70 میلیارد دلاری

احتیاط هوش مصنوعی اوراکل در زمینه کد در بحبوحه یک شرط بندی عظیم زیرساخت هوش مصنوعی است. این شرکت در سال جاری تقریباً 70 میلیارد دلار در توسعه مرکز داده برای پشتیبانی از حجم کاری هوش مصنوعی، یکی از بزرگترین برنامه های هزینه سرمایه در بخش فناوری، سرمایه گذاری می کند. این هزینه باعث شد تا رتبه بندی S&P Global رتبه اعتباری Oracle را به BBB-، یک درجه بالاتر از وضعیت ناخواسته، کاهش دهد، و دلیل آن بازگشت نامطمئن سرمایه گذاری عظیم است.

تضاد آموزنده است. اوراکل حاضر است ده ها میلیارد بر روی زیرساخت هوش مصنوعی شرط بندی کند و شرط بندی کند که تقاضا برای محاسبه هوش مصنوعی هزینه را توجیه می کند. اما وقتی نوبت به اجازه دادن به هوش مصنوعی می‌رسد که کدی را که در یکی از مهم‌ترین اکوسیستم‌های برنامه‌نویسی جهان اجرا می‌شود بنویسد، مهندسان این شرکت هنوز نمی‌گویند. پیام این است که زیرساخت یک شرط کالایی است، اما کیفیت کد یک شرط شهرت است و این دو دارای مشخصات ریسک بسیار متفاوتی هستند.

این برای توسعه دهندگان به چه معناست

برای توسعه دهندگان جاوا که در OpenJDK مشارکت می کنند، این خط مشی به معنای دقت بیشتر در مورد نحوه استفاده از ابزارهای هوش مصنوعی است. استفاده از ChatGPT یا Claude برای درک اشکال یا بررسی یک الگوی طراحی همچنان قابل قبول است. ارسال کدی که عمدتاً توسط یک ابزار هوش مصنوعی تولید شده است، حتی با ویرایش های انسانی، انجام نمی شود. این خط همیشه در عمل واضح نیست، زیرا بسیاری از توسعه دهندگان اکنون از هوش مصنوعی به عنوان شریک تهیه پیش نویس مشترک استفاده می کنند و ممکن است نتوانند تفکر خود را به طور واضح از پیشنهادات مدل جدا کنند.

مفهوم گسترده‌تر صنعت این است که عجله برای استفاده از ابزارهای کدنویسی هوش مصنوعی ممکن است دقیقاً در نقطه‌ای که کیفیت کد و مسئولیت‌پذیری بیشترین اهمیت را دارد، به سقف برسد. نگهبانان منبع باز، تیم های امنیتی و افسران انطباق به طور فزاینده ای نسبت به کدهای تولید شده توسط هوش مصنوعی محتاط هستند، حتی زمانی که مدیران از دستاوردهای بهره وری آن جشن می گیرند. ممنوعیت OpenJDK اوراکل ممکن است نشانه‌ای از این باشد که اجماع واقعی در میان افرادی که واقعاً نرم‌افزارهای حیاتی را نگهداری می‌کنند، قرار دارد.

از هوش مصنوعی جلوتر بمانید

شکاف بین تبلیغات هوش مصنوعی و واقعیت مهندسی در حال افزایش است. آخرین [پوشش صنعت AI] (https://aibuzzwire.news) را دنبال کنید تا اطلاعات بیشتری در مورد اینکه چگونه شرکت ها در حال عبور از انتقال هوش مصنوعی هستند.

اخبار هوش مصنوعی را بیشتر بخوانید →