شرکت چینی مون‌شات اعلام کرده است که برای کاهش خطر سوءاستفاده سایبری، بخشی از داده‌های مرتبط با حملات رایانه‌ای را از فرایند آموزش مدل هوش مصنوعی Kimi K3.1 Pro حذف کرده است. این شرکت قصد دارد وزن‌های مدل را در ۴ نوامبر منتشر کند؛ اقدامی که بحث درباره توازن میان دسترسی آزاد به هوش مصنوعی و امنیت سایبری را دوباره مطرح کرده است.
شرکت هوش مصنوعی مون‌شات، مستقر در پکن، اعلام کرده است که در توسعه مدل جدید Kimi K3.1 Pro اقداماتی برای محدودکردن قابلیت‌های تهاجمی سایبری انجام داده است. به گزارش رویترز در ۲۴ اکتبر، این شرکت بخشی از داده‌های مرتبط با امنیت سایبری را از مجموعه آموزشی و محیط‌های یادگیری تقویتی مدل حذف کرده، اما تلاش کرده است توانایی‌های عمومی آن در برنامه‌نویسی حفظ شود. مون‌شات گفته است هدفش جلوگیری از انتشار وزن‌های باز مدلی است که بتواند قابلیت‌های تهاجمی سایبری را به‌طور قابل‌توجهی افزایش دهد.
وزن‌های یک مدل هوش مصنوعی فایل‌هایی هستند که امکان اجرای مدل و در بسیاری از موارد تغییر یا توسعه آن را برای برنامه‌نویسان و پژوهشگران فراهم می‌کنند. این شیوه انتشار می‌تواند دسترسی به فناوری را گسترش دهد و به سازمان‌ها کمک کند نرم‌افزارهای خود را بررسی و ایمن‌سازی کنند؛ اما پس از انتشار گسترده فایل‌ها، کنترل دسترسی، نظارت بر نحوه استفاده و اعمال محدودیت‌های جدید دشوارتر می‌شود. رویترز گزارش داده است که همین مسئله به یکی از نگرانی‌های اصلی دولت‌ها و شرکت‌های فناوری درباره مدل‌های قدرتمند هوش مصنوعی تبدیل شده است.
مون‌شات اعلام کرده است که مدل جدید در آزمون داخلی این شرکت برای یافتن و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری، امتیاز ۸۱ درصد کسب کرده است؛ در حالی که نسخه مشابه بدون محدودیت‌های کاهش خطر، به امتیاز ۹۰٫۵ درصد رسیده بود. این ارقام به ارزیابی داخلی شرکت مربوط می‌شوند و رویترز تأکید کرده است که نتایج به‌طور مستقل تأیید نشده‌اند. بنابراین، نمی‌توان تنها بر پایه این آزمون نتیجه گرفت که مدل در تمام شرایط واقعی به همین میزان از توانایی برخوردار است یا محدودیت‌های اعمال‌شده همه خطرهای احتمالی را برطرف کرده‌اند.
بر اساس گزارش رویترز، مون‌شات برنامه دارد وزن‌های Kimi K3.1 Pro را در ۴ نوامبر منتشر کند. این تصمیم در شرایطی گرفته شده که چین نیز پیش‌نویس محدودیت‌هایی را برای صادرات برخی فناوری‌های مرتبط با تولید بدافزار مبتنی بر هوش مصنوعی و کشف خودکار آسیب‌پذیری‌ها مطرح کرده است. این روند نشان می‌دهد که توسعه مدل‌های پیشرفته دیگر فقط به رقابت بر سر سرعت، کیفیت پاسخ یا توانایی برنامه‌نویسی محدود نیست؛ شرکت‌ها باید درباره میزان دسترسی عمومی، خطر سوءاستفاده و امکان ارزیابی مستقل ایمنی مدل‌ها نیز تصمیم بگیرند.