حمایت ویتالیک بوترین از محدودیت هوش مصنوعی و هشدار درباره ریسک‌های KYC

ویتالیک بوترین، هم‌بنیان‌گذار اتریوم، از تصمیم شرکت Moonshot AI برای محدود کردن قابلیت‌های هک پیشرفته در مدل هوش مصنوعی Kimi K3.1 Pro حمایت کرده و هشدار داده است که مدیریت نادرست ریسک‌های امنیتی هوش مصنوعی می‌تواند به بررسی‌های هویتی محدودکننده و نظارت گسترده منجر شود.

بوترین در پستی در تاریخ ۲۶ اکتبر در شبکه اجتماعی X، از تصمیم Moonshot برای حذف محتوای پیشرفته مربوط به جرائم سایبری تهاجمی از داده‌های آموزشی مدل دفاع کرد. او استدلال می‌کند که توسعه‌دهندگان به زمان بیشتری برای تقویت نرم‌افزارها در برابر حملات هوش مصنوعی که روزبه‌روز توانمندتر می‌شوند، نیاز دارند.

این اظهارات به دنبال معرفی مدل Kimi K3.1 Pro توسط Moonshot در ۲۳ اکتبر مطرح شد که در حال حاضر از طریق اپلیکیشن‌ها و API این شرکت در دسترس است. این استارتاپ چینی قصد دارد تا ۴ نوامبر وزن‌های کامل این مدل را به صورت متن‌باز منتشر کند.

حمایت بوترین از محدود کردن قابلیت‌های خطرناک هوش مصنوعی

موضع ویتالیک بوترین بر تمایز بین محدود کردن کارهایی که یک مدل هوش مصنوعی می‌تواند انجام دهد و تصمیم‌گیری در مورد اینکه چه کسانی مجاز به استفاده از آن هستند، متمرکز است.

او در حمایت از تصمیم Moonshot برای حذف قابلیت‌های سایبری تهاجمی پیشرفته از فرآیند آموزش نوشت:

تبعیض قائل شدن علیه موارد استفاده، بسیار کمتر از تبعیض قائل شدن علیه کاربران بد است.

ویتالیک بوترین

بوترین استدلال کرد که جهان برای آماده شدن در برابر حملات قدرتمند مبتنی بر هوش مصنوعی، از طریق تقویت زیرساخت‌های موجود، بازبینی نرم‌افزارهای قدیمی و استفاده از «تأیید رسمی» (formal verification) برای کدهای جدید، به زمان نیاز دارد. تأیید رسمی شامل بررسی ریاضیاتی نرم‌افزار برای اطمینان از برآورده کردن الزامات مشخص شده است و بوترین بارها از این رویکرد به عنوان راهی برای یافتن ضعف‌های امنیتی قبل از استقرار برنامه‌ها حمایت کرده است.

تأثیر قابل‌اندازه‌گیری محدودیت‌های امنیتی Kimi

شرکت Moonshot مدل Kimi K3.1 Pro را به عنوان یک مدل متن‌باز ارتقا یافته بر پایه معماری Kimi K3 موجود خود معرفی کرد. طبق اعلامیه فنی این شرکت، توسعه‌دهندگان داده‌های منتخب مرتبط با حملات سایبری را از فرآیند آموزش و یادگیری تقویتی حذف کرده‌اند، در حالی که قابلیت‌های برنامه‌نویسی عمومی را حفظ کرده‌اند.

این تصمیم باعث کاهش عملکرد در بنچمارک داخلی اکسپلویت Moonshot شد. نسخه‌ای بدون محدودیت، ۹۰.۵٪ از وظایف را حل کرد، در حالی که این رقم برای مدل منتشر شده ۸۱٪ بود. این تفاوت ۹.۵ درصدی نشان‌دهنده تأثیر محدودیت‌هاست، هرچند شرکت مشخص نکرده که این کاهش چگونه به پیشگیری از حملات سایبری در دنیای واقعی تبدیل می‌شود.

هشدار بوترین: خطر کنترل‌های دسترسی سخت‌گیرانه

فراتر از نگرانی‌های فوری امنیت سایبری، ویتالیک بوترین هشدار داد که دولت‌ها و شرکت‌های فناوری ممکن است در واکنش به حوادث جدی مرتبط با هوش مصنوعی، محدودیت‌هایی را بر کاربران عادی تحمیل کنند. او آینده‌ای احتمالی را توصیف کرد که در آن مدل‌های هوش مصنوعی قفل شده، بررسی‌های اجباری «احراز هویت مشتری» (KYC) و نظارت‌های مزاحم وجود دارد.

تحت چنین شرایطی، دسترسی به ابزارهای پیشرفته هوش مصنوعی می‌تواند به ملیت، مدارک هویتی یا سایر اعتبارنامه‌های یک فرد بستگی داشته باشد. بوترین هشدار داد که برخی کاربران ممکن است بر اساس صلاحیت‌ها یا شهروندی خود به شرکت‌کنندگان «درجه دو، سه یا چهار» تبدیل شوند.

این نگرانی‌ها با آزمایش‌های اخیر او در زمینه دسترسی خصوصی به هوش مصنوعی مطابقت دارد. او در ۱۶ اکتبر یک ساختار عامل متمرکز بر حریم خصوصی را معرفی کرد که مسیریابی Tor، پرداخت‌های ناشناس از طریق zkAPI و بازنویسی محلی پرامپت‌ها را برای کاهش اطلاعات شخصی افشا شده به مدل‌های خارجی ترکیب می‌کند.

امنیت سایبری هوش مصنوعی، یک نگرانی برای توسعه‌دهندگان بلاکچین

ارزیابی‌های مستقل قبلاً قابلیت‌های تهاجمی مدل‌های Moonshot را بررسی کرده‌اند. در ماه ژوئیه، مرکز استانداردها و نوآوری هوش مصنوعی ایالات متحده و مؤسسه امنیت هوش مصنوعی بریتانیا، مدل Kimi K3 را در برابر حملات سایبری شبیه‌سازی‌شده ارزیابی کردند. محققان دریافتند که عملکرد این مدل پایین‌تر از سیستم‌های پیشرو با قابلیت سایبری است، اما با وجود پادمان‌های موجود، همچنان می‌تواند عملیات تهاجمی را امتحان کند.

پیش از این، بوترین پیشنهاد داده بود که کارهای توسعه با کمک هوش مصنوعی بیشتر به سمت تست امنیتی و تأیید ریاضیاتی هدایت شود. او در ماه مه، کاربردهایی برای این رویکرد در ماشین‌های مجازی دانش-صفر اتریوم، اثبات‌های رمزنگاری، سیستم‌های اجماع و تحقیقات امنیتی مقاوم در برابر کوانتوم شناسایی کرده بود.