چین برای سناریوی «خروج هوش مصنوعی از کنترل انسان» آماده می‌شود

رقابت چین و آمریکا در هوش مصنوعی تنها به ساخت مدل‌های قدرتمندتر محدود نمانده است. اسناد و مواضع رسمی در چین نشان می‌دهد پکن هم‌زمان در حال آماده‌سازی مقررات و سازوکارهایی برای سناریویی است که در آن سیستم‌های AI از کنترل مؤثر انسان خارج شوند.

بازتاب_ چارچوب‌های امنیتی چین، «از دست رفتن کنترل» بر هوش مصنوعی را به‌عنوان یکی از ریسک‌های آینده شناسایی کرده‌اند. شی جین‌پینگ نیز تأکید کرده که فناوری هوش مصنوعی باید همواره زیر کنترل انسان باقی بماند.

مقررات تازه چین برای AI Agentها بر وجود ابزارهای مداخله و همچنین باقی ماندن تصمیم نهایی در اختیار انسان تأکید دارد. مقام‌های چینی نگران‌اند که مدل‌های بسیار قدرتمند بتوانند برای زیرساخت‌های حیاتی، شبکه‌های ارتباطی یا کاربردهای نظامی تهدید ایجاد کنند.

این نگرانی‌ها در حالی جدی‌تر شده که مدیران شرکت‌های بزرگ آمریکایی از جمله Anthropic و OpenAI نیز طی روزهای اخیر درباره توسعه بسیار سریع مدل‌های frontier AI هشدار داده‌اند.

با وجود رقابت شدید فناوری میان دو کشور، به نظر می‌رسد حداقل در تعریف بخشی از خطرات، شباهت‌هایی میان نگرانی‌های واشنگتن و پکن شکل گرفته است. با این حال اختلاف بر سر راه‌حل بسیار عمیق است. چین از مدل‌های Open Weight داخلی نیز حمایت کرده و برخی محدودیت‌های اعمال‌شده بر مدل‌های آمریکایی را با دیده تردید نگاه می‌کند.

مسائل مرتبط با ایمنی AI قرار است در مذاکرات آمریکا و چین در ماه جاری نیز مطرح شود.

اهمیت تحول تازه در این است که بحث درباره هوش مصنوعی فوق‌قدرتمند دیگر صرفاً به آزمایشگاه‌ها محدود نیست. دو قدرت اصلی توسعه‌دهنده AI به‌تدریج در حال وارد کردن سناریوهای «کنترل‌ناپذیری» به مقررات رسمی خود هستند؛ موضوعی که می‌تواند مسیر نسل بعدی مدل‌ها، استانداردهای جهانی و حتی دسترسی کاربران به قابلیت‌های پیشرفته AI را تغییر دهد.