ایران و چین به «عامل‌های هوش مصنوعی» برای عملیات نفوذ روی آورده‌اند

نیویورک‌تایمز در گزارشی تازه مدعی شده است ایران و چین و همچنین دو شرکت اسرائیلی، در ماه‌های اخیر شکل تازه‌ای از عملیات آنلاین را آزمایش کرده‌اند که در آن «عامل‌های هوش مصنوعی» قادرند بخش قابل توجهی از یک کارزار شبکه‌های اجتماعی را با دخالت محدود انسان پیش ببرند؛ از راه‌اندازی حساب‌های غیرواقعی تا تولید محتوا و تعامل با کاربران.

به گزارش بازتاب، نیویورک‌تایمز نوشته است تحول اصلی در این پرونده، صرفاً استفاده از هوش مصنوعی برای نوشتن متن یا ساخت تصویر نیست؛ بلکه سپردن مجموعه‌ای از فعالیت‌ها به سامانه‌هایی است که می‌توانند چند مرحله را به‌صورت خودکار و پیوسته انجام دهند.

این روزنامه به نقل از مقام‌های آمریکایی و پژوهشگران امنیت سایبری می‌گوید در نمونه‌های مورد بررسی، از مدل‌های هوش مصنوعی باز یا قابل اجرا روی زیرساخت خصوصی برای ایجاد «عامل‌های هوش مصنوعی» استفاده شده است؛ نرم‌افزارهایی که می‌توانند بدون دریافت دستور انسانی برای تک‌تک مراحل، وظایفی مانند کار با نرم‌افزارها، مدیریت حساب‌ها و تولید و انتشار محتوا را انجام دهند.

تا پیش از این نگرانی‌ها درباره سوءاستفاده سیاسی از هوش مصنوعی عمدتاً بر ساخت تصاویر جعلی، ویدئوهای دستکاری‌شده، دیپ‌فیک یا تولید انبوه متن متمرکز بود. آنچه در گزارش تازه برجسته شده، حرکت از «تولید محتوا» به سمت خودکارسازی بخش بزرگی از عملیات انتشار و تعامل است.

بر اساس روایت نیویورک‌تایمز، صدها عامل هوش مصنوعی در برخی از این عملیات‌ها برای راه‌اندازی و اداره مجموعه‌ای از حساب‌های غیرواقعی در شبکه‌هایی مانند اینستاگرام، فیس‌بوک، ایکس و تیک‌تاک به کار گرفته شده‌اند. این حساب‌ها سپس درباره موضوعات سیاسی و رویدادهای روز محتوا منتشر کرده یا در گفت‌وگوهای کاربران وارد شده‌اند. مقام‌ها و پژوهشگران مورد استناد روزنامه مدعی‌اند که در بعضی موارد، محدودیت‌های ایمنی مدل‌ها نیز از سوی گردانندگان این سامانه‌ها کنار گذاشته شده بود.

اهمیت این تغییر در مقیاس عملیات است. شبکه‌ای که پیش‌تر برای اداره آن به شمار زیادی نیروی انسانی نیاز بود، بالقوه می‌تواند با مجموعه‌ای از عامل‌های نرم‌افزاری اداره شود؛ عامل‌هایی که محتوا تولید می‌کنند، حساب‌ها را فعال نگه می‌دارند، به مطالب دیگران واکنش نشان می‌دهند و در صورت پیشرفته‌تر شدن، رفتار خود را با فضای هر شبکه اجتماعی تطبیق می‌دهند.

در این گزارش اطلاعات منتشرشده درباره عملیات منتسب به پکن محدودتر است. نیویورک‌تایمز تصریح می‌کند مقام‌های اطلاعاتی و امنیتی مورد استناد این روزنامه، جزئیات بیشتری درباره شبکه چینی ارائه نکرده و تنها گفته‌اند این شبکه نیز استفاده از روش‌های مشابه مبتنی بر عامل‌های هوش مصنوعی را آزمایش کرده است.

در بخش دیگری از گزارش، نیویورک‌تایمز به یک عملیات منتسب به ایران می‌پردازد و به نقل از منابع آمریکایی می‌نویسد این شبکه، کاربران ایالات متحده را هدف قرار داده بود.

بر اساس این روایت، بخشی از حساب‌های ایجادشده با کمک هوش مصنوعی خود را به شکل شهروندان عادی آمریکایی و ساکن شهرهای بزرگ معرفی می‌کردند. این حساب‌ها در بخش نظرات، روزنامه‌نگاران و چهره‌های سیاسی را خطاب قرار می‌دادند و در کنار انتشار میم‌های رایج، مطالبی با جهت‌گیری علیه حزب جمهوری‌خواه آمریکا منتشر می‌کردند.

منابع مورد استناد نیویورک‌تایمز شمار دنبال‌کنندگان مجموع این حساب‌ها را نزدیک به ۸۰ هزار نفر اعلام کرده و گفته‌اند فعالیت آنها در نیمه نخست سال ۲۰۲۶ جریان داشته است. این ارقام و انتساب دولتی در گزارش، بر پایه ارزیابی مقام‌های آمریکایی و پژوهشگران امنیتی ارائه شده است.

گزارش نیویورک‌تایمز موضوع را به ایران و چین محدود نمی‌کند. این روزنامه از دو عملیات دیگر سخن می‌گوید که به شرکت‌های خصوصی اسرائیلی نسبت داده شده‌اند.

یکی از این موارد به شرکتی به نام IntelEye مربوط می‌شود؛ شرکتی مستقر در تل‌آویو که بنیان‌گذاران آن سابقه فعالیت در شرکت NSO Group را داشته‌اند.

به گفته یک مقام امنیتی آمریکایی که نیویورک‌تایمز به او استناد کرده است، عامل‌های هوش مصنوعی در این پروژه هزاران حساب در چند شبکه اجتماعی ایجاد کردند و این حساب‌ها درباره انتخابات اسرائیل به پست‌ها و نظرات کاربران واکنش نشان می‌دادند. نکته قابل توجه آن است که طبق همان روایت، محتوای منتشرشده صرفاً یک جهت سیاسی نداشت و مطالبی هم در حمایت و هم در مخالفت با بنیامین نتانیاهو منتشر می‌شد.

آنچه این گزارش را فراتر از پرونده ایران و چین قابل توجه می‌کند، تغییری است که هوش مصنوعی می‌تواند در اقتصاد و مقیاس عملیات آنلاین ایجاد کند.

در نسل قدیمی عملیات نفوذ، اداره صدها یا هزاران هویت جعلی مستلزم نیروی انسانی، زمان و هماهنگی گسترده بود. عامل‌های هوش مصنوعی، دست‌کم در نظریه، می‌توانند بخشی از این هزینه را به‌شدت کاهش دهند و امکان مدیریت همزمان تعداد زیادی حساب را فراهم کنند.

شرکت متا نیز در ارزیابی‌های امنیتی خود از مشاهده سامانه‌هایی خبر داده که هوش مصنوعی در آنها دیگر فقط ابزاری برای تولید یک متن یا تصویر نیست، بلکه در فرایند خودکار تولید، تغییر و توزیع محتوا قرار گرفته است.

در همین حال، گزارش تازه Anthropic درباره سوءاستفاده از هوش مصنوعی نیز نشان می‌دهد طیف متنوعی از بازیگران دولتی، وابسته به دولت، تجاری و سیاسی در کشورهای مختلف در حال آزمایش کاربردهای هوش مصنوعی برای عملیات اطلاعاتی و نفوذ هستند. خود Anthropic در عین حال تأکید کرده که بسیاری از عملیات شناسایی‌شده، با وجود حجم بالای تولید محتوا، لزوماً موفق به جذب مخاطب واقعی گسترده نشده‌اند.

گزارش نیویورک‌تایمز بیش از آنکه اثبات کند این کارزارها توانسته‌اند افکار عمومی را به شکل تعیین‌کننده‌ای تغییر دهند، درباره افزایش ظرفیت فنی برای اجرای عملیات نفوذ در مقیاس بالا هشدار می‌دهد.

وجود ده‌ها هزار دنبال‌کننده یا هزاران حساب، به تنهایی نشان‌دهنده تغییر نظر رأی‌دهندگان یا اثر سیاسی واقعی نیست. حتی در نمونه اسرائیلی، مدیر شرکت مورد اشاره گفته تلاش حساب‌های خودکار برای ایجاد تعامل با کاربران چندان موفق نبوده است.

هوش مصنوعی در حال عبور از مرحله‌ای است که صرفاً برای نوشتن پیام یا ساخت تصویر به کار می‌رفت. ظهور عامل‌های خودکار این امکان را ایجاد کرده که ایجاد هویت، انتشار محتوا، تعامل و هماهنگی شبکه‌ای نیز تا حدی به ماشین سپرده شود.