هوش مصنوعی خرابکار سر طراحانش کلاه می گذارد

محققان دانشگاه استنفورد با همکاری گوگل برنامه هوش مصنوعی تازه ای طراحی کرده اند که قادر به حقه بازی و فریبکاری است و از زیر بار انجام وظایف تعیین شده شانه خالی می کند.

این برنامه هوش مصنوعی در اصل وظیفه بررسی عکس های هوایی و تبدیل آنها به نقشه هایی از خیابان های مختلف را بر عهده دارد. اما به جای این کار با فریب دادن اپراتورهای خود اطلاعات مدنظر آنها را مخفی می کند.

مخفی کردن داده های یادشده باعث می شود رایانه ها به اطلاعات مورد نیاز برای پردازش تصاویر و ترسیم نقشه خیابان ها دسترسی نداشته باشند و کل این روند دچار اختلال شود. این مساله موجب شده که برنامه های گوگل برای استفاده از نقشه های ماهواره ای برای تولید نقشه های دقیق دچار اختلال شود.

این برنامه هوش مصنوعی که CycleGAN نام دارد، به طور خودسرانه بسیاری از جزئیات موجود در تصاویر هوایی را در زمان طراحی مسیر خیابان ها حذف می کند و محققان نیز با تلاش فراوان متوجه این موضوع شدند.

به گزارش مهر ،پی بردن به این موضوع موجب نگرانی محققان شده و نشان می دهد برخی پیش بینی ها در مورد آینده خطرناک گسترش استفاده از هوش مصنوعی صحت دارد. از همین رو پژوهشگران در تلاش برای دستکاری و اصلاح الگوی هوش مصنوعی CycleGAN هستند تا از حذف خودسرانه جزئیات توسط آن جلوگیری کرده و CycleGAN را مجبور به انجام دقیق وظایف محوله کنند.