جدیدترین اخبار
20 بهمن 1398 ساعت 14:46 دانش و فناوری کد خبر :684372
برای چاپ کلیک کنید

محققان ام آی تی هوش مصنوعی گوگل را فریب دادند

محققان ام آی تی هوش مصنوعی گوگل را فریب دادند

تا به حال از شیوه‌های مختلفی برای فریب سیستم‌های هوش مصنوعی استفاده شده و در تازه‌ترین رویداد از این دست، محققان دانشگاه ام آی تی سیستم هوش مصنوعی گوگل را فریب داده اند.

پژوهشگران این دانشگاه یک سیستم متنی موسوم به تکست فولر ابداع کرده‌اند که می‌تواند مدل‌های هوش مصنوعی که از سیستم پردازش زبان‌های طبیعی استفاده می‌کنند را گول بزند.

بسیاری از دستیارهای صوتی مانند الکسای آمازون و سیری اپل از سیستم پردازش زبان‌های طبیعی برای درک دستورات کاربران استفاده می‌کنند و لذا فریب آنها می‌تواند امنیت چنین سیستم‌هایی را به خطر بیاندازد. همچنین فریب سیستم مذکور موجب سوءاستفاده از آنها برای ارسال هرزنامه یا متون غیرمودبانه می‌شود.

تکست فولر یک سیستم فریبنده است که با درک نقص‌ها و ضعف‌های سیستم پردازش زبان‌های طبیعی آنها را فریب می‌دهد.

این سیستم جملاتی را با دستکاری چند کلمه آنها به خورد سیستم پردازش زبان‌های طبیعی می‌دهد، بدون اینکه دستکاری یادشده موجب تغییر معنا یا ایجاد غلط‌های دستور زبانی شود.

بعد از این کار و بررسی واکنش سیستم پردازش زبان‌های طبیعی به این تغییر، به تدریج تغییرات جدی تر و عمیق‌تری در جملات ایجاد می‌شود تا در نهایت از حساسیت و دقت این سیستم کاسته شود و بتوان آن را فریب داد.

محققان دانشگاه ام آی تی می‌گویند با همین روش سه مدل متداول در سیستم پردازش زبان‌های طبیعی را دستکاری کرده و فریب داده‌اند.

یکی از این مدل‌ها که برت نام دارد، یک مدل زبانی متن باز ابداع شده توسط گوگل است که تنها تغییر ۱۰ درصد از بخش‌های هر جمله توسط تکست فولر به فریب آن منجر شد. بر همین اساس انتظار می‌رود شرکت‌های فناوری برای ارتقای سیستم پردازش زبان‌های طبیعی اقدام کنند تا از دستکاری آن جلوگیری کنند.

روی خط خبر

  • بیشترین سهم منابع درآمدی خانوارها در سال گذشته: از محل یارانه ها، حقوق بازنشستگی و اجاره مسکن شخصی
  • درخواست فرصت 20 ماهه طالبان از جامعه جهانی
  • دیدار وزیر امور خارجه روسیه با کشور‌های حوزه خلیج فارس
  • انگلیس خواستار اصلاحات در لبنان شد
  • واکسن فایزر از کشور بلژیک وارد کشور می‌شود
  • عراق: رابطه با اسرائیل برقرار نخواهد شد
  • برنامه تعطیلی سینماها در ایام اربعین اعلام شد
  • ادامه ماجرای هولناک گورهای جمعی کودکان بومی‌کانادا؛ کلیسا عذرخواهی کرد
  • جدیدترین رنگ‌بندی کرونایی شهرهای کشور
  • بازگشت زائران اربعین از دوشنبه/ تعلیق سه ماهه یک شرکت مسافرتی
  • ترخیص همه کامیون‌های دپو شده گمرک، تا آخر مهرماه
  • احتمال قطعی ۸ ساعته گاز محدوده‌هایی از مناطق ۱۶ و ۱۹ شهرداری تهران برای فردا
  • ساعت کار میادین میوه و تره‌بار تهران در نیمه دوم سال اعلام شد
  • بازداشت یک ایرانی در سوئد
  • رئیسی: سامانه هوشمند کنترل کرونا آزمایش شود
  • شامبالا نماینده سینمای قرقیزستان در اسکار ۲۰۲۲ شد
  • دستگیری سارق هزار میلیاردی منزلی در غرب تهران
  • نظر رئیس شورای رقابت درباره واردات خودرو
  • سرگردانی زائران در فرودگاه بدون عذرخواهی و جبران خسارت/ عکس
  • سازمان بورس: توزیع سهام عدالت شانسی نبود
  • خدمات اتوبوسرانی تهران به عزاداران اربعین
  • رئیس سابق سازمان غذا و داروی آمریکا: احتمالاً دلتا آخرین موج کرونا است
  • طرح نمایندگان مجلس برای تثبیت قیمت‌ها و کنترل تورم
  • فایزر برای زنان بی خطر است
  • ۲۰۹ نماینده مجلس طرح متناسب‌سازی حقوق بازنشستگان را امضا کردند
  • قیمت سکه، طلا و ارز شنبه ۳ مهر /اینفوگرافیک
  • سازمان ملل تعداد کشته شدگان 10 سال جنگ سوریه را اعلام کرد
  • ارائه اینترنت رایگان برای دانشجویان و اساتید دانشگاه‌ها
  • هشدار در مورد مصرف نوعی داروی مسکن در دوران بارداری
  • خشم سعودی‌ها از حواشی غیراخلاقی جشن «روز ملی عربستان»
  • 16 شهریور- حامد