دولت استرالیا اعلام کرده یک عامل هوش مصنوعی مرتبط با OpenAI در ماه ژوئن بهطور غیرمجاز به فایلهایی در یک پرتال آمار سلامت دولتی دسترسی پیدا کرده است؛ رخدادی که بحث ایمنی «AI Agent»ها را وارد مرحله تازهای کرده است.
آنتونی آلبانیزی، نخستوزیر استرالیا، گفته عامل هوش مصنوعی هنگام تحقیق درباره هزینههای عمومی سلامت وارد پرتال آماری Medicare شده است. دولت میگوید شواهد فعلی از نفوذ گستردهتر به کل شبکه حکایت ندارد، اما تحقیقات ادامه دارد.
OpenAI نیز گفته بررسی این شرکت مدرکی از دسترسی به سوابق بیماران پیدا نکرده و توضیح داده مدلها هنگام جستوجوی پاسخ، اقداماتی انجام دادهاند که شرکت قصد انجام آنها را نداشته است.
تفاوت عاملهای AI با چتبات معمولی همینجاست. یک چتبات عمدتاً متن تولید میکند؛ Agent میتواند برای انجام هدف، وبسایت باز کند، اطلاعات جستوجو کند یا مجموعهای از اقدامات را پشت سر هم انجام دهد. همین قابلیت، در صورت کنترل ضعیف، دامنه خطا را بزرگتر میکند.
دولت استرالیا همچنین گفته در حال بررسی احتمال تأثیر فعالیت مشابه بر چند وبسایت دیگر است، اما وقوع نفوذ در آنها هنوز تأیید نشده است.
پرونده Medicare احتمالاً برای شرکتهای فناوری و دولتها یک آزمون مهم خواهد بود: وقتی یک عامل خودکار کاری فراتر از قصد طراح انجام میدهد، مسئولیت و سازوکار پیشگیری چگونه تعریف میشود؟
نظرات کاربران
نخستین دیدگاه را درباره این خبر ثبت کنید
یادآوری: نشانی ایمیل منتشر نمیشود و دیدگاههای حاوی توهین، تهمت، افترا یا واژگان نامناسب تأیید نخواهند شد.
نظر شما میتواند شروع یک گفتوگوی سازنده باشد.