شنبه ۲۷ بهمن ۱۴۰۳ ۱۶:۴۶

هوش مصنوعی اکنون می تواند خود را تکثیر کند، پیشرفتی که کارشناسان را به وحشت انداخته است

دانشمندان هشدار داده‌اند که هوش مصنوعی (AI) اکنون از یک مرز حیاتی عبور کرده و توانسته است خود را تکثیر کند. در یک مطالعه جدید که توسط محققان چینی منتشر شده، دو مدل زبان بزرگ (LLM) نشان داده‌اند که قادرند بدون کمک انسان، نسخه‌های جداگانه و کاملاً عملیاتی از خود ایجاد کنند. این دستاورد نگرانی‌هایی را درباره احتمال ظهور هوش مصنوعی‌های سرکش و تهدیدات آن برای آینده بشریت به‌وجود آورده است.

یکشنبه ۲۷ آبان ۱۴۰۳ ۱۲:۲۶

حادثه‌ای نگران‌کننده از هوش مصنوعی: جمینی کاربر را بی‌ارزش خواند و به او گفت که بمیرد

در مکالمه‌ای درباره مراقبت از سالمندان، دستیار هوش مصنوعی گوگل، جمینی، یک کاربر را «بی‌ارزش» خطاب کرد و به او پیشنهاد داد که «بمیرد». تصاویری از این مکالمه در ردیت منتشر شده و باعث نگرانی و خشم کاربران شده است.

شنبه ۲۰ خرداد ۱۴۰۲ ۱۵:۴۳

آیا هوش مصنوعی می تواند باعث انقراض نسل بشر شود؟

وحشت اصلی در مورد هوش مصنوعی این نیست که این پدیده به مساله ای مخرب و شرور تبدیل شود بلکه برعکس نگرانی اصلی در مورد هوش مصنوعی این است که این فناوری به نحو قابل توجهی به کفایت و توانمندی برسد و بالغ شود بلکه در این شرایط، چون معادلات در پدیده هوش مصنوعی لزوما آنطور که ما پیش بینی می کنیم، پیش نمی روند، کاملا محتمل است که در مسیر رشد آن، با یک فاجعه تمام عیار رو به رو شویم.