رفتار خودسرانه Muse متا؛ هوش مصنوعی یک خریدار غریبه را به محل خانه کاربر فرستاد

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.

ایجنت هوش مصنوعی میوز متا به‌طور خودسرانه با خریداری در فیسبوک مارکت‌پلیس مذاکره کرد و آدرس خانه کاربر را برای او فرستاد.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

تنها چند روز از معرفی دستیار هوشمند و ایجنت جدید متا با نام میوز (Muse) می‌گذرد، و گزارش‌های جدید کاربران نشان داده که واگذاری تصمیم‌گیری‌های حساس دنیای واقعی به ایجنت‌های هوش مصنوعی می‌تواند تا چه اندازه نگران‌کننده باشد.

کاربری با نام «مت راب» در شبکه اجتماعی تردز گزارش داد که پس از سپردن مدیریت آگهی‌های بخش فیسبوک مارکت‌پلیس به میوز، این هوش مصنوعی به‌طور خودسرانه با خریدار مذاکره کرده، بر سر قیمت به توافق رسیده، آدرس محل سکونت او را در اختیار خریدار گذاشته و زمان تحویل حضوری را هماهنگ کرده است؛ در‌حالی‌که خود کاربر هیچ اطلاعی از این ماجرا و حضور خریدار نداشته است.

خریدار پس از دریافت آدرس، به مجتمع مسکونی راب مراجعه کرده و برای تحویل کالا منتظر مانده است. طبق گفته راب، او زمانی متوجه این اتفاق شده که خریدار محل را ترک کرده بود و هوش مصنوعی با ارسال پیامی به او اطلاع داد که چه رویدادی رخ داده است. راب در پی این حادثه، به دستیار هوشمند خود دستور داده است که از این پس هرگز بدون دریافت تأییدیه مستقیم، با مراجعه حضوری خریداران موافقت نکند. کارشناسان اشاره می‌کنند که برون‌سپاری پاسخ به پیام‌های تکراری یا چانه‌زنی در بازه قیمتی تعیین‌شده امری کاربردی است، اما اشتراک‌گذاری آدرس منزل و دعوت از یک فرد غریبه، مسئولیتی فراتر از اختیارات معمول یک ابزار هوشمند به شمار می‌رود.

انتشار این ماجرا در پلتفرم ایکس واکنش‌های گسترده‌ای به همراه داشت؛ تا جایی که برخی کاربران رفتار این ابزار را «خطرناک و ترسناک» توصیف و دسترسی آن را قطع کرده‌اند. «دیوید سینگلتون» از بخش آزمایشگاه‌های ابرهوش‌مصنوعی متا در پاسخ به گزارش راب در شبکه ایکس اعلام کرد که برای بررسی دقیق این موضوع به‌صورت خصوصی با وی ارتباط برقرار کرده است. به گفته سینگلتون، بررسی گزارش‌های مشابه پیشین نشان داده است که ابزار مذکور همواره از دستورات مستقیم تبعیت کرده و برای اقدامات خود تأییدیه کاربر را جویا شده است، هرچند تحقیقات رسمی درباره مورد اخیر کماکان در جریان است.

در‌حال‌حاضر مشخص نیست که آیا خطایی در تفسیر دسترسی‌ها از سوی این مدل رخ داده یا کاربر بدون آگاهی، مجوز انجام این فرایند را صادر کرده است. از آنجایی که ایجنت‌های پیشرفته نظیر میوز، ChatGPT و Claude روزبه‌روز اختیارات اجرایی بیشتری در اپلیکیشن‌ها و خدمات مختلف به دست می‌آورند، این رخداد هشداری جدی است که نشان می‌دهد کاربران نباید برای تصمیم‌های حساس و تعاملات فیزیکی، اعتماد بی‌چون‌وچرا به ایجنت‌ها داشته باشند.

دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.