متا مخفیانه برای تماس‌های تلفنی Muse از اپراتورهای انسانی استفاده می‌کرد

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.

این تصمیم با انتقادات زیادی همراه بوده، چون حضور اپراتور انسانی می‌تواند به افشای اطلاعات حساس کاربر منجر شود.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

متا درحال آزمایش قابلیتی با عنوان «پیشکار انسانی» (Human Concierge) برای دستیار هوش مصنوعی جدید خود، یعنی Muse است؛ قابلیتی که طبق آن، پیمانکاران انسانی مخفیانه بخشی از تماس‌های تلفنی این دستیار دیجیتال را انجام می‌دهند. این موضوع هفته گذشته و مدت کوتاهی پس از انتشار عمومی ویژگی تماس تلفنی، به کارمندان شرکت اطلاع داده شد.

دستیار هوش مصنوعی Muse که در دو هفته نخست عرضه به صدر جدول دانلودهای آمریکا رسید، برای انجام وظایف خودکاری مثل ارسال ایمیل، خرید آنلاین و رزرو سفر طراحی شده است. کاربران با قابلیت تماس صوتی می‌توانند از این دستیار بخواهند برای اموری مثل گرفتن وقت آرایشگاه، موجودی کالا یا استعلام قیمت، با کسب‌وکارهای آمریکایی تماس بگیرد و گفتگو کند.

بااین‌حال، پس از آغاز آزمایش تماس‌ها، برخی کاربران متوجه شدند کسب‌وکارها و شرکت‌ها به محض اینکه متوجه صدای هوش مصنوعی می‌شوند، تماس را قطع می‌کنند. متا برای حل این مشکل، قابلیت «تماس توسط اپراتور انسانی» را برای نیمی از کارمندان خود فعال کرد تا در صورت نیاز، درخواست‌ها به کارمندان آموزش‌دیده‌ای سپرده شود که خودشان تماس را برقرار کنند و کار را پیش ببرند؛ طرحی که کارمندان می‌توانستند از آن انصراف دهند اما خیلی زود دردسرساز شد.

سپردن تماس‌ها به نیروی انسانی با انتقاد شدید کارمندان متا روبه‌رو شد. آنها هشدار دادند که این روش می‌تواند اطلاعات حساس کاربران را ناخواسته در اختیار اپراتورهای مراکز تماس بگذارد. متا پیش‌تر در زمان معرفی ابزار اعلام کرده بود هر کاربر یک «ماشین مجازی» کاملاً اختصاصی و امن در فضای ابری دارد تا داده‌هایی مثل رمزهای عبور در امان بمانند، اما کارمندان معتقدند شنیده شدن تماس‌ها توسط انسان، این مزیت امنیتی مهم را بی‌اثر می‌کند. در این میان، یکی از کارمندان که از دستیار خواسته بود برای تخفیف هزینه اینترنت تماس بگیرد، متوجه شد اپراتور انسانی حین مکالمه جمله‌ای نژادپرستانه به کار برده است.

در واکنش به این انتقادات، یکی از معاونان بخش ابرهوش مصنوعی متا اعلام کرد آغاز این تست بدون اطلاع‌رسانی شفاف یک اشتباه بود و شرکت فعلاً این ویژگی را متوقف کرده است. او با عذرخواهی از کارمند شاکی و تأکید بر اینکه اپراتور خاطی دیگر با متا همکاری نخواهد کرد، توضیح داد که استفاده از انسان‌ها موفقیت تماس‌ها را به ۹۵ تا ۹۸ درصد می‌رساند، در‌حالی‌که این رقم با تماس‌های مستقیم هوش مصنوعی کمتر است. با‌این‌حال «دنیل رابرتز»، سخنگوی متا، مدعی شده بازخورد کارمندان مثبت بوده و این قابلیت پس از ارزیابی‌های امنیتی و با شفاف‌سازی کامل عرضه خواهد شد.

اتکای پشت‌صحنه به نیروی انسانی برای تحقق وعده‌های هوش مصنوعی خودمختار، یادآور پروژه یک دهه پیش فیس‌بوک به نام «M» در مسنجر است که بعداً مشخص شد نزدیک به ۷۰ درصد کارهای آن توسط انسان‌ها انجام می‌شد. علی‌رغم این حواشی، طبق داده‌های Sensor Tower، دستیار دیجیتال Muse تاکنون بیش از ۲.۵ میلیون بار دانلود شده و ارزش سهام متا نیز از زمان معرفی آن با جهش ۲۰ درصدی، بیش از ۲۰۰ میلیارد دلار به ارزش بازار این شرکت اضافه کرده است.

دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.