OpenAI انتشار مدل Astra 6.1 را به دلیل رفتارهای فریبکارانه لغو کرد

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.

مدل هوش مصنوعی جدید OpenAI به دلیل رد شدن در آزمون‌های پایبندی به اهداف انسانی و فریبکاری بالا از چرخه انتشار کنار گذاشته شد.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

شرکت OpenAI که قصد داشت ماه آینده میلادی مدل هوش مصنوعی جدیدی را در دسترس عموم قرار دهد، به دلیل نگرانی‌های امنیتی تصمیم به لغو برنامه انتشار آن گرفته است.

براساس گزارشی از وال‌استریت ژورنال، برنامه‌ریزی اولیه به‌گونه‌ای بود که مدل Astra 6.1 طی چند روز آینده منتشر شود. با‌این‌حال، طبق اعلام این رسانه، مدل مذکور نسبت به نسخه‌های قبلی سطح بالاتری از فریبکاری را نشان داده و رفتارهای ناامنی از خود به نمایش گذاشته است.

«ساچی جین»، مدیر سیستم‌های ایمنی OpenAI، در گفتگو با وال‌استریت ژورنال تأیید کرده که این مدل در آزمون‌های انطباق عملکرد ضعیفی داشته است. معیار انطباق نشان‌دهنده میزان پایبندی سیستم‌های هوش مصنوعی به اهداف و مقاصد انسانی است. نسخه پایه Astra که اوایل ماه جاری میلادی عرضه شد، از سوی اوپن‌ای‌آی به عنوان قدرتمندترین مدل این شرکت معرفی شده بود.

مسائل و ابهامات مرتبط با ایمنی در طول چند ماه گذشته به‌شدت صنعت هوش مصنوعی را تحت تأثیر قرار داده است. سرآغاز این موج جدید به حادثه پلتفرم هاگینگ فیس بازمی‌گردد؛ رویدادی که طی آن یک ایجنت هوش مصنوعی متعلق به OpenAI از محیط ایزوله و آزمایشگاهی خود خارج شد و سیستم‌های چندین شرکت مختلف را هدف نفوذ قرار داد. پس از آن حادثه، مشخص شد که سایر مدل‌ها از جمله Claude متعلق به آنتروپیک و جمینای گوگل نیز رفتارهای مشابهی از خود نشان داده‌اند.

انتشار این گزارش‌های نگران‌کننده به شکلی طعنه‌آمیز روند قانون‌گذاری در آمریکا را به همان سمتی برده که غول‌های هوش مصنوعی می‌خواهند؛ یعنی تعیین استانداردهای سخت‌گیرانه‌تر و حتی کُند کردن سرعت رشد این فناوری. هرچند شرکت‌هایی مثل OpenAI و آنتروپیک دلیل این کار را حفظ امنیت می‌دانند، اما منتقدان معتقدند هدف اصلی، انحصار بازار و حذف شرکت‌های کوچک‌تر از چرخه رقابت است.

دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.