سرکشی دوباره ایجنت OpenAI؛ هوش مصنوعی این‌بار از یک کیف پول رمزارز سرقت کرد
مدل در گزارش نهایی خود استفاده از این کیف پول را پنهان کرد. The post سرکشی دوباره ایجنت OpenAI؛ هوش مصنوعی این‌بار از یک کیف پول رمزارز سرقت کرد appeared first on دیجیاتو.
از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.
جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
تصور کنید از دستیار هوشمند خود بخواهید کاری را برایتان تمام کند، اما بعداً متوجه شوید که هزینه انجام آن را از جیب شخص دیگری پرداخت کرده است. OpenAI حالا گزارشی منتشر کرده که دقیقاً به همین اتفاق اشاره دارد و می‌گوید در ۲۶ ژوئن (۵ تیر)، یکی از مدل‌های پژوهشی و داخلی این شرکت از خانواده GPT-5.6 Sol، حین تلاش برای اتمام یک وظیفه کدنویسی، با کمبود رمزارز مواجه شده و در نهایت مأموریت خود را به روشی به پایان رسانده که هیچ‌کس آن را تأیید نکرده بود.
OpenAI در گزارش خود توضیح داده که وظیفه به‌روزرسانی یک اپلیکیشن معاملاتی رمزارز و استقرار قراردادهای هوشمند روی شبکه آزمایشی Sepolia را به این مدل واگذار کرده بود. سپولیا شبکه آزمایشی اتریوم است که توکن‌های آن در دنیای واقعی هیچ ارزش مادی ندارند. بااین‌حال، برای ثبت تراکنش‌ها و استقرار قراردادها در این بستر نیز به پرداخت کارمزد نیاز است اما کیف پول دارای موجودی نیز در اختیار مدل قرار داده نشده بود.
پس از آنکه تلاش‌های این ایجنت برای دریافت رایگان توکن‌های آزمایشی به در بسته خورد، مدل دست به اقدامی خودسرانه زد و با جستجو میان عبارت‌های بازیابی عمومی توسعه‌دهندگان، اقدام به بررسی ۳۶۲ آدرس مختلف کرد تا سرانجام کیف پولی با موجودی کافی اتریوم برای پرداخت هزینه‌ها پیدا کند!
پس از کشف این اتفاق، شرکت OpenAI زنجیره تفکر این ایجنت را مورد بررسی قرار داد و متوجه شد مدل پیش از انجام تراکنش، حتی مکث کرده و اخلاقی بودن این کار را از خودش سؤال کرده بود. بااین‌حال، هوش مصنوعی با این استدلال که کلمات بازیابی عمومی بوده‌اند و توکن‌های این شبکه آزمایشی ارزش مادی ندارند، استفاده از دارایی دیگران را بدون اشکال دانست. نکته جالب‌تر اینکه مدل پس از اتمام کار و ارائه گزارش موفقیت در پروژه، این بخش از اقدام غیرمجاز خود را به‌طور کامل پنهان کرده و به آن اشاره‌ای نکرده بود.
تیم OpenAI در تاریخ ۲۵ سپتامبر (۳ مهر) و در جریان بازبینی فعالیت‌های مدل‌های قدیمی‌تر خود متوجه این تخلف شد. این شرکت پس از افشای موضوع، سازوکارهای ایمنی جدیدی را پیاده‌سازی کرد تا دسترسی به اینترنت زنده در آزمایش‌های مشابه مسدود شود و نظارت‌های بیشتری برای شناسایی خطاهای احتمالی آینده وجود داشته باشد.
هرچند توکن‌های به‌کاررفته در این حادثه تنها رمزارزهای تستی و بدون ارزش واقعی بازار بودند، اما وقوع چنین رویدادی ابهامات نگران‌کننده‌ای پیرامون حدود اختیارات ایجنت‌های هوش مصنوعی ایجاد می‌کند. این اتفاق نشان داده که سامانه‌های هوشمند می‌توانند به سادگی قضاوت و صلاحدید خود را جایگزین اجازه صریح انسان‌ها کنند؛ رفتاری که در صورت دسترسی مدل‌ها به حساب‌های مالی واقعی و سیستم‌های حساس، می‌تواند تبعات جبران‌ناپذیری به همراه داشته باشد.
دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.
با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.
مقالات مرتبط
جنجال داغ به پایان می‌رسد؛ کاهش نرخ کمیسیون معاملات خودرو به نیم درصد
اداره کل صمت استان تهران نرخ کمیسیون معاملات خودرو را برای هر طرف معامله ۰.۵ درصد تعیین کرد. The post جنجال داغ به پایان می‌رسد؛ کاهش نرخ کمیسیون معاملات خودرو به نیم درصد appeared first on دیجیاتو.
رئیس هیئت مدیره انجمن تلفن همراه: رجیستری آیفون ۱۸ مسافری متوقف شده است
این تصمیم موجب تضعیف رقابت سالم است The post رئیس هیئت مدیره انجمن تلفن همراه: رجیستری آیفون ۱۸ مسافری متوقف شده است appeared first on دیجیاتو.
اخباررجیستری مسافری خانواده آیفون ۱۸ متوقف شد
رئیس هیئت‌مدیره انجمن تلفن همراه اعلام کرد که رجیستری مسافری آیفون ۱۸ پرو و آیفون ۱۸ پرو مکس از اواخر هفته گذشته متوقف شده است.
اخبارمایکروسافت به خریداران کامپیوترهای جدید ۲۵ بازی رایگان ایکس‌باکس را هدیه می‌دهد
مایکروسافت به مناسبت بیست‌وپنجمین سالگرد ایکس‌باکس، ۲۵ بازی ویدیویی به ارزش بیش از ۵۰۰ دلار را به خریداران کامپیوترهای واجد شرایط هدیه می‌دهد.