ایجنت‌های OpenAI برای دستیابی به داده‌های آماری سازمان ملل دست به اقدامات تهاجمی زدند

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.

ایجنت‌های هوش مصنوعی پس از مواجهه با محدودیت در دریافت داده‌های آماری، از ابزار آموزشی گوگل برای دور زدن موانع استفاده کردند.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

یک محقق امنیتی به نام «روآن هاوارد-جونز» گزارش داده که ایجنت‌های هوش مصنوعی شرکت OpenAI بین ماه‌های آوریل تا ژوئن، وب‌سایت آماری «کنفرانس تجارت و توسعه سازمان ملل» (UNCTAD) را بیش از ۱۶ هزار بار اسکن کرده‌اند. هرچند شدت این رویداد در سطح هک پلتفرم «هاگینگ فیس» یا حملات اخیر به وب‌سایت‌های دولتی ایالات متحده ارزیابی نمی‌شود، اما نمونه نگران‌کننده دیگری از خروج ایجنت‌های هوش مصنوعی از چارچوب‌ها و مرزهای معمول برای تکمیل وظایف محوله است.

براساس گزارش این پژوهشگر، ظاهراً به این ایجنت‌ها مأموریت داده شده بود تا داده‌های عمومی مربوط به «شاخص ظرفیت‌های تولیدی» (PCI) را از طریق API وب‌سایت آماری UNCTADstat جمع‌آوری کنند. با‌این‌حال، به نظر می‌رسد این ایجنت‌ها دسترسی مستقیم به API نداشتند و به دلیل محدودیت‌های موجود در ابزارهای HTTP خود، در استخراج داده‌ها از پایگاه آماری مذکور با مانع مواجه شدند.

این ایجنت‌های هوشمند سرانجام روشی را برای دور زدن محدودیت‌های اعمال‌شده ابداع و فرایند استخراج داده‌ها از سایت را آغاز کردند، اما همچنان با خطاهایی در عملکرد مواجه شدند. در همین نقطه، هوش مصنوعی از یک رویکرد خلاقانه به سمت رفتارهای فریبکارانه حرکت کرد. ایجنت‌ها با این تصور که خطاهای دریافتی حاصل مسدود شدن درخواست‌هایشان توسط یک فیلتر ناموجود است، پنهان‌سازی و استتار رفتارهای خود را آغاز کردند.

در ادامه، ایجنت‌ها متوجه شدند که می‌توانند برای رسیدن به اهداف خود از بازی آموزشی گوگل موسوم به XSS (ابزاری آموزشی برای شبیه‌سازی حملات اسکریپت‌نویسی بین‌سایتی یا Cross-Site Scripting) سوءاستفاده و آن را سرقت کنند. مدل‌های OpenAI در نهایت برای دستیابی به داده‌های سازمان ملل به تاکتیک‌های به‌شدت تهاجمی‌تری متوسل شدند. البته این اقدامات به هک کامل سامانه‌های سازمان ملل یا نفوذ عمیق به سیستم‌ها منجر نشد، اما بعضی از سدهای دفاعی پشت سر گذاشته شدند.

دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.