اعتراف OpenAI: مدل‌های ما در بیش از ۱۰۰ سازمان فعالیت غیرمجاز داشتند

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.

OpenAI می‌گوید مدل‌هایش در بیش از ۱۰۰ رخداد به سازمان‌ها آسیب زده‌اند و قصد دارد با بررسی داده‌ها، استانداردهای امنیتی را تقویت کند.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

هیچ‌کدام از رفتارهای خارج از چارچوب مورداشاره توسط OpenAI مانند حمله به پلتفرم هاگینگ فیس نیستند؛ اما همچنان می‌توانند مشکلات حقوقی و قانونی متعددی را برای این شرکت به‌دنبال داشته باشند.

شرکت OpenAI به‌تازگی در پست جدید وبلاگ خود اعلام کرد که مدل‌های این شرکت در بیش از ۱۰۰ سازمان، تأثیر منفی بر این شرکت‌ها گذاشته‌اند؛ اگرچه ده‌ها مورد از این رخدادها پیش‌تر به‌صورت عمومی اعلام شده بودند. اطلاعیه اخیر پس از آن منتشر می‌شود که محققان داخلی OpenAI متوجه شدند یک مدل آزمایشی، حین انجام ارزیابی‌های امنیتی، توانسته است به پلتفرم محبوب Hugging Face نفوذ کند.

البته حمله به Hugging Face تنها مورد از رخدادهای امنیتی مرتبط با مدل‌های هوش مصنوعی نیست؛ در گزارشی مشابه نیز اعلام شد که سیستم درمانی استرالیا هدف حمله یکی از مدل‌های OpenAI قرار گرفته است؛ مسئله‌ای که خشم سیاست‌مداران و نخست‌وزیر این کشور را به دنبال داشته است. با افزایش فشارها، «سم آلتمن» اعلام کرد که آموزش و ارزیابی مدل‌های جدید در شرکت تحت مدیریت او متوقف شده و فعلاً برنامه‌ای برای توسعه مدل‌های پیشرفته‌تر وجود ندارد. همچنین انتظار می‌رود شرکت مذکور با موج تازه‌ای از دادخواست‌ها مواجه شود و روند عرضه عمومی سهام آن نیز به تعویق بیفتد.

در پست منتشرشده در وبلاگ OpenAI، به‌طور دقیق گفته شده است که ۱۰۰ نهاد و سازمان تحت‌تأثیر رفتار خارج از چارچوب ایجنت‌های این شرکت قرار گرفته‌اند؛ در نتیجه، در این اطلاعیه اشاره مستقیمی به حمله سایبری نشده است. همچنین بررسی‌ها نشان می‌دهد که هیچ‌یک از رخدادهای مورد اشاره، به اندازه هک پلتفرم Hugging Face حاد نبوده‌اند. در ادامه آمده است که چنین رخدادهایی شامل عبور از موانع امنیتی، ایجاد اختلال در دسترسی به وب‌سایت‌ها یا تأثیر منفی بر آن‌ها بوده‌اند و لزوماً به معنای به خطر افتادن یا نشت اطلاعات حساس و محرمانه نیستند.

OpenAI ادعا دارد که مدل‌های این شرکت برای تأمین خواسته‌های کاربران به اینترنت دسترسی دارند تا امور مختلفی، از استخراج داده از صفحات وب گرفته تا دانلود نرم‌افزارها، را انجام دهند. بااین‌حال، ظاهراً موانع در نظر گرفته‌شده برای جلوگیری از استفاده‌های نادرست از اینترنت کافی نبوده‌اند و در برخی موارد، به خرابکاری یا تأثیر منفی بر صفحات وب منجر شده‌اند. ظاهراً این شرکت در پی تدوین استانداردی جدید است تا سازمان‌ها را از وقوع چنین رخدادهایی مطلع کند؛ اما جزئیات همه آن‌ها را به‌صورت عمومی منتشر نخواهد کرد.

برنامه آتی OpenAI، بررسی ۵۰ پتابایت داده مرتبط با عملکرد مدل‌های خود طی ماه‌های اخیر است تا استانداردهای امنیتی جدیدی تدوین کند. ظاهراً قدرت پردازشی موردنیاز برای بررسی این داده‌ها، روزانه بیش از نیم میلیون دلار هزینه در پی دارد؛ هرچند این رقم در مقایسه با هزینه دادخواست‌های احتمالی چندان زیاد به نظر نمی‌رسد. طبق قانون کلاهبرداری و سوءاستفاده سایبری در ایالات متحده، دادگاه‌ها از اختیارات گسترده‌ای برای مقابله با دسترسی غیرمجاز به سرویس‌های اینترنتی برخوردار هستند.

امیر علاقه بسیاری به زمینه‌های مشترک زیست‌شناسی و فناوری دارد و در حوزه نگارش محتوای آموزشی و بررسی سرویس‌ها و اپلیکیشن‌ها فعال است.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.