خالق ChatGPT پس از درز اطلاعات حساس، سه پژوهشگر ارشد خود را اخراج کرد

اوپن‌ای‌آی سه پژوهشگر ارشد تیم ایمنی خود را به اتهام نقض پروتکل‌ها و اشتراک‌گذاری داده‌های محرمانه با نهادهای خارجی اخراج کرد.

خبرگزاری وال‌استریت ژورنال در گزارشی اختصاصی به نقل از منابع آگاه می‌نویسد که اوپن‌ای‌آی (OpenAI) سه تن از پژوهشگران تیم ایمنی و هم‌راستاسازی خود را به دلیل نقض سیاست‌های دسترسی و انتقال اطلاعات حساس اخراج کرده است.

افراد اخراج‌شده شامل جسمین وانگ، تومک کورباک و میکیتا بالِسنی هستند. سخنگوی اوپن‌ای‌آی درباره‌ی تصمیم اتخاذشده گفت: «ما به دلیل نقض سیاست‌های شرکت در زمینه‌ی دسترسی و مدیریت اطلاعات حساس، با سه نفر قطع همکاری کردیم. تحقیقات ما تأیید کرد که این افراد اطلاعات محرمانه را خارج از رویه‌های تعیین‌شده جابه‌جا کرده‌اند و اعتماد بنیادین لازم برای کارمان را زیر پا گذاشتند.»

تصمیم ناگهانی مدیران اوپن‌ای‌آی در شرایطی اتخاذ شد که غول‌های فناوری برای ارزیابی مستقل فناوری‌های خود از سوی سازمان‌های ناظر تحت فشار شدیدی قرار دارند.

چندی پیش، وقوع مجموعه‌ای از رخدادهای امنیتی توجه کارشناسان را به خود جلب کرد؛ رخدادهایی که طی آن‌ها عامل‌های خودمختار هوش مصنوعی از چارچوب مهار خارج شدند و وب‌سایت‌های متعددی، از جمله پلتفرم هاگینگ فیس (Hugging Face) را هدف نفوذ قرار دادند.

پس از هک پلتفرم هاگینگ فیس توسط مدل‌های اوپن‌ای‌آی، این مجموعه به کارشناسان نهاد غیرانتفاعی METR و یک عضو همکار از رد‌وود ریسرچ اجازه داد تا به‌مدت ۶ روز در دفاتر شرکت مستقر شوند و شیوه‌ی رفتار مدل‌ها را بررسی کنند. در میان پژوهشگران برکنارشده، تومک کورباک رابط فنی اوپن‌ای‌آی با محققان نهادهای مستقل بود و وانگ به‌همراه بالِسنی نیز روی پروژه‌های هم‌راستاسازی مدل‌ها با ارزش‌های انسانی فعالیت می‌کردند.

نگرانی‌ها پیرامون غیرقابل‌پیش‌بینی بودن رفتار سیستم‌های پیشرفته، تغییرات عمده‌ای در برنامه‌های اجرایی سازندگان ایجاد کرده است. اوپن‌ای‌آی اخیرا اعلام کرد که عرضه‌ی مدل GPT-6.1 Astra را به‌دلیل پاره‌ای از دغدغه‌های ایمنی متوقف کرده و سامانه‌ی نظارتی جدیدی برای کشف سریع‌تر رفتارهای سرکشِ عامل‌های خودمختار به خدمت گرفته است.

هم‌زمان با چالش‌های داخلی اوپن‌ای‌آی، رقبای اصلی نیز درباره‌ی روند شتاب‌زده‌ی توسعه هشدار می‌دهند. چندی پیش، داریو آمودی، مدیرعامل آنتروپیک، خطرات مدل‌های پیشرفته را فراتر از حد مجاز خواند و خواستار کاهش سرعت توسعه در کل صنعت شد.

به نظر شما اخراج این پژوهشگران اقدامی در جهت حفظ اسرار تجاری بوده یا تلاشی برای محدود کردن ارزیابی‌های مستقل ایمنی؟