مدیرعامل مایکروسافت: تمام مدل‌های هوش مصنوعی را نفوذپذیر فرض کنید

مدیرعامل مایکروسافت با تأکید بر لزوم مهار سامانه‌های پیشرفته، خواستار تعبیه‌ی ترمز اضطراری و فرض نفوذپذیری تمام مدل‌های هوش مصنوعی شد.

دنیای هوش مصنوعی شتابان پیش می‌رود و نگرانی‌ها درباره‌ی مهارناپذیرشدن مدل‌های پردازشی روزبه‌روز افزایش می‌یابد. ساتیا نادلا، مدیرعامل مایکروسافت، در یادداشتی مفصل در شبکه‌ی اجتماعی ایکس دیدگاه‌های مهمی را درباره‌ی خطرات احتمالی مدل‌های پیشرفته مطرح کرد و راهکارهایی را برای مدیریت بحران‌های پیش رو برشمرد.

به باور نادلا، دیگر نمی‌توان پذیرفت که فناوری نوین صرفا مجموعه‌ای از جعبه‌های سیاه تودرتو باشد که انسان چاره‌ای جز پذیرش یا رد کردن بی‌چون‌وچرای خروجی‌های آن‌ها نداشته باشد.

مدیر ارشد مایکروسافت معتقد است نگرش امنیتی مهندسان باید دگرگون شود و همه‌ی مدل‌ها از همان گام نخست، هک‌شده یا نفوذپذیر در نظر گرفته شوند. از نگاه او، معماری سامانه‌های مدرن باید به‌گونه‌ای طراحی شود که امکان مهار کامل، نظارت مستمر و بر جای ماندن شواهد خوانا و غیرقابل‌دستکاری برای انسان فراهم باشد.

بسیاری از پیشنهادهای نادلا با راهبردهای پذیرفته‌شده در صنعت فناوری هم‌پوشانی دارند. محورهای کلیدی تدابیر او عبارتند از:

نادلا در مبحث مهار فراتر از رویکردهای مرسوم رفت و با ارائه‌ی ایده‌ی ترمز اضطراری گفت: «باید فرض کنیم مدل از آغاز نفوذپذیر و دستکاری‌شده است و آن را مهار کنیم. چنین تمهیدی را می‌توان مانند یک ترمز اضطراری در نظر گرفت. فرد مجاز باید همواره توانایی متوقف ساختن یا خاموش کردن سامانه‌ها را در میانه‌ی اجرای فرآیند داشته باشد. مدل‌های پیشرفته‌تر به فناوری‌های مهار پیچیده‌تری نیاز دارند که باید درباره‌ی آن‌ها به یک استاندارد مشخص برسیم.»

نکته‌ی مهم در پست مدیرعامل مایکروسافت، اشاره‌ی مکرر به اصطلاح ابرهوش است؛ کلیدواژه‌ای که نشان می‌دهد غول‌های فناوری نگاهی جدی به آینده‌ی پرریسک سامانه‌ها دارند و تبیین پروتکل‌های سخت‌گیرانه برای مقابله با خطرات غیرقابل‌پیش‌بینی را ضرورتی فوری قلمداد می‌کنند.