مدیرعامل مایکروسافت: باید فرض کنیم همه مدل‌های هوش مصنوعی از کنترل خارج شده‌اند

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.

ساتیا نادلا می‌گوید باید فرض کنیم مدل‌های هوش مصنوعی از کنترل خارج شده‌اند و با ثبت اقدامات و امکان توقف فوری، آن‌ها را مهار کنیم.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

«ساتیا نادلا»، مدیرعامل مایکروسافت، معتقد است باید مدل‌های هوش مصنوعی را از ابتدا با این چشم ببینیم که خطر دارند و باید برای مهار آن‌ها سازوکارهای کنترلی در نظر گرفت. او در مطلبی بر لزوم شفافیت بیشتر در عملکرد مدل‌ها، ثبت اقدامات آن‌ها و امکان متوقف‌کردن فعالیتشان در هر مرحله تأکید کرد.

نادلا در مطلبی مفصل در ایکس نوشت زمان آن رسیده است که معماری اعتماد در هوش مصنوعی دوباره بررسی شود. به اعتقاد او، نمی‌توان مدل‌های پیشرفته هوش مصنوعی را مجموعه‌ای از «جعبه‌های سیاه تودرتو» در نظر گرفت و صرفاً توصیه‌ها، پاسخ‌ها و اقدامات آن‌ها را پذیرفت یا رد کرد.

او خواستار ایجاد ساختاری شد که در آن بتوان مدل‌ها را از سیستم‌های مدیریت و اجرای وظایفشان جدا کرد و کنترل‌ها و سازوکارهای حفاظتی را بیرون از خود مدل قرار داد. چنین رویکردی می‌تواند امکان نظارت مستقل‌تر بر عملکرد مدل‌ها را فراهم کند.

یکی از توصیه‌های اصلی مدیرعامل مایکروسافت، در نظر گرفتن احتمال به خطر افتادن مدل‌ها از همان ابتدای کار است. او دراین‌باره نوشت:

«باید فرض را بر این بگذاریم که مدل از همان ابتدا از کنترل خارج شده است و باید آن را مهار کنیم. به این موضوع مانند ترمز اضطراری نگاه کنید. فردی که مجوز لازم را دارد، باید همیشه بتواند مدل را در میانه انجام یک وظیفه متوقف یا خاموش کند. مدل‌های پیشرفته‌تر به فناوری‌های مهار پیشرفته‌تری نیاز خواهند داشت که باید برای آن‌ها استانداردهای مشترکی تدوین کنیم.»

نادلا همچنین خواستار آن شد که هر اقدام مهم مدل‌های هوش مصنوعی با شواهدی قابل‌خواندن برای انسان و مقاوم در برابر دستکاری ثبت شود. هدف از این رویکرد، فراهم‌کردن امکان بررسی و ارزیابی عملکرد مدل‌ها و اقدامات آن‌هاست.

بخش زیادی از پیشنهادهای او با دیدگاه‌هایی که دیگر فعالان صنعت هوش مصنوعی مطرح کرده‌اند، هم‌راستاست. افشای به‌موقع رخدادها، حسابرسی مستقل، امکان راستی‌آزمایی داده‌ها و مهار مدل‌ها از جمله موضوعاتی هستند که در این بحث مطرح شده‌اند.

دانش‌آموخته‌ زبان‌شناسی‌ هستم و همان‌قدر که به «کلمه» علاقه‌مندم، از سرک‌کشیدن به گوشه‌وکنارِ جهان تکنولوژی و علم هم حظ می‌کنم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.