پدرخوانده هوش مصنوعی خواستار نهادی مانند سازمان غذا و دارو برای تأیید مدل‌های جدید شد

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.

پدرخوانده هوش مصنوعی می‌گوید هزینه و فرایند اثبات ایمنی مدل‌های جدید در نهادهای نظارتی باید هم‌تراز با استانداردهای داروسازی باشد.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

«جفری هینتون»، دانشمند علوم کامپیوتر، برنده جایزه نوبل و فردی که با عنوان «پدرخوانده هوش مصنوعی» شناخته می‌شود، پیشنهاد کرده که شرکت‌های توسعه‌دهنده هوش مصنوعی باید با چیزی شبیه آنچه پیش روی داروسازان قرار دارد مواجه شوند. او معتقد است این شرکت‌ها باید پیش از عرضه عمومی محصولات خود، نهادهای رگولاتوری و ناظر را از ایمن بودن فناوری‌هایشان مطمئن کنند.

هینتون در پادکست «دختر باهوش سؤالات احمقانه» (Smart Girl Dumb Questions) در گفت‌وگو با مجری برنامه، «نعیمه رضا»، گفت:

«شما اجازه ندارید به‌سادگی یک داروی جدید بسازید و آن را وارد بازار کنید. باید سازمان غذا و دارو (FDA) را متقاعد کنید؛ و برای انجام این کار، باید تلاش زیادی صورت بگیرد که حدود ۱ میلیارد دلار هزینه دارد. به نظر می‌رسد این حداقل کاری است که باید برای هوش مصنوعی انجام دهیم.»

راهکار پیشنهادی هینتون برای مباحث پیرامون ایمنی هوش مصنوعی، پس از پیش‌بینی‌های متعدد درباره فجایع احتمالی آینده این فناوری و همچنین پس از تصمیم شرکت OpenAI برای کنار گذاشتن جدیدترین مدل خود مطرح می‌شود؛ مدلی که آزمایش‌های انجام‌شده روی آن نگرانی‌هایی درباره میزان اطاعت از دستورهای کاربران و ماندن در چارچوب اختیارات تعیین‌شده به وجود آورده بود. پیش از این، «ساچی جِین»، مدیر سیستم‌های ایمنی OpenAI اعلام کرده بود که مدل GPT-6.1 Astra در پایداری و حل وظایف دشوار عملکرد بهتری داشته، اما در زمینه سطح دسترسی‌ها و ارائه گزارش دقیق از عملکردهای خود ناکام مانده است.

هینتون با اشاره به فرایند پیشرفت فعلی افزود که هوش مصنوعی اکنون بیشتر از قبل به بهبود خودش کمک می‌کند و این موضوع می‌تواند هم قابلیت‌ها و هم خطرات آن را سرعت ببخشد. او می‌گوید:

«رشدهای تصاعدی با سرعت بسیار بالایی رخ می‌دهند. ما اکنون شاهد آغاز خودبهبودی بازگشتی هستیم، چرا که از هوش مصنوعی برای ارتقای خودش به روش‌های گوناگون استفاده می‌شود.»

«این تنها یک حدس است، اما گمان می‌کنم ۱ یا ۲ سال دیگر زمان داریم پیش از آنکه اوضاع بسیار وخیم‌تر از شرایط کنونی شود.»

دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.