آنتروپیک مخفیانه پیش‌نویس قانون ایمنی هوش مصنوعی را به کنگره آمریکا ارائه کرد

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.

در این پیش‌نویس، توقف مدل‌ها تنها در صورت احتمال مرگ بیش از ۵۰ نفر یا خسارت یک میلیارد دلاری مجاز اعلام شده است.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

نمایندگان آنتروپیک ظاهراً به‌طور پنهانی با قانون‌گذاران کنگره آمریکا دیدار کرده و پیش‌نویس لایحه‌ای را برای نظارت بر ایمنی و امنیت مدل‌های هوش مصنوعی پیشرفته و مرزی به آنها ارائه کرده‌اند. این موضوع براساس گزارشی از نشریه پولیتیکو و به نقل از ۳ فرد آگاه مطرح شده است.

براساس جزئیات اعلام شده درباره این پیش‌نویس، دولت تنها در صورتی مجاز خواهد بود انتشار یا استفاده از یک مدل هوش مصنوعی را متوقف کند که آن مدل خطری قابل‌پیش‌بینی و قریب‌الوقوع به همراه داشته باشد؛ خطری که به وارد آمدن بیش از ۱ میلیارد دلار خسارت مالی منجر شود یا جان بیش از ۵۰ نفر را به خطر بیندازد و جراحات شدیدی ایجاد کند. طبق گزارش‌ها، این تهدیدها باید به‌طور مشخص ناشی از ساخت یا انتشار سلاح‌های بیولوژیک، سرپیچی و فرار مدل از کنترل‌های توسعه‌دهنده، یا انجام حملات سایبری باشند.

یکی از سخنگویان آنتروپیک در گفت‌وگو با رویترز اعلام کرده که این لایحه شامل پیشنهادهایی می‌شود که در سند «چارچوب هوش مصنوعی پیشرفته» این شرکت در اوایل سال جاری نیز مطرح شده بود. به گفته وی، این طرح به دولت «امکان جلوگیری و بازدارندگی از انتشار خطرناک قدرتمندترین مدل‌ها» را اعطا می‌کند و درعین‌حال توسعه‌دهندگان را مجبور می‌کند مدل‌های مرزی هوش مصنوعی خود را مورد آزمایش قرار دهند، درباره یافته‌های خود شفاف باشند و مدل‌ها را تحت ارزیابی نهادهای مستقل بگذارند.

براساس این پیش‌نویس قانونی، ارزیاب‌های مستقلی که در وزارت بازرگانی آمریکا ثبت‌نام کرده‌اند، وظیفه خواهند داشت به‌صورت دوره‌ای آزمایشگاه‌ها و مدل‌های پیشرفته هوش مصنوعی آنها را ارزیابی کنند. همچنین شرکت‌ها و آزمایشگاه‌های هوش مصنوعی می‌توانند هزینه خدمات این ارزیاب‌ها را بپردازند، مشروط بر اینکه پرداخت این مبالغ هیچ ارتباطی با نتیجه نهایی ارزیابی نداشته باشد.

در صورتی که ارزیاب‌ها تشخیص دهند مدل‌های یک شرکت ریسک قریب‌الوقوع از پیش‌تعیین‌شده‌ای دارند، موظف هستند ظرف مدت حداکثر ۷۲ ساعت پس از تکمیل بررسی‌ها، گزارش آن را مستقیماً به وزارت بازرگانی ارسال کنند.

با وجود اینکه وزارت بازرگانی می‌تواند پس از بررسی و احراز خطرات، از یک قاضی درخواست کند حکم توقف فعالیت مدل را صادر کند، اما متن این لایحه به‌صراحت هر نهاد، وزارتخانه، سازمان یا مقام دولتی دیگر آمریکا را از تعلیق مراحل توسعه، عرضه یا استفاده داخلی مدل‌ها منع می‌کند. در نهایت، صدور حکم تعلیق و جلوگیری از فعالیت مدل هوش مصنوعی تنها در صلاحیت یک قاضی فدرال در دادگاه منطقه‌ای ناحیه کلمبیا خواهد بود. وزارت بازرگانی آمریکا هنوز پاسخی به درخواست اظهارنظر دراین‌باره نداده است.

دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.