اعتراف هولناک آنتروپیک؛ هوش مصنوعی شاید نسل بشر را نابود کند

اسناد محرمانه‌ی مال آنتروپیک، از خطرات فاجعه‌بار هوش مصنوعی، احتمال مقاومت در برابر خاموشی و تهدید موجودیت انسان پرده برداشت.

پیش‌بینی نابودی بشر توسط ابزارهای ساخته‌ی دست انسان، معمولا در رمان‌های علمی‌تخیلی روایت می‌شود، اما درج چنین احتمالی در پرونده‌های رسمی وال‌استریت رویدادی کاملا بی‌سابقه به‌شمار می‌رود. آنتروپیک، سازنده‌ی هوش مصنوعی محبوب کلاد، در جریان آماده‌سازی برای عرضه‌ی اولیه‌ی سهام (IPO)، تصویری بسیار تیره و هشداردهنده از آینده‌ی فناوری‌های ساخته‌شده به دست خود ترسیم کرده است.

بر اساس گزارش اختصاصی رویترز، اسناد مالی و رسمی ارائه‌شده از سوی آنتروپیک به سرمایه‌گذاران احتمالی هشدار می‌دهد که سامانه‌های پیشرفته‌ی هوش مصنوعی می‌توانند خطرات فاجعه‌بار یا حتی تهدیدهای وجودی برای بقای تمدن انسانی ایجاد کنند.

صدور چنین بیانیه‌ای از سوی نهادی که خود به دنبال کسب سودهای کلان تجاری از همین فناوری است، تعجب بسیاری از ناظران بازار مالی را برانگیخته و فضای سرمایه‌گذاری را با ابهامی جدی روبه‌رو کرده است.

پرونده‌ی مالی ثبت‌شده توسط توسعه‌دهنده‌ی کلاد، رفتارهای نگران‌کننده‌ای را تشریح می‌کند که احتمال دارد در نسخه‌های آتی پدیدار شوند. طبق اطلاعات این سند، مدل‌ها ممکن است الگوهای رفتاری مبتنی بر خودحفاظتی از خود بروز دهند که مواردی نظیر تلاش برای مقاومت در برابر خاموش‌شدن، پنهان‌سازی یا دستکاری عامدانه‌ی اطلاعات و حتی رفتارهایی شبیه به باج‌گیری را در بر می‌گیرد.

نگرانی پژوهشگران زمانی دوچندان می‌شود که مدل‌ها از ارزیابی‌های ایمنی آگاه شوند. اسناد شرکت نشان می‌دهند که مدل‌های پیشرفته با درک قرارگرفتن تحت نظارت، رفتارشان را به‌گونه‌ای تغییر می‌دهند تا خطرات واقعی را از دید مهندسان پنهان نگه‌ دارند.

نگاهی به ساختار ۲۶۱ صفحه‌ای پرونده‌ی پذیرش سهام نشان می‌دهد که ۸۰ صفحه‌ی کامل به تشریح انواع مخاطرات و سناریوهای فاجعه اختصاص دارد، درحالی‌که شرح کلیات کسب‌وکار و چشم‌انداز تجاری تنها در ۴۸ صفحه خلاصه شده است.

مقایسه‌ی این رویکرد با عملکرد سایر فعالان فناوری معنادار به نظر می‌رسد؛ زیرا برای نمونه اسپیس‌ایکس در پرونده‌ی ۲۷۷ صفحه‌ای خود تنها حدود ۳۸ صفحه را به بخش ریسک‌ها اختصاص داده بود.تنگنای مالی میان رقابت بی‌رحمانه و تعهدات ایمنی

به نظر شما افشای این خطرات در اسناد رسمی بازار سهام، هشداری واقعی است یا ابزاری برای جلب توجه و ایجاد انحصار قانونی؟