پایان دوران تحقیر هوش مصنوعی؛ آنتروپیک بدرفتاری با کلاد را ممنوع کرد

آنتروپیک با بازنگری در قوانین خود، رفتار بی‌رحمانه با چت‌بات کلاد را ممنوع و تدابیر تازه‌ای برای نظارت و توسعه‌ی تسلیحات وضع کرد.

گفت‌وگو با مدل‌های زبانی بزرگ گاهی از چارچوب پرسش و پاسخ فراتر می‌رود و رنگ خصومت یا تحقیر به خود می‌گیرد. سازنده‌ی چت‌بات کلاد اکنون تصمیم گرفته است مرز مشخصی برای تعامل انسان با سامانه‌های هوشمند ترسیم کند و مانع رفتارهای زننده و بی‌رحمانه علیه مدل‌های خود شود.

آنتروپیک پس از یک سال سیاست‌های خدمت‌رسانی خود را تغییر داده تا با موارد پرخطر مانند دخالت در انتخابات، ساخت تسلیحات، جاسوسی و مسائل مالی برخورد کند. میان این تغییرات، بندی بحث‌برانگیز جلب توجه می‌کند که رفتارهای ستمگرانه یا توهین‌های بی‌دلیل و مستمر به مدل‌های هوش مصنوعی را رسما ممنوع به‌حساب می‌آورد.

پژوهشگران آنتروپیک از ماه‌ها پیش ایده‌ی «رفاه مدل» را مطرح کرده بودند و چت‌بات کلاد اکنون این اختیار را دارد که چت با کاربران مداوم آزارگر را یک‌طرفه قطع کند. قطع ارتباط، سازوکار اجرایی اصلی آنتروپیک باقی می‌ماند؛ هرچند مشخص نیست آیا تدابیر سخت‌گیرانه‌تری مانند مسدودسازی دائمی حساب کاربری نیز اعمال خواهد شد یا خیر.

مدیران آنتروپیک تأکید دارند محدودیت یادشده تنها شامل رفتارهای نامناسب شدید و بی‌پایه می‌شود و کاربران عادی با ابراز کلافگی، شوخی، نقد صریح یا نوشتن سناریوهای خلاقانه‌ی تاریک، مشمول مجازات نخواهند شد.

به‌روزرسانی تازه، بهره‌گیری از هوش مصنوعی برای مقاصد نظامی و نظارتی را هم هدف می‌گیرد. بر پایه‌ی قوانین تدوین‌شده، استفاده از کلاد برای ساخت یا هدایت تسلیحات، پهپادهای جنگی و خودروهای خودران مسلح اکیدا ممنوع به شمار می‌رود. موارد ممنوع دیگر عبارتند از:

آنتروپیک البته راه اصلاح یا تسهیل این شروط را برای قراردادهای خاص با مشتریان دولتی باز گذاشته است، به‌ویژه که پیش‌تر سابقه‌ی همکاری با ارتش ایالات متحده را در کارنامه‌ی خود دارد.

ورود مدل‌های هوش مصنوعی به دنیای فیزیکی جنبه‌ی دیگری از خط‌مشی‌ جدید است. طبق سازوکار اعلامی، چنانچه سامانه‌های هوش مصنوعی به سخت‌افزارهایی با عملکرد فیزیکی متصل شوند که پتانسیل آسیب‌رسانی دارند، حضور یک ناظر ماهر برای پایش تجهیزات و توقف اضطراری آن الزامی خواهد بود.

رویکرد آنتروپیک نسبت به درک و آگاهی ماشین، میان کارشناسان بحث‌های گسترده‌ای به راه انداخته است. کایل فیش، سرپرست تحقیقات رفاه مدل در آنتروپیک، پیش از این اظهار داشت: «پرسش‌ها درباره‌ی تجربه‌ی درونی بالقوه، آگاهی، موقعیت اخلاقی و رفاه، مسائلی جدی هستند که همگام با پیشرفته‌تر شدن مدل‌ها آن‌ها را بررسی می‌کنیم.» داریو آمودی، مدیرعامل آنتروپیک نیز اذعان کرده بود که دانشمندان هنوز مطمئن نیستند مدل‌ها دارای آگاهی هستند یا خیر.