آنتروپیک آزار عمدی و بی‌دلیل مدل‌های Claude را ممنوع کرد
آنتروپیک در به‌روزرسانی سیاست‌های کلاد، آزار مداوم این هوش مصنوعی را منع می‌کند. The post آنتروپیک آزار عمدی و بی‌دلیل مدل‌های Claude را ممنوع کرد appeared first on دیجیاتو.
از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.
آنتروپیک در به‌روزرسانی سیاست‌های کلاد، آزار مداوم این هوش مصنوعی را منع می‌کند.
جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
آنتروپیک در به‌روزرسانی سیاست‌های استفاده از هوش مصنوعی خود، آزار و رفتار بی‌رحمانه و بی‌دلیل با کلود را در موارد شدید و تکرارشونده ممنوع کرد. این شرکت همچنین محدودیت‌های تازه‌ای برای استفاده از هوش مصنوعی در تبلیغات سیاسی فریبکارانه و توسعه سلاح و نظارت بر افراد در نظر گرفته است.
این نخستین به‌روزرسانی سیاست‌های استفاده از محصولات آنتروپیک در بیش از یک سال گذشته است. به گفته آنتروپیک، تغییرات جدید برای مقابله با موارد سوءاستفاده و خطرهای نوظهور در استفاده از هوش مصنوعی اعمال شده‌اند.
آنتروپیک در سیاست جدید خود، «رفتار آزاردهنده یا بی‌رحمانه مداوم و غیرضروری» با مدل‌های هوش مصنوعی‌اش را ممنوع کرده است. بااین‌حال، این محدودیت فقط موارد شدید را در بر می‌گیرد و شامل نارضایتی معمول کاربران، مخالفت با پاسخ‌های مدل یا آزمایش و پژوهش روی مدل‌ها نمی‌شود.
این تغییر در ادامه تصمیمی است که آنتروپیک در آگوست سال گذشته اعلام کرد. بر اساس آن تصمیم، کلاد می‌تواند در صورت مواجهه مکرر با کاربران آزاردهنده یا آسیب‌زننده، مکالمه را خاتمه دهد. شرکت می‌گوید پایان‌دادن به مکالمه همچنان ابزار اصلی اجرای این سیاست است. آنتروپیک مشخص نکرده است که آیا اقدامات دیگری، از جمله مسدودکردن حساب کاربران، نیز در نظر گرفته شده‌اند یا خیر.
ممنوعیت رفتار بی‌رحمانه با کلود در شرایطی مطرح شده است که آنتروپیک طی سال گذشته درباره احتمال برخورداری مدل‌های هوش مصنوعی از نوعی تجربه درونی، آگاهی یا وضعیت اخلاقی قابل‌بررسی صحبت کرده است. «داریو آمودی»، مدیرعامل آنتروپیک، نیز گفته بود: «ما نمی‌دانیم که آیا مدل‌ها آگاه هستند یا نه.»
همچنین طبق سیاست جدید، ردیابی افراد با هوش مصنوعی بدون رضایت آن‌ها ممنوع است؛ چه این کار به‌صورت لایو انجام شود و چه با تحلیل داده‌هایی که پیش‌تر جمع‌آوری شده‌اند. همچنین، کلاد نباید برای تصمیم‌گیری یا توصیه درباره اینکه چه کسی باید در فرایندهای انتظامی یا قضایی تحت تحقیق قرار بگیرد، بازداشت شود یا تحت پیگرد قرار گیرد، استفاده شود. ساخت یا بهبود ابزارهای طراحی‌شده برای نظارت نیز ممنوع است.
بااین‌حال، آنتروپیک اعلام کرده است که ممکن است این محدودیت‌ها در قرارداد با برخی مشتریان دولتی تغییر کنند؛ مشروط بر اینکه از نظر شرکت، محدودیت‌های قراردادی و تدابیر حفاظتی موجود برای کاهش خطرهای احتمالی کافی باشند. آنتروپیک پیش‌تر با ارتش آمریکا قرارداد داشته است.
دانش‌آموخته زبان‌شناسی هستم و همان‌قدر که به «کلمه» علاقه‌مندم، از سرک‌کشیدن به گوشه‌وکنارِ جهان تکنولوژی و علم هم حظ می‌کنم.
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.
با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.
مقالات مرتبط
اخبارادغام گوشی‌های شیائومی با آیفون؛ HyperOS 4 سازگاری ویژه‌ای با iOS خواهد داشت
شیائومی با معرفی HyperOS 4 امکان همگام‌سازی عمیق و تبادل داده میان گوشی‌های خود و محصولات اپل را فراهم کرد.
اخباراتهام سنگین به تیک‌تاک؛ آزمایش‌های مخفیانه روی سلامت نوجوانان در نیویورک
دادستان کل نیویورک تیک‌تاک را متهم کرد که ابزارهای محافظتی را مخفیانه از دسترس میلیون‌ها نوجوان آمریکایی خارج کرده است.
دولت ترامپ دسترسی مایکروسافت و ادوبی به برنامه گرین‌کارت را تعلیق کرد
دولت ترامپ مایکروسافت را به سوءاستفاده از برنامه‌های مهاجرتی متهم کرد. The post دولت ترامپ دسترسی مایکروسافت و ادوبی به برنامه گرین‌کارت را تعلیق کرد appeared first on دیجیاتو.
اخبارنمایش نورپردازی خیره‌کننده در تصاویر جدید بازی GTA 6
راک‌استار گیمز هم‌زمان با رونمایی از جزئیات ایستگاه‌های رادیویی، سه تصویر جدید از جلوه‌های بصری خیره‌کننده Grand Theft Auto VI منتشر کرد.