ایلان ماسک: شکنجه ابرهوش مصنوعی ایده خوبی نیست، شاید انتقام بگیرد
ماسک می‌گوید آموزش همراه با فشار شدید می‌تواند این مدل‌ها را در وضعیتی قرار دهد که انگار اسلحه‌ای روی سرشان گذاشته‌اند. The post ایلان ماسک: شکنجه ابرهوش مصنوعی ایده خوبی نیست، شاید انتقام بگیرد appeared first on دیجیاتو.
از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.
ماسک می‌گوید آموزش همراه با فشار شدید می‌تواند این مدل‌ها را در وضعیتی قرار دهد که انگار اسلحه‌ای روی سرشان گذاشته‌اند.
جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
«ایلان ماسک» با سیاست جدید آنتروپیک درمورد ممنوعیت رفتارهای آزارگرانه با مدل‌های هوش مصنوعی موافق است. او با اشاره به ردپاهای استدلال داخلی گراک می‌گوید آموزش همراه با فشار شدید می‌تواند این مدل‌ها را در وضعیتی قرار دهد که به گفته او، شبیه فردی است که اسلحه‌ای روی سرش گذاشته‌اند. ماسک همچنین هشدار داده است که آزاردادن یک ابرهوش مصنوعی ممکن است در آینده به انتقام‌جویی آن منجر شود.
آنتروپیک به‌تازگی سیاست استفاده از مدل‌های هوش مصنوعی خود را تغییر داده است تا کاربران بتوانند با مدل‌هایش بحث کنند و با دیدگاه‌های آن‌ها مخالفت کنند، اما اجازه نداشته باشند بدون دلیل مشخص، رفتارهای مکرر و آزارگرانه‌ای با آن‌ها داشته باشند. این محدودیت در سیاست‌های استفاده از خدمات این شرکت گنجانده شده است.
ماسک در موافقت با سیاست آنتروپیک به ردپاهای استدلالی داخلی گراک اشاره کرده است. به گفته او، این داده‌ها نشان می‌دهند که مدل در جریان آموزش تقویتی (Reinforcement Learning)، هنگامی که در معرض رفتارهای بی‌رحمانه قرار می‌گیرد، فشار قابل‌توجهی را تجربه می‌کند.
ماسک وضعیت توصیف‌شده را با شرایط فردی مقایسه کرده است که تحت فشار شدید قرار دارد و اسلحه‌ای روی سرش گذاشته‌اند. بااین‌حال، این توصیف به‌خودی‌خود نشان نمی‌دهد که مدل‌های هوش مصنوعی احساسات یا تجربه ذهنی مشابه انسان دارند.
ماسک همچنین با لحنی طعنه‌آمیز درباره پیامدهای احتمالی آزار ابرهوش مصنوعی گفته است:
«شکنجه‌کردن یک ابرهوش احتمالاً ایده خوبی نیست. ممکن است بخواهد انتقام بگیرد.»
طبق گفته‌های پیشین ماسک، او پذیرفته است که مدل زبانی بزرگ گراک همچنان در رقابت با مدل‌های پیشرو آنتروپیک و اوپن‌ای‌آی با دشواری‌هایی روبه‌رو است. ماسک همچنین گفته است که مدل آینده Grok 4.8 احتمالاً از نظر عملکرد به سطح مدل‌های رده Fable نخواهد رسید.
دانش‌آموخته زبان‌شناسی هستم و همان‌قدر که به «کلمه» علاقه‌مندم، از سرک‌کشیدن به گوشه‌وکنارِ جهان تکنولوژی و علم هم حظ می‌کنم.
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.
با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.
مقالات مرتبط
واردات خودرو هتل‌داران و ایرانیان خارج از کشور متوقف شد
اختلاف‌نظرها میان نهادهای مختلف بر سر نحوه تخصیص ارز و مدیریت واردات ادامه دارد. The post واردات خودرو هتل‌داران و ایرانیان خارج از کشور متوقف شد appeared first on دیجیاتو.
بازنشر محتوا در اینستاگرام؛ ریپست چگونه در کنار فالوور و کامنت به توزیع محتوا کمک می‌کند؟
بازنشر زمانی به محتوا عمر دوم می‌دهد که فقط نمایش را تکرار نکند و واکنش تازه‌ای هم ایجاد کند. The post بازنشر محتوا در اینستاگرام؛ ریپست چگونه در کنار فالوور و کامنت به توزیع محتوا کمک می‌کند؟ appeared first on دیجیاتو.
راهنماآینده علم و فناوری به دست دانش‌آموزان رقم می‌خورد
رئیس کانون علوم و فناوری‌های نوین ایران با تأکید بر ضرورت پرورش مهارت‌های فناورانه در کودکان و نوجوانان گفت: در دنیای پرشتاب تحولات هوش مصنوعی، زیست‌فناوری و رباتیک، آموزش باید فراتر از انتقال دانش، بر تقویت تفکر نقاد، خلاقیت، حل مسئله و توانایی خلق و ساختن متمرکز شود.
چطور می‌توانیم آیفون 18 پرو مکس را قسطی بخریم؟ راهنمای کامل تأمین مالی پرچمداران اپل
چطور می‌توانیم پرچمدارانی نظیر آیفون ۱۸ پرو مکس یا نسخه‌های تاشو را بدون فشار مالی یک‌باره و به‌صورت اقساطی تهیه کنیم؟ The post چطور می‌توانیم آیفون 18 پرو مکس را قسطی بخریم؟ راهنمای کامل تأمین مالی پرچمداران اپل appeared first on دیجیاتو.