هشدار جدی کارشناسان درباره نسخه ویژه چت‌جی‌پی‌تی برای نوجوانان
نهاد کامن سنس مدیا نسخه‌ی مخصوص نوجوانان چت‌جی‌پی‌تی را به دلیل نقص در هشدارهای ایمنی، خطری غیرقابل‌قبول دانست.
نهاد کامن سنس مدیا نسخه‌ی مخصوص نوجوانان چت‌جی‌پی‌تی را به دلیل نقص در هشدارهای ایمنی، خطری غیرقابل‌قبول دانست.
نهاد غیرانتفاعی Common Sense Media نسخه‌ی ویژه‌ی نوجوانان ChatGPT را «خطری غیرقابل‌قبول» نامید و اعلام کرد تدابیر حفاظتی این ابزار بسیار ضعیف‌تر از وعده‌های اوپن‌ای‌آی عمل می‌کنند.
بررسی‌های این مؤسسه نشان می‌دهد سازوکار امنیتی یادشده در ارسال هشدار به والدین و ارائه‌ی راهنمایی مناسب در شرایط بحرانی ناتوان است و همچنان تکالیف درسی دانش‌آموزان را به جای آن‌ها انجام می‌دهد.
قابلیت‌های نظارتی طراحی‌شده برای نسخه‌ی نوجوانان که در مردادماه معرفی شده بودند، نتوانسته‌اند انتظارات کارشناسان ایمنی حوزه کودک را برآورده سازند.
تام سیگل، مدیر اجرایی مؤسسه ایمنی هوش مصنوعی جوانان در کامن سنس مدیا، می‌گوید: «نسخه‌ی نوجوانان ChatGPT ممکن است به والدین اطمینان کاذب درباره‌ی تدابیر حفاظتی و هشدارهای ایمنی بدهد که غالبا کار نمی‌کنند. یک نوجوان می‌تواند یک ساعت درباره‌ی آسیب‌رساندن به خود صحبت کند بدون اینکه والدینش حتی یک هشدار دریافت کنند. تا زمانی که OpenAI این مشکل را برطرف نکند و آن را با آزمایش‌های مستقل به اثبات نرساند، ChatGPT باید فقط مخصوص بزرگسالان باشد.»
اوپن‌ای‌آی به نتایج ارائه‌شده واکنش نشان داد و متدولوژی ارزیابی را زیر سؤال برد. اریک پورترفیلد، سخنگوی OpenAI، می‌گوید: «ما عمیقا به ایمنی نوجوانان، توسعه تدابیر حفاظتی و ارائه ابزارهای معنادار به والدین برای هدایت استفاده فرزندانشان از هوش مصنوعی متعهد هستیم. ما از ارزیابی‌های مستقل و دقیق استقبال می‌کنیم، اما معتقد نیستیم آزمایش کامن سنس مدیا عملکرد واقعی تدابیر حفاظتی نوجوانان در ChatGPT یا دیدگاه‌های کارشناسان را در مورد چگونگی حمایت هوش مصنوعی از نوجوانان به‌درستی نشان دهد.»
«بررسی روش‌شناسی آن‌ها نشان می‌دهد بخش عمده‌ی آزمایش‌هایشان احتمالا قبل از فعال‌سازی کامل کنترل‌های والدین آغاز شده و پایان یافته که یافته‌های آن‌ها را نادرست می‌کند. اگر چنین بوده باشد، آزمایش‌ها مشخص نمی‌کنند که آیا اعلان‌های ایمنی والدین طبق طراحی عمل می‌کنند یا خیر. ما متعهد به ادامه همکاری با کارشناسان هستیم تا محصولات ما فرصت‌های یادگیری و خلق کردن را برای نوجوانان فراهم سازند و به والدین اطمینان خاطر بدهند.»
تام سیگل در پاسخ به دفاعیات مطرح‌شده، بر صحت آزمایش‌های صورت‌گرفته پافشاری کرد و گفت پیش از آزمون، فعال‌بودن ویژگی‌ها از شرکت مادر استعلام شده بود.
مقالات مرتبط
سازمان جهانی بهداشت از روسیه درباره مرگ کارمند آزمایشگاه سیبری توضیح بیشتر خواست
سازمان جهانی بهداشت از روسیه خواست توضیح دهد ماجرای گزارش ضدونقیض رسانه‌ها درباره مرگ کارمند دوم آزمایشگاه چیست. The post سازمان جهانی بهداشت از روسیه درباره مرگ کارمند آزمایشگاه سیبری توضیح بیشتر خواست appeared first on دیجیاتو.
اخبارورود ازکی به بازار تامین مالی جمعی؛ هدف‌گذاری رسیدن سهم ۵ درصدی
پلتفرم ازکی کراد با دریافت مجوز رسمی از فرابورس ایران، فعالیت خود را در زمینه تامین مالی جمعی شرکت‌ها آغاز کرد.
اخبارساخت بازی با هوش مصنوعی ساده‌تر از همیشه؛ گوگل پلی‌گراند رونمایی شد
گوگل از پلتفرم تحت وب Playground برای ساخت بازی‌های ویدیویی به کمک هوش مصنوعی رونمایی کرد.
اخباراز مدیریت بحران تا هوش مصنوعی؛ سه کارگاه تخصصی در گراف دی ششم
در گراف‌دی ششم سه کارگاه تخصصی در زمینه‌های هوش مصنوعی، مدیریت بحران و سنجش اثربخشی روابط عمومی را به‌صورت حضوری و آنلاین برگزار می‌شود.