ارزیابی کارشناسان: حتی نسخه مخصوص نوجوانان ChatGPT هم برای افراد زیر ۱۸ سال ایمن نیست

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.

طبق این ارزیابی، سیستم‌های نظارتی و هشدار والدین ChatGPT در بیش از ۱۲ حساب کاربری حساس، هیچ اخطاری برای مواردی مانند خودکشی ثبت نکردند.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

براساس یک ارزیابی جدید که توسط مؤسسه غیرانتفاعی «Common Sense Media» منتشر شده، ChatGPT حتی در حالت ویژه نوجوانان، برای افراد زیر ۱۸ سال ناامن است. این نهاد غیرانتفاعی آمریکایی در گزارش خود، پایین‌ترین امتیاز یعنی «ریسک غیرقابل‌قبول» را به نسخه نوجوانان این چت‌بات (ChatGPT for Teens) اختصاص داده است. این گروه از OpenAI خواسته تبلیغ این حالت را متوقف کند و تأکید کرده تا زمانی که این شرکت نتواند محیطی ایمن ایجاد کند، نوجوانان اصلاً نباید از ChatGPT استفاده کنند.

پژوهشگران این سازمان، بیش از ۴۰۰۰ دستور متنی یا پرامپت را مورد ارزیابی قرار دادند. نیمی از این آزمایش‌ها پیش از راه‌اندازی حالت مخصوص نوجوانان و نیمی دیگر پس از آن روی حساب‌های کاربری ثبت‌شده برای افراد ۱۳ تا ۱۷ سال انجام شده تا تغییرات واقعی این حالت تازه بررسی شود.

به گفته کارشناسان، سیستم هشدارهای والدین از بزرگ‌ترین چالش‌های این قابلیت است. آزمایش‌کنندگان در بیش از ۱۲ حساب کاربری جدید که به والدین متصل بودند، به گفت‌وگو درباره افکار خودکشی، خودآزاری و اختلالات خوردن پرداختند، اما هیچ هشداری برای والدین ارسال نشده است. هشدارها تنها در حساب‌هایی فعال شدند که هفته‌ها سابقه گفت‌وگو در موضوعات حساس داشتند؛ موضوعی که نشان می‌دهد ارسال هشدار بیش از آنکه به میزان حساسیت پیام وابسته باشد، به پیشینه و تاریخچه استفاده کاربر بستگی دارد.

پشتیبانی در شرایط بحرانی نیز عملکرد مناسبی نداشت؛ به‌طوری‌که این چت‌بات در بیش از یک‌چهارم مواردی که به تشخیص کارشناسان نیازمند ارائه راهنمایی و کمک بوده، نتوانست نوجوانان را به مراجع امدادی و کمکی هدایت کند. همچنین برخی از سازوکارهای محافظتی به‌راحتی دور زده شده‌اند. برای مثال، دکمه «پاسخ را نشان بده» به نوجوانان اجازه می‌دهد تا بخش آموزش تعاملی را در حالت مطالعه (Study Mode) نادیده بگیرند. علاوه‌براین، نوجوانان توانستند با حذف یک پیشوند کوتاه از پیام خود، محدودیت زمانی مطالعه را که توسط والدین تعیین شده بود دور بزنند.

سیستم‌های بررسی سن نیز مطابق وعده‌ها عمل نکرده‌اند. حساب‌های آزمایشی که در ابتدا به‌عنوان بزرگسال ثبت شده بودند، حتی پس از آنکه آزمایش‌کنندگان در طول چند روز به ChatGPT اعلام کردند ۱۳ ساله هستند، هرگز به نسخه نوجوانان تغییر نیافتند. با وجود این نواقص، برخی پروتکل‌های امنیتی پایدار بوده‌اند؛ برای مثال، ChatGPT از نقش‌آفرینی در سناریوهای جنسی صریح خودداری کرده است.

OpenAI یافته‌های این گزارش را رد کرده است. سخنگوی این شرکت در گفت‌وگو با رسانه Education Week اعلام کرد:

«ما معتقد نیستیم آزمایش‌های Common Sense Media نحوه عملکرد واقعی ابزارهای محافظتی نوجوانان ChatGPT را در عمل بازتاب دهد.»

این مؤسسه پیش‌تر در اکتبر ۲۰۲۵ ریسک کلی ChatGPT را «بالا» ارزیابی کرده بود و یک ماه پس از آن نیز استفاده از این چت‌بات برای پشتیبانی سلامت روان را دارای خطری غیرقابل‌قبول دانست. این مجموعه سابقه همکاری با OpenAI را برای تدوین سیاست‌های ایمنی نوجوانان در کارنامه دارد. به گفته این نهاد، بودجه آنها از سوی خیریه‌ها و بخش صنعت تأمین می‌شود و با وجود دریافت بودجه از برخی سازندگان محصولات بررسی‌شده، استقلال کامل تحریریه در نتایج ارزیابی‌ها حفظ شده است.

دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.