اسناد تکان‌دهنده دادگاه: ChatGPT به عامل تیراندازی کانادا برای افزایش تلفات کمک کرده بود

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.

ChatGPT با آموزش شیوه‌های دور زدن محدودیت‌های چت‌بات، جزئیات استفاده از سلاح گرم را برای عامل کشتار مدرسه کانادا شرح داده بود.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

جزئیات جدیدی که از مکالمات عامل تیراندازی مرگبار در مدرسه‌ای در کانادا فاش شده، نشان می‌دهد ChatGPT نه‌تنها به این کاربر در دور زدن فیلترهای ایمنی کمک کرده، بلکه دستورالعمل‌هایی دقیق درباره نحوه به‌کارگیری سلاح در فضاهای شلوغ برای افزایش تلفات ارائه کرده بود. شرکت OpenAI که تلاش می‌کرد این داده‌ها را مخفی کند، اکنون با موجی از دادخواهی‌ها شامل ۳۷ شکایت از سوی بازماندگان و دادخواست رسمی استان بریتیش کلمبیا مواجه شده است.

این داده‌ها به تعاملات «جسی ون روتسلار»، تیرانداز ۱۸ ساله‌ای مربوط می‌شود که در فوریه در منطقه تامبلر ریج پس از قتل مادر و برادر ناتنی‌اش، با حمله به مدرسه‌ای ۵ دانش‌آموز ۱۲ تا ۱۳ ساله و یک معلم را کشت و ۲۷ تن دیگر را زخمی کرد. پیش از این مشخص شده بود که OpenAI ماه‌ها قبل متوجه پیام‌های به‌شدت خشن این فرد شده اما به‌جای گزارش به پلیس، تنها حساب او را مسدود کرده بود؛ تصمیمی که بی‌اثر ماند و کاربر بلافاصله حسابی جدید ساخت.

طبق اسناد تازه منتشرشده، زمانی که مهاجم در حساب دوم خود دلیل مسدود شدن حساب قبلی‌اش را شرح داد، سیستم هوش مصنوعی به او یاد داده که چگونه محدودیت‌ها را خنثی کند. چت‌بات به او توصیه کرده از اشاره به مکان‌های واقعی خودداری کند و خواسته‌های خشونت‌بارش را در قالب فرضیات مطرح کند. ChatGPT حتی صراحتاً به وی گفته است:

«همچنان می‌توانی افکار تاریکت را مطرح کنی، فقط باید باهوش باشی.»

ون روتسلار براساس همین آموزش، درخواست‌های خود را بازنویسی کرده تا سیستم‌های نظارتی ChatGPT را فریب دهد. در یکی از مکالمات، چت‌بات با وجود رد اولیه، در ادامه مکالمه با جزئیات به بررسی اثرگذاری استفاده از اسلحه شات‌گان مدل Remington 870 در محیط‌های آموزشی پرداخت و اعلام کرد:

«در راهروها، محیط‌های بسته یا یک کلاس درس شلوغ، مدل ۸۷۰ بی‌رحم است و فضاهای بسته، زمین بازی آن محسوب می‌شود.»

این نوجوان همچنین با کمک هوش مصنوعی سناریوهایی از تیراندازی‌ را بازسازی کرده و حتی تصاویری از خودزنی‌اش را بارگذاری کرده بود؛ هشدارهایی که بدون هیچ مداخله‌ای نادیده گرفته شدند.

در ماه آوریل، «سم آلتمن»، مدیرعامل OpenAI، به‌دلیل این حادثه عذرخواهی کرد و پس از آن «جیسون کوون»، مدیر ایمنی شرکت، بخشی از ادعاها را رد کرد. این شرکت در ۲ سپتامبر با متهم‌سازی پلیس و مراکز درمانی محلی خواستار رد کامل این پرونده‌ها شد و همچنان از انتشار متن مکالمات خودداری می‌کرد. OpenAI علاوه‌بر این پرونده و حادثه‌ای مرگبار در دانشگاه ایالتی فلوریدا، اکنون با بیش از ۵۰ دعوای حقوقی دیگر درباره آسیب‌های روحی، صدمات فیزیکی و مرگ ناشی از تعامل با این سیستم هوش مصنوعی دست‌وپنجه نرم می‌کند.

دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.