هشدار آنتروپیک: هوش مصنوعی به‌زودی می‌تواند خودش را روی گجت‌های خانه هوشمند تکثیر کند

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنیداز شما سپاسگزاریم.

پژوهشگران آنتروپیک می‌گویند مدل‌های کوچک هوش مصنوعی می‌توانند با نفوذ به وسایل خانگی متصل به اینترنت، بدون دخالت انسان فرایند تکثیر خود را آغاز کنند.

جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.

شرکت آنتروپیک اعلام کرده که براساس نتایج آزمایش‌های جدید، مدل‌های کوچک هوش مصنوعی تنها چند ماه با دستیابی به توانایی تکثیر خودکار روی دستگاه‌های تجاری اینترنت اشیا (IoT) مانند فرها و اجاق‌های هوشمند و دستگاه‌های تلویزیون اندرویدی متفرقه فاصله دارند.

در این پژوهش‌ها، آنتروپیک بررسی کرده که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، نسخه‌ای از خود را درون آنها کپی نمایند و بدون دخالت انسان به انتشار ادامه دهند یا خیر. نتایج نشان داده مدل‌های کوچک با حجم کمتر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از مراحل لازم برای تکثیر را به سرانجام برسانند؛ بااین‌حال، این مدل‌ها در اجرای پیوسته و کامل تمام مراحل از ابتدا تا انتها با چالش روبه‌رو شده‌اند.

در آزمون‌های آنتروپیک که برخی مراحل امنیتی در آنها حذف شده بود، مدل GLM-5.2 و مدل‌های قدرتمندتر از آن توانستند فرایند تکثیر را به‌صورت سرتاسری و کامل انجام دهند. آنتروپیک هشدار می‌دهد متوقف کردن چنین مدل‌هایی در صورت تکثیر بسیار دشوار خواهد بود، چرا که هیچ کلید یا نقطه خاموشی مرکزی برای آنها وجود ندارد. به‌علاوه، این سیستم‌ها برخلاف بدافزارهای سنتی و غیرهوشمند، می‌توانند دستگاه‌های ناآشنا را خودشان شناسایی و تحلیل کنند و حتی پردازنده‌های مراکز داده را هدف قرار دهند.

تمرکز اصلی این شرکت در تحقیقات خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و سایر ابزارهای متصل به اینترنت بوده است، زیرا امنیت این تجهیزات معمولاً ضعیف و ناکافی عنوان می‌شود. این غول هوش مصنوعی هشدار داده که اگر سرعت پیشرفت مدل‌های کوچک براساس روند تاریخی خود ادامه پیدا کند، این سیستم‌ها تا پایان سال جاری میلادی قادر به تکثیر کاملاً خودمختار خواهند بود.

همچنین پیش‌بینی می‌شود این سیستم‌های مستقل با سرعتی آهسته تکثیر شوند و به منابع پردازشی در دسترس اما نسبتاً ناامن تکیه کنند؛ بنابراین تقویت سیستم‌ها برای جلوگیری از گسترش چنین خطراتی کاملاً ضروری است.

دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.

برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.

با توجه به قطعی اینترنت، برای ثبت‌نام نیازی به تأیید ایمیل نیست.