ادعای جنجالی کارمند سابق آنتروپیک درباره «حل معمای طنز» با هوش مصنوعی کلاد

یکی از کارکنان پیشین آنتروپیک فاش کرد پژوهشگران مدعی شده بودند با توسعه‌ی نسخه‌ای از کلاد، معمای دیرینه‌ی طنز را به‌طور کامل حل کرده‌اند.

یکی از کارکنان سابق آنتروپیک می‌گوید همکارانش زمانی ادعا کرده بودند که با آموزش مدل هوش مصنوعی کلاد، مسئله‌ی طنز را حل کرده‌اند؛ روایتی که پرسش‌هایی درباره‌ی فرهنگ سازمانی شرکت‌های هوش مصنوعی و اعتماد بیش‌ازحد به توانایی مدل‌ها مطرح می‌کند.

آیا می‌توان به هوش مصنوعی یاد داد که چه چیزی خنده‌دار است؟ شاید پاسخ مثبت باشد؛ اما آیا می‌توان ادعا کرد که هوش مصنوعی تمام پیچیدگی‌های طنز را درک کرده و این مسئله را برای همیشه حل کرده است؟ ظاهراً چنین تصوری زمانی در میان برخی از کارکنان شرکت آنتروپیک مطرح بوده است.

جیکوب کاکسون، پژوهشگر سابق آنتروپیک که در شهریورماه به‌دلیل نگرانی از خطرات توسعه‌ی سریع هوش مصنوعی از این شرکت استعفا داد، در مصاحبه‌ی تازه‌ای با نیویورک مگزین از تجربه‌ی عجیبی در روزهای نخست حضورش در شرکت سازنده‌ی کلاد پرده برداشت.

کاکسون می‌گوید وقتی به آنتروپیک پیوست، در پیام‌رسان داخلی اسلک کانالی وجود داشت که در آن نسخه‌ای از کلاد برای حل مسئله‌ی طنز آموزش دیده بود. به روایت او، برخی همکارانش با اطمینان اعلام کرده بودند: «بله، ما مسئله‌ی طنز را حل کردیم. این هم کلاد. مسئله حل شده است.»

واکنش کاکسون کاملاً متفاوت بود. او به یاد می‌آورد که در همان گفت‌وگو به همکارانش اعتراض کرده و گفته بود: «نه، شما چنین کاری نکرده‌اید. کاملاً واضح است که مسئله‌ی طنز را حل نکرده‌اید. این دیگر چیست؟»

ماجرا احتمالا نمونه‌ای از فاصله‌ی میان برداشت سازندگان هوش مصنوعی از دستاوردهایشان و واقعیت پیچیده‌ی رفتار انسانی است؛ بااین‌حال، باید میان روایت یک کارمند سابق و موضع رسمی شرکت تفاوت گذاشت.

شواهد منتشرشده نشان نمی‌دهند که آنتروپیک رسماً ادعای حل مسئله‌ی طنز را مطرح کرده باشد. همچنین مشخص نیست همکاران کاکسون این عبارت را کاملاً جدی به کار برده‌اند یا با لحنی شوخی‌آمیز درباره‌ی دستاوردی آزمایشی صحبت می‌کرده‌اند. جزئیاتی درباره‌ی روش آموزش مدل و نتایج ارزیابی آن نیز منتشر نشده است.

برای درک مسئله، باید میان تولید یک شوخی و درک کامل طنز تفاوت گذاشت. مدل‌های زبانی با تحلیل حجم عظیمی از نوشته‌ها، گفت‌وگوها و نمونه‌های طنز می‌توانند الگوهای رایج شوخی را یاد بگیرند، لطیفه بسازند و حتی در بعضی موقعیت‌ها کنایه یا طعنه را تشخیص دهند.

اما طنز همیشه از قواعد مشخص و تکرارشونده پیروی نمی‌کند. جمله‌ای ممکن است برای گروهی از افراد خنده‌دار و برای دیگران بی‌معنا یا حتی توهین‌آمیز باشد. پیشینه‌ی فرهنگی، رابطه‌ی میان گوینده و مخاطب، زمان‌بندی، لحن و حتی اتفاقاتی که پیش از بیان یک جمله رخ داده‌اند، در برداشت افراد از طنز تأثیر دارند.

برای مثال، عبارت «چه عالی شد!» می‌تواند نشانه‌ی رضایت واقعی باشد یا درست در موقعیتی که همه‌چیز خراب شده، معنایی کاملاً کنایه‌آمیز پیدا کند. تشخیص تفاوت این دو حالت به شناخت موقعیت و نیت گوینده وابسته است.

بنابراین، موفقیت یک مدل در ساختن لطیفه‌های قابل‌قبول یا شناسایی برخی الگوهای طنز، به‌تنهایی به معنای حل کامل این پدیده نیست. حتی تعریف معیاری جامع و موردتوافق برای سنجش میزان خنده‌داربودن یک شوخی نیز دشوار است.

بخش مهم‌تر روایت کاکسون به فرهنگ حاکم بر استارتاپ‌های توسعه‌ی هوش مصنوعی مربوط می‌شود. او در مصاحبه‌ی نیویورک مگزین توضیح می‌دهد که در آنتروپیک نوعی هم‌فکری سازمانی وجود دارد که گاهی می‌تواند به تفکر گروهی منجر شود؛ وضعیتی که در آن، اعضای یک مجموعه به‌تدریج دیدگاه‌های مشابهی پیدا می‌کنند و احتمال به‌چالش‌کشیدن باورهای مشترک کاهش می‌یابد.

البته کاکسون این وضعیت را مطلق نمی‌داند. او تأکید می‌کند که کارکنان آنتروپیک درباره‌ی مسائل مختلف بحث می‌کنند و بسیاری از آن‌ها صادقانه به دنبال یافتن پاسخ‌های درست هستند. بااین‌حال، به باور او، دیدگاه‌هایی که راحت‌تر می‌توان آن‌ها را در قالب استدلال‌های متقاعدکننده بیان کرد، شانس بیشتری برای پذیرفته‌شدن دارند.

جف وو، یکی دیگر از کارکنان سابق آنتروپیک که در همان مصاحبه حضور داشت، نگرانی جدی‌تری درباره‌ی تفکر گروهی مطرح می‌کند. به گفته‌ی او، ارتباط نزدیک کارکنان و قرارگرفتن مداوم در معرض استدلال‌های مشابه ممکن است تنوع دیدگاه‌ها را کاهش دهد.

این نگرانی در صنعتی که شرکت‌هایش برای توسعه‌ی مدل‌های قدرتمندتر رقابت می‌کنند، اهمیت بیشتری پیدا می‌کند. وقتی گروهی از پژوهشگران به توانایی فناوری خود بیش‌ازحد اطمینان پیدا کنند، ممکن است مرز میان حل موفقیت‌آمیز یک مسئله‌ی محدود و دستیابی به راه‌حلی عمومی را نادیده بگیرند.

پرسش مهم فقط این نیست که هوش مصنوعی چه کاری می‌تواند انجام دهد؛ بلکه این است که سازندگانش چگونه موفقیت آن را تعریف و اندازه‌گیری می‌کنند.

ماجرای کلاد و طنز هنوز بیشتر یک روایت شخصی از محیط کاری آنتروپیک است تا سندی درباره‌ی توانایی واقعی مدل. اما همین روایت تفاوت مهمی را نشان می‌دهد: ساختن سیستمی که بتواند شوخی‌های خوبی تولید کند، دستاوردی فنی است؛ ادعای اینکه چنین سیستمی مسئله‌ی پیچیده‌ی طنز انسانی را به‌طور کامل حل کرده، به شواهد بسیار بیشتری نیاز دارد.