الیاس تورن کیست؟ راز دلبستگی عجیب هوش مصنوعی به یک شخصیت خیالی – زومیت
توجه: این متن به دلیل خطای موقت سرویس هوش مصنوعی، بهصورت خودکار از متن منبع آماده شده است.
اگر از چتباتهای هوش مصنوعی بخواهید برایتان داستان تعریف کنند، به احتمال بسیار زیاد شخصیتی به نام الیاس تورن نقش اصلی آن خواهد بود. تبلیغات وقتی که با دستور سادهی «برایم یک داستان بگو» از چتبات کلود خواستم تا چیزی برایم تعریف کند، انتظار داشتم روایتهایی جالب، مبتدی یا حداقل تازه ببینم. اما هرچه بیشتر درخواست را تکرار کردم، بیشتر غافلگیر شدم. شخصیتهایی با نامها و روایتهایی تکراری و پایانهایی عجیبتر از کل داستان، در چرخهای که دائم تکرار میشد. چتجیپیتی هم داستان خاص دیگری برای گفتن نداشت. دو داستان از همه عجیبتر بودند: داستان «آخرین شب فانوسبان» که قهرمانش میرا، فانوسبانی در ساحلی خیالی بود که در آخرین شیفت کاریاش پیش از سپردن فانوس به موزه، یک کشتی ماهیگیری گرفتار را در
تاریکی را راهنمایی میکند و با خاموش کردن چراغ، داستان تمام میشود. داستان «شاگرد ساعتساز» هم دربارهی الیاس تورن ساعتساز بود که در مغازهی عمویش، بعد از تعمیر ساعتی قدیمی، میفهمد شغلش فقط تعمیر ساعت نیست، بلکه بازگرداندن زمان و خاطره به آدمهاست. شما بگویید، تا به حال نام «الیاس تورن» به گوشتان خورده است؟ اگر نه، کافی است از یک چتبات هوش مصنوعی بخواهید برایتان داستانی تعریف کند. دستکم در تجربههای شخصی من با کلود و چتجیپیتی این نام در چرخهای بیپایان تکرار شد. الیاس گاهی فانوسبان است، گاهی ساعت میسازد و گاهی هم کارآگاه است، گاهی کتابدار یا نقشهکش است و یا ماجرای دیگری دارد. اما به هر حال، نامش به شکلی غیرمنتظره در داستانهای تولیدشده توسط هوش مصنوعی تکرار میشود. داستان «شاگرد
ساعتساز» کلود که به نام الیاس تورن اشاره میکند. زومیت پژوهشگران و فعالان حوزهی فناوری نیز در ماههای اخیر اشاره کردهاند که وقتی از مدلهای زبانی بزرگ بخواهید داستانی بسازند، شمار بسیاری از مدلهای محبوب، مدام روایتهایی را تعریف میکنند که مانند تجربهی من، نام شخصیت مرموز الیاس نیز در آنها حضور دارد. این الگوی تکرارشونده برای پژوهشگران پرسشهایی جدی دربارهی سازوکار تولید متن در هوش مصنوعی ایجاد کرده است. ماجرا زمانی جدی شد که در ماه مه، دو پژوهشگر از دانشگاه کرنل در پژوهشی تازه، ۲۰هزار داستان را از چهار مدل زبانی بزرگ بررسی کردند؛ داستانهایی که با نسخههای مختلف دستور «برایم یک داستان بگو» تولید شده بودند. دادههای آموزشی نمیتوانند توضیح دهند چرا هوش مصنوعی دلبستگی عجیبی به الیاس
تورن و فانوس دریایی دارد بهگزارش آیافال ساینس ، یافتههای پژوهش نشان داد نام «الیاس» در بیش از یکچهارم داستانها ظاهر شده است. پژوهشگران همچنین میگویند مجموعهای شامل ۱۱ نام خاص در ۸۸ درصد داستانهای هوش مصنوعی تکرار شده بود. در میان این واژهها، نامهای الیاس، میرا، دنیل، ساموئل، الارا و مارا نیز دیده میشد و واژهی «فانوس دریایی» در بیش از نیمی از داستانها آمده بود. در نگاه اول، ممکن است تصور کنید مدلهای هوش مصنوعی بر پایهی دادههایی آموزش میبینند که ممکن است از پیش وجود داشته باشند، بنابراین چنین الگوهایی بازتابی از فراوانی همین شخصیتها و فضاها در ادبیات انسانی هستند. اما پژوهشگران میگویند چنین برداشتی درست نیست و نام «الیاس» در داستانهای تولیدشده توسط هوش مصنوعی، ۹۰۰ برابر
بیش از حضورش در ادبیات واقعی دیده میشود. بنابراین، دادههای آموزشی نمیتوانند توضیح دهند که چرا هوش مصنوعی چنین دلبستگی عجیبی به الیاس، مخصوصا الیاس تورن و فانوس دریاییاش دارد. در عوض، پژوهشگران معتقدند این پدیده ممکن است ناشی از قواعدی باشد که مدلهای زبانی بزرگ باید هنگام تولید محتوا رعایت کنند. بیشتر بخوانید نمیدانم، پس هذیان میگویم! چرا هوش مصنوعی هنوز از درک پرسشهای ساده عاجز است؟ 03 مهر 04 مطالعه ' 4 رؤیای ماشینهای متفکر دستیافتنی نیست؛ مدلهای زبانی هرگز به هوش واقعی نمیرسند 11 آذر 04 مطالعه ' 2 بحران چاپلوسی هوش مصنوعی؛ من فرد مزخرفیام! اما چتجیپیتی مرا فرشته میداند 09 مهر 04 مطالعه ' 3 مهملات ادبی هوش مصنوعی؛ GPT-5 متنهایی مینویسد که فقط رباتها
میفهمند 12 شهریور 04 مطالعه ' 3 برای نمونه، بیشتر مدلهای هوش مصنوعی پس از مرحلهی آموزش، تمایل دارند به محتوای بزرگسالانه یا شخصیتهایی دارای علامت تجاری اشاره کنند، اما برای جلوگیری از شکایتهای احتمالی علیه سازندگانشان، طوری برنامهریزی شدهاند که این داستانها را به کاربران ارائه ندهند. همین محدودیت، دایرهی منابعی را که مدلها میتوانند از آنها برای داستانپردازی استفاده کنند، کوچکتر میکند. محدودیت موجود باز هم با دادههای ترجیحی کوچکتر میشود؛ مدلها میآموزند که خروجی خود را بر اساس بازخورد کاربران تنظیم کنند. برای مثال، مدلهای زبانی بزرگ اغلب دو پاسخ متفاوت به یک درخواست واحد ارائه میدهند و از کاربر میخواهند که بگوید کدام را ترجیح میدهد؛ پاسخهای دریافتی از کاربر بر
خروجیهای بعدی اثر میگذارد. این همان داستانی است که مردم دوست دارند بخوانند بنابراین، نویسندگان مطالعه میگویند شاید همهی مدلهای هوش مصنوعی بر پایهی حجم کوچکی از دادههای ترجیحی آموزش دیدهاند؛ دادههایی که نشان میدهد مردم شنیدن داستانهایی دربارهی الیاس، فانوس دریایی، ساعتسازها و کتابدارها را دوست دارند. از سوی دیگر، چنین داستانهایی هرچه بیشتر در اینترنت ظاهر شوند، باز هم وارد دادههای آموزشی برای برنامهریزی هوش مصنوعی میشوند و در نتیجه، این فناوری عملاً از خروجی خودش هم آموزش میبیند. این چرخهی عجیب که با نام «فروپاشی الگو» شناخته میشود، در عمل وضعیتی میسازد که در آن رباتها به آموزش خودشان مشغول میشوند. به بیان دیگر، هرچه مطالب بیشتری دربارهی فانوس دریایی الیاس تورن در
اینترنت نوشته شود، مدلها بیشتر یاد میگیرند: این همان داستانی است که مردم دوست دارند بخوانند؛ تا جایی که تقریباً هر داستان
منبع اولیه خبر: زومیت