اولین بار که این اتفاق میافتد، فکر میکنید دیوانه شدهاید. وارد یک کافه میشوید و به منویی نگاه میکنید که انواع ساندویچهای بیگل را نشان میدهد، اما هر تصویر بهطرز عجیبی بینقص، دقیقاً متقارن و بهطرز غریبی صاف است؛ حسی عمیق به شما میگوید چیزی درست نیست. ممکن است فکر کنید پارانویا دارید، اما عقلتان را از دست ندادهاید. منوهای تولیدشده با هوش مصنوعی وارد کسبوکار رستورانها شدهاند؛ آن هم با مدلهایی که روی زیباییشناسی محدود و «دلپسند» آموزش دیدهاند و ظاهری تولید میکنند که حتی وقتی نمیتوانید دلیلش را بگویید، حس غلطی در شما ایجاد میکند.
گاهی این تصاویر بهوضوح جعلی هستند؛ مثل بریتویی با پنیری چنان حبابدار و کشسان که بیشتر شبیه هنر آوانگارد است تا ناهار. اما بیشتر اوقات آنقدر معمولی به نظر میرسند که فقط وقتی دقیقتر نگاه کنید متوجه اشتباه بودنشان میشوید.
«تقریباً مثل این است که یک موجود فضایی بخواهد پیتزا درست کند بدون اینکه اصول اولیه آن را بفهمد»؛ این را الکس لایل، مدیر ارشد فناوری Reality Defender به TechCrunch گفته است. (خود Reality Defender بخشی از دسته رو به رشدی از استارتاپهایی است که ابزارهای تشخیص محتوای هوش مصنوعی و تأیید محتوا میفروشند؛ کسبوکاری که بخشی از وجودش مدیون دقیقاً همین مشکلات است.)
لایل میگوید نحوه ساخت این مدلها میتواند توضیح دهد که چرا تصاویر به چنین زیباییشناسی خاصی گرایش دارند؛ زیباییشناسیای که در آن هر قالب بستنی کاملاً گرد است و میگوها انگار طوری دستکاری ژنتیکی شدهاند که دم خودشان را بخورند و «وحشتهای غذایی لاوکرفتی» جدیدی خلق کنند.
مدلهای زبانی بزرگ (LLM) و مدلهای دیفیوژن؛ همان نوع مدلهای هوش مصنوعی که چتباتهای بهظاهر دانای کل و تولیدکنندههای تصویر مثل ChatGPT و Midjourney را ممکن کردهاند، با حجم عظیمی از داده آموزش میبینند. مدلها سپس الگوهای موجود در دادهها را شناسایی میکنند تا پیشبینی کنند کاربر وقتی چیزی مثل «برایم یک منوی رستوران برگر بساز» میپرسد، دنبال چه چیزی است.
«بسیاری از این چیزها شبیه منوی رستوران Chili’s در سال ۲۰۱۵ به نظر میرسند و دلیلی هم دارد»؛ لایل گفت: «آن مجموعه کارها همان پیکرهای بود که مدلها عملکرد خود را از آن برداشتند.»
دادههای آموزشی تازه برای شرکتهای سازنده مدلهای هوش مصنوعی ارزشمند است؛ حتی فاش شده آمازون کتابهای کمیاب را تهیه میکند تا اسکن کند و به دادههای آموزشی خود اضافه کند و بعد از آپلود، آنها را از بین میبرد. اجتنابناپذیر است که برخی محتوای تولیدشده با هوش مصنوعی هم به این مجموعهدادههای عظیم و غیرقابلدرک نشت کند. اما وقتی مدلهای هوش مصنوعی بیش از حد روی محتوای تولیدشده توسط خودشان آموزش ببینند، خطر «فروریختن مدل» (model collapse) وجود دارد.
لایل توضیح میدهد: «فروریختن مدل تقریباً مثل بیماری جنون گاوی است؛ وقتی خروجیهای یک مدل را دوباره به خودش برمیگردانید، نهایتاً همخونی بیش از حد میشود و کل سیستم فرو میریزد. چیزی که ما اینجا میبینیم همگرایی (convergence) است که لزوماً فروریختن مدل نیست.»
همگرایی کمی کمتر از آن شدید است؛ کیفیت خروجیهای هوش مصنوعی را پایین میآورد، اما آن را کاملاً بیاستفاده نمیکند.
اگر کسی از یک مدل هوش مصنوعی بخواهد برای رستوران فستفود منو تولید کند، مدل احتمالاً به منوهای وندی، برگر کینگ، مکدونالد یا یکی دیگر از زنجیرههای محبوب ارجاع میدهد. این منوها از قبل سبک مشابهی دارند؛ یعنی خروجیهای تولیدشده با هوش مصنوعی همان سبک را تقلید میکنند و اگر آن منوی تولیدشده دوباره وارد دادههای آموزشی شود، آن سبک را باز هم تقویت میکند.
اما منوها و تبلیغات غذا همیشه بهتر از واقعیت به نظر میرسند؛ مثل بیگمک در آگهی مکدونالد که هر لایه ساندویچ توسط طراح صحنه چیده شده تا حداکثر اشتها را برانگیزد. این اثر در خروجیهای هوش مصنوعی میتواند حتی بارزتر باشد.
لی رینی، مدیر مرکز Imagining the Digital Future در دانشگاه Elon، به TechCrunch گفت: «بهینهسازی مجموعهدادهها برای خوشایندی است، یعنی اینکه آزاردهنده نباشد، و اینطور میشود که به همگنسازی تبدیل میشود. کاری که هوش مصنوعی هم در تصویر و هم در زبان به آن شناخته شده، تراشیدن لبههاست.»
در مقیاسی محلیتر، این صافشدگی تصویر وقتی دیده میشود که با یک تولیدکننده تصویر هوش مصنوعی منویی میسازید و روی آن ویرایش اعمال میکنید. در شبکه اجتماعی X، کاربری به نام Labtec نشان داد وقتی منویی را در ChatGPT میسازید و ۱۰۰ بار ویرایشاش میکنید چه اتفاقی میافتد: غذا در هر بار کمتر و کمتر شبیه خودش میشود. (ما آزمایش را تکرار کردیم و نتایج مشابهی گرفتیم.) Labtec نوشت: «نتیجه نهایی واقعاً من را ناراحت میکند.»
رستورانها احتمالاً قربانی همین مشکل میشوند؛ آنها منوهای تولیدشده با هوش مصنوعی را بارها ویرایش میکنند تا جزئیات کوچکی مثل قیمتها یا نام غذاها را تغییر دهند. به نظر میرسد با هر ویرایش، تصاویر غذا کمی گردتر و صافتر میشوند.
رینی میگوید: «مردم تقریباً حسی غیرقابلتوضیح دارند درباره اینکه چه زمانی به چیزی نگاه میکنند که تولیدشده با هوش مصنوعی است، در مقایسه با چیزی که از ابتدا واقعی بوده است. حسی وجود دارد که آدمها گاهی به سختی میتوانند بیانش کنند، اما وقتی میبینندش میفهمند؛ و فکر میکنم این یکی از دلایلی است که برخی از داستانهای اولیه درباره واکنش منفی به رستورانهایی با منوی هوش مصنوعی اینقدر پررنگ بوده است.»
علم هم پشت بیزاری ما از این منوها وجود دارد. پژوهشگران دانشگاه دویسبورگ-اسن آلمان دریافتند تصاویر غذای تولیدشده با هوش مصنوعی اثر «دره وهمی» (uncanny valley) دارند؛ جایی که تصاویر غذای تقریباً واقعی بیش از تصاویر واضحاً جعلی باعث انزجار و ناراحتی میشوند. این احساس دلزدگی در پرتو زمینه فرهنگی حول هوش مصنوعی فقط تشدید میشود.
اگر مردم اینقدر منفی به این تصاویر واکنش نشان میدهند، احتمالاً دلیل کافی است که رستورانها از تلاش برای راه انداختن منوهای هوش مصنوعی دست بکشند. اما مشکلاتی که نانبرگرهای با رنگ قهوهای کامل برایمان میسازند فراتر از میز شام میروند.
لایل گفت: «دیدن و شنیدن همیشه باور کردن بوده، تا جایی که حتی سیستمهای قضایی ما کاملاً با این ایده کوک شدهاند که طلاییترین استاندارد مدرک، اعترافات ضبطشده و مدارک ویدیویی است. دیگر اینطور نیست. دنیا بنیادی تغییر کرده است؛ به خیر یا به شر.»