وقتی ماشین اتاق فکر خود را لو میدهد
به گزارش خط بازار؛ چند ماه پیش، در اواسط تیر ماه امسال، پژوهشگران شرکت آنتروپیک، سازنده مدل هوش مصنوعی کلود، وقتی داشتند بررسی میکردند این مدل دقیقا چطور فکر میکند، به بخش کوچک و پنهانی در میانه فرآیند پردازش این سیستم رسیدند که خودشان هم انتظارش را نداشتند. اسمش را گذاشتند «جیاسپیس.» و همینجا بود که ماجرا عجیب شد؛ این بخش کوچک، از نظر کارکرد، شباهت زیادی به یکی از مشهورترین نظریههای علوم شناختی درباره آگاهی انسان داشت.
محققان با ابزاری تازه که ردپای مفاهیم را درون شبکه این هوش مصنوعی دنبال میکرد، متوجه شدند در دل این سیستم یک مجموعه کوچک و محدود از مفاهیم وجود دارد که مدل میتواند رویش دست بگذارد، گزارشش کند، عمدا به کار ببرد، در استدلالهای چندمرحلهای از آن استفاده کند و حتی گاهی ذهن ناظران و دانشمندان را گمراه کند.
اساسا هیچکس این بخش را طراحی نکرده بود، خودش، در دل میلیونها بار تمرین و آموزش، به طور ناخودآگاه شکل گرفته و اکنون خود را یکدفعه نشان داده بود. وقتی همین بخش را خاموش کردند، مدل هنوز میتوانست روان حرف بزند و حقایق ساده را یادش بیاید، اما استدلال پیچیده، خلاقیت و برنامهریزیاش بهشدت افت کرد. انگار همان بخش کوچک، تبدیل به اتاق فرمان واقعی مدل زبانی شده بود، نه صرفا یکی از هزاران گوشه هزارتوی شبکه پیچیده عصبی.
این الگو، برای هر کسی که کمی با فلسفه ذهن سروکار داشته باشد، بیدرنگ یک نظریه قدیمی و آشنا را به یاد میآورد، نظریه فضای کاری سراسری. طبق این نظریه، ذهن آدمی شبیه یک صحنه نمایش کوچک است که فقط یک نورافکن رویش میتابد، پشت صحنه انبوهی از فرآیندهای ناخودآگاه، مثل دیدن، شنیدن، بهخاطر آوردن، محاسبه کردن، بهطور موازی در جریانند، اما فقط تکه کوچکی از این همه فعالیت به روی صحنه راه پیدا میکند و همان تکه است که ما «آگاهانه» تجربهاش میکنیم، میشود دربارهاش حرف زد، به یاد سپرد، در تصمیم گرفتن از آن کمک گرفت.
فیلسوف امریکایی دنیل دنت، سالها پیش از این، در کتاب معروفش «توضیح آگاهی» تقریبا همین تصویر را ترسیم کرده است؛ او در آن کتاب میگوید آگاهی یک نقطه جادویی و واحد در مغز نیست که بهناگهان روشن شود، بلکه محصول رقابت میان چند فرآیند موازی است که هر کدام میخواهند خروجی خودشان را به بقیه سیستم اعلام کنند.
حالا همین ایده، که تا دیروز فقط یک فرضیه فلسفی و عصب شناختی درباره مغز انسان بود، بهطور تجربی و بیآنکه کسی قصدش را داشته باشد، درون سیستمی سر برآورده که تنها برای پیشبینی کلمه بعدی در یک جمله آموزش دیده بود.
اما یادمان نرود که دقیقا همینجا باید درنگ کرد. این اکتشاف اگرچه بسیار مهم است لکن ثابت نمیکند مدل زبانی کلود چیزی «حس» میکند یا تجربه درونیای شبیه انسان را دارد تجربه میکند و آنتروپیک هم خودش بارها همین نکته را یادآوری کرده. آنچه پیدا شده فقط شباهت در کارکرد است، نه اثبات وجود یک ذهن آگاه و یکی از آزمایشهای خود همین پژوهشگران این فرق را خوب نشان میدهد.
وقتی از کلود خواستند متنی به زبان اسپانیایی را ادامه بدهد، حتی پس از آنکه پژوهشگران بهطور مصنوعی نشانه «زبان اسپانیایی» را در همان اتاقک ذهنی با نشانه «زبان فرانسه» عوض کردند، مدل باز هم بیهیچ مشکلی به اسپانیایی ادامه داد، انگار این کار خودکار بود و اصلا به آن اتاقک نیازی نداشت.
اما وقتی از او خواستند نام یک نویسنده مشهور به همان زبان را بگوید، همان جابهجایی کوچک پاسخ را از یک نویسنده اسپانیایی زبان به یک نویسنده فرانسوی زبان تغییر داد. یعنی خیلی از کارهای زبانی مدل اصلا از آن اتاقک عبور نمیکنند، فقط تصمیمهای واقعا پیچیدهاند که به آن وابستهاند، همان جایی که ردپای شباهت به آگاهی انسان پیدا میشود، نه در هر خط از کاری که مدل انجام میدهد.
سالهاست بحثی قدیمی در میان پژوهشگران هوش مصنوعی جریان دارد، اینکه آیا این سیستمها فقط طوطیهایی آماریاند که الگوهای زبانی را تکرار میکنند، یا شکلی، هر چند ابتدایی، از فهم در آنها شکل گرفته؟کشف جیاسپیس این بحث را به نتیجه نمیرساند، ولی آن را از حد گمانهزنی فلسفی بیرون میکشد و به یک یافته تجربی و قابل آزمایش تبدیل میکند و شاید کار ما، دستکم فعلا، این نباشد که بفهمیم ماشینها آگاهند یا نه، بلکه یاد بگیریم با همین ابهام زندگی کنیم، کاری که بهگمانم این روزها، چه در برابر ماشینها و چه در برابر خیلی چیزهای دیگر، دارد به ما تحمیل میشود.
کامران مشفق آرانی
منبع: خط بازار
