پیامدهای هوش مصنوعی که زندگی انسان ها را تسخیر می کند

به گزارش خط بازار؛ هر جامعه‌ای برای شناختن خود به آینه‌ای نیاز دارد. در گذشته این آینه را فرهنگ، زبان، تاریخ و روابط انسانی می‌ساختند. اما در دهه‌های اخیر آینه تازه‌ای وارد زندگی ما شده که نه در دیوار خانه‌ها، بلکه در صفحه‌های درخشان گوشی‌ها و رایانه‌هاست. این آینه بازتاب ساده‌ای از آنچه هستیم نمی‌دهد، بلکه تصویری می‌سازد که الگوریتم‌ها آن را شکل داده‌اند و پرسش اینجاست که وقتی تصویر خود را در آینه‌ای می‌بینیم که دیگران ساخته‌اند، آیا هنوز می‌توانیم بگوییم که می‌دانیم چه کسی هستیم؟

جامعه ایرانی این پرسش را در بستری می‌پرسد که خود از پیچیدگی‌های تاریخی انباشته است. تجربه مدرنیته در ایران هرگز تجربه‌ای یکدست و آرام نبوده؛ همواره میدانی بوده برای رقابت روایت‌ها، برای کشمکش میان آنچه بودیم و آنچه می‌خواستیم بشویم. هویت ایرانی در طول دهه‌های اخیر نه یک‌بار، بلکه بارها بازتعریف شده؛ هر بار در واکنش به نیرویی که از بیرون یا از درون می‌آمد. حالا این نیرو شکل تازه‌ای دارد. نه ایدئولوژی، نه سیاست، بلکه فناوری‌ای که آرام و بی‌صدا، در لایه‌های نامرئی زندگی روزمره نفوذ کرده است.

آنچه هوش مصنوعی با مفهوم هویت پیدا می‌کند، با آنچه فناوری‌های پیشین کردند، تفاوتی بنیادین دارد. رسانه‌های سنتی تنها قادر بودند به‌طور یک طرفه روایتی را منتقل کنند؛ اما هوش مصنوعی فراتر از انتقال روایت در حال تولید انواع آن است. وقتی جوانی هر صبح با پیشنهادهای شخصی‌سازی ‌شده یک مدل هوشمند روز خود را آغاز می‌کند، وقتی پاسخ پرسش‌هایش را نه از تجربه زیسته، بلکه از خروجی یک الگوریتم می‌گیرد، آن وقت چیزی عمیق‌تر از عادت در حال تغییر است. آن چیز، شیوه شکل گرفتن ذهن است.

در اندیشه فلسفی، «خود» همواره در نسبت با «دیگری» معنا پیدا می‌کند. ما می‌فهمیم که چه کسی هستیم وقتی در برابر دیگران قرار می‌گیریم، وقتی مقاومت واقعیت را حس می‌کنیم، وقتی از اشتباه یاد می‌گیریم. اما اگر این «دیگری» به تدریج جای خود را به یک سامانه هوشمند بدهد، سامانه‌ای که همیشه صبور است، هرگز خسته نمی‌شود و پاسخی آماده برای هر پرسشی دارد، آنگاه آن اصطکاک سازنده‌ای که شخصیت را می‌سازد، کجا خواهد رفت؟ این پرسشی نیست که پاسخش روشن باشد، اما پرسیدنش ضروری است.

برای جامعه‌ای که در آن شکاف میان دانش رسمی و تجربه واقعی همواره وجود داشته، هوش مصنوعی یک وسوسه جدی است. وسوسه اینکه بدون طی مسیر دشوار یادگیری به پاسخ برسیم. وسوسه اینکه سال‌های تجربه را با چند پرسش از یک مدل زبانی جبران کنیم. اما آگاهی واقعی، آن چیزی که انسان را در موقعیت‌های پیچیده قادر به تصمیم‌گیری درست می‌کند، از جنس دیگری است. این آگاهی تلفیق علم و تجربه است؛ چیزی که در بدن و ذهن انسان با گذر زمان، با اشتباه و تصحیح، با شکست و بازسازی نشست می‌کند. هیچ الگوریتمی نمی‌تواند این مسیر را کوتاه کند، اما می‌تواند این توهم را بسازد که مسیری وجود ندارد.

این توهم در جامعه‌ای که خود با بحران اعتماد دست و پنجه نرم می‌کند، شکل خاصی به خود می‌گیرد. وقتی منابع رسمی دانش زیر سوال می‌روند، وقتی فاصله میان آنچه در کتاب‌ها نوشته شده و آنچه در واقعیت اتفاق می‌افتد آشکار می‌شود، مردم به دنبال منابع جایگزین می‌گردند. هوش مصنوعی در این خلأ ظاهر شده با لحنی آرام، با پاسخ‌هایی فوری، با اطمینانی که گاه از هیچ پشتوانه‌ای برخوردار نیست و خطر اینجاست که این اطمینان کاذب، در جامعه‌ای که از بی‌اعتمادی خسته شده، به راحتی جای اعتماد واقعی را می‌گیرد.

یووال نوح هراری در کتاب «۲۱ درس برای قرن بیست‌ویکم» می‌نویسد: «هوش مصنوعی ممکن است به زودی بهتر از هر انسانی بداند که چه احساسی داریم، چه می‌خواهیم و چه کسی هستیم.» این جمله وقتی در بستر جامعه‌ای خوانده می‌شود که خود با بحران هویت دست و پنجه نرم می‌کند، وزن متفاوتی پیدا می‌کند. اگر ماشین بهتر از ما بداند که چه کسی هستیم، آنگاه پرسش از هویت دیگر پرسشی درونی نیست؛ پرسشی است که از بیرون، از درون داده‌ها و الگوریتم‌ها به ما بازمی‌گردد و این چرخش، در جامعه‌ای که تاریخا هویتش را از درون روایت‌های فرهنگی و تجربه جمعی ساخته، نقطه عطفی است که نمی‌توان از کنارش گذشت.

هراری همچنین تاکید می‌کند که بزرگ‌ترین خطر عصر هوش مصنوعی نه شورش ماشین‌ها، بلکه انفعال انسان‌هاست. انسان‌هایی که به تدریج تصمیم‌گیری، قضاوت و حتی احساس را به سامانه‌های هوشمند واگذار می‌کنند و در این واگذاری، بی‌آنکه بفهمند از عاملیت خود تهی می‌شوند. برای جامعه ایرانی که در طول تاریخ معاصرش بارها تجربه از دست دادن اختیار بر سرنوشت خود را داشته، این هشدار طنین آشنایی دارد. تفاوت اینجاست که این‌بار نه از طریق زور یا سیاست، بلکه از طریق راحتی و سهولت، این واگذاری اتفاق می‌افتد و شاید همین که داوطلبانه است، آن را خطرناک‌تر کند.

واقعیت این است که پدیده هویت فقط و تنها از دانش ساخته نمی‌شود. هویت از روایت ساخته می‌شود؛ از داستانی که هر فرد و هر جامعه درباره خود تعریف می‌کند. در تاریخ ایران، این روایت همواره چندصدایی بوده؛ روایت رسمی در کنار روایت مردمی، روایت سنت در کنار روایت نوگرایی، روایت مرکز در کنار روایت پیرامون. این تکثر به‌‌رغم همه تنش‌هایی که ایجاد می‌کرد، نوعی پویایی فرهنگی را حفظ می‌کرد. اما الگوریتم‌ها با تکثر رابطه دشواری دارند. آنها به سمت همگون‌سازی تمایل دارند، به سمت پیدا کردن الگوهای مشترک و تقویت آنها. وقتی میلیون‌ها نفر از یک سامانه هوشمند می‌پرسند که «کی هستم؟» یا «چه باید بکنم؟»، پاسخ‌هایی که می‌گیرند از یک الگوی مشترک پیروی می‌کند و این الگو ناگزیر، رنگ‌های محلی و خاص را کمرنگ می‌کند.

یرواند آبراهامیان در تحلیل‌هایش از ایران معاصر به خوبی این مهم را نشان می‌دهد که جامعه ایرانی در طول یک قرن گذشته همواره در میان چند روایت رقیب زیسته؛ روایتی که از بالا تحمیل می‌شد و روایتی که از پایین، از دل تجربه زیسته مردم شکل می‌گرفت. این کشمکش، هر چند دردناک، نوعی پویایی فرهنگی ایجاد می‌کرد. جامعه‌ای که روایت رسمی را نمی‌پذیرد، ناگزیر روایت جایگزین می‌سازد و در همین ساختن است که هویت شکل می‌گیرد. اما هوش مصنوعی این معادله را بر هم می‌زند نه با تحمیل یک روایت رسمی، بلکه با چیزی ظریف‌تر و نگران‌کننده‌تر؛ با شخصی‌سازی روایت برای هر فرد، به شکلی که دیگر هیچ روایت مشترکی باقی نمی‌ماند. جامعه‌ای که در آن هر کس در حباب محتوایی خود زندگی می‌کند، جامعه‌ای است که گفت‌وگوی عمومی در آن به تدریج ممکن نمی‌شود و بدون گفت‌وگوی عمومی، هویت جمعی چگونه می‌تواند شکل بگیرد؟

در ایران، این مساله ابعاد ویژه‌ای دارد. کشوری با تنوع زبانی، قومی و فرهنگی غنی که در آن هر گوشه‌ای روایت خاص خود را دارد، حالا در معرض نوعی یکسان‌سازی قرار گرفته که نه از طریق سیاست، بلکه از طریق فناوری اعمال می‌شود. الگوریتم‌هایی که عمدتا بر اساس داده‌های جهانی آموزش دیده‌اند، وقتی وارد این بستر می‌شوند، استانداردهایی می‌آورند که با فرهنگ‌های محلی همخوانی ندارد. جوانی که در یک شهر کوچک با زبان مادری غیرفارسی بزرگ شده، وقتی تصویر خود را در آینه دیجیتال می‌بیند، چه چیزی می‌بیند؟ بازتاب فرهنگ خودش یا استانداردی که از جای دیگری آمده؟

این یکسان‌سازی اما فقط در سطح فرهنگی اتفاق نمی‌افتد. در سطح زبان هم در حال رخ دادن است. زبان فارسی با همه غنا و ظرافتش، وقتی از فیلتر مدل‌های زبانی که عمدتا بر داده‌های انگلیسی آموزش دیده‌اند، عبور می‌کند، چیزی از خود را از دست می‌دهد. استعاره‌ها کمرنگ می‌شوند، ساختارهای جمله یکنواخت‌تر می‌شوند و آن لایه‌های معنایی که در زبان فارسی گاه در یک کلمه نهفته، در ترجمه الگوریتمی گم می‌شود. نسلی که نوشتن را با کمک هوش مصنوعی یاد می‌گیرد، ممکن است زبانی یاد بگیرد که از نظر دستوری درست است، اما از نظر فرهنگی بی‌ریشه و زبان بی‌ریشه، آینه‌ای است که تصویر را نشان می‌دهد، اما عمق ندارد.

اما این تصویر یکسره تاریک نیست. همان فناوری که می‌تواند هویت را تهدید کند، می‌تواند ابزاری برای بازیابی آن هم باشد. دسترسی به متون کهن، امکان مطالعه زبان‌های محلی در حال فراموشی، توانایی ارتباط با جوامع پراکنده در سراسر جهان؛ همه اینها می‌توانند به تقویت هویت‌های محلی و فرهنگ‌های اقلیتی کمک کنند. هنرمندی که از هوش مصنوعی برای بازآفرینی موسیقی سنتی استفاده می‌کند، محققی که با کمک این ابزار به متون تاریخی دسترسی پیدا می‌کند، معلمی که با آن مفاهیم پیچیده را به زبان ساده‌تر توضیح می‌دهد؛ اینها نمونه‌هایی هستند از اینکه فناوری می‌تواند در خدمت هویت باشد نه در برابر آن.

شرط این اتفاق اما آگاهی است. آگاهی از اینکه این ابزارها چگونه کار می‌کنند، چه پیش‌فرض‌هایی دارند و چه سوگیری‌هایی در آنها نهفته است. جامعه‌ای که سواد الگوریتمی نداشته باشد، به راحتی تحت تاثیر جهت‌گیری‌های پنهان قرار می‌گیرد، بدون اینکه بداند و این سواد، برخلاف آنچه تصور می‌شود، صرفا فنی نیست. بخش مهمی از آن فرهنگی است؛ توانایی پرسیدن از فناوری، توانایی نقد آن و توانایی حفظ فاصله‌ای سالم میان آنچه الگوریتم می‌گوید و آنچه ما می‌اندیشیم.

در نهایت مساله هویت در عصر هوش مصنوعی به یک پرسش بنیادین بازمی‌گردد: آیا ما ابزار را به کار می‌گیریم یا ابزار ما را؟ این پرسش در ظاهر ساده است، اما در عمل پیچیده‌ترین چالشی است که جامعه ایرانی در این مرحله از گذار خود با آن روبه‌رو است، چون پاسخ به این پرسش نه در سیاستگذاری کلان، بلکه در تصمیم‌های روزمره هر فرد شکل می‌گیرد. در هر باری که از یک مدل هوشمند می‌پرسیم و پاسخش را بدون پرسش می‌پذیریم. در هر باری که به جای تامل به پاسخ آماده پناه می‌بریم و در هر باری که آگاهانه تصمیم می‌گیریم فناوری را نه به جای اندیشیدن، بلکه در خدمت اندیشیدن به کار بگیریم.

تاریخ ایران نشان داده که این جامعه در مواجهه با هر موج تازه‌ای، نه یکسره تسلیم شده و نه یکسره مقاومت کرده؛ بلکه در فاصله میان این دو، راهی برای خود ساخته است. همین توانایی، این ظرفیت برای هضم و بازآفرینی، حالا در برابر آزمونی تازه قرار گرفته. آزمونی که این‌بار نه در خیابان یا صندوق رای، بلکه در نسبت هر فرد با صفحه‌ای روشن و صدایی که از آن بیرون می‌آید، برگزار می‌شود. جامعه‌ای که بتواند این تمایز را در خود نهادینه کند، جامعه‌ای است که هویتش نه به‌‌رغم فناوری، بلکه از درون تعامل آگاهانه با آن شکل خواهد گرفت و این شاید همان چیزی است که تاریخ ایران در هر موج مدرنیته به دنبال آن بوده؛ نه انکار و نه تسلیم، بلکه هضم آگاهانه. این‌بار نیز همان آزمون به شکلی تازه پیش روی ماست.

کامران مشفق آرانی

منبع: خط بازار