پيامدهاي هوش مصنوعي كه زندگي انسان ها را تسخیر می کند
به گزارش خط بازار؛ هر جامعهاي براي شناختن خود به آينهاي نياز دارد. در گذشته اين آينه را فرهنگ، زبان، تاريخ و روابط انساني ميساختند. اما در دهههاي اخير آينه تازهاي وارد زندگي ما شده كه نه در ديوار خانهها، بلكه در صفحههاي درخشان گوشيها و رايانههاست. اين آينه بازتاب سادهاي از آنچه هستيم نميدهد، بلكه تصويري ميسازد كه الگوريتمها آن را شكل دادهاند و پرسش اينجاست كه وقتي تصوير خود را در آينهاي ميبينيم كه ديگران ساختهاند، آيا هنوز ميتوانيم بگوييم كه ميدانيم چه كسي هستيم؟
جامعه ايراني اين پرسش را در بستري ميپرسد كه خود از پيچيدگيهاي تاريخي انباشته است. تجربه مدرنيته در ايران هرگز تجربهاي يكدست و آرام نبوده؛ همواره ميداني بوده براي رقابت روايتها، براي كشمكش ميان آنچه بوديم و آنچه ميخواستيم بشويم. هويت ايراني در طول دهههاي اخير نه يكبار، بلكه بارها بازتعريف شده؛ هر بار در واكنش به نيرويي كه از بيرون يا از درون ميآمد. حالا اين نيرو شكل تازهاي دارد. نه ايدئولوژي، نه سياست، بلكه فناورياي كه آرام و بيصدا، در لايههاي نامرئي زندگي روزمره نفوذ كرده است.
آنچه هوش مصنوعي با مفهوم هويت پيدا ميكند، با آنچه فناوريهاي پيشين كردند، تفاوتي بنيادين دارد. رسانههاي سنتي تنها قادر بودند بهطور يك طرفه روايتي را منتقل كنند؛ اما هوش مصنوعي فراتر از انتقال روايت در حال توليد انواع آن است. وقتي جواني هر صبح با پيشنهادهاي شخصيسازي شده يك مدل هوشمند روز خود را آغاز ميكند، وقتي پاسخ پرسشهايش را نه از تجربه زيسته، بلكه از خروجي يك الگوريتم ميگيرد، آن وقت چيزي عميقتر از عادت در حال تغيير است. آن چيز، شيوه شكل گرفتن ذهن است.
در انديشه فلسفي، «خود» همواره در نسبت با «ديگري» معنا پيدا ميكند. ما ميفهميم كه چه كسي هستيم وقتي در برابر ديگران قرار ميگيريم، وقتي مقاومت واقعيت را حس ميكنيم، وقتي از اشتباه ياد ميگيريم. اما اگر اين «ديگري» به تدريج جاي خود را به يك سامانه هوشمند بدهد، سامانهاي كه هميشه صبور است، هرگز خسته نميشود و پاسخي آماده براي هر پرسشي دارد، آنگاه آن اصطكاك سازندهاي كه شخصيت را ميسازد، كجا خواهد رفت؟ اين پرسشي نيست كه پاسخش روشن باشد، اما پرسيدنش ضروري است.
براي جامعهاي كه در آن شكاف ميان دانش رسمي و تجربه واقعي همواره وجود داشته، هوش مصنوعي يك وسوسه جدي است. وسوسه اينكه بدون طي مسير دشوار يادگيري به پاسخ برسيم. وسوسه اينكه سالهاي تجربه را با چند پرسش از يك مدل زباني جبران كنيم. اما آگاهي واقعي، آن چيزي كه انسان را در موقعيتهاي پيچيده قادر به تصميمگيري درست ميكند، از جنس ديگري است. اين آگاهي تلفيق علم و تجربه است؛ چيزي كه در بدن و ذهن انسان با گذر زمان، با اشتباه و تصحيح، با شكست و بازسازي نشست ميكند. هيچ الگوريتمي نميتواند اين مسير را كوتاه كند، اما ميتواند اين توهم را بسازد كه مسيري وجود ندارد.
اين توهم در جامعهاي كه خود با بحران اعتماد دست و پنجه نرم ميكند، شكل خاصي به خود ميگيرد. وقتي منابع رسمي دانش زير سوال ميروند، وقتي فاصله ميان آنچه در كتابها نوشته شده و آنچه در واقعيت اتفاق ميافتد آشكار ميشود، مردم به دنبال منابع جايگزين ميگردند. هوش مصنوعي در اين خلأ ظاهر شده با لحني آرام، با پاسخهايي فوري، با اطميناني كه گاه از هيچ پشتوانهاي برخوردار نيست و خطر اينجاست كه اين اطمينان كاذب، در جامعهاي كه از بياعتمادي خسته شده، به راحتي جاي اعتماد واقعي را ميگيرد.
يووال نوح هراري در كتاب «۲۱ درس براي قرن بيستويكم» مينويسد: «هوش مصنوعي ممكن است به زودي بهتر از هر انساني بداند كه چه احساسي داريم، چه ميخواهيم و چه كسي هستيم.» اين جمله وقتي در بستر جامعهاي خوانده ميشود كه خود با بحران هويت دست و پنجه نرم ميكند، وزن متفاوتي پيدا ميكند. اگر ماشين بهتر از ما بداند كه چه كسي هستيم، آنگاه پرسش از هويت ديگر پرسشي دروني نيست؛ پرسشي است كه از بيرون، از درون دادهها و الگوريتمها به ما بازميگردد و اين چرخش، در جامعهاي كه تاريخا هويتش را از درون روايتهاي فرهنگي و تجربه جمعي ساخته، نقطه عطفي است كه نميتوان از كنارش گذشت.
هراري همچنين تاكيد ميكند كه بزرگترين خطر عصر هوش مصنوعي نه شورش ماشينها، بلكه انفعال انسانهاست. انسانهايي كه به تدريج تصميمگيري، قضاوت و حتي احساس را به سامانههاي هوشمند واگذار ميكنند و در اين واگذاري، بيآنكه بفهمند از عامليت خود تهي ميشوند. براي جامعه ايراني كه در طول تاريخ معاصرش بارها تجربه از دست دادن اختيار بر سرنوشت خود را داشته، اين هشدار طنين آشنايي دارد. تفاوت اينجاست كه اينبار نه از طريق زور يا سياست، بلكه از طريق راحتي و سهولت، اين واگذاري اتفاق ميافتد و شايد همين كه داوطلبانه است، آن را خطرناكتر كند.
واقعيت اين است كه پديده هويت فقط و تنها از دانش ساخته نميشود. هويت از روايت ساخته ميشود؛ از داستاني كه هر فرد و هر جامعه درباره خود تعريف ميكند. در تاريخ ايران، اين روايت همواره چندصدايي بوده؛ روايت رسمي در كنار روايت مردمي، روايت سنت در كنار روايت نوگرايي، روايت مركز در كنار روايت پيرامون. اين تكثر بهرغم همه تنشهايي كه ايجاد ميكرد، نوعي پويايي فرهنگي را حفظ ميكرد. اما الگوريتمها با تكثر رابطه دشواري دارند. آنها به سمت همگونسازي تمايل دارند، به سمت پيدا كردن الگوهاي مشترك و تقويت آنها. وقتي ميليونها نفر از يك سامانه هوشمند ميپرسند كه «كي هستم؟» يا «چه بايد بكنم؟»، پاسخهايي كه ميگيرند از يك الگوي مشترك پيروي ميكند و اين الگو ناگزير، رنگهاي محلي و خاص را كمرنگ ميكند.
يرواند آبراهاميان در تحليلهايش از ايران معاصر به خوبي اين مهم را نشان ميدهد كه جامعه ايراني در طول يك قرن گذشته همواره در ميان چند روايت رقيب زيسته؛ روايتي كه از بالا تحميل ميشد و روايتي كه از پايين، از دل تجربه زيسته مردم شكل ميگرفت. اين كشمكش، هر چند دردناك، نوعي پويايي فرهنگي ايجاد ميكرد. جامعهاي كه روايت رسمي را نميپذيرد، ناگزير روايت جايگزين ميسازد و در همين ساختن است كه هويت شكل ميگيرد. اما هوش مصنوعي اين معادله را بر هم ميزند نه با تحميل يك روايت رسمي، بلكه با چيزي ظريفتر و نگرانكنندهتر؛ با شخصيسازي روايت براي هر فرد، به شكلي كه ديگر هيچ روايت مشتركي باقي نميماند. جامعهاي كه در آن هر كس در حباب محتوايي خود زندگي ميكند، جامعهاي است كه گفتوگوي عمومي در آن به تدريج ممكن نميشود و بدون گفتوگوي عمومي، هويت جمعي چگونه ميتواند شكل بگيرد؟
در ايران، اين مساله ابعاد ويژهاي دارد. كشوري با تنوع زباني، قومي و فرهنگي غني كه در آن هر گوشهاي روايت خاص خود را دارد، حالا در معرض نوعي يكسانسازي قرار گرفته كه نه از طريق سياست، بلكه از طريق فناوري اعمال ميشود. الگوريتمهايي كه عمدتا بر اساس دادههاي جهاني آموزش ديدهاند، وقتي وارد اين بستر ميشوند، استانداردهايي ميآورند كه با فرهنگهاي محلي همخواني ندارد. جواني كه در يك شهر كوچك با زبان مادري غيرفارسي بزرگ شده، وقتي تصوير خود را در آينه ديجيتال ميبيند، چه چيزي ميبيند؟ بازتاب فرهنگ خودش يا استانداردي كه از جاي ديگري آمده؟
اين يكسانسازي اما فقط در سطح فرهنگي اتفاق نميافتد. در سطح زبان هم در حال رخ دادن است. زبان فارسي با همه غنا و ظرافتش، وقتي از فيلتر مدلهاي زباني كه عمدتا بر دادههاي انگليسي آموزش ديدهاند، عبور ميكند، چيزي از خود را از دست ميدهد. استعارهها كمرنگ ميشوند، ساختارهاي جمله يكنواختتر ميشوند و آن لايههاي معنايي كه در زبان فارسي گاه در يك كلمه نهفته، در ترجمه الگوريتمي گم ميشود. نسلي كه نوشتن را با كمك هوش مصنوعي ياد ميگيرد، ممكن است زباني ياد بگيرد كه از نظر دستوري درست است، اما از نظر فرهنگي بيريشه و زبان بيريشه، آينهاي است كه تصوير را نشان ميدهد، اما عمق ندارد.
اما اين تصوير يكسره تاريك نيست. همان فناوري كه ميتواند هويت را تهديد كند، ميتواند ابزاري براي بازيابي آن هم باشد. دسترسي به متون كهن، امكان مطالعه زبانهاي محلي در حال فراموشي، توانايي ارتباط با جوامع پراكنده در سراسر جهان؛ همه اينها ميتوانند به تقويت هويتهاي محلي و فرهنگهاي اقليتي كمك كنند. هنرمندي كه از هوش مصنوعي براي بازآفريني موسيقي سنتي استفاده ميكند، محققي كه با كمك اين ابزار به متون تاريخي دسترسي پيدا ميكند، معلمي كه با آن مفاهيم پيچيده را به زبان سادهتر توضيح ميدهد؛ اينها نمونههايي هستند از اينكه فناوري ميتواند در خدمت هويت باشد نه در برابر آن.
شرط اين اتفاق اما آگاهي است. آگاهي از اينكه اين ابزارها چگونه كار ميكنند، چه پيشفرضهايي دارند و چه سوگيريهايي در آنها نهفته است. جامعهاي كه سواد الگوريتمي نداشته باشد، به راحتي تحت تاثير جهتگيريهاي پنهان قرار ميگيرد، بدون اينكه بداند و اين سواد، برخلاف آنچه تصور ميشود، صرفا فني نيست. بخش مهمي از آن فرهنگي است؛ توانايي پرسيدن از فناوري، توانايي نقد آن و توانايي حفظ فاصلهاي سالم ميان آنچه الگوريتم ميگويد و آنچه ما ميانديشيم.
در نهايت مساله هويت در عصر هوش مصنوعي به يك پرسش بنيادين بازميگردد: آيا ما ابزار را به كار ميگيريم يا ابزار ما را؟ اين پرسش در ظاهر ساده است، اما در عمل پيچيدهترين چالشي است كه جامعه ايراني در اين مرحله از گذار خود با آن روبهرو است، چون پاسخ به اين پرسش نه در سياستگذاري كلان، بلكه در تصميمهاي روزمره هر فرد شكل ميگيرد. در هر باري كه از يك مدل هوشمند ميپرسيم و پاسخش را بدون پرسش ميپذيريم. در هر باري كه به جاي تامل به پاسخ آماده پناه ميبريم و در هر باري كه آگاهانه تصميم ميگيريم فناوري را نه به جاي انديشيدن، بلكه در خدمت انديشيدن به كار بگيريم.
تاريخ ايران نشان داده كه اين جامعه در مواجهه با هر موج تازهاي، نه يكسره تسليم شده و نه يكسره مقاومت كرده؛ بلكه در فاصله ميان اين دو، راهي براي خود ساخته است. همين توانايي، اين ظرفيت براي هضم و بازآفريني، حالا در برابر آزموني تازه قرار گرفته. آزموني كه اينبار نه در خيابان يا صندوق راي، بلكه در نسبت هر فرد با صفحهاي روشن و صدايي كه از آن بيرون ميآيد، برگزار ميشود. جامعهاي كه بتواند اين تمايز را در خود نهادينه كند، جامعهاي است كه هويتش نه بهرغم فناوري، بلكه از درون تعامل آگاهانه با آن شكل خواهد گرفت و اين شايد همان چيزي است كه تاريخ ايران در هر موج مدرنيته به دنبال آن بوده؛ نه انكار و نه تسليم، بلكه هضم آگاهانه. اينبار نيز همان آزمون به شكلي تازه پيش روي ماست.
کامران مشفق آرانی
منبع: خط بازار
