وقتی ماشین‌ها بجای ما می‌جنگند، می‌سازند و می‌رقصند، انسان چه می‌کند؟

کبنا ؛توماس فریدمن ستون نویس روزنامه نیویورک تایمز نوشت،این هفته در پکن، زمزمه‌هایی دربارهٔ زمان دیدار حضوری میان دونالد ترامپ، رئیس‌جمهور آمریکا و شی جین‌پینگ، رئیس‌جمهور چین شنیده می‌شود. برخی از کارشناسان چینی بر این باورند که این ملاقات بهتر است چند ماه به تعویق بیفتد؛ تا مشخص شود ترامپ چه تعرفه‌هایی بر چین اعمال می‌کند و واکنش پکن چگونه خواهد بود. اما بگذارید با صراحت بگویم: با احترام، آقایان رئیس جمهور شما باید همین فردا با یکدیگر ملاقات کنید؛ البته نه برای پرداختن به بحث‌های تکراری و فرسوده‌ای مانند تعرفه‌ها، تجارت یا تایوان.
علت این فوریت ساده است: ما در آستانهٔ رویدادی بی‌سابقه قرار داریم: «ظهور هوش مصنوعی عمومی». ایالات متحده و چین تنها کشور‌هایی هستند که در حال نزدیک شدن به این فناوری بی‌نهایت قدرتمند و تحول‌آفرین هستند؛ سیستم‌هایی که نه‌تنها قادرند از هوش انسانی تقلید کنند، بلکه احتمالاً از آن پیشی بگیرند. این سیستم‌ها می‌توانند به‌طور مستقل یاد بگیرند، تصمیم بگیرند و عمل کنند.
شاید امروز تصور کنید که تاریخ شما را بر اساس نتایج تجاری یا توافق‌نامه‌های اقتصادی‌تان قضاوت خواهد کرد، اما اشتباه می‌کنید. معیار واقعی قضاوت تاریخ این خواهد بود: آیا شما توانستید چارچوبی جهانی برای اعتماد، همکاری و حکمرانی در این عصر جدید ایجاد کنید؟ آیا توانستید تضمین کنید که بشریت از مزایای خارق‌العاده این فناوری بهره‌مند شود و در عین حال از خطرناک‌ترین پیامد‌های آن در امان بماند؟
با توجه به آشفتگی‌های سیاسی موجود در واشنگتن و جو بی‌اعتمادی فزاینده میان چین و ایالات متحده؛ می‌دانم که برخی ممکن است این هشدار را بیش از حد بلندپروازانه یا حتی ساده‌لوحانه تلقی کنند. اما این واقعیت نباید مانعی برای تأکید بر اهمیت این مسئله باشد. همان‌طور که پیمان‌های کنترل تسلیحات میان ایالات متحده و اتحاد جماهیر شوروی در دهه ۱۹۷۰ ستون‌هایی برای ثبات جهانی در عصر جنگ سرد ایجاد کردند، امروز نیز جهان به ستون‌های مشابهی در عصر هوش مصنوعی نیاز دارد. آینده بشریت به نحوه تعامل این دو ابرقدرت در حوزه این فناوری حیاتی وابسته است.
وقتی ماشین‌ها بجای ما می‌جنگند، می‌سازند و می‌رقصند، انسان چه می‌کند؟
سیستم‌های هوش مصنوعی و ربات‌های انسان‌نما به‌طور بالقوه توانایی‌های شگرفی در خدمت به بشریت دارند. اما اگر این فناوری‌ها بدون ادغام ارزش‌های اخلاقی، نظارت انسانی و چارچوب‌های کنترلی مناسب توسعه یابند، می‌توانند تأثیراتی عمیقاً مخرب و بی‌ثبات‌کننده داشته باشند. این چالش تنها فنی یا اقتصادی نیست، بلکه به‌طور بنیادین به معنای بازاندیشی در مفهوم «کار» و «کرامت انسانی» برمی‌گردد؛ دو مفهومی که در طول تاریخ، عمیقاً با اشتغال درهم‌تنیده بوده‌اند.
یکی از اقتصاددانان برجسته چینی اخیراً به من گفت: «ما در چین همین حالا هم با بیکاری گسترده رو‌به‌رو هستیم. اگر هوش مصنوعی گسترش بیشتری پیدا کند و ربات‌ها جای ۷۰ درصد کارمندان دولت را بگیرند، بسیاری از مردم ممکن است هرگز شغلی پیدا نکنند. این یک سناریوی بسیار خطرناک است. اکنون زمان آن است که به‌طور جدی در مورد نحوه تطبیق خود با این آینده بیندیشیم. اما مشکل اینجاست که غالباً در مواجهه با نشانه‌ها و هشدار‌های اولیه، دچار نوعی کوررنگی تاریخی می‌شویم و آنها را نادیده می‌گیریم. ده سال بعد، هنگامی که روزنامه‌نگاران به گذشته نگاه می‌کنند، احتمالاً از خود خواهند پرسید: مهم‌ترین خبری که در پاییز ۲۰۲۴ باید بیشتر به آن توجه می‌شد، چه بود؟
در حالی که برف دسامبر ۲۰۲۴ جنگل‌های اطراف خارکیف اوکراین را سفیدپوش کرده بود، صحنه‌ای بی‌سابقه تاریخ نبرد‌های مدرن رقم خورد؛ وال‌استریت ژورنال گزارش داد از عملیاتی که در آن نیرو‌های اوکراینی، بدون حضور مستقیم انسانی در خط مقدم، از پهپاد‌های زمینی مجهز به مسلسل و مواد منفجره، به همراه پهپاد‌های پرنده برای پشتیبانی، بهره بردند تا سنگری روسی را در یک حمله کاملاً مکانیزه و هماهنگ مورد هدف قرار دهند. برای اولین بار، مرحله آغازین یک نبرد کاملاً به ماشین‌ها سپرده شد. این صحنه نشانگر فصلی جدید در تاریخ جنگ بود؛ فصلی که در آن انسان‌ها به جای حضور در سنگرها، در اتاق‌های کنترل هدایت نبرد‌ها ایستادند.
اینجا در پکن، وقتی از آینده و نوآوری صحبت می‌شود، برخی ممکن است بپرسند: آیا مهم‌ترین رخداد نوامبر ۲۰۲۴ انتخاب دوباره ترامپ بود یا آنچه که در جشن سال نو چینی رخ داد؟ در این مراسم، که از تلویزیون چین پخش و بیش از یک میلیارد نفر تماشایش کردند، «۱۶ ربات انسان‌نما» بر صحنه آمدند. طبق گزارش مجله فناوری‌ام. آی. تی، آنها با پوشیدن کت‌هایی نقش‌دار از گل‌های شاداب، در یک رقص ویژه شرکت کردند و در هماهنگی کامل با رقصندگان انسانی، دستمال‌های قرمز را به حرکت درآوردند. جالب است بدانید که این ربات‌ها در شغل اصلی خود به مونتاژ خودرو‌های الکتریکی می‌پردازند؛ رقص، صرفاً تفریح آنها بود. برای این ربات‌های رقصنده، بی‌تردید می‌توان استدلال‌های جالبی مطرح کرد.
آیا گونه‌ای هوشمندتر از انسان در راه است؟
هوش مصنوعی عمومی را می‌توان به نوعی «جام مقدس» هوش مصنوعی دانست؛ سیستمی که می‌تواند در حوزه‌های متنوعی مانند ریاضیات، فیزیک، زیست‌شناسی، شیمی، علم مواد، ادبیات و شعر همچون باهوش‌ترین انسان‌ها عمل کند. مهم‌تر از آن، چنین سیستمی قادر خواهد بود میان این حوزه‌های مختلف، استدلالی یکپارچه داشته باشد و ارتباطاتی را کشف کند که پیش از این از دید حتی برجسته‌ترین دانش‌پژوهان پنهان مانده بود. کریگ ماندی، مدیر پیشین پژوهش و استراتژی مایکروسافت نیز در این زمینه تاکید کرده که این انقلاب چیزی فراتر از یک ابزار کامپیوتری جدید خواهد بود. به باور او، پیش از پایان دوره ریاست‌جمهوری ترامپ، ما شاهد ظهور یک گونه تازه «ماشین فوق هوشمند» خواهیم بود.
گونه‌ای که ما از آن برخاسته‌ایم، بر پایه کربن شکل گرفته است؛ اما گونه‌ای که اکنون در حال پدید آمدن است، پایه‌ای سیلیکونی دارد. با چنین تغییری بنیادین، باید بی‌درنگ به طراحی مسیری بپردازیم که امکان همزیستی با این موجودات فوق‌هوشمند جدید را فراهم کند و حتی زمینه را برای تکامل مشترک با آنها آماده سازد. طی تاریخ بشر، ما همیشه در میان گونه‌های دیگر این سیاره زندگی کرده‌ایم، اما یک وجه مشترک همواره وجود داشت: «ما همیشه از همه آنها باهوش‌تر بودیم.» با این حال، این برتری ممکن است به زودی پایان یابد.
گونه‌ای نوظهور در راه است که از ما باهوش‌تر خواهد بود و این هوش هرگز ثابت نخواهد ماند؛ به‌طور مداوم افزایش خواهد یافت. به‌بیان دیگر، ما در حال وارد شدن به عصری هستیم که در آن، بالاترین سطح هوش موجود روی زمین، از آنچه انسان‌ها تاکنون تصور کرده‌اند یا در رایانه‌ها برنامه‌ریزی کرده‌اند، به مراتب فراتر می‌رود. هوش جدید به‌جای محدود بودن به کد‌ها و الگوریتم‌های نوشته‌شده توسط انسان‌ها، به قابلیتی دست می‌یابد که می‌تواند خود به‌تنهایی بیاموزد و این فرآیند یادگیری، به‌ظاهر بی‌پایان است.
آیا چین در آستانه رهبری بلامنازع هوش مصنوعی جهان است؟
پیشرفت‌های چشمگیری که چین در سال گذشته در حوزه هوش مصنوعی به دست آورده، اکنون به‌وضوح نشان می‌دهد که پکن و واشنگتن به دو ابرقدرت بلامنازع این عرصه تبدیل شده‌اند. برای کسانی که هنوز به این جایگاه باور ندارند، لی چیانگ، نخست‌وزیر چین، در جریان افتتاحیه «فوروم توسعه چین با افتخار به موفقیت‌های سیستم هوش مصنوعی «دیپ‌سیک» اشاره کرد. او در سخنرانی خود، از «قدرت عظیم نوآوری و خلاقیت مردم چین» سخن گفت و به این نکته پرداخت که «سال ۲۰۲۵ می‌تواند سال آغاز تولید انبوه ربات‌های انسان‌نما در چین باشد.»
یک گزارش اخیر از مورگان استنلی نیز به‌طور ویژه به این موضوع پرداخته و برتری چین را در صنعت ربات‌های انسان‌نما برجسته کرده است. این گزارش توضیح می‌دهد که چگونه شرکت‌های بزرگ چینی که در این زمینه فعالیت می‌کنند، توانسته‌اند کنترل بیشتری را در بازار به دست بگیرند. این ربات‌های هوش مصنوعی، نه‌تنها با دقتی شگفت‌انگیز شبیه انسان حرکت می‌کنند، بلکه گفتار و رفتار آنها نیز چنان طبیعی است که مرز‌های میان انسان و ماشین به طرز قابل توجهی کمرنگ شده است.
پیش از آن‌که این سیستم‌های هوش مصنوعی عمومی (AGI) در مقیاس وسیع به‌کار گرفته شوند، باید پکن و واشنگتن به‌عنوان دو ابرقدرت این عرصه، فوراً گام‌های جدی برای ایجاد چارچوبی نظارتی و فناورانه بردارند. این چارچوب باید به‌گونه‌ای طراحی شود که نوعی استدلال اخلاقی و کنترل‌های کاربردی در دل سیستم‌ها تعبیه شود. هدف این است که نه‌تنها از سوءاستفاده بازیگران غیرمسئول و اجرای اقدامات بی‌ثبات‌کننده جهانی جلوگیری شود، بلکه خطر خودسر شدن سیستم‌ها نیز به حداقل برسد. آنچه ضرورت دارد، حکمرانی مبتنی بر اصول است که تضمین کند سیستم‌های هوش مصنوعی در هماهنگی کامل با رفاه بشری و همچنین منافع ماشین‌ها عمل کنند. باید نظارتی مستمر بر عملکرد این سیستم‌ها وجود داشته باشد تا هرگز از مسیر تعیین‌شده خارج نشوند و همواره تحت کنترل باقی بمانند.
آیا الگوی «همکاری در رقابت» می‌تواند مسیر آینده هوش مصنوعی را تعیین کند؟
چینی‌ها در بسیاری جهات شبیه آمریکایی‌ها هستند؛ آنها هنوز در حال کاوش و درک ظرفیت‌های واقعی سیستم‌های نوین هوش مصنوعی هستند. در این میان، دو انگیزه متناقض در رفتار آنها به چشم می‌خورد: از یک سو، با جدیت تمام در تلاشند که شرکت‌های چینی را در رقابت هوش مصنوعی به جلو برانند و بر بازار تسلط پیدا کنند. از سوی دیگر، نگران تأثیرات این فناوری‌ها بر ثبات داخلی کشورشان هستند.
البته من کاملاً به سطح فعلی بی‌اعتمادی در روابط آمریکا و چین آگاه هستم و می‌توانم به روشنی تأیید کنم که این بی‌اعتمادی بسیار عمیق است. بنابراین، وقتی از این دو قدرت بزرگ می‌خواهیم که برای ایجاد یک سیستم استدلال اخلاقی مشترک همکاری کنند؛ سیستمی که اطمینان حاصل کند هوش مصنوعی به شیوه‌ای مسئولانه به کار گرفته می‌شود، احتمالاً این دعوت به نظر بسیاری بیش از حد خوش‌بینانه یا حتی غیرواقعی می‌آید.
رهبران ما باید به دقت به راهبردی توجه کنند که غول‌های فناوری نرم‌افزاری سال‌ها است در پیش گرفته‌اند: «همکاری در عین رقابت» شرکت‌هایی مثل اپل، مایکروسافت، گوگل و متا همواره به دنبال آن بودند که یکدیگر را از میدان رقابت خارج کنند، اما در نهایت به این نتیجه رسیدند که توافق بر سر برخی استاندارد‌های اساسی، به جای اصرار بر مسیر‌های انفرادی، می‌تواند دسترسی آنها به بازار‌های جدید را به‌طور قابل‌توجهی افزایش دهد. از این منظر، همکاری بر مبنای اصول مشترک، نه تنها رقابت سالم را تقویت می‌کند، بلکه به رشد گسترده‌تر در ارائه محصولات و خدمات مستقل نیز کمک می‌کند.
ورود هوش مصنوعی عمومی (AGI) صحنه جهانی را به‌طور بنیادی دگرگون خواهد کرد. اگر نتوانیم اطمینان حاصل کنیم که این سیستم‌ها بر پایه استاندارد‌های مشترک اعتماد بنا شده‌اند، ایالات متحده و چین عملاً از هرگونه همکاری معنادار باز خواهند ماند. در چنین حالتی، هیچ‌یک از دو طرف حاضر نخواهد بود به آنچه دیگری تولید یا صادر می‌کند اعتماد کند، چراکه هوش مصنوعی به‌شدت در هر بخش از زندگی دیجیتال و متصل نفوذ خواهد کرد. از خودرو‌ها و ساعت‌های هوشمند گرفته تا ایمپلنت‌های پزشکی و ابزار‌های الکترونیکی خانگی، همه چیز تحت تأثیر خواهد بود.
یووال نوح حراری، تاریخ‌نگار برجسته، طی سخنرانی خود درباره هوش مصنوعی، نکات تأمل‌برانگیزی را به اشتراک گذاشت. او تصریح کرد: «پیش از آنکه عامل‌های هوش مصنوعی فوق‌هوشمند را توسعه دهیم، لازم است اعتماد بیشتری میان انسان‌ها ایجاد کنیم.» حراری هشدار داد: «اما ما دقیقاً در حال انجام خلاف این امر هستیم. در سطح جهانی، اعتماد میان انسان‌ها به‌شدت در حال تضعیف است. بسیاری از کشور‌ها گمان می‌کنند که قدرت در بی‌اعتمادی مطلق و انزوای کامل نهفته است. اگر میراث‌های انسانی مشترک خود را به دست فراموشی بسپاریم و دیگر به کسی خارج از خود اعتماد نکنیم، به راحتی در برابر یک هوش مصنوعی مهارگسیخته آسیب‌پذیر خواهیم شد.»
حراری همچنین اشاره کرد که همکاری بین انسان‌ها تنها راه کنترل هوش مصنوعی است: «اگر ما با همدیگر درگیر شویم، این هوش مصنوعی است که ما را کنترل خواهد کرد.» در پایان، او بر اهمیت همکاری رهبران برجسته جهانی تأکید کرد و گفت: «در این مسیر حساس برای ایجاد هوش مصنوعی قابل اعتماد، بی‌تردید امیدوارم که رئیس‌جمهور شی و رئیس‌جمهور ترامپ بتوانند به سرعت موفق شوند.»