آیا میلیاردرهای دنیای فناوری خود را برای آخرالزمان آماده می‌کنند؟

بی‌بی‌سی: گفته می‌شود مارک زاکربرگ، بنیان‌گذار فیسبوک، از سال ۲۰۱۴ ساخت مجموعه عظیمی با نام «کولائو رنچ» را در ملکی به وسعت حدود ۵/۶ میلیون متر مربع در جزیره کوآئی هاوایی آغاز کرده است.

به گزارش مجله وایرد، قرار است در این مجموعه پناهگاهی ساخته شود که به منابع مستقل انرژی و غذایی مجهز است، هر چند نجارها و برق‌کارانی که در این محل کار می‌کنند، با امضای قراردادهای عدم افشا، از صحبت درباره این پروژه منع شده‌اند.

دیوار بلندی به ارتفاع حدود دو متر، دید این پروژه را از جاده نزدیک به آن مسدود کرده است.

وقتی سال گذشته از زاکربرگ سوال شد که آیا او در حال ساخت «پناهگاه روز قیامت» است، پاسخ او یک «نه» قاطع بود. او توضیح داد که فضای زیرزمینی مورد اشاره با مساحت حدود ۵۰۰ متر مربع، «صرفا مثل یک پناهگاه کوچک است، در واقع شبیه یک زیرزمین است».

اما این توضیحات مانع گمانه‌زنی‌ها نشد، به ویژه درباره تصمیم او برای خرید ۱۱ ملک دیگر در محله کرسنت پارک در پالو آلتو کالیفرنیا که ظاهرا شامل فضای زیرزمینی دیگری به مساحت ۶۵۰ متر مربع نیز می‌شود.

با اینکه در مجوزهای ساخت، از این فضاها با عنوان زیرزمین یاد شده، اما روزنامه نیویورک تایمز گزارش داد که برخی از همسایگان او، آن را پناهگاه یا حتی غار مخفی میلیاردرها می‌نامند.

در همین حال درباره دیگر رهبران حوزه فناوری نیز شایعاتی وجود دارد؛ افرادی که به نظر می‌رسد مشغول خرید زمین‌های وسیعی با فضاهای زیرزمینی‌اند تا آنها را به پناهگاه‌های لوکس چند میلیون دلاری تبدیل کنند.

رید هافمن، یکی از بنیان‌گذاران لینکدین، از مفهومی به نام «بیمه آخرالزمان» سخن گفته است. به گفته او حدود نیمی از ابرثروتمندان چنین برنامه‌ای دارند و نیوزیلند یکی از مقاصد محبوب آنان برای خرید خانه است.

آیا واقعا این افراد خود را برای جنگ، پیامدهای تغییرات اقلیمی، یا نوعی فاجعه دیگر آماده می‌کنند که بقیه ما هنوز از آن خبر نداریم؟

در چند سال گذشته، پیشرفت هوش مصنوعی فهرست نگرانی‌های بالقوه درباره تهدید بشریت را طولانی‌تر کرده است. بسیاری از مردم از سرعت سرسام‌آور این پیشرفت به‌شدت نگران‌اند.

ایلیا سوتسکوِر، دانشمند ارشد و یکی از بنیان‌گذاران شرکت اوپن‌ ای‌آی، ظاهرا از جمله همین افراد است.

تا اواسط سال ۲۰۲۳، این شرکت مستقر در سان‌فرانسیسکو چت‌جی‌پی‌تی، چت‌باتی با صدها میلیون کاربر در جهان، را به بازار عرضه کرده بود و تیم او به سرعت در حال آماده‌سازی نسخه‌های به‌روزشده بودند.

اما طبق روایتی که در کتاب کارن هائو، خبرنگار، منتشر شده، سوتسکور در همان تابستان تا حد زیادی متقاعد شده بود که دانشمندان علوم رایانه‌ای در آستانه خلق «هوش جامع مصنوعی» (اِی‌جی‌آی) هستند که در آن ماشین‌ها با هوش انسان برابری می‌کنند.

به نوشته هائو، سوتسکور در یکی از جلسات پیشنهاد داد که پیش از عرضه چنین فناوری قدرتمندی به جهان، پناهگاهی زیرزمینی برای دانشمندان ارشد شرکت ساخته شود.

بر اساس گزارش‌ها او گفته بود «ما قطعا پیش از عرضه هوش جامع مصنوعی، یک پناهگاه خواهیم ساخت»، هرچند روشن نیست منظورش از «ما» دقیقا چه کسانی بوده است.

این روایت نکته‌ای عجیب را آشکار می‌کند: بسیاری از پیشگامان علوم رایانه و رهبران صنعت فناوری که خود در حال توسعه پیشرفته‌ترین شکل‌های هوش مصنوعی هستند، از پیامدهای احتمالی کار خود نیز به شدت هراس دارند.

اما دقیقا چه زمانی – اگر اصلا چنین روزی برسد – «هوش جامع مصنوعی» پدیدار خواهد شد؟ و آیا آن‌قدر شرایط را دگرگون خواهد کرد که مردم عادی را هم بترساند؟

«زودتر از آنچه تصور می‌کنیم»

رهبران دنیای فناوری معتقدند هوش جامع مصنوعی در آستانه ظهور است. سم آلتمن، مدیرعامل اوپن ای‌آی، در دسامبر ۲۰۲۴ گفت این فناوری «زودتر از آنچه بیشتر مردم فکر می‌کنند» خواهد رسید.

برآورد دمیس هاسابیس، یکی از بنیان‌گذاران شرکت دیپ‌مایند، پنج تا ده سال آینده است و داریو آمودئی، بنیان‌گذار شرکت آنتروپیک، سال گذشته نوشت که «هوش مصنوعی قدرتمند» ممکن است تا سال ۲۰۲۶ در دسترس باشد.

اما همه چنین باوری ندارند. وندی هال، استاد علوم رایانه در دانشگاه ساوت‌همپتون، می‌گوید: «آن‌ها مدام معیارها را عوض می‌کنند. بستگی دارد با چه کسی صحبت کنید.» از لحن صدای او پشت تلفن می‌توان فهمید که از این مسئله ناراضی است.

او اضافه می‌کند: «جامعه علمی می‌گوید فناوری هوش مصنوعی شگفت‌انگیز است، اما هنوز فاصله زیادی با هوش انسانی دارد.»

علاوه بر این، بعید است ظهور آن در یک لحظه مشخص رخ دهد. فناوری هوش مصنوعی با شتابی چشمگیر در حال پیشرفت است و مسیری را طی می‌کند که در آن شرکت‌های بسیاری در سراسر جهان در رقابتی تنگاتنگ برای ساخت نسخه مخصوص خود تلاش می‌کنند.

اما یکی از دلایلی که این ایده در سیلیکون‌ولی تا این حد هیجان‌انگیز تلقی می‌شود، این است که تصور می‌شود «هوش جامع مصنوعی» می‌تواند مقدمه‌ای بر مرحله‌ای پیشرفته‌تر باشد: ابرهوش مصنوعی یا اِی‌اس‌آی که از مرز توانایی ذهنی انسان نیز فراتر می‌رود.

مفهوم «تکینگی» نخستین‌بار در سال ۱۹۵۸ و پس از مرگ جان فون نویمان، ریاضی‌دان مجارستانی‌تبار، به او نسبت داده شد. این مفهوم به لحظه‌ای اشاره دارد که در آن هوش رایانه‌ای از درک انسانی فراتر می‌رود.

کتاب جنسیس که در سال ۲۰۲۴ به قلم اریک اشمیت، کریگ ماندی و هنری کیسینجر منتشر شد، ایده فناوری‌ فوق‌العاده قدرتمندی را بررسی می‌کند که در تصمیم‌گیری و رهبری چنان کارآمد می‌شود که در نهایت انسان‌ها اختیار را به طور کامل به آن واگذار می‌کنند.

به باور نویسندگان، مسئله این نیست که آیا چنین روزی فرا می‌رسد یا نه، بلکه فقط زمان وقوع آن مطرح است.

پول برای همه، بدون نیاز به کار؟

طرفداران هوش جامع مصنوعی و ابرهوش مصنوعی، با شور و حرارتی شبیه مبلغان مذهبی از مزایای آن سخن می‌گویند. آنان معتقدند این فناوری درمان بیماری‌های مرگبار را خواهد یافت، تغییرات اقلیمی را حل خواهد کرد و منبعی بی‌پایان از انرژی پاک ابداع خواهد کرد.

ایلان ماسک حتی ادعا کرده است که هوش مصنوعی ابرهوشمند می‌تواند آغازگر دوران «درآمد همگانی بالا» باشد.

او اخیرا از این ایده حمایت کرده که هوش مصنوعی آن‌قدر ارزان و فراگیر می‌شود که عملا هر کسی دلش خواهد خواست که «آر۲-دی۲» و «سی‌-۳پی‌او» مخصوص خودش را داشته باشد (اشاره‌ای به ربات‌های فیلم جنگ ستارگان).

ماسک با هیجان گفت: «همه به بهترین خدمات درمانی، غذا، خانه، وسایل حمل‌ونقل و هر چیز دیگری دسترسی خواهند داشت. فراوانی پایدار.»

اما جنبه ترسناکی هم وجود دارد. اگر این فناوری به دست تروریست‌ها بیفتد و به سلاحی عظیم تبدیل شود چه؟ یا اگر خودش تصمیم بگیرد که انسان عامل مشکلات جهان است و باید از میان برود؟

تیم برنرز لی، خالق شبکه جهانی وب، در گفت‌وگو با بی‌بی‌سی هشدار داده بود که «اگر از ما باهوش‌تر باشد، باید آن را مهار کنیم… باید بتوانیم خاموشش کنیم».

دولت‌ها نیز در حال برداشتن گام‌هایی برای محافظت و پیشگیری هستند. در آمریکا، جایی که بسیاری از شرکت‌های پیشرو در حوزه هوش مصنوعی مستقر هستند، جو بایدن، رئیس‌جمهوری وقت، در سال ۲۰۲۳ با صدور فرمانی اجرایی برخی شرکت‌ها را موظف کرد نتایج آزمایش‌های ایمنی خود را با دولت فدرال به اشتراک بگذارند. هرچند دونالد ترامپ پس از ورود به کاخ سفید بخشی از این فرمان را لغو کرد و آن را «مانعی برای نوآوری» خواند.

در بریتانیا نیز دو سال پیش «موسسه ایمنی هوش مصنوعی» تاسیس شد که یک نهاد پژوهشی دولتی برای بررسی خطرات بالقوه هوش مصنوعی است.

و البته ابرثروتمندانی هم هستند که بیمه‌های آخرالزمانی خود را دارند.

رید هافمن پیش‌تر گفته بود: «وقتی کسی می‌گوید خانه‌ای در نیوزیلند خریده، در واقع نوعی اشاره غیرمستقیم است، لازم نیست بیشتر توضیح دهد.» ظاهرا همین موضوع درباره پناهگاه‌ها هم صدق می‌کند.

اما در این میان، یک نقطه ضعف کاملا انسانی هم وجود دارد.

من روزی با یکی از محافظان سابق یک میلیاردر که پناهگاه شخصی داشت، ملاقات کردم. او گفت اگر واقعا روزی فاجعه‌ای رخ دهد، اولین اولویت تیم امنیتی‌اش این خواهد بود که رئیس را از میان بردارند و خودشان وارد پناهگاه شوند. لحن او طوری بود که به نظر نمی‌رسید شوخی کند.

آیا همه این‌ها فقط هشدارهای اغراق‌آمیز است؟

نیل لارنس، استاد یادگیری ماشینی در دانشگاه کمبریج، معتقد است کل این بحث از اساس بی‌معناست.

او می‌گوید: «مفهوم هوش جامع مصنوعی به همان اندازه پوچ است که مفهوم وسیله نقلیه جامع مصنوعی.»

«وسیله نقلیه مناسب همیشه به موقعیت بستگی دارد. برای سفر به کنیا سوار هواپیمای ایرباس ای-۳۵۰ شدم، برای رفتن به دانشگاه از ماشین استفاده می‌کنم، و برای رسیدن به کافه پیاده قدم می‌زنم… هیچ وسیله‌ای وجود ندارد که بتواند همه این کارها را انجام دهد.»

از نظر او، بحث درباره هوش جامع مصنوعی نوعی انحراف از اصل موضوع است.

«همین فناوری که ساخته‌ایم برای نخستین بار به انسان‌های عادی این امکان را داده است که مستقیما با یک ماشین حرف بزنند و به صورت بالقوه بتواند کاری را که آنها در ذهن دارند، انجام دهند. این پدیده‌ای واقعا خارق‌العاده و به کلی دگرگون‌کننده است.»

«نگرانی عمده این است که آن‌قدر درگیر روایت‌های شرکت‌های بزرگ فناوری درباره هوش جامع مصنوعی شده‌ایم که از درک نیاز واقعی به بهبود زندگی مردم غافل مانده‌ایم.»

ابزارهای فعلی هوش مصنوعی بر پایه انبوهی از داده‌ها آموزش دیده‌اند و در تشخیص الگوها مهارت دارند؛ از نشانه‌های تومور در اسکن‌ها گرفته تا پیش‌بینی واژه‌ای که در یک جمله پس از واژه دیگر می‌آید. اما هر چقدر هم که پاسخ‌هایشان متقاعدکننده به نظر برسد، آنها «احساس» ندارند.

بابک حجت می‌گوید: «روش‌های «فریبنده‌ای» وجود دارد برای واداشتن مدل‌های زبانی بزرگ (که پایه چت‌بات‌ها هستند) که طوری رفتار کنند که گویی حافظه دارند یا یاد می‌گیرند، اما این روش‌ها ناکامل و در مقایسه با انسان بسیار ابتدایی‌اند.»

وینس لینچ، مدیرعامل شرکت «آی‌وی اِی‌آی» در کالیفرنیا نیز نسبت به ادعاهای اغراق‌آمیز درباره هوش جامع مصنوعی بدبین است.

او می‌گوید: «این بیشتر یک ابزار بازاریابی عالی است. وقتی ادعا می‌کنی در حال ساخت باهوش‌ترین پدیده تاریخ هستی، طبیعی است که مردم بخواهند به تو پول بدهند.»

او اضافه می‌کند: «این چیزی نیست که دو سال دیگر به دست بیاید. این فناوری نیازمند حجم عظیمی از توان پردازشی، خلاقیت انسانی و آزمون و خطاست.»

وقتی از او سوال شد آیا باور دارد روزی هوش جامع مصنوعی واقعا محقق می‌شود یا نه، لحظه‌ای سکوت کرد و سپس گفت: «واقعا نمی‌دانم.»

هوش بدون آگاهی

در برخی جنبه‌ها، هوش مصنوعی در حال حاضر از مغز انسان پیشی گرفته است. یک ابزار هوش مصنوعی مولد می‌تواند در یک لحظه کارشناس تاریخ قرون وسطی باشد و در لحظه بعد، معادلات پیچیده ریاضی را حل کند.

برخی شرکت‌های فناوری می‌گویند همیشه نمی‌دانند محصولاتشان به چه شکلی به سوالات پاسخ می‌دهند. شرکت متا نیز می‌گوید نشانه‌هایی وجود دارد مبنی بر این که سامانه‌های هوش مصنوعی این شرکت به خودی خود در حال پیشرفت‌اند.

با این حال در نهایت، صرف‌نظر از میزان هوشمندی ماشین‌ها، مغز انسان از نظر زیستی همچنان برتری دارد. مغز حدود ۸۶ میلیارد نورون و ۶۰۰ تریلیون سیناپس دارد که بسیار بیشتر از معادل‌های مصنوعی آن است.

علاوه بر این، مغز انسان نیازی به مکث میان تعاملات ندارد و پیوسته خود را با اطلاعات جدید تطبیق می‌دهد.

بابک حجت می‌گوید: «اگر به یک انسان بگویید در یک سیاره فراخورشیدی حیات کشف شده، او بلافاصله آن را می‌آموزد و این آگاهی بر نگرش او نسبت به جهان تاثیر می‌گذارد. اما یک مدل زبانی بزرگ تنها تا زمانی این موضوع را می‌داند که شما مدام آن را به عنوان یک واقعیت برایش تکرار کنید.»

او اضافه می‌کند: «مدل‌های زبانی بزرگ همچنین فاقد فراشناخت هستند، یعنی دقیقا نمی‌دانند چه چیزهایی را می‌دانند. در حالی که انسان‌ها به نظر می‌رسد نوعی توانایی درون‌نگر دارند، که گاهی آگاهی یا خودآگاهی نامیده می‌شود، و به واسطه آن می‌دانند که چه چیزهایی را می‌دانند.»

این ویژگی، بخش بنیادی هوش انسانی است و چیزی است که هنوز هرگز در آزمایشگاه بازتولید نشده است.