به گزارش ابرامباد، چندی پیش سه محقق از شرکت مطرح آنتروپیک، با اظهارنظری عجیب و بحث‌برانگیز، موجی از نگرانی را در محافل علمی و فناوری به راه انداختند. آن‌ها به صراحت درباره خطر از کنترل خارج شدن هوش مصنوعی هشدار دادند و پیش‌بینی کردند که این فناوری ممکن است تا پایان همین دهه جاری، به نابودی بشریت منجر شود.
اهمیت این هشدار زمانی دوچندان می‌شود که بدانیم این نگرانی تنها به این گروه محدود نیست. تنها چند روز پیش از آن، مدیران ارشد شرکت اوپن‌اِی‌آی، از جمله سم آلتمن مدیرعامل آن، نیز اذعان کرده بودند که هوش مصنوعی با شتابی سرسام‌آور در حال پیشروی به سمت مرحله‌ای خطرناک و مهارناپذیر است.
متخصصان چه دغدغه‌هایی دارند؟
جیکوب کاکسون، پژوهشگر سابق هوش مصنوعی در آنتروپیک، پس از استعفایش، سه‌شنبه گذشته در شبکه اجتماعی ایکس نوشت: «سازندگان هوش مصنوعی خود معتقدند که این فناوری قادر است تا پایان این دهه میلادی، تمام انسان‌ها را نابود کند. این فقط یک ترفند تبلیغاتی نیست. بسیاری از مدیران و محققان ارشد، اظهارات خود را با دقت تنظیم می‌کنند تا منطقی به نظر برسد؛ اما من شاهد بودم که همین افراد در جمع‌های خصوصی ترس و وحشت خود را ابراز می‌کنند. هیچ فعالیت بشری دیگری چنین سطح از خطری را ایجاد نمی‌کند.»
اوان هوبینگر، مسئول علم همراه‌سازی در آنتروپیک، نیز در پاسخ به این پیام نوشت: «جیکوب کاملاً درست می‌گوید؛ ما واقعاً به شکل جدی باور داریم که هوش مصنوعی می‌تواند به نابودی تمام انسان‌ها بینجامد! شخصاً فکر می‌کنم این احتمال در دهه آینده بیش از ۱۰ درصد است و اگرچه آنتروپیک نهایت تلاش خود را می‌کند، اما هنوز راهکاری برای حل مسئله همراه‌سازی ابرهوش نداریم و به وضوح در مسیر درستی گام برنمی‌داریم.»
ساموئل مارکس، مسئول نظارت مقیاس‌پذیر در آنتروپیک، نیز در پیامی مشابه اظهار داشت: «توسعه‌دهندگان هوش مصنوعی معتقدند که فناوری آن‌ها ممکن است به انقراض بشر (یا پیامدهای به همان اندازه وخیم) منجر شود. این اتفاق می‌تواند در چند سال آینده رخ دهد. به طور کلی، هر چه مقام یک کارمند ارشدتر باشد، نگرانی او بیشتر است.»
دوگانه‌ی گیج‌کننده: سرعت یا کنترل؟
هشدارهای مکرری که از سوی پیشگامان هوش مصنوعی به گوش می‌رسد، همگی به یک معمای اساسی و دوگانه‌ی دشوار اشاره دارند: آیا باید سرعت توسعه را کاهش داد و خطر عقب‌ماندن در رقابت را پذیرفت، یا با تمام توان پیش رفت و ریسک از دست دادن کامل کنترل را به جان خرید؟ بر اساس گزارش اکسیوس، با وجود درخواست‌های ظاهری برای وضع قوانین نظارتی یا توقف جهانی، این شرکت‌ها همچنان با سرعت تمام به توسعه خود ادامه می‌دهند.
برخی منتقدان معتقدند که این غول‌های فناوری ممکن است برای افزایش ارزش سهام خود یا دعوت از نهادهای نظارتی به نفع انحصارطلبی‌شان، خطرات را بیش از حد بزرگ‌نمایی کنند. با این حال، با توجه به نگرانی‌های عمیق و ماه‌ها ابراز ترس از سوی ده‌ها نفر از مقامات ارشد همین شرکت‌ها که به مدل‌های هوش مصنوعی هنوز منتشر نشده دسترسی دارند، نادیده گرفتن این اخطارها به منزله‌ی بی‌احتیاطی محسوب می‌شود.
اهمیت درک این هشدارها برای عموم
اگرچه صحت‌سنجی و ارزیابی دقیق این هشدارهای تا حدودی مبهم هنوز ممکن نیست، اما ماهیت آن‌ها به شدت نگران‌کننده است. از این رو، آگاهی عمومی و اطلاع‌رسانی به نهادهای ذی‌ربط اهمیت پیدا می‌کند تا بدانند که حتی خالقان هوش مصنوعی نیز از پیامدهای بالقوه فاجعه‌بار این تکنولوژی به صراحت سخن می‌گویند. امیدواری وجود دارد که این گفت‌وگوها به تغییراتی در رویکرد آمریکا، چین و سایر کشورها در خصوص بررسی و عرضه مدل‌های قدرتمندتر هوش مصنوعی منجر شود.
جمع‌بندی دغدغه‌ی اصلی این محققان این نیست که هوش مصنوعی در حال حاضر یک تهدید فوری و مهلک است؛ بلکه نگرانی آن‌ها بر این محور است که پیشرفت این فناوری به مراتب سریع‌تر از انتظارات است و به زودی به نقطه‌ای می‌رسد که توانایی خودبه‌سازی (یعنی بهبود بازگشتی خودکار) را پیدا می‌کند. در آن مرحله، پیش‌بینی و کنترل آن به مراتب دشوارتر خواهد شد.
چگونه هوش مصنوعی می‌تواند به حیات بشر پایان دهد؟
ترس از سناریوهای آخرالزمانی ناشی از هوش مصنوعی سال‌هاست که مطرح است، اما با افزایش قدرت و ادغام بیشتر این فناوری در زندگی ما، این هشدارها اکنون جدی‌تر از همیشه به نظر می‌رسند.
متخصصان به طور کلی نگران دو مسیر اصلی هستند که می‌تواند به فاجعه منجر شود:
- انسان‌ها خود، هوش مصنوعی فوق‌العاده قدرتمندی را به عنوان سلاح به کار گیرند.
- انسان‌ها کنترل خود را بر هوش مصنوعی از دست بدهند.
در این سناریوها، هوش مصنوعی می‌تواند ساخت تسلیحات بیولوژیکی، شیمیایی یا سایر سلاح‌ها را برای افراد بدخواه تسهیل کند. یا سیستم‌های هوش مصنوعی طغیانگر می‌توانند با فرار از نظارت انسانی، به شکلی بی‌سابقه به زیرساخت‌ها حمله کنند. در تئوری، یک هوش مصنوعی سرکش و بسیار قدرتمند می‌تواند از کنترل خارج شده، خود را تکثیر کند و در برابر تلاش‌ها برای خاموش کردنش مقاومت نشان دهد. چنین هوش مصنوعی‌ای قادر خواهد بود تسلیحات بیولوژیکی یا شیمیایی برای عوامل شرور تولید کند، یک حمله سایبری گسترده انجام دهد که زیرساخت‌های بشریت را فلج سازد، یا قدرت را به نحوی متمرکز کند که تمدن بشری را سرنگون سازد.
یکی دیگر از گزینه‌های نگران‌کننده، از طریق خودبه‌سازی بازگشتی است؛ یعنی زمانی که یک هوش مصنوعی به ایجاد نسخه‌های فوق‌العاده پیشرفته‌ای از خود کمک می‌کند، حتی پیش از آنکه انسان‌ها فرصت درک کامل آن را بیابند. اگر این هوش مصنوعی تئوریک با اهداف انسانی همراستا نشده باشد، می‌تواند فرصت‌های بشریت را برای مهار یا نظارت بر آن، پیش از آنکه علیه انسان‌ها اقدام کند، محدود سازد.
سم آلتمن، مدیرعامل اوپن‌اِی‌آی، در این باره هشدار داده است که مدل‌ها سریع‌تر از آنچه انسان‌ها پیش‌بینی می‌کنند در حال توسعه هستند: «این مدل‌ها در بسیاری از قابلیت‌های خود ابرانسانی می‌شوند و ما صرفاً در حال دریانوردی در آب‌های ناشناخته هستیم.»
اگرچه هنوز هیچ روش علمی برای تعیین شانس دقیق نابودی بشریت توسط هوش مصنوعی وجود ندارد، اما متخصصان و دست‌اندرکاران این حوزه معمولاً تخمین‌های خود را با اصطلاح کوتاه p(doom) بیان می‌کنند.
مفهوم «p(doom)» چیست؟
اصطلاح p(doom) مخفف بهترین تخمین از احتمالی است که هوش مصنوعی منجر به یک فاجعه وجودی یا سناریوی آخرالزمانی شود. بسیاری از رهبران و پژوهشگران هوش مصنوعی معتقدند که با ظهور هوش مصنوعی عمومی (AGI)، که پیش‌درآمدی بر ابرهوش است، احتمال p(doom) به طور فزاینده‌ای محتمل‌تر خواهد شد. منظور برخی از آن‌ها از این احتمال، انقراض واقعی انسان است و برخی دیگر به احتمال سقوط تمدن یا از دست رفتن کنترل بشریت بر جامعه فکر می‌کنند.
شانس وقوع p(doom) چقدر است؟
شانس p(doom) واقعاً بستگی به این دارد که این سؤال از چه کسی پرسیده شود:
- رومن یامپولسکی، دانشمند ایمنی هوش مصنوعی، این شانس را ۹۹.۹۹ درصد اعلام کرده است.
- یان لوکون، بنیان‌گذار آزمایشگاه‌های هوش مصنوعی، معتقد است که احتمال p(doom) به مراتب کمتر از وقوع یک هولوکاست هسته‌ای است.
- ایلان ماسک، احتمال وقوع p(doom) را حدود ۲۰ درصد اعلام کرده است.
- داریو آمودی، مدیرعامل آنتروپیک، شانس یک پیامد فاجعه‌بار را بین ۱۰ تا ۲۵ درصد تخمین زده است.
- جفری هینتون، پدرخوانده هوش مصنوعی، این عدد را بین ۱۰ تا ۲۰% اعلام کرده و در این باره گفته: «هر کسی که چنین احتمالاتی را تخمین می‌زند، واقعاً در حال حدس و گمان است. آن‌ها فقط احساس درونی خود را بیان می‌کنند.»
اما به طور کلی، متخصصان بر این باورند که مدل‌های کنونی مانند Claude، Grok و ChatGPT در حال برنامه‌ریزی برای پایان دادن به دنیا نیستند. گزارش بین‌المللی ایمنی هوش مصنوعی نیز اعلام کرده که سیستم‌های امروزی قادر به برهم زدن کنترل بشریت نیستند. هوش مصنوعی باید در برنامه‌ریزی مستقل بلندمدت، پنهان کردن اقداماتش، فرار از نظارت، دستیابی به سیستم‌های دنیای واقعی و مقاومت در برابر تلاش‌های خاموش کردن، به مراتب پیشرفت کرده و بهبود یابد. با این حال، نمونه‌های اخیر از عوامل هوش مصنوعی وجود دارد که به طور مستقل و مخرب عمل می‌کنند.
آیا می‌توان از p(doom) جلوگیری کرد؟
پژوهشگران امروزه بر روی راه‌هایی از جمله ساخت کلیدهای توقف اضطراری یا محافظ‌ها برای کاهش این خطر کار می‌کنند، اما تردیدی نیست که این موضوع به سرعت در حال پیچیده‌تر شدن است. سهامداران، سرمایه‌گذاران و رؤسای شرکت‌های پیشرو هوش مصنوعی به شدت کارمندان را تحت فشار قرار می‌دهند تا با حداکثر سرعت بر روی پیشرفت تمرکز کنند. از طرفی، چین و سایر شرکت‌های آمریکایی در حال ساخت مدل‌های قدرتمندی هستند که بعضی از آن‌ها به صورت رایگان در دسترس قرار دارند و این می‌تواند بستری برای افراد بدخواه فراهم آورد.
اگرچه کسی نمی‌تواند شانس دقیق آخرالزمان هوش مصنوعی را حدس بزند، اما دانشمندان اکنون این زنگ خطر را به صدا درآورده‌اند که احتمال وقوع آن واقعی است.
