جهان معرفی و نقد كتاب

خلاصه کتاب ابر هوش: مسیرها، خطرات، استراتژی ها از نیک بوستروم

سوپرهوش نیک بوستروم درباره اجتناب ناپذیر بودن یک دیستوپی تکنولوژیک است مگر اینکه اقدام جدی انجام شود.

تصور یک دیستوپیا تکنولوژیکی بدیع نیست. هاکسلی و اورول توانسته‌اند در رمان‌هایی درباره پایان دنیایی که دوست داریم بنویسند، که مردم تا امروز به آن اشاره می‌کنند، حتی درباره اینکه چه کسی دقیق‌تر بوده است بحث می‌کنند.

امروزه چند نام وجود دارند که به دلیل پیشگویی تکنولوژیکی خود به شهرت رسیده اند. اولین موردی که به ذهن خطور می کند ری کورزویل است که در عصر ماشین های معنوی دقت پیش بینی هایی را که چندین دهه پیش انجام داده است به ما نشان می دهد و همچنین آنچه را که «تکینگی» می نامد را پیش بینی می کند.

اما آنچه در مورد کورزویل قابل توجه است، این است که او بدش نمی آید که اگر هوش مصنوعی هومو ساپینس ها را نابود کند، او مشتاقانه منتظر آن است. یعنی هومو ساپینس به شکل فعلی. هر چند نسخه ای از هومو ساپینس که در آن ما تا حدی ماشین هستیم، مشکلی ندارد.

برای او، هیچ چیز نمی‌تواند جلوی توسعه هوش مصنوعی را بگیرد، بنابراین ممکن است چیز جالبی مانند جاودانگی داشته باشیم.

و اینجاست که نیک بوستروم وارد می‌شود. او چندان خوشبین نیست، نه به این دلیل که فکر نمی‌کند ما نمی‌توانیم هوش مصنوعی مافوق بشری بسازیم، بلکه به این دلیل که اگر این کار را انجام دهیم، ممکن است خیلی اشتباه پیش برود.

در کتاب ابرهوشی، او آزمایش‌های فکری متفاوتی را ارائه می‌کند که چه چیزی ممکن است اشتباه پیش برود، و استدلال می‌کند که اگر در مدیریت توسعه هوش مصنوعی بسیار پیچیده نباشیم، ممکن است بی‌خبر به سوی آینده‌ای بشتابیم که به انسان پایان دهد. نژاد، در تمام اشکال آن.

یکی از استدلال هایی که علیه بوستروم وجود دارد این است که هوش مصنوعی فقط برای کارهای تخصصی خوب است، اما نمی تواند مانند انسان ها به هوش عمومی دست یابد.

اما بوستروم ما را به تورینگ ارجاع می دهد تا ببینیم چگونه می توان بر این مشکل غلبه کرد. ایده تورینگ این بود که برنامه ای طراحی کند که بیشتر محتوای خود را از طریق یادگیری به دست آورد نه از قبل برنامه ریزی شده. گونه‌ای از ایده تورینگ (که یک ماشین کودک است که می‌تواند پتانسیل‌های خود را با انباشت محتوا توسعه دهد) یک هوش مصنوعی اولیه است که یک هوش مصنوعی پیچیده‌تر است که می‌تواند معماری خود را بهبود بخشد.

منظور او از ابرهوش چیست؟ منتقدان نظریه پردازان روز رستاخیز (مانند بوستروم) که می گویند هوش مصنوعی فقط می تواند در کارهای تخصصی از انسان ها بهتر عمل کند، یک خطای معنایی مرتکب می شوند، زیرا ابرهوش، همانطور که بوستروم از این اصطلاح استفاده می کند، به عقلانی اطلاق می شود که می توانند از ذهن انسان در چندین حوزه شناختی عمومی برتری داشته باشند. ولی این دقیقا چه معنایی می دهد؟ در اینجا، بوستروم توانایی‌های فوق‌العاده بالقوه را به سه بخش متمایز تقسیم می‌کند: فوق‌هوش سرعت، ابرهوش جمعی، و فوق‌هوش باکیفیت – که هر کدام برای نادیده گرفتن هوش انسان کافی است.

شاید بپذیرید که این امکان وجود دارد، اما ممکن است انگیزه کشورها برای توسعه هوش مصنوعی تا این حد را زیر سوال ببرید. اما این یک اعتراض ساده لوحانه است.

علاوه بر مزیت آشکار کسب قدرت بر شهروندان خود و سایر کشورها، آنها در به حداقل رساندن مقاومت در برابر اقتدار خود بهتر خواهند بود. دولت‌ها می‌توانند شهروندان خود را تشویق کنند که از انتخاب ژنتیکی برای افزایش سرمایه انسانی کشور استفاده کنند و ویژگی‌هایی را انتخاب کنند که ثبات اجتماعی درازمدت را افزایش می‌دهند، مانند اطاعت، همنوایی و اطاعت. می دانید، مانند سال ۱۹۸۴.

یکی دیگر از استدلال‌های متقابل ممکن است این باشد که مسیرهای زیادی وجود دارد که می‌توانند در تلاش ما برای ساختن ابرهوشی آشکار شوند، اما بوستروم به ما یادآوری می‌کند که صرفاً به دلیل وجود چندین مسیر، این به معنای وجود چندین مقصد نیست. ممکن است در شرایطی قرار بگیریم که بر سر راه خود با موانعی مواجه شویم، اما در نهایت پس از تلاش کافی، بالاخره موفق می شویم.

تیک آف آهسته، متوسط، سریع
توسعه هوش مصنوعی به ابرهوشمندی می تواند با سرعت آهسته، متوسط ​​یا سریع برخاست.

یک برخاست آهسته سناریوی ایده آلی است که طی دهه ها یا قرن ها اتفاق خواهد افتاد. این به ما زمان کافی برای پاسخگویی و سازگاری می دهد.

یک برخاست متوسط ​​طی هفته‌ها یا ماه‌ها اتفاق می‌افتد، که زمان زیادی برای آزمایش یا پاسخ سیاسی به ما نمی‌دهد، اما سیستم‌های موجود می‌توانند برای این چالش استفاده شوند.

یک برخاست سریع طی چند دقیقه، ساعت یا روز اتفاق می‌افتد و در این سناریو، زمانی برای تعمق وجود نخواهد داشت.

یک برخاست سریع یا متوسط ​​محتمل‌ترین آنهاست، اما اگر مقیاس‌پذیری ابر رایانه‌های گران قیمت دشوار باشد و قانون مور تا آن زمان منقضی شده باشد، نمی‌توان تیک آف آهسته را رد کرد.

بیشتر انسان ها برای بقای خود ارزش قائل هستند، این ممکن است در مورد هوش مصنوعی صادق نباشد. خطاهای زیادی وجود دارد که می تواند به دلیل تفاوت های مشابه بین هوش مصنوعی و انسان آشکار شود. اگر برنامه‌نویسان هدف ساده‌ای را برای هوش مصنوعی تعریف می‌کردند: «ما را بخندانید»، ممکن است یک نمونه انحرافی وجود داشته باشد که ماهیچه‌های صورت انسان را فلج می‌کند و تبدیل به لبخندهای درخشان می‌شود. مهم نیست که برنامه نویس قصد انجام آن را نداشته باشد. رایانه‌ها آنقدر شلوغ هستند که نمی‌توانند درباره کاری که می‌خواهید آنها را برنامه‌ریزی کنید، صحبت کنید.

بوستروم مثال گیره کاغذ پوچ را برای بیان این نکته می آورد. تصور کنید هوش مصنوعی در یک کارخانه طراحی شده است، هدف نهایی به حداکثر رساندن تولید گیره کاغذ داده می شود و سپس زمین و سایر بخش های جهان قابل مشاهده را به گیره کاغذ تبدیل می کند. ممکن است این اتفاق بیفتد، زیرا هوش مصنوعی به هیچ وجه نمی‌تواند مشکلی ایجاد کند.

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *