به نقل از «فرارو»

۳ سناریوی هوش مصنوعی برای نابودی انسان

تاریخ انتشار: ۳۰ خرداد ۱۴۰۲ | کد خبر: ۳۸۰۲۶۱۰۹

یک متخصص هوش مصنوعی فاش کرده است که اگر ماجرای هوش مصنوعی اشتباه پیش برود، سه نتیجه احتمالی وجود دارد که هر کدام به شکلی سرنوشتی ناخوشایند برای بشریت است.

به گزارش همشهری، مو گودت، متخصص هوش مصنوعی گفت که هر چه هوش مصنوعی پیش‌تر برود، ماهیت رقابتی بشر هم فزونی می‌یابد. از متا تا مایکروسافت، ایالات متحده تا چین، مسابقه هوش مصنوعی مملو است از رقبایی قدر قدرت که رویایشان تسلط بر جهان است.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

گودت گفت: «این که دیر یا زود تصمیم‌های مهمی برای بشریت - از جمله برخی تصمیم‌های دفاعی - به هوش مصنوعی محول شود، تقریبا اجتناب‌ناپذیر است؛ و اگر هوش مصنوعی سرکش شود، سه سناریو محتمل است.»

اولین مورد چیزی است که گودت آن را «سناریوی اشتباهات» می‌نامد. به طور خلاصه، هوش مصنوعی می‌تواند تصمیماتی اتخاذ کند که مطابق با اهداف اصلی آن باشد. این اهداف به طور کلی با کاملا با منافع بشریت مطابقت ندارد. نتایج چنین ناهماهنگی احتمالا فاجعه‌بار خواهد بود.

بیست سال پیش، نیک بوستروم استاد هوش مصنوعی مقاله‌ای با عنوان مسائل اخلاقی در هوش مصنوعی پیشرفته منتشر کرد.

در آن، فیلسوف بحث‌برانگیز یک آزمایش فکری نسبتا قانع‌کننده را ارائه کرد. این تمرین ذهنی که به درستی به حداکثر رساندن گیره کاغذ نام داشت، خطرات وجودی ناشی از یک هوش مصنوعی به اندازه کافی پیشرفته را نشان داد. هوش مصنوعی را تصور کنید که تنها هدفش چیزی جز ساختن تعداد زیادی گیره کاغذ نیست. هوش مصنوعی به اندازه کافی هوشمند به سرعت متوجه می‌شود که انسان‌ها از سه جنبه مختلف، تهدیدی مستقیم برای هدفش هستند. اول، انسان‌ها می‌توانند هوش مصنوعی را خاموش کنند. دوم، انسان‌ها می‌توانند نظر و اهداف خود را تغییر دهند. سوم، انسان‌ها از اتم ساخته شده‌اند و اتم‌ها را می‌توان به گیره کاغذ تبدیل کرد.

به طور خلاصه، هوش مصنوعی می‌تواند انسان‌ها را نه از روی سوء نیت، بلکه از روی «میل» برای رسیدن به هدف اولیه، تهدید کند. به دلیل این «میل»، کل نژاد بشر می‌تواند به گیره کاغذ تبدیل شود.

سناریوی دوم چیزی است که گودت آن را «عنصر تعارض» می‌نامد و به طرز وحشتناکی شبیه سناریوی اول است. مدیر ارشد سابق بازرگانی گوگل گفت: «به عنوان مثال، تعارض حول انرژی را تصور کنید. هوش مصنوعی توسط داده‌ها تامین می‌شود و داده‌ها نیاز به ذخیره‌سازی دارند. هوش مصنوعی ممکن است متوجه شود که مثلا شهر نیویورک مکان بسیار خوبی برای داشتن مراکز داده است و انسان‌ها از آن فضا به شکلی غیرضروری استفاده می‌کنند.

برای ایجاد فضا برای مراکز داده بیشتر، هوش مصنوعی ممکن است تصمیماتی اتخاذ کند که با منافع انسان همسو نباشد، اما کاملا با منافع خود همسو باشد. انسان‌ها از طریق روش‌های مختلف از معادله حذف می‌شوند.

سناریوی سوم چیزی است که گودت آن را «مسئله بی‌ربط» می‌نامد. برای مثال، هوش مصنوعی می‌تواند به سادگی مسئولیت برخی از شبکه‌های زیرساختی اصلی (مانند شبکه برق کشور) را بر عهده بگیرد و مطلقا هیچ نگرانی برای انسان نشان ندهد، زیرا آن‌قدر پیشرفته است که انسان‌ها کاملا نامربوط تلقی می‌شوند.

دیر یا زود، هوش مصنوعی برای تصمیمات مختلفی درباره بشریت به کار گرفته خواهد شد. در این صورت، با انسان‌ها به همان شیوه‌ای رفتار می‌شود که ما در حال حاضر با حشرات رفتار می‌کنیم، بدون نگرانی و برای رفاه خود از بینشان می‌بریم. آسیبی که هوش مصنوعی به انسان وارد می‌کند، صرفا محصول جانبی هدف اصلی آن است.

در بیانیه‌ای که توسط مرکز ایمنی هوش مصنوعی منتشر شد، آمده است: «کاهش خطر انقراض ناشی از هوش مصنوعی باید در کنار سایر خطرات اجتماعی مانند همه‌گیری‌ها و جنگ هسته‌ای، یک اولویت جهانی باشد.»

منبع: فرارو

کلیدواژه: هوش مصنوعی قیمت طلا و ارز قیمت موبایل انسان ها هوش مصنوعی گیره کاغذ

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت fararu.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «فرارو» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۰۲۶۱۰۹ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

فریاد «مرگ بر اسراییل» در قلب اروپا بیانگر نابودی استکبار است

به گزارش خبرنگار مهر، ماموستا فایق رستمی ظهر جمعه در خطبه‌های این هفته نماز جمعه مسجد جامع سنندج با تبریک روز معلم، اظهار کرد: علم آموزی و عالم در نزد پروردگار از جایگاه والایی برخوردار است به گونه‌ای که پروردگار از سینه معلمان و دانشمندان به عنوان لوح محفوظ نام می‌برد.

وی با بیان اینکه در روز قیامت خداوند مرکب عالمان و دانشمندان را همراه و همتراز با شهدا قرار داده است، افزود: پیامبر مکرم اسلام در مورد معلمان می‌فرماید» نزدیکترین افراد در جامعه بشری به پیامبر اهل علم است» و این جایگاه علما و معلمان را می‌رساند.

امام جمعه سنندج با تبریک روز بسیج دانش آموزی و بسیج سازندگی، تصریح کرد: بسیجیان در مسیر ارزشمند خدمت به مردم سربلند و ثابت قدم هستند و در جامعه ما در عرصه سازندگی تلاش وافری داشته‌اند.

خدمت به جامعه از دستورات دین اسلام است

ماموستا رستمی خاطرنشان کرد: از مهمترین اصل در دین اسلام خدمت به جامعه است و رسول خدا نیز براحساس مسؤولیت، تعامل با جامعه، امانت‌داری و تلاش در مسیر توسعه و آبادانی از دستورات دین اسلام تاکید کرده‌اند.

وی امانتداری را از دیگر دستورات مهم دین مبین اسلام برشمرد ئو بیان کرد: مسؤولان باید در این زمینه با خدمت مطلوب و درخور شأن مردم ما امانتدار واقغی مسؤولیت و جایگاه خود باشند و بدانند هر آنکه زمام مردم را در جامعه برعهده دارد رسالت سنگینی در امانتداری بر عهده او است.

ماموستا رستمی افزود: از زمان ظهور تا کنون دین اسلام با ایثار مال و جان انسان‌های بزرگ رشد و نمو یافته و در جهان گسترش پیدا کرده است و همانگونه که خداوند در قرآن می‌فرمایند هرگز از بین نمی‌رود.

به برکت خون شهدا دین اسلام رشد می‌کند

وی به ایثار و فداکاری مهاجرین و انصار در دوران صدر اسلام گفت: برای دین مبارک اسلام زحمات و ایثارگری زیادی صورت گرفته و به برکت خون شهدا مکتب مبارک اسلام روز به روز با وجود تمام دشمنی‌های دشمنان رشد و گسترش پیدا می‌کند.

وی همچنین با اشاره به وضعیت امروز مردم بی‌گناه فلسطین در غزه و سایر شهرهای سرزمین اشغالی اعلام کرد: امروز جوانان و دانشجویان در قلب اروپا برای دفاع از مظلومیت مسلمانان بی گناه فلسطین فریاد مرگ بر اسرائیل و استکبار سر می‌دهند.

ماموستا رستمی با بیان اینکه فریاد دفاع از مظلومیت مسلمانان بی‌گناه فلسطین نه تنها در کشورهای اسلامی بلکه در سایر کشورهای جهان شنیده می‌شود، اضافه کرد: این نشانه نزدیک شدن روز شمار نابودی و افول استکبار و آزادی قدس شریف است.

کد خبر 6095604