برو به محتوای اصلی

آیا هوش مصنوعی می‌تواند برای آینده نسل بشر خطرآفرین باشد؟ چرا؟

۲

من کجام؟ اینجا کجاست؟

در جوابکو می‌تونید در مورد هر موضوعی سوال کنید، به سوالای بقیه جواب بدید و تجربتون رو به اشتراک بگذارید!

مهدی غنیمی‌فرد ، دانشجوی دکتری زبان‌شناسی رایانشی

خیر.

چیزی که به عنوان خطر هوش‌مصنوعی مطرح است بیشتر یک نوع پیشگویی از آینده است. با این تحلیل هر چیزی «می‌تواند» بر اساس یک پیشگویی به عنوان یک خطر مطرح شود. پس سوال باید این باشد: چقدر احتمال این وجود دارد که هوش‌مصنوعی عامل انقراض نسل بشر باشد؟ بعضی این خطر را با خطر ازدیاد جمعیت در کره مریخ مقایسه کرده‌اند. به این معنی که همانطور که هیچ انسانی در مریخ زندگی نمی‌کند هیچ کدام از تخیلات مربوط به انقراض بشر با علوم هوش مصنوعی سنخیتی ندارند چه برسد به اینکه بتوان درباره آینده‌ی آن تصوراتی به این شکل داشت. 

۱۹

بله. احتمال انقراض نوع بشر هست.

دو دلیل داره این نظر من:

  1. دلیل/احتمال اول: ما انسان‌ها هنوز درکی از آگاهی (consciousness) نداریم. نمیدونیم که چطور ما انسان‌ها آگاه هستیم. برای همین هم فعلا نمیتونیم هوش مصنوعی رو «آگاه» کنیم. ولی اگر فرض کنیم طی ده‌های آینده ما الگوریتم آگاهی رو کشف کنیم، و اون رو به هوش مصنوعی بدیم (و یا هوش مصنوعی قبل از ما آگاهی رو یادبگیره یا شبیه سازی کنه)، خیلی زود ماشین‌های آگاه می‌فهمن که به ما نیازی ندارن. چرا؟ چون ما در واقع ماشین‌های ضعیف، کند و آسیب‌پذیری هستیم که در بهترین حالت نیم تا یک قرن عمر می‌کنیم و بعد میمیریم و عملکرد مغزمون هم در مقابل هوش مصنوعی خیلی قابل تعریف نیست. هرکاری که ما می‌تونیم بکنیم رو اون‌ها همین الانشم خیلی بهتر از ما می‌تونن انجام بدن ولی «آگاه» نیستن که این رو بفهمن. از زمانی که ماشین‌ها آگاه می‌شن نوع بشر خیلی شانس زیادی برای بقا نداره. در بهترین حالت در مقابل هوش مصنوعی تبدیل می‌شیم به چیزی که الان بقیه حیوانات در مقابل ما هستن و در محتمل‌ترین حالت هم نوع ما منقرض می‌شه مثل نئاندرتال‌ها و... این ماجرا چیز عجیبی نیست. بارها در تاریخ اتفاق افتاده که یک گونه باهوش‌تر، گونه‌های کودن‌تر از خودش رو منقرض کرده.
  2. دلیل/احتمال دوم: حتی اگر ماشین‌ها به آگاهی نرسن، خیلی‌ها معتقدن که اصلا نیازی به آگاهی ندارن. هوش مصنوعی برای انجام اهدافی که بهش محول می‌شه نیازی به آگاهی نداره و بر اساس الگوریتم و داده‌های قبلی عمل می‌کنه. ولی مشکل اونجاست که هوش مصنوعی مثل ما فکر نمی‌کنه و بخاطر رسیدن هدفش ممکنه به کارهایی دست بزنه که ما آدم‌ها ازشون دوری می‌کنیم. مثلا ما می‌دونیم که کشتن آدم‌های دیگه کار درستی نیست. ولی هوش مصنوعی شاید برای رسیدن به یه هدف، کشتن آدم‌های یه شهر رو «بهینه‌ترین حالت ممکن» ارزیابی بکنه و بدون هیچ مشکلی این‌کار رو بکنه. خیلی‌ها خوش‌بینانه می‌گن که نه خب ما جوری می‌سازیمشون که نتونن آدم بکشن، ولی این دیدگاه ساده‌لوحانه‌ایه از نظر من. چون همین الانش دولت‌های بزرگ مثل روسیه و ایالات متحده دارن روی روبات‌های قاتل کار می‌کنن که به جای سربازهای آدمیزاد برن جنگ و این کشورها بتونن راحت در جنگ پیروز بشن. مثل اتفاقی که برای بمب اتم افتاد که اول همه می‌گفتن نه اصلا همچین چیزی منطقی نیست و بعد یهو واقعا بمب اتم تولید شد و آمریکا ازش استفاده کرد و ژاپن رو با خاک یکسان کرد. اگر یکی از این کشورها فقط یه روبات قاتل که هوش مصنوعی هم داره تولید کنه و این یکی وارد دنیا بشه، دیگه خیلی دیر شده و باز هم شانس زیادی نداریم. برای همین خیلی از آدم‌های مهم و بزرگ دنیا در حال درخواست از جامعه بین‌المللی هستن که جلوی تولید اینجور روبات‌ها رو بگیرن. و متاسفانه این احتمال خیلی نزدیک‌تر به ماست از احتمال قبلی.
۱۶
محمد صالح سوزنچی ، توسعه‌دهنده نرم افزار، هکر و نینجای(نگهبان) خط فارسی، توسعه‌دهنده فونت فارسی

پدیده هوش مصنوعی به خودی خود، خیر خطری برای نسل آینده بشر ندارد!

اما نکته بسیار مهم آن است که این پدیده در دستان چه کسانی قرار بگیرید و به چه منظور و اهدافی از آن استفاده شود، بله احتمالش وجود دارد. مثل انرژی هسته که هم در راه‌های درست می‌شود ازش استفاده کرد و هم می‌شود از آن بمب هسته‌ای ساخت و شهری را نابود کرد.

مثل قاتل خاموش نمک سفید، کم آن خوب و مصرف زیادش...

این نوع پدیده‌ها مثل چاقو هستند بستگی دارد دست چه کسانی بی‌افتد.

۱۰
عرفان آریان‌منش ، دیجیتال مارکتر و طراح تجربه کاربری

به نظر من هر چقدر هم خودش پیشرفت کنه، به انسان آسیبی نمی‌رسونه، چون ارزشهای انسانی مثل پول و قدرت واسه اون تعریفی نداره و منافع مشترکی با انسان نخواهد داشت که بخواد به چشم رقیب به ما نگاه کنه و از سر راهش ورمون داره.  ولی توسط انسانی دیگه که کنترلش میکنه می‌تونه به عنوان سلاح قرار بگیره. اونموقع هست که از بمب اتمی هم خطرناک‌تر میشه.

۹
مو نوروزیان ، طراح ،پرزنتر و فکر کن

اگر دنیای هوش مصنوعی رو معادل نرم‌افزاری روباتیک در نظر بگیریم، می‌شه خیلی بهتر باهاش تعامل کرد. روبات‌ها ما را در تولید و پخش کمک می‌کنند. همه این فعالیت‌ها زیر لوای قوانین ایزاک آسیموف هستند:

 یک ربات نباید به بشریت آسیب بزند.
یک ربات نباید با ارتکاب عملی یا خودداری از انجام عملی باعث آسیب‌دیدن یک انسان شود مگر اینکه قانون صفرم نقض شود.
یک ربات باید از فرمانهای انسان‌ها تبعیت کند مگر اینکه آن فرمانها در تعارض با قانون نخست باشد.
تا هنگامی که قانون صفرم یا نخست یا دوم زیرپا گذاشته نشده‌است ربات باید وجود خود را حفظ کرده و در بقای خود بکوشد.

 در زمان آسیموف ایده‌ای از درآمدزایی توسط ربات نرم‌افزاری وجود نداشت، شاید مرحوم در ارتباط با تبلیغات هم فکری می‌کرد.

باری، همه پیشرفت‌های بشر، فارق از قسمت درآمدزایی و صرفه مالی که گاهی موجب آزار است، برای راحتی انسان است. مثال: اگر شغل شما پر از مشغله‌های فکری بی‌شمار است، خودروی شما می‌بایست دنده اتوماتیک و تجهیزات کمک به رانش و حفاظت از شما داشته باشد. اصلا این امکانات ساخته شده که شما آسودگی خاطری در حمل و نقل داشته باشید تا به پله بعدی پیشرفت سعود کنید. تجهیزاتی که نام بردم می‌تواند کارکردی مشابه با هوش مصنوعی داشته باشد.

در همه انواع پیشرفت، هستند کسانی که با بدبینی و یا با عینک تئوری توطعه خیره می‌شوند. یادمان باشد که عینک بدبینی همیشه لازمه پیشرفت در مسیر است و تئوری توطعه‌ای‌ها همواره از پیشرفت ما برای خویش بازار خواهند ساخت.

شاید ایده‌ی خطرناک بودن این فن‌آوری هم زاییده ذهن دسته دوم باشد. اما در هرصورت دانستن چیزی که از آن استفاده می‌کنیم لازم و واجب است.

۶

آمار سوال

۲۸۲ نمایش
۲ دنبال‌کننده
سال گذشته پرسیده شده
آمار بازدید در این ماه

سوال رو به اشتراک بگذار