برو به محتوای اصلی
سالار کابلی ، برنامه‌نویس.

بله. احتمال انقراض نوع بشر هست.

دو دلیل داره این نظر من:

  1. دلیل/احتمال اول: ما انسان‌ها هنوز درکی از آگاهی (consciousness) نداریم. نمیدونیم که چطور ما انسان‌ها آگاه هستیم. برای همین هم فعلا نمیتونیم هوش مصنوعی رو «آگاه» کنیم. ولی اگر فرض کنیم طی ده‌های آینده ما الگوریتم آگاهی رو کشف کنیم، و اون رو به هوش مصنوعی بدیم (و یا هوش مصنوعی قبل از ما آگاهی رو یادبگیره یا شبیه سازی کنه)، خیلی زود ماشین‌های آگاه می‌فهمن که به ما نیازی ندارن. چرا؟ چون ما در واقع ماشین‌های ضعیف، کند و آسیب‌پذیری هستیم که در بهترین حالت نیم تا یک قرن عمر می‌کنیم و بعد میمیریم و عملکرد مغزمون هم در مقابل هوش مصنوعی خیلی قابل تعریف نیست. هرکاری که ما می‌تونیم بکنیم رو اون‌ها همین الانشم خیلی بهتر از ما می‌تونن انجام بدن ولی «آگاه» نیستن که این رو بفهمن. از زمانی که ماشین‌ها آگاه می‌شن نوع بشر خیلی شانس زیادی برای بقا نداره. در بهترین حالت در مقابل هوش مصنوعی تبدیل می‌شیم به چیزی که الان بقیه حیوانات در مقابل ما هستن و در محتمل‌ترین حالت هم نوع ما منقرض می‌شه مثل نئاندرتال‌ها و... این ماجرا چیز عجیبی نیست. بارها در تاریخ اتفاق افتاده که یک گونه باهوش‌تر، گونه‌های کودن‌تر از خودش رو منقرض کرده.
  2. دلیل/احتمال دوم: حتی اگر ماشین‌ها به آگاهی نرسن، خیلی‌ها معتقدن که اصلا نیازی به آگاهی ندارن. هوش مصنوعی برای انجام اهدافی که بهش محول می‌شه نیازی به آگاهی نداره و بر اساس الگوریتم و داده‌های قبلی عمل می‌کنه. ولی مشکل اونجاست که هوش مصنوعی مثل ما فکر نمی‌کنه و بخاطر رسیدن هدفش ممکنه به کارهایی دست بزنه که ما آدم‌ها ازشون دوری می‌کنیم. مثلا ما می‌دونیم که کشتن آدم‌های دیگه کار درستی نیست. ولی هوش مصنوعی شاید برای رسیدن به یه هدف، کشتن آدم‌های یه شهر رو «بهینه‌ترین حالت ممکن» ارزیابی بکنه و بدون هیچ مشکلی این‌کار رو بکنه. خیلی‌ها خوش‌بینانه می‌گن که نه خب ما جوری می‌سازیمشون که نتونن آدم بکشن، ولی این دیدگاه ساده‌لوحانه‌ایه از نظر من. چون همین الانش دولت‌های بزرگ مثل روسیه و ایالات متحده دارن روی روبات‌های قاتل کار می‌کنن که به جای سربازهای آدمیزاد برن جنگ و این کشورها بتونن راحت در جنگ پیروز بشن. مثل اتفاقی که برای بمب اتم افتاد که اول همه می‌گفتن نه اصلا همچین چیزی منطقی نیست و بعد یهو واقعا بمب اتم تولید شد و آمریکا ازش استفاده کرد و ژاپن رو با خاک یکسان کرد. اگر یکی از این کشورها فقط یه روبات قاتل که هوش مصنوعی هم داره تولید کنه و این یکی وارد دنیا بشه، دیگه خیلی دیر شده و باز هم شانس زیادی نداریم. برای همین خیلی از آدم‌های مهم و بزرگ دنیا در حال درخواست از جامعه بین‌المللی هستن که جلوی تولید اینجور روبات‌ها رو بگیرن. و متاسفانه این احتمال خیلی نزدیک‌تر به ماست از احتمال قبلی.
۱۶
شقایق نبی‌بخش
کمی نگران‌کننده‌ست.
الناز نجفی
خیلی جالبه!! همیشه این موضوع من رو به فکر فرو میبره.
نمایش سوال