دانشمندان جامعه ماکس پلانک ترس از این دارند که بشریت هرگز قادر به کنترل هوش مصنوعی فوق العاده هوشمند نباشد. این خطر وجود دارد که وقتی چنین هوش مصنوعی ایجاد می شود ، سناریوی ترمیناتور تحقق یابد (اقدام علمی تخیلی با آرنولد شوارتزنگر) ، گزارش technews.bg.
فوق مغز مصنوعی غیرقابل کنترل مدت ها دانشمندان و فلاسفه را نگران کرده است. بشر هنوز چنین عقلی را ایجاد نکرده است ، اما جامعه ماکس پلانک اکنون می ترسد که انسان هرگز نتواند آن را کنترل کند.
در یک مطالعه جدید منتشر شده در مجله تحقیقات هوش مصنوعی ، دانشمندان از محاسبات نظری استفاده می کنند تا عدم امکان اساسی کنترل هوش مصنوعی فوق هوشمند را تعیین کنید. آنها به موضوع محدود کردن هوش مصنوعی می پردازند. اگر الگوریتمی فراتر از هوش انسان باشد و به همه داده ها دسترسی داشته باشد ، تصمیم می گیرد که باید به انسان آسیب برساند یا بشریت را به طور کامل نابود کند ، پس چگونه می توان از این امر جلوگیری کرد؟ ، که هوش مصنوعی فوق العاده هوشمند را مسدود می کند ، می تواند مشکل را حل کند. در این حالت ، الگوریتم محدودیت نباید "هوشمند" کمتر از هوش مصنوعی فوق العاده هوشمند باشد. و این بدان معناست که مشکل قابل حل نیست.
البته ، استدلال در مورد ابرعقل مصنوعی فقط یک نظریه باقی مانده است ، زیرا بشریت هنوز از ایجاد چنین الگوریتم هایی فاصله دارد. اما طبق گفته محققان ، مردم باید از قبل آماده شوند ، زیرا در حال حاضر ماشین هایی وجود دارند که به تنهایی وظایف را انجام می دهند ، تا زمانی که برنامه نویسان از نحوه یادگیری آن مطلع شوند.
