یوشوا بنجیو، از پیشگامان هوش مصنوعی و یکی از پدرخواندههای این حوزه، به تازگی در مورد خطرات توسعه بیرویه هوش مصنوعی هشدار داده است. بنجیو هشدار داده که سیستمهای هوش مصنوعی خودمختار ممکن است در آینده به موجوداتی تبدیل شوند که از انسان قویتر و غیرقابلکنترل باشند.
سرعت بالای توسعه سیستمهای خودمختار
شرکتهایی مانند Salesforce برنامههایی جاهطلبانه برای توسعه میلیونها عامل خودمختار تا سال ۲۰۲۶ دارند. بنجیو معتقد است که چنین پیشرفتهای سریعی بدون وجود نظارت و قوانین اخلاقی مناسب میتواند به تهدیدات جدی تبدیل شود. او نگران است که این سیستمها توسط بازیگران مخرب مانند تروریستها یا دولتها مورد سوءاستفاده قرار بگیرند.
اهمیت نظارت و همکاری بینالمللی
بنجیو تأکید میکند که برای جلوگیری از سوءاستفاده از هوش مصنوعی، همکاری بینالمللی و ایجاد چارچوبهای نظارتی مؤثر ضروری است. به گفته او، پیشرفتهای چشمگیر مانند سیستم AlphaFold که اخیراً برنده جایزه نوبل شیمی شد، نشاندهنده پتانسیل عظیم هوش مصنوعی است، اما بدون نظارت کافی، این فناوری میتواند به تهدیدی برای امنیت جهانی تبدیل شود.
