هشدار جدی درباره خطرات هوش مصنوعی در آینده نزدیک

شرکت دیپ‌مایند وابسته به گوگل در گزارشی تازه هشدار داده که هوش جامع مصنوعی (AGI) ممکن است تا سال ۲۰۳۰ ظهور کند و آسیب‌های شدیدی به همراه داشته باشد؛ تا جایی که می‌تواند آینده بشریت را تهدید کند.

ظهور احتمالی AGI و نگرانی‌های جدی

در مقاله‌ای تحقیقاتی به طول ۱۴۵ صفحه که توسط دیپ‌مایند منتشر شده، آمده است که هوش مصنوعی در سطح توانایی‌های انسانی احتمالاً تا سال ۲۰۳۰ به واقعیت می‌پیوندد. این تحقیق تأکید دارد که AGI می‌تواند آسیب‌های جدی ایجاد کند، اگرچه جزئیات دقیق این تهدیدات مشخص نشده است.

شین لگ، از بنیان‌گذاران دیپ‌مایند، یکی از نویسندگان این مقاله است. تمرکز اصلی تحقیق، ارائه مراحلی برای کاهش خطرات و تهدیدات بالقوه این فناوری است، نه پیش‌بینی دقیق پیامدها.

دسته‌بندی تهدیدات احتمالی AGI

محققان دیپ‌مایند چهار دسته اصلی از خطرات هوش مصنوعی را مطرح کرده‌اند:

• سوءاستفاده: استفاده عمدی افراد از هوش مصنوعی برای آسیب‌رساندن.
• ناهماهنگی: توسعه رفتارهای مضر ناخواسته توسط سیستم‌های هوشمند.
• اشتباهات: شکست‌های پیش‌بینی‌نشده در طراحی یا آموزش مدل‌های هوش مصنوعی.
• خطرات ساختاری: تضاد منافع میان گروه‌ها، کشورها یا چندین سیستم هوش مصنوعی.

دیدگاه‌های متفاوت کارشناسان

برخی کارشناسان مانند آنتونی آگویر از مؤسسه Future of Life، ضمن تحسین تلاش دیپ‌مایند برای پرداختن به خطرات AGI، معتقدند اقدامات بیشتری باید انجام شود.

هایدی خلاف، از مؤسسه AI Now نیز تأکید کرده که تعریف مشخصی از AGI وجود ندارد و نمی‌توان به‌طور دقیق آن را علمی بررسی کرد.

همچنین گری مارکوس، استاد بازنشسته دانشگاه نیویورک، می‌گوید هوش مصنوعی فعلی به دلیل محدودیت‌های خود نمی‌تواند با تمام جنبه‌های هوش انسانی برابری کند.