مدیرعامل شرکت انتروپیک، داریو آمودی، در سخنانی جدید اعلام کرد که مدلهای هوش مصنوعی امروزی نسبت به انسانها کمتر دچار هذیانگویی و توهم میشوند. او این موضوع را در راستای توضیحات گستردهتری در خصوص توسعه هوش مصنوعی انسانگونه (AGI) بیان کرده است.
توهم در هوش مصنوعی و تفاوت با انسانها
در دنیای هوش مصنوعی، "توهم" یا "هذیانگویی" به وضعیتی گفته میشود که مدلهای هوش مصنوعی اطلاعات نادرستی را با قطعیت و بهصورت درست ارائه میدهند. آمودی در این خصوص اظهار داشت که مدلهای هوش مصنوعی فعلی نسبت به انسانها کمتر دچار این مشکل میشوند، اما این توهمها میتوانند غیرمنتظره و پیچیدهتر باشند.
نظر مدیران دیگر در مورد وضعیت هوش مصنوعی
آمودی یکی از خوشبینترین فعالان حوزه هوش مصنوعی است و معتقد است که هوش مصنوعی انسانگونه (AGI) ممکن است تا سال 2026 محقق شود. این در حالی است که برخی دیگر از فعالان حوزه همچون دِمیس هاسابیس، مدیرعامل گوگل دیپمایند، به وجود "حفرهها" در مدلهای هوش مصنوعی اشاره کردهاند و گفتهاند که این مدلها در بسیاری از موارد ساده دچار اشتباهات اساسی میشوند.
چالشهای هوش مصنوعی و عملکرد آن
در حالی که برخی مدلها مانند GPT-4.5 عملکرد بهتری در کاهش نرخ توهم دارند، دادهها نشان میدهند که مدلهای پیشرفتهتر در استدلال گاهی دچار ضعفهایی هستند که ممکن است باعث افزایش توهمها شود. حتی برخی مدلها مانند o3 و o4-mini از نسلهای قبلی عملکرد ضعیفتری از نظر دقت و صحت اطلاعات دارند.
نتیجهگیری
آمودی در پایان به این نکته اشاره کرد که خطاهای مدلهای هوش مصنوعی نباید بهعنوان نشانهای از ضعف هوشمندی آنها تلقی شود. با این حال، نحوهی ارائه اطلاعات نادرست با قطعیت میتواند چالشهای جدیای ایجاد کند. این نکات باید در توسعهی سیستمهای هوش مصنوعی مدنظر قرار گیرند تا استفاده از این فناوری در آینده بهینهتر و دقیقتر شود.
