آیا واقعاً «انگیزههای اشتباه» باعث خطاهای هوش مصنوعی میشوند؟
یکی از بزرگترین چالشهایی که هنوز سر راه هوش مصنوعی و بهویژه چتباتهایی مثل ChatGPT قرار دارد، خطاهای موسوم به «توهم» یا Hallucination است. منظور همان جملات شستهرفته و قانعکنندهای است که مدل میسازد، اما در واقعیت اشتباهاند.
چرا هوش مصنوعی مطمئن ولی اشتباه جواب میدهد؟
پژوهش تازهی OpenAI میگوید ریشهی این مشکل در نحوهی آموزش مدلهاست. مدلها در مرحلهی پیشآموزش (Pretraining) فقط یاد میگیرند «کلمهی بعدی» را درست حدس بزنند؛ نه اینکه آیا جملهی نهایی درست است یا نه. بنابراین وقتی پای اطلاعات کمتکرار مثل تاریخ تولد یک شخص خاص وسط باشد، مدلها الگویی برای اتکا ندارند و بهجای «نمیدانم»، یک جواب ساختگی اما قانعکننده میدهند.
به بیان ساده: جملات درست را میسازند چون الگو زیاد دیدهاند، اما جملات نادرست هم به همان روانی ساخته میشوند چون الگویی برای "رد کردن" ندارند.
آیا مقصر «ارزیابیها» هستند؟
نکتهی جالب مقاله اینجاست: خودِ آموزش مقصر اصلی نیست، بلکه شیوهی ارزیابی مدلها انگیزهی غلط ایجاد میکند.
-
وقتی مدل فقط بر اساس «درصد پاسخهای درست» نمره میگیرد، ترجیح میدهد حدس بزند تا اینکه جواب ندهد.
-
درست مثل آزمونی که اگر خالی بگذاری صفر میگیری، اما با شانسی زدن شاید امتیاز بگیری.
راهحل پیشنهادی پژوهشگران شبیه آزمونهایی مثل SAT است:
-
برای جواب اشتباه نمره منفی در نظر بگیری.
-
برای «نمیدانم» یا پاسخهای با عدم قطعیت، امتیاز جزئی یا حتی مثبت بدهی.
به این ترتیب، مدل یاد میگیرد بهجای اعتمادبهنفس کاذب، در جای درست شک کند.
چرا این موضوع مهم است؟
اگر معیارهای ارزیابی تغییر نکنند، حتی پیشرفتهترین مدلها هم همچنان به «حدسزدن» عادت میکنند. و این یعنی اعتماد کور به پاسخهای هوش مصنوعی همیشه خطرناک خواهد بود.
پژوهشگران OpenAI میگویند وقت آن رسیده که روش امتیازدهی و معیارهای اصلی تغییر کنند، نه اینکه فقط چند تست فرعی بهعنوان «آزمایش عدم قطعیت» اضافه شود.
جمعبندی
مشکل توهمهای هوش مصنوعی بهطور کامل حلشدنی نیست، اما میتوان با اصلاح معیارهای ارزیابی، شدت و تکرار آن را کم کرد. شاید وقتش رسیده کاربران هم در کنار سازندگان، فرهنگ «پرسیدنِ دوباره» و «اعتماد نکردن کورکورانه» را تمرین کنند.
نظر شما چیست؟ آیا حاضر هستید پاسخی نیمهمطمئن از یک مدل بگیرید، یا ترجیح میدهید همیشه جوابی قطعی اگر اشتباه باشد بشنوید؟
