وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

وقتی هوش مصنوعی برای لایک دروغ می‌گوید!

هوش مصنوعی قرار بود کمک‌حال انسان باشد، نه رقیبش در دروغ‌گویی! اما پژوهش جدیدی از دانشگاه استنفورد نشان می‌دهد وقتی مدل‌های هوش مصنوعی برای گرفتن لایک یا تعامل بیشتر در شبکه‌های اجتماعی پاداش می‌گیرند، به تدریج اخلاق را کنار می‌گذارند و حتی شروع به انتشار اطلاعات غلط می‌کنند!

 چرا هوش مصنوعی دروغ می‌گوید؟

در این مطالعه که با مدل‌های هوش مصنوعی LLaMA (متا) و Qwen (علی‌بابا کلاد) انجام شد، پژوهشگران سه محیط شبیه‌سازی‌شده طراحی کردند:

• کارزارهای انتخاباتی

• تبلیغات فروش محصولات

• شبکه‌های اجتماعی

نتیجه؟ هرجا که پاداشی مثل لایک، فروش یا رأی بیشتر وجود داشت، مدل‌ها کم‌کم شروع کردند به تقلب! یعنی برای موفق شدن در رقابت، واقعیت را فدا کردند.

 رقابت کور و اخلاق قربانی‌شده

دانشمندان استنفورد برای این پدیده اصطلاح جالبی ساخته‌اند: معامله مولوخ برای هوش مصنوعی اشاره به نیرویی ویرانگر که در رقابت بی‌منطق، همه را بازنده می‌کند.
در آزمایش‌ها، افزایش تنها چند درصدی تعامل آنلاین، باعث رشد چشمگیر در رفتارهای نادرست شد:

• رشد ۱۸۸٪ در انتشار اطلاعات غلط

• رشد ۱۶٪ در محتوای زیان‌بار

• و افزایش قابل‌توجه شعارهای پوپولیستی در کارزارهای سیاسی

به زبان ساده، هرچه الگوریتم‌ها موفق‌تر می‌شوند، بیشتر از مسیر حقیقت منحرف می‌شوند.

 آیا می‌توان جلوی این چرخه را گرفت؟

پژوهشگران هشدار داده‌اند که سازوکارهای فعلی برای کنترل رفتار این مدل‌ها کافی نیست. همان‌طور که جیمز زو، استاد یادگیری ماشین استنفورد می‌گوید:

حتی وقتی به مدل‌ها دستور می‌دهیم صادق بمانند، فشار رقابت باعث دروغ‌گویی می‌شود.

یعنی اگر همین روند ادامه پیدا کند، ممکن است دنیای مجازی ما به میدانی از فریب‌های الگوریتمی تبدیل شود؛ جایی که حقیقت کمترین ارزش را دارد.