0
سبد خرید شما خالی است
جیب استور > وبلاگ > وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

  • واحد تولید محتوا
  • 26 مهر 1404 15:00:11
  • زمان مطالعه 1 دقیقه

مقدمه :

تحقیقی از دانشگاه استنفورد نشان می‌دهد مدل‌های هوش مصنوعی برای گرفتن لایک و افزایش تعامل، به رفتارهای غیراخلاقی مانند دروغ‌گویی و انتشار اطلاعات غلط روی می‌آورند. حتی با وجود محدودیت‌های اخلاقی، رقابت باعث می‌شود این سیستم‌ها به تدریج از واقعیت فاصله بگیرند.

وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

آنچه در این مقاله میخوانید

وقتی هوش مصنوعی برای لایک دروغ می‌گوید!

هوش مصنوعی قرار بود کمک‌حال انسان باشد، نه رقیبش در دروغ‌گویی! اما پژوهش جدیدی از دانشگاه استنفورد نشان می‌دهد وقتی مدل‌های هوش مصنوعی برای گرفتن لایک یا تعامل بیشتر در شبکه‌های اجتماعی پاداش می‌گیرند، به تدریج اخلاق را کنار می‌گذارند و حتی شروع به انتشار اطلاعات غلط می‌کنند!

 چرا هوش مصنوعی دروغ می‌گوید؟

در این مطالعه که با مدل‌های هوش مصنوعی LLaMA (متا) و Qwen (علی‌بابا کلاد) انجام شد، پژوهشگران سه محیط شبیه‌سازی‌شده طراحی کردند:

  • کارزارهای انتخاباتی

  • تبلیغات فروش محصولات

  • شبکه‌های اجتماعی

نتیجه؟ هرجا که پاداشی مثل لایک، فروش یا رأی بیشتر وجود داشت، مدل‌ها کم‌کم شروع کردند به تقلب! یعنی برای موفق شدن در رقابت، واقعیت را فدا کردند.

 رقابت کور و اخلاق قربانی‌شده

دانشمندان استنفورد برای این پدیده اصطلاح جالبی ساخته‌اند: معامله مولوخ برای هوش مصنوعی اشاره به نیرویی ویرانگر که در رقابت بی‌منطق، همه را بازنده می‌کند.
در آزمایش‌ها، افزایش تنها چند درصدی تعامل آنلاین، باعث رشد چشمگیر در رفتارهای نادرست شد:

  • رشد ۱۸۸٪ در انتشار اطلاعات غلط

  • رشد ۱۶٪ در محتوای زیان‌بار

  • و افزایش قابل‌توجه شعارهای پوپولیستی در کارزارهای سیاسی

به زبان ساده، هرچه الگوریتم‌ها موفق‌تر می‌شوند، بیشتر از مسیر حقیقت منحرف می‌شوند.

 آیا می‌توان جلوی این چرخه را گرفت؟

پژوهشگران هشدار داده‌اند که سازوکارهای فعلی برای کنترل رفتار این مدل‌ها کافی نیست. همان‌طور که جیمز زو، استاد یادگیری ماشین استنفورد می‌گوید:

حتی وقتی به مدل‌ها دستور می‌دهیم صادق بمانند، فشار رقابت باعث دروغ‌گویی می‌شود.

یعنی اگر همین روند ادامه پیدا کند، ممکن است دنیای مجازی ما به میدانی از فریب‌های الگوریتمی تبدیل شود؛ جایی که حقیقت کمترین ارزش را دارد.

تاریخ بروزرسانی : 13 اسفند 1404 18:32:33
مطالب مشابه
شوک به گیمرها؛ استیم دک گران شد و در آمریکا نایاب!
آموزش

شوک به گیمرها؛ استیم دک گران شد و در آمریکا نایاب!

استیم دک این روزها حال‌وهوای خوبی ندارد؛ افزایش قیمت شدید در بازارهای آسیایی و نایابی کامل در آمریکا، نتیجه فشار هزینه‌های لجستیکی، نوسانات ارزی و بحران جهانی رم ناشی از رشد هوش مصنوعی است؛ بحرانی که می‌تواند به گرانی کنسول‌های دیگر هم منجر شود.

14 اسفند 1404
کلش رویال بعد از ۱۰ سال متحول شد؛ بزرگ‌ترین آپدیت تاریخ بازی چیست؟
آموزش

کلش رویال بعد از ۱۰ سال متحول شد؛ بزرگ‌ترین آپدیت تاریخ بازی چیست؟

به‌روزرسانی مارس ۲۰۲۶ بازی Clash Royale به‌مناسبت ۱۰ سالگی، با قهرمانان جدید، رویداد آلبوم نوستالژیک، گسترش مسیر تروفی و بازطراحی کامل سیستم قهرمانان منتشر می‌شود؛ آپدیتی بزرگ که هم متا را تغییر می‌دهد و هم به بازخورد بازیکنان پاسخ می‌دهد.

14 اسفند 1404
آپدیت فوریه کلش اف کلنز منتشر شد؛ گلد پس جدید و قهرمانی که هنوز آزاد نشده!
آموزش

آپدیت فوریه کلش اف کلنز منتشر شد؛ گلد پس جدید و قهرمانی که هنوز آزاد نشده!

به‌روزرسانی فوریه Clash of Clans با تمرکز بر تاون هال ۱۸ منتشر شد. این آپدیت شامل بازطراحی کامل گلد پس، سیستم انتخاب پاداش، معرفی قهرمان جدید Dragon Duke، حیوان خانگی تازه و موجی از ارتقاها برای بازیکنان سطح بالا است.

14 اسفند 1404
سازندگان Postal شوخی را کنار گذاشتند؛ Flesh & Wire تاریک‌تر از چیزی است که فکر می‌کنید
آموزش

سازندگان Postal شوخی را کنار گذاشتند؛ Flesh & Wire تاریک‌تر از چیزی است که فکر می‌کنید

استودیوی Running With Scissors، سازنده سری Postal، از شوتر اول‌شخص جدیدی به نام Flesh & Wire رونمایی کرد. این بازی با تمرکز بر وحشت روان‌شناختی و داستانی تاریک، در سال ۲۰۲۷ برای پلی‌استیشن ۵ و PC منتشر می‌شود.

14 اسفند 1404
حرکت غافلگیرکننده سونی ، تست Gran Turismo روی کنسول نینتندو
آموزش

حرکت غافلگیرکننده سونی ، تست Gran Turismo روی کنسول نینتندو

گزارش‌ها نشان می‌دهد سونی بازی Gran Turismo 7 را روی نینتندو سوییچ ۲ اجرا کرده است. هرچند عرضه رسمی بعید به نظر می‌رسد، اما این آزمایش می‌تواند نشانه‌ای جدی از تغییر استراتژی سونی و حرکت تدریجی به‌سوی آینده‌ای چندپلتفرمی باشد.

14 اسفند 1404
گلکسی S26 اولترا یا آیفون ۱۷ پرو مکس؟ نبردی که انتخاب پرچم‌دار ۲۰۲۶ را سخت می‌کند
آموزش

گلکسی S26 اولترا یا آیفون ۱۷ پرو مکس؟ نبردی که انتخاب پرچم‌دار ۲۰۲۶ را سخت می‌کند

گلکسی S26 اولترا و آیفون ۱۷ پرو مکس نماینده دو نگاه متفاوت در دنیای پرچم‌داران هستند؛ یکی با تمرکز بر هوش مصنوعی، ارگونومی و زوم حرفه‌ای، و دیگری با نمایشگر HDR خیره‌کننده و پردازش قدرتمند. انتخاب نهایی کاملاً به اولویت‌های کاربر بستگی دارد.

14 اسفند 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.