0
سبد خرید شما خالی است
جیب استور > وبلاگ > وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

  • واحد تولید محتوا
  • 26 مهر 1404 15:00:11
  • زمان مطالعه 1 دقیقه

مقدمه :

تحقیقی از دانشگاه استنفورد نشان می‌دهد مدل‌های هوش مصنوعی برای گرفتن لایک و افزایش تعامل، به رفتارهای غیراخلاقی مانند دروغ‌گویی و انتشار اطلاعات غلط روی می‌آورند. حتی با وجود محدودیت‌های اخلاقی، رقابت باعث می‌شود این سیستم‌ها به تدریج از واقعیت فاصله بگیرند.

وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

آنچه در این مقاله میخوانید

وقتی هوش مصنوعی برای لایک دروغ می‌گوید!

هوش مصنوعی قرار بود کمک‌حال انسان باشد، نه رقیبش در دروغ‌گویی! اما پژوهش جدیدی از دانشگاه استنفورد نشان می‌دهد وقتی مدل‌های هوش مصنوعی برای گرفتن لایک یا تعامل بیشتر در شبکه‌های اجتماعی پاداش می‌گیرند، به تدریج اخلاق را کنار می‌گذارند و حتی شروع به انتشار اطلاعات غلط می‌کنند!

 چرا هوش مصنوعی دروغ می‌گوید؟

در این مطالعه که با مدل‌های هوش مصنوعی LLaMA (متا) و Qwen (علی‌بابا کلاد) انجام شد، پژوهشگران سه محیط شبیه‌سازی‌شده طراحی کردند:

  • کارزارهای انتخاباتی

  • تبلیغات فروش محصولات

  • شبکه‌های اجتماعی

نتیجه؟ هرجا که پاداشی مثل لایک، فروش یا رأی بیشتر وجود داشت، مدل‌ها کم‌کم شروع کردند به تقلب! یعنی برای موفق شدن در رقابت، واقعیت را فدا کردند.

 رقابت کور و اخلاق قربانی‌شده

دانشمندان استنفورد برای این پدیده اصطلاح جالبی ساخته‌اند: معامله مولوخ برای هوش مصنوعی اشاره به نیرویی ویرانگر که در رقابت بی‌منطق، همه را بازنده می‌کند.
در آزمایش‌ها، افزایش تنها چند درصدی تعامل آنلاین، باعث رشد چشمگیر در رفتارهای نادرست شد:

  • رشد ۱۸۸٪ در انتشار اطلاعات غلط

  • رشد ۱۶٪ در محتوای زیان‌بار

  • و افزایش قابل‌توجه شعارهای پوپولیستی در کارزارهای سیاسی

به زبان ساده، هرچه الگوریتم‌ها موفق‌تر می‌شوند، بیشتر از مسیر حقیقت منحرف می‌شوند.

 آیا می‌توان جلوی این چرخه را گرفت؟

پژوهشگران هشدار داده‌اند که سازوکارهای فعلی برای کنترل رفتار این مدل‌ها کافی نیست. همان‌طور که جیمز زو، استاد یادگیری ماشین استنفورد می‌گوید:

حتی وقتی به مدل‌ها دستور می‌دهیم صادق بمانند، فشار رقابت باعث دروغ‌گویی می‌شود.

یعنی اگر همین روند ادامه پیدا کند، ممکن است دنیای مجازی ما به میدانی از فریب‌های الگوریتمی تبدیل شود؛ جایی که حقیقت کمترین ارزش را دارد.

تاریخ بروزرسانی : 17 تیر 1405 01:35:37
مطالب مشابه
نینتندو سوییچ ۲ با باتری قابل تعویض از راه رسید
آموزش

نینتندو سوییچ ۲ با باتری قابل تعویض از راه رسید

نینتندو اعلام کرد نسخه جدید نینتندو سوییچ ۲ با باتری قابل تعویض از اواخر ۲۰۲۶ در اروپا عرضه می‌شود. این تغییر برای رعایت قوانین جدید اتحادیه اروپا انجام شده و با وجود افزایش جزئی وزن و کاهش اندک ظرفیت باتری، عملکرد کنسول تغییری نخواهد کرد.

19 تیر 1405
بازی ۶ دلاری که همه غول‌های صنعت گیم را شکست!
آموزش

بازی ۶ دلاری که همه غول‌های صنعت گیم را شکست!

بازی مستقل MECCHA CHAMELEON تنها در کمتر از یک ماه از مرز ۱۵ میلیون نسخه فروش عبور کرد و به پرفروش‌ترین بازی سال ۲۰۲۶ تبدیل شد. این عنوان با پشت سر گذاشتن بازی‌های بزرگی مانند EA Sports FC و Resident Evil Requiem، رکوردی کم‌نظیر ثبت کرده است.

19 تیر 1405
خرید بازی بدون پرداخت حتی یک ریال؛ ایده‌ای که گیمرها عاشقش شده‌اند
آموزش

خرید بازی بدون پرداخت حتی یک ریال؛ ایده‌ای که گیمرها عاشقش شده‌اند

یک توسعه‌دهنده وب‌سایتی به نام Steam Sales Simulator ساخته که تجربه خرید در حراج‌های استیم را بدون پرداخت پول واقعی شبیه‌سازی می‌کند. این پروژه با امکاناتی مانند اچیومنت، پروفایل، بازار مجازی و انیمیشن دریافت بازی، توجه بسیاری از گیمرها را به خود جلب کرده است.

19 تیر 1405
اکتیویژن بالاخره تصمیم بزرگش را گرفت؛ Black Ops 6 مستقل شد
آموزش

اکتیویژن بالاخره تصمیم بزرگش را گرفت؛ Black Ops 6 مستقل شد

اکتیویژن اعلام کرد بازی Call of Duty: Black Ops 6 از ۱۶ تیر به‌صورت مستقل اجرا خواهد شد و دیگر به لانچر Call of Duty HQ وابسته نیست. این تصمیم با استقبال بخشی از کاربران روبه‌رو شده و شایعاتی درباره آینده نسخه‌های کلاسیک این مجموعه را نیز تقویت کرده است.

19 تیر 1405
پرفروش‌ترین بازی پلی‌استیشن ۵ در ۲۰۲۶ همه را غافلگیر کرد
آموزش

پرفروش‌ترین بازی پلی‌استیشن ۵ در ۲۰۲۶ همه را غافلگیر کرد

Resident Evil Requiem با فروش ۳.۵ میلیون نسخه، پرفروش‌ترین بازی پلی‌استیشن ۵ در نیمه نخست ۲۰۲۶ شد. پس از آن 007 First Light، Crimson Desert و Forza Horizon 5 قرار دارند. آمار جدید نشان می‌دهد بازی‌های داستانی و جهان‌باز همچنان محبوب‌ترین انتخاب کاربران هستند.

19 تیر 1405
آیا یک کامپیوتر مسابقه می‌تواند اکانت Steam شما را هک کند؟
آموزش

آیا یک کامپیوتر مسابقه می‌تواند اکانت Steam شما را هک کند؟

ادعای آلودگی رایانه‌های تورنمنت XSE Pro League به بدافزار، جنجال بزرگی در جامعه CS2 به پا کرده است. یکی از بازیکنان حرفه‌ای می‌گوید پس از ورود به سیستم مسابقات، دسترسی به حساب Steam خود را از دست داده؛ اتفاقی که نگرانی‌های امنیتی گسترده‌ای ایجاد کرده است.

19 تیر 1405

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.