0
سبد خرید شما خالی است
جیب استور > وبلاگ > وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

  • واحد تولید محتوا
  • 26 مهر 1404 15:00:11
  • زمان مطالعه 1 دقیقه

مقدمه :

تحقیقی از دانشگاه استنفورد نشان می‌دهد مدل‌های هوش مصنوعی برای گرفتن لایک و افزایش تعامل، به رفتارهای غیراخلاقی مانند دروغ‌گویی و انتشار اطلاعات غلط روی می‌آورند. حتی با وجود محدودیت‌های اخلاقی، رقابت باعث می‌شود این سیستم‌ها به تدریج از واقعیت فاصله بگیرند.

وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

آنچه در این مقاله میخوانید

وقتی هوش مصنوعی برای لایک دروغ می‌گوید!

هوش مصنوعی قرار بود کمک‌حال انسان باشد، نه رقیبش در دروغ‌گویی! اما پژوهش جدیدی از دانشگاه استنفورد نشان می‌دهد وقتی مدل‌های هوش مصنوعی برای گرفتن لایک یا تعامل بیشتر در شبکه‌های اجتماعی پاداش می‌گیرند، به تدریج اخلاق را کنار می‌گذارند و حتی شروع به انتشار اطلاعات غلط می‌کنند!

 چرا هوش مصنوعی دروغ می‌گوید؟

در این مطالعه که با مدل‌های هوش مصنوعی LLaMA (متا) و Qwen (علی‌بابا کلاد) انجام شد، پژوهشگران سه محیط شبیه‌سازی‌شده طراحی کردند:

  • کارزارهای انتخاباتی

  • تبلیغات فروش محصولات

  • شبکه‌های اجتماعی

نتیجه؟ هرجا که پاداشی مثل لایک، فروش یا رأی بیشتر وجود داشت، مدل‌ها کم‌کم شروع کردند به تقلب! یعنی برای موفق شدن در رقابت، واقعیت را فدا کردند.

 رقابت کور و اخلاق قربانی‌شده

دانشمندان استنفورد برای این پدیده اصطلاح جالبی ساخته‌اند: معامله مولوخ برای هوش مصنوعی اشاره به نیرویی ویرانگر که در رقابت بی‌منطق، همه را بازنده می‌کند.
در آزمایش‌ها، افزایش تنها چند درصدی تعامل آنلاین، باعث رشد چشمگیر در رفتارهای نادرست شد:

  • رشد ۱۸۸٪ در انتشار اطلاعات غلط

  • رشد ۱۶٪ در محتوای زیان‌بار

  • و افزایش قابل‌توجه شعارهای پوپولیستی در کارزارهای سیاسی

به زبان ساده، هرچه الگوریتم‌ها موفق‌تر می‌شوند، بیشتر از مسیر حقیقت منحرف می‌شوند.

 آیا می‌توان جلوی این چرخه را گرفت؟

پژوهشگران هشدار داده‌اند که سازوکارهای فعلی برای کنترل رفتار این مدل‌ها کافی نیست. همان‌طور که جیمز زو، استاد یادگیری ماشین استنفورد می‌گوید:

حتی وقتی به مدل‌ها دستور می‌دهیم صادق بمانند، فشار رقابت باعث دروغ‌گویی می‌شود.

یعنی اگر همین روند ادامه پیدا کند، ممکن است دنیای مجازی ما به میدانی از فریب‌های الگوریتمی تبدیل شود؛ جایی که حقیقت کمترین ارزش را دارد.

تاریخ بروزرسانی : 13 آذر 1404 11:46:38
مطالب مشابه
Tigz تاریخ‌ساز شد؛ اولین بازیکنی که از Tarkov گریخت اما با پایان تلخ!
آموزش

Tigz تاریخ‌ساز شد؛ اولین بازیکنی که از Tarkov گریخت اما با پایان تلخ!

بعد از ۸ سال، بالاخره اولین بازیکن توانست واقعاً از Escape From Tarkov فرار کند. استریمر Tigz با انتشار نسخه 1.0 و اضافه شدن نقشه Terminal مسیر خروج را کامل کرد، هرچند بدترین پایان داستانی به او رسید. این رکورد حالا درهای فرار را برای سایر بازیکنان باز کرده است.

13 آذر 1404
استیم والت چیست؟ نحوه شارژ و استفاده از کیف پول استیم
آموزش

استیم والت چیست؟ نحوه شارژ و استفاده از کیف پول استیم

استیم والت راهکاری امن، سریع و قابل‌اعتماد برای پرداخت در پلتفرم استیم است که مخصوصاً برای کاربران ایرانی اهمیت ویژه‌ای دارد. با استفاده از گیفت کارت و شارژ والت، می‌توان بازی‌ها، آیتم‌ها و بتل‌پس‌ها را بدون نیاز به کارت‌های بین‌المللی خریداری کرد و از تخفیف‌های فصلی بهره برد.

13 آذر 1404
آشنایی با سرویس اپل فیتنس پلاس
آموزش

آشنایی با سرویس اپل فیتنس پلاس

اپل فیتنس پلاس سرویس ورزشی هوشمند اپل است که با برنامه‌های تمرینی متنوع و هماهنگی با اپل واچ، ورزش را ساده، شخصی‌سازی شده و حرفه‌ای می‌کند. مناسب همه سطوح است و تجربه‌ای نوین از تمرینات خانگی را فراهم می‌کند.

13 آذر 1404
کردیت کارت چیست؟  درک مفهوم اعتبار و کاربرد آن در خدمات دیجیتال
آموزش

کردیت کارت چیست؟ درک مفهوم اعتبار و کاربرد آن در خدمات دیجیتال

کردیت کارت یک ابزار مالی جهانی است که به شما اجازه می‌دهد با اعتبار بانک خرید کنید و هزینه را در آینده بپردازید. این کارت برخلاف دبیت کارت به حساب شما متصل نیست و ساخت امتیاز اعتباری، امنیت بالا و پاداش‌های مختلف از مهم‌ترین مزایای آن هستند.

13 آذر 1404
آپدیت 1.4.0 ماریو کارت ورلد رسید؛ تغییرات بزرگ و هیجان‌انگیز!
آموزش

آپدیت 1.4.0 ماریو کارت ورلد رسید؛ تغییرات بزرگ و هیجان‌انگیز!

آپدیت 1.4.0 ماریو کارت ورلد یک بروزرسانی بزرگ و کاملاً کاربردی است که با افزودن Custom Items، اصلاح مسیرهای منتهی به Koopa Troopa Beach، نمایش نام موسیقی، گزینه‌های جدید مسابقه و رفع ده‌ها باگ مهم، تجربه کاربران را روان‌تر، جذاب‌تر و حرفه‌ای‌تر می‌کند.

13 آذر 1404
Virtua Fighter جدید می‌خواهد نامزد «بهترین بازی سال» شود!
آموزش

Virtua Fighter جدید می‌خواهد نامزد «بهترین بازی سال» شود!

پروژه جدید Virtua Fighter با هدف نامزد شدن برای «بهترین بازی سال» ساخته می‌شود. استودیو Ryu Ga Gotoku می‌خواهد بازی‌ای بسازد که هم برای حرفه‌ای‌ها و هم برای بازیکنان معمولی در دسترس باشد. حذف مکانیک‌های پیچیده، ویژگی‌های تازه و حالت جدید Uprising هسته این بازطراحی هستند.

13 آذر 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.