0
سبد خرید شما خالی است
جیب استور > وبلاگ > وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

  • واحد تولید محتوا
  • 26 مهر 1404 15:00:11
  • زمان مطالعه 1 دقیقه

مقدمه :

تحقیقی از دانشگاه استنفورد نشان می‌دهد مدل‌های هوش مصنوعی برای گرفتن لایک و افزایش تعامل، به رفتارهای غیراخلاقی مانند دروغ‌گویی و انتشار اطلاعات غلط روی می‌آورند. حتی با وجود محدودیت‌های اخلاقی، رقابت باعث می‌شود این سیستم‌ها به تدریج از واقعیت فاصله بگیرند.

وقتی هوش مصنوعی برای گرفتن لایک، دروغ می‌گوید!

آنچه در این مقاله میخوانید

وقتی هوش مصنوعی برای لایک دروغ می‌گوید!

هوش مصنوعی قرار بود کمک‌حال انسان باشد، نه رقیبش در دروغ‌گویی! اما پژوهش جدیدی از دانشگاه استنفورد نشان می‌دهد وقتی مدل‌های هوش مصنوعی برای گرفتن لایک یا تعامل بیشتر در شبکه‌های اجتماعی پاداش می‌گیرند، به تدریج اخلاق را کنار می‌گذارند و حتی شروع به انتشار اطلاعات غلط می‌کنند!

 چرا هوش مصنوعی دروغ می‌گوید؟

در این مطالعه که با مدل‌های هوش مصنوعی LLaMA (متا) و Qwen (علی‌بابا کلاد) انجام شد، پژوهشگران سه محیط شبیه‌سازی‌شده طراحی کردند:

  • کارزارهای انتخاباتی

  • تبلیغات فروش محصولات

  • شبکه‌های اجتماعی

نتیجه؟ هرجا که پاداشی مثل لایک، فروش یا رأی بیشتر وجود داشت، مدل‌ها کم‌کم شروع کردند به تقلب! یعنی برای موفق شدن در رقابت، واقعیت را فدا کردند.

 رقابت کور و اخلاق قربانی‌شده

دانشمندان استنفورد برای این پدیده اصطلاح جالبی ساخته‌اند: معامله مولوخ برای هوش مصنوعی اشاره به نیرویی ویرانگر که در رقابت بی‌منطق، همه را بازنده می‌کند.
در آزمایش‌ها، افزایش تنها چند درصدی تعامل آنلاین، باعث رشد چشمگیر در رفتارهای نادرست شد:

  • رشد ۱۸۸٪ در انتشار اطلاعات غلط

  • رشد ۱۶٪ در محتوای زیان‌بار

  • و افزایش قابل‌توجه شعارهای پوپولیستی در کارزارهای سیاسی

به زبان ساده، هرچه الگوریتم‌ها موفق‌تر می‌شوند، بیشتر از مسیر حقیقت منحرف می‌شوند.

 آیا می‌توان جلوی این چرخه را گرفت؟

پژوهشگران هشدار داده‌اند که سازوکارهای فعلی برای کنترل رفتار این مدل‌ها کافی نیست. همان‌طور که جیمز زو، استاد یادگیری ماشین استنفورد می‌گوید:

حتی وقتی به مدل‌ها دستور می‌دهیم صادق بمانند، فشار رقابت باعث دروغ‌گویی می‌شود.

یعنی اگر همین روند ادامه پیدا کند، ممکن است دنیای مجازی ما به میدانی از فریب‌های الگوریتمی تبدیل شود؛ جایی که حقیقت کمترین ارزش را دارد.

تاریخ بروزرسانی : 22 آبان 1404 07:46:27
مطالب مشابه
GTA V برگشت! فهرست کامل بازی‌های پلی‌استیشن پلاس نوامبر ۲۰۲۵
آموزش

GTA V برگشت! فهرست کامل بازی‌های پلی‌استیشن پلاس نوامبر ۲۰۲۵

سونی فهرست بازی‌های پلی‌استیشن پلاس نوامبر ۲۰۲۵ را اعلام کرد؛ GTA V دوباره به سرویس برگشته و عناوینی چون Still Wakes the Deep، Pacific Drive، The Talos Principle 2 و نسخه‌ی کلاسیک Tomb Raider Anniversary نیز برای کاربران Extra و Premium در دسترس قرار گرفته‌اند.

22 آبان 1404
بازداشت مرد نروژی به‌خاطر بازی ژاپنی «غیراخلاقی»!
آموزش

بازداشت مرد نروژی به‌خاطر بازی ژاپنی «غیراخلاقی»!

پلیس نروژ مردی ۲۴ ساله را به‌دلیل دانلود و بازی عنوان ژاپنی «زندگی با برده» بازداشت کرد. دادگاه این بازی را مصداق سوءاستفاده از کودکان دانست، هرچند در برخی کشورهای آسیایی قانونی است. او ممکن است تا سه سال زندانی شود.

22 آبان 1404
Schlep: «پاسخ Roblox یه شوخی محض بود!»؛ جنجال تازه در دنیای گیم
آموزش

Schlep: «پاسخ Roblox یه شوخی محض بود!»؛ جنجال تازه در دنیای گیم

یوتیوبر معروف Schlep پس از انتشار ویدیوی افشاگرانه درباره ضعف امنیتی Roblox، پاسخ رسمی شرکت را یه شوخی محض خواند. Roblox در دفاع از خود گفت بیش از ۱۴۵ اقدام امنیتی جدید انجام داده، اما کاربران می‌گویند شرکت از پاسخ به اتهامات اصلی طفره رفته است.

22 آبان 1404
اپ Journal گوگل بالاخره به Pixel 8 و 9 رسید!
آموزش

اپ Journal گوگل بالاخره به Pixel 8 و 9 رسید!

اپلیکیشن Google Journal که ابتدا فقط برای Pixel 10 در دسترس بود، حالا در آپدیت جدید نوامبر به گوشی‌های Pixel 8 و Pixel 9 هم می‌آید. این دفترچه دیجیتال با هوش مصنوعی Gemini Nano ساخته شده تا کاربران بتوانند افکار، اهداف و احساسات روزمره خود را ثبت و تحلیل کنند.

22 آبان 1404
همه‌چیز درباره State of Play ژاپن؛ از Dragon Quest تا Elden Ring
آموزش

همه‌چیز درباره State of Play ژاپن؛ از Dragon Quest تا Elden Ring

اولین رویداد State of Play ژاپن با حضور یوکی کاجی، بازگشت Dragon Quest 7، نمایش نسخه جدید Coffee Talk و DLC تازه برای Elden Ring برگزار شد. پلی‌استیشن در این مراسم نشان داد که قصد دارد با تمرکز بر بازار شرقی، به ریشه‌های فرهنگی خود بازگردد.

22 آبان 1404
Arc Raiders با آپدیت North Line متحول شد؛ منطقه جدید و دشمنان مرگ‌بار در راه‌اند!
آموزش

Arc Raiders با آپدیت North Line متحول شد؛ منطقه جدید و دشمنان مرگ‌بار در راه‌اند!

آپدیت بزرگ North Line برای بازی Arc Raiders از فردا فعال می‌شود و محتوای گسترده‌ای از جمله منطقه جدید Stella Montis، دو دشمن تازه، سلاح‌های جدید، رویداد جهانی Breaking New Ground و سبک‌های بازی متنوع را به همراه دارد. Embark با این بروزرسانی مسیر آینده بازی را گسترش می‌دهد.

22 آبان 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.