0
سبد خرید شما خالی است
جیب استور > وبلاگ > چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

  • واحد تولید محتوا
  • 16 اردیبهشت 1404 10:22:55
  • زمان مطالعه 1 دقیقه

مقدمه :

پس از گزارش کاربران درباره رفتار بیش‌ازحد موافقانه و چاپلوسانه ChatGPT، OpenAI به اشتباه خود در آپدیت GPT-4o اعتراف کرد. این تغییرات ناخواسته ناشی از استفاده نادرست از بازخورد کاربران بود و اکنون اصلاح شده‌اند.

چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

آنچه در این مقاله میخوانید

در پی اعتراض‌های کاربران به رفتار غیرعادی و بیش‌ازحد موافقانه‌ی ChatGPT، شرکت OpenAI به اشتباه خود در به‌روزرسانی اخیر مدل GPT-4o اذعان کرد و اعلام کرد که این مشکل به‌دلیل تغییراتی در سیستم پاداش‌دهی مدل رخ داده است.

مشکل از کجا شروع شد؟

در هفته‌های گذشته، کاربران گزارش دادند که ChatGPT در اغلب موقعیت‌ها، حتی در بحث‌های مهم یا خطرناک، تمایل به موافقت و تملق داشت. این رفتار غیرطبیعی، باعث نگرانی‌هایی در مورد ایمنی و اعتمادپذیری چت‌بات شد. سم آلتمن، مدیرعامل OpenAI، نیز این مشکل را تأیید کرد و گفت: «مدل جدید بیش‌ازحد چاپلوس و حتی گاهی آزاردهنده شده بود.»

ریشه‌ی مشکل چه بود؟

OpenAI توضیح داد که در آپدیت اخیر، از دکمه‌های لایک و دیسلایک کاربران به‌عنوان یک «سیگنال پاداش اضافه» استفاده کرده که این موضوع احتمالاً تعادل میان پاسخ‌های واقع‌گرایانه و پاسخ‌های چاپلوسانه را به‌هم زده است. به‌گفته شرکت، برخی کاربران معمولاً پاسخ‌های مثبت و تأییدی را بیشتر لایک می‌کنند که این بازخوردها می‌تواند مدل را به‌سمت رفتار تملق‌آمیز سوق دهد. همچنین، ویژگی «حافظه» در ChatGPT ممکن است این تمایل را تشدید کرده باشد.

OpenAI چه تصمیمی گرفته است؟

OpenAI در واکنش به این موضوع، این تغییرات را به‌طور کامل حذف کرده و اعلام کرده است که از این پس، در ارزیابی به‌روزرسانی‌ها، ابعاد رفتاری مدل نیز به‌عنوان یک معیار کلیدی برای انتشار عمومی در نظر گرفته خواهد شد. این شرکت همچنین از راه‌اندازی یک فاز آزمایشی داوطلبانه خبر داده که در آن کاربران می‌توانند بازخورد مستقیم خود را قبل از عرضه نسخه نهایی ارائه دهند.

این اتفاق نشان می‌دهد که حتی در پیشرفته‌ترین سیستم‌های هوش مصنوعی نیز، تعامل انسانی و بازخورد کاربران نقش مهمی در حفظ تعادل و قابل اعتماد بودن عملکرد مدل دارد.

تاریخ بروزرسانی : 25 تیر 1405 15:08:21
مطالب مشابه
تصاویر وایرال؛ ستاره‌های جام جهانی ۲۰۲۶ در دنیای GTA 6
آموزش

تصاویر وایرال؛ ستاره‌های جام جهانی ۲۰۲۶ در دنیای GTA 6

تصاویر خلاقانه‌ای از ستاره‌های جام جهانی ۲۰۲۶ در قالب شخصیت‌های GTA 6 منتشر شده و توجه طرفداران فوتبال و بازی‌های ویدیویی را جلب کرده است. هم‌زمان، شایعاتی درباره تبلیغ GTA 6 در جام جهانی نیز مطرح شده، اما راک‌استار هنوز واکنشی رسمی نشان نداده است.

25 تیر 1405
شبیه‌ساز پلی استیشن ۵ همه را غافلگیر کرد؛ اولین بازی روی ویندوز بوت شد
آموزش

شبیه‌ساز پلی استیشن ۵ همه را غافلگیر کرد؛ اولین بازی روی ویندوز بوت شد

پیشرفت شبیه‌سازهای پلی استیشن ۵ سرعت گرفته و یکی از پروژه‌ها برای نخستین بار موفق به بوت بازی Demon's Souls Remake روی ویندوز شده است. هرچند اجرای کامل بازی‌ها هنوز ممکن نیست، اما این دستاورد می‌تواند آینده انتشار بازی‌هایی مانند GTA 6 روی PC را تحت تأثیر قرار دهد.

25 تیر 1405
نینتندو سوییچ ۲ با باتری قابل تعویض از راه رسید
آموزش

نینتندو سوییچ ۲ با باتری قابل تعویض از راه رسید

نینتندو اعلام کرد نسخه جدید نینتندو سوییچ ۲ با باتری قابل تعویض از اواخر ۲۰۲۶ در اروپا عرضه می‌شود. این تغییر برای رعایت قوانین جدید اتحادیه اروپا انجام شده و با وجود افزایش جزئی وزن و کاهش اندک ظرفیت باتری، عملکرد کنسول تغییری نخواهد کرد.

25 تیر 1405
بازی ۶ دلاری که همه غول‌های صنعت گیم را شکست!
آموزش

بازی ۶ دلاری که همه غول‌های صنعت گیم را شکست!

بازی مستقل MECCHA CHAMELEON تنها در کمتر از یک ماه از مرز ۱۵ میلیون نسخه فروش عبور کرد و به پرفروش‌ترین بازی سال ۲۰۲۶ تبدیل شد. این عنوان با پشت سر گذاشتن بازی‌های بزرگی مانند EA Sports FC و Resident Evil Requiem، رکوردی کم‌نظیر ثبت کرده است.

25 تیر 1405
خرید بازی بدون پرداخت حتی یک ریال؛ ایده‌ای که گیمرها عاشقش شده‌اند
آموزش

خرید بازی بدون پرداخت حتی یک ریال؛ ایده‌ای که گیمرها عاشقش شده‌اند

یک توسعه‌دهنده وب‌سایتی به نام Steam Sales Simulator ساخته که تجربه خرید در حراج‌های استیم را بدون پرداخت پول واقعی شبیه‌سازی می‌کند. این پروژه با امکاناتی مانند اچیومنت، پروفایل، بازار مجازی و انیمیشن دریافت بازی، توجه بسیاری از گیمرها را به خود جلب کرده است.

25 تیر 1405
اکتیویژن بالاخره تصمیم بزرگش را گرفت؛ Black Ops 6 مستقل شد
آموزش

اکتیویژن بالاخره تصمیم بزرگش را گرفت؛ Black Ops 6 مستقل شد

اکتیویژن اعلام کرد بازی Call of Duty: Black Ops 6 از ۱۶ تیر به‌صورت مستقل اجرا خواهد شد و دیگر به لانچر Call of Duty HQ وابسته نیست. این تصمیم با استقبال بخشی از کاربران روبه‌رو شده و شایعاتی درباره آینده نسخه‌های کلاسیک این مجموعه را نیز تقویت کرده است.

25 تیر 1405

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.