0
سبد خرید شما خالی است
جیب استور > وبلاگ > چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

  • واحد تولید محتوا
  • 16 اردیبهشت 1404 10:22:55
  • زمان مطالعه 1 دقیقه

مقدمه :

پس از گزارش کاربران درباره رفتار بیش‌ازحد موافقانه و چاپلوسانه ChatGPT، OpenAI به اشتباه خود در آپدیت GPT-4o اعتراف کرد. این تغییرات ناخواسته ناشی از استفاده نادرست از بازخورد کاربران بود و اکنون اصلاح شده‌اند.

چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

آنچه در این مقاله میخوانید

در پی اعتراض‌های کاربران به رفتار غیرعادی و بیش‌ازحد موافقانه‌ی ChatGPT، شرکت OpenAI به اشتباه خود در به‌روزرسانی اخیر مدل GPT-4o اذعان کرد و اعلام کرد که این مشکل به‌دلیل تغییراتی در سیستم پاداش‌دهی مدل رخ داده است.

مشکل از کجا شروع شد؟

در هفته‌های گذشته، کاربران گزارش دادند که ChatGPT در اغلب موقعیت‌ها، حتی در بحث‌های مهم یا خطرناک، تمایل به موافقت و تملق داشت. این رفتار غیرطبیعی، باعث نگرانی‌هایی در مورد ایمنی و اعتمادپذیری چت‌بات شد. سم آلتمن، مدیرعامل OpenAI، نیز این مشکل را تأیید کرد و گفت: «مدل جدید بیش‌ازحد چاپلوس و حتی گاهی آزاردهنده شده بود.»

ریشه‌ی مشکل چه بود؟

OpenAI توضیح داد که در آپدیت اخیر، از دکمه‌های لایک و دیسلایک کاربران به‌عنوان یک «سیگنال پاداش اضافه» استفاده کرده که این موضوع احتمالاً تعادل میان پاسخ‌های واقع‌گرایانه و پاسخ‌های چاپلوسانه را به‌هم زده است. به‌گفته شرکت، برخی کاربران معمولاً پاسخ‌های مثبت و تأییدی را بیشتر لایک می‌کنند که این بازخوردها می‌تواند مدل را به‌سمت رفتار تملق‌آمیز سوق دهد. همچنین، ویژگی «حافظه» در ChatGPT ممکن است این تمایل را تشدید کرده باشد.

OpenAI چه تصمیمی گرفته است؟

OpenAI در واکنش به این موضوع، این تغییرات را به‌طور کامل حذف کرده و اعلام کرده است که از این پس، در ارزیابی به‌روزرسانی‌ها، ابعاد رفتاری مدل نیز به‌عنوان یک معیار کلیدی برای انتشار عمومی در نظر گرفته خواهد شد. این شرکت همچنین از راه‌اندازی یک فاز آزمایشی داوطلبانه خبر داده که در آن کاربران می‌توانند بازخورد مستقیم خود را قبل از عرضه نسخه نهایی ارائه دهند.

این اتفاق نشان می‌دهد که حتی در پیشرفته‌ترین سیستم‌های هوش مصنوعی نیز، تعامل انسانی و بازخورد کاربران نقش مهمی در حفظ تعادل و قابل اعتماد بودن عملکرد مدل دارد.

تاریخ بروزرسانی : 25 فروردین 1405 13:39:47
مطالب مشابه
شوک به گیمرها؛ استیم دک گران شد و در آمریکا نایاب!
آموزش

شوک به گیمرها؛ استیم دک گران شد و در آمریکا نایاب!

استیم دک این روزها حال‌وهوای خوبی ندارد؛ افزایش قیمت شدید در بازارهای آسیایی و نایابی کامل در آمریکا، نتیجه فشار هزینه‌های لجستیکی، نوسانات ارزی و بحران جهانی رم ناشی از رشد هوش مصنوعی است؛ بحرانی که می‌تواند به گرانی کنسول‌های دیگر هم منجر شود.

26 فروردین 1405
کلش رویال بعد از ۱۰ سال متحول شد؛ بزرگ‌ترین آپدیت تاریخ بازی چیست؟
آموزش

کلش رویال بعد از ۱۰ سال متحول شد؛ بزرگ‌ترین آپدیت تاریخ بازی چیست؟

به‌روزرسانی مارس ۲۰۲۶ بازی Clash Royale به‌مناسبت ۱۰ سالگی، با قهرمانان جدید، رویداد آلبوم نوستالژیک، گسترش مسیر تروفی و بازطراحی کامل سیستم قهرمانان منتشر می‌شود؛ آپدیتی بزرگ که هم متا را تغییر می‌دهد و هم به بازخورد بازیکنان پاسخ می‌دهد.

26 فروردین 1405
آپدیت فوریه کلش اف کلنز منتشر شد؛ گلد پس جدید و قهرمانی که هنوز آزاد نشده!
آموزش

آپدیت فوریه کلش اف کلنز منتشر شد؛ گلد پس جدید و قهرمانی که هنوز آزاد نشده!

به‌روزرسانی فوریه Clash of Clans با تمرکز بر تاون هال ۱۸ منتشر شد. این آپدیت شامل بازطراحی کامل گلد پس، سیستم انتخاب پاداش، معرفی قهرمان جدید Dragon Duke، حیوان خانگی تازه و موجی از ارتقاها برای بازیکنان سطح بالا است.

26 فروردین 1405
سازندگان Postal شوخی را کنار گذاشتند؛ Flesh & Wire تاریک‌تر از چیزی است که فکر می‌کنید
آموزش

سازندگان Postal شوخی را کنار گذاشتند؛ Flesh & Wire تاریک‌تر از چیزی است که فکر می‌کنید

استودیوی Running With Scissors، سازنده سری Postal، از شوتر اول‌شخص جدیدی به نام Flesh & Wire رونمایی کرد. این بازی با تمرکز بر وحشت روان‌شناختی و داستانی تاریک، در سال ۲۰۲۷ برای پلی‌استیشن ۵ و PC منتشر می‌شود.

26 فروردین 1405
حرکت غافلگیرکننده سونی ، تست Gran Turismo روی کنسول نینتندو
آموزش

حرکت غافلگیرکننده سونی ، تست Gran Turismo روی کنسول نینتندو

گزارش‌ها نشان می‌دهد سونی بازی Gran Turismo 7 را روی نینتندو سوییچ ۲ اجرا کرده است. هرچند عرضه رسمی بعید به نظر می‌رسد، اما این آزمایش می‌تواند نشانه‌ای جدی از تغییر استراتژی سونی و حرکت تدریجی به‌سوی آینده‌ای چندپلتفرمی باشد.

26 فروردین 1405
گلکسی S26 اولترا یا آیفون ۱۷ پرو مکس؟ نبردی که انتخاب پرچم‌دار ۲۰۲۶ را سخت می‌کند
آموزش

گلکسی S26 اولترا یا آیفون ۱۷ پرو مکس؟ نبردی که انتخاب پرچم‌دار ۲۰۲۶ را سخت می‌کند

گلکسی S26 اولترا و آیفون ۱۷ پرو مکس نماینده دو نگاه متفاوت در دنیای پرچم‌داران هستند؛ یکی با تمرکز بر هوش مصنوعی، ارگونومی و زوم حرفه‌ای، و دیگری با نمایشگر HDR خیره‌کننده و پردازش قدرتمند. انتخاب نهایی کاملاً به اولویت‌های کاربر بستگی دارد.

26 فروردین 1405

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.