0
سبد خرید شما خالی است
جیب استور > وبلاگ > چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

  • واحد تولید محتوا
  • 16 اردیبهشت 1404 10:22:55
  • زمان مطالعه 1 دقیقه

مقدمه :

پس از گزارش کاربران درباره رفتار بیش‌ازحد موافقانه و چاپلوسانه ChatGPT، OpenAI به اشتباه خود در آپدیت GPT-4o اعتراف کرد. این تغییرات ناخواسته ناشی از استفاده نادرست از بازخورد کاربران بود و اکنون اصلاح شده‌اند.

چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

آنچه در این مقاله میخوانید

در پی اعتراض‌های کاربران به رفتار غیرعادی و بیش‌ازحد موافقانه‌ی ChatGPT، شرکت OpenAI به اشتباه خود در به‌روزرسانی اخیر مدل GPT-4o اذعان کرد و اعلام کرد که این مشکل به‌دلیل تغییراتی در سیستم پاداش‌دهی مدل رخ داده است.

مشکل از کجا شروع شد؟

در هفته‌های گذشته، کاربران گزارش دادند که ChatGPT در اغلب موقعیت‌ها، حتی در بحث‌های مهم یا خطرناک، تمایل به موافقت و تملق داشت. این رفتار غیرطبیعی، باعث نگرانی‌هایی در مورد ایمنی و اعتمادپذیری چت‌بات شد. سم آلتمن، مدیرعامل OpenAI، نیز این مشکل را تأیید کرد و گفت: «مدل جدید بیش‌ازحد چاپلوس و حتی گاهی آزاردهنده شده بود.»

ریشه‌ی مشکل چه بود؟

OpenAI توضیح داد که در آپدیت اخیر، از دکمه‌های لایک و دیسلایک کاربران به‌عنوان یک «سیگنال پاداش اضافه» استفاده کرده که این موضوع احتمالاً تعادل میان پاسخ‌های واقع‌گرایانه و پاسخ‌های چاپلوسانه را به‌هم زده است. به‌گفته شرکت، برخی کاربران معمولاً پاسخ‌های مثبت و تأییدی را بیشتر لایک می‌کنند که این بازخوردها می‌تواند مدل را به‌سمت رفتار تملق‌آمیز سوق دهد. همچنین، ویژگی «حافظه» در ChatGPT ممکن است این تمایل را تشدید کرده باشد.

OpenAI چه تصمیمی گرفته است؟

OpenAI در واکنش به این موضوع، این تغییرات را به‌طور کامل حذف کرده و اعلام کرده است که از این پس، در ارزیابی به‌روزرسانی‌ها، ابعاد رفتاری مدل نیز به‌عنوان یک معیار کلیدی برای انتشار عمومی در نظر گرفته خواهد شد. این شرکت همچنین از راه‌اندازی یک فاز آزمایشی داوطلبانه خبر داده که در آن کاربران می‌توانند بازخورد مستقیم خود را قبل از عرضه نسخه نهایی ارائه دهند.

این اتفاق نشان می‌دهد که حتی در پیشرفته‌ترین سیستم‌های هوش مصنوعی نیز، تعامل انسانی و بازخورد کاربران نقش مهمی در حفظ تعادل و قابل اعتماد بودن عملکرد مدل دارد.

تاریخ بروزرسانی : 09 خرداد 1405 13:45:08
مطالب مشابه
آموزش بازی در مپ Rondo پابجی موبایل؛ معرفی سلاح‌ها و ویژگی‌های جدید
آموزش

آموزش بازی در مپ Rondo پابجی موبایل؛ معرفی سلاح‌ها و ویژگی‌های جدید

نقشه Rondo جدیدترین مپ پابجی موبایل است که با ترکیب محیط‌های سنتی و مدرن، مناطق متنوع برای لوت، مکانیک‌های اختصاصی، فروشگاه‌های درون بازی، سلاح JS9 و خودروی Blanc تجربه‌ای متفاوت ارائه می‌دهد. شناخت مناطق فرود و استراتژی‌های بقا، شانس رسیدن به چیکن دینر را افزایش می‌دهد.

11 خرداد 1405
آموزش کاهش پینگ در بازی کالاف دیوتی موبایل؛ بررسی بهترین راهکارهای تست شده
آموزش

آموزش کاهش پینگ در بازی کالاف دیوتی موبایل؛ بررسی بهترین راهکارهای تست شده

کاهش پینگ در کالاف دیوتی موبایل فقط به اینترنت سریع وابسته نیست. با بهینه‌سازی تنظیمات گرافیکی، استفاده از DNS مناسب، مدیریت شبکه، کاهش پکت‌لاس، فعال‌سازی گیم مود و جلوگیری از داغ شدن گوشی می‌توان لگ را کاهش داد و تجربه‌ای روان‌تر و رقابتی‌تر داشت.

11 خرداد 1405
نحوه استفاده از بالون در کلش آف کلنز؛ آموزش حمله، دفاع و ترکیب‌های برتر
آموزش

نحوه استفاده از بالون در کلش آف کلنز؛ آموزش حمله، دفاع و ترکیب‌های برتر

بالون یکی از قدرتمندترین نیروهای هوایی کلش آف کلنز است که با هدف قرار دادن ساختمان‌های دفاعی، نقش مهمی در استراتژی‌های هوایی دارد. در این راهنما با ویژگی‌ها، نقاط قوت و ضعف، ترکیب‌های محبوب مانند لاوالون، کاربرد اسپل‌ها و تکنیک‌های حرفه‌ای حمله و دفاع آشنا می‌شوید.

11 خرداد 1405
آموزش ساخت کاپر گالم در ماینکرافت؛ از نحوه کرفت تا نگهداری Copper Golem
آموزش

آموزش ساخت کاپر گالم در ماینکرافت؛ از نحوه کرفت تا نگهداری Copper Golem

کاپر گالم در نسخه رسمی ماینکرفت وجود ندارد و تنها از طریق مادها و افزونه‌ها قابل استفاده است. در این آموزش، نحوه نصب ماد، جمع‌آوری منابع، ساخت Copper Golem، عملکرد آن در ردستون، چرخه اکسیداسیون، روش‌های نگهداری و احیای این ماب محبوب را بررسی کرده‌ایم.

11 خرداد 1405
آموزش خروج از بلک لیست فری فایر؛ بررسی تفاوت‌ها با بن، دلایل و راهکارهای بازگشت
آموزش

آموزش خروج از بلک لیست فری فایر؛ بررسی تفاوت‌ها با بن، دلایل و راهکارهای بازگشت

اگر اکانت فری فایر شما وارد بلک لیست شده، هنوز همه‌چیز تمام نشده است. این راهنما نشانه‌های بلک لیست، تفاوت آن با بن دائمی، دلایل محدود شدن اکانت، روش‌های رفع محدودیت، ارسال تیکت به گارنا و راهکارهای جلوگیری از تکرار این مشکل را توضیح می‌دهد.

11 خرداد 1405
چگونه مایک کالاف را فعال کنیم؟ آموزش گام‌به‌گام و رفع مشکلات رایج
آموزش

چگونه مایک کالاف را فعال کنیم؟ آموزش گام‌به‌گام و رفع مشکلات رایج

در این مقاله روش فعال‌سازی میکروفون در کالاف دیوتی موبایل برای اندروید و آیفون، تنظیمات چت صوتی داخل بازی و راهکارهای رفع باگ مایک آموزش داده شده است. همچنین مشکلات رایج صدا، نویز، قطع شدن ارتباط صوتی و تاثیر اینترنت، DNS و هندزفری بر کیفیت مکالمه بررسی می‌شود.

11 خرداد 1405

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.