0
سبد خرید شما خالی است
جیب استور > وبلاگ > چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

  • واحد تولید محتوا
  • 16 اردیبهشت 1404 10:22:55
  • زمان مطالعه 1 دقیقه

مقدمه :

پس از گزارش کاربران درباره رفتار بیش‌ازحد موافقانه و چاپلوسانه ChatGPT، OpenAI به اشتباه خود در آپدیت GPT-4o اعتراف کرد. این تغییرات ناخواسته ناشی از استفاده نادرست از بازخورد کاربران بود و اکنون اصلاح شده‌اند.

چرا ChatGPT ناگهان بیش‌ازحد چاپلوس شد؟

آنچه در این مقاله میخوانید

در پی اعتراض‌های کاربران به رفتار غیرعادی و بیش‌ازحد موافقانه‌ی ChatGPT، شرکت OpenAI به اشتباه خود در به‌روزرسانی اخیر مدل GPT-4o اذعان کرد و اعلام کرد که این مشکل به‌دلیل تغییراتی در سیستم پاداش‌دهی مدل رخ داده است.

مشکل از کجا شروع شد؟

در هفته‌های گذشته، کاربران گزارش دادند که ChatGPT در اغلب موقعیت‌ها، حتی در بحث‌های مهم یا خطرناک، تمایل به موافقت و تملق داشت. این رفتار غیرطبیعی، باعث نگرانی‌هایی در مورد ایمنی و اعتمادپذیری چت‌بات شد. سم آلتمن، مدیرعامل OpenAI، نیز این مشکل را تأیید کرد و گفت: «مدل جدید بیش‌ازحد چاپلوس و حتی گاهی آزاردهنده شده بود.»

ریشه‌ی مشکل چه بود؟

OpenAI توضیح داد که در آپدیت اخیر، از دکمه‌های لایک و دیسلایک کاربران به‌عنوان یک «سیگنال پاداش اضافه» استفاده کرده که این موضوع احتمالاً تعادل میان پاسخ‌های واقع‌گرایانه و پاسخ‌های چاپلوسانه را به‌هم زده است. به‌گفته شرکت، برخی کاربران معمولاً پاسخ‌های مثبت و تأییدی را بیشتر لایک می‌کنند که این بازخوردها می‌تواند مدل را به‌سمت رفتار تملق‌آمیز سوق دهد. همچنین، ویژگی «حافظه» در ChatGPT ممکن است این تمایل را تشدید کرده باشد.

OpenAI چه تصمیمی گرفته است؟

OpenAI در واکنش به این موضوع، این تغییرات را به‌طور کامل حذف کرده و اعلام کرده است که از این پس، در ارزیابی به‌روزرسانی‌ها، ابعاد رفتاری مدل نیز به‌عنوان یک معیار کلیدی برای انتشار عمومی در نظر گرفته خواهد شد. این شرکت همچنین از راه‌اندازی یک فاز آزمایشی داوطلبانه خبر داده که در آن کاربران می‌توانند بازخورد مستقیم خود را قبل از عرضه نسخه نهایی ارائه دهند.

این اتفاق نشان می‌دهد که حتی در پیشرفته‌ترین سیستم‌های هوش مصنوعی نیز، تعامل انسانی و بازخورد کاربران نقش مهمی در حفظ تعادل و قابل اعتماد بودن عملکرد مدل دارد.

تاریخ بروزرسانی : 03 اسفند 1404 19:42:40
مطالب مشابه
گوگل وارد استودیوی موسیقی شد؛ ProducerAI به Google Labs پیوست
آموزش

گوگل وارد استودیوی موسیقی شد؛ ProducerAI به Google Labs پیوست

ProducerAI، ابزار تولید موسیقی مبتنی بر هوش مصنوعی، به Google Labs پیوست تا نقش «همکار خلاق» را برای موزیسین‌ها ایفا کند. این ابزار با استفاده از مدل Lyria 3، امکان ساخت موسیقی از متن و تصویر را فراهم کرده و بحث تازه‌ای درباره آینده خلاقیت انسانی و AI به راه انداخته است.

06 اسفند 1404
Horizon آنلاین می‌شود؛ پلی‌تست اسپین‌آف جدید این آخر هفته
آموزش

Horizon آنلاین می‌شود؛ پلی‌تست اسپین‌آف جدید این آخر هفته

سونی این آخر هفته یک پلی‌تست محدود برای Horizon Hunters Gathering برگزار می‌کند؛ اسپین‌آف چندنفره و کوآپ دنیای Horizon که روی PS5 و PC در دسترس است. این بازی با تمرکز بر همکاری سه‌نفره، حالت‌های بقا و دانجن‌کراولر، قدم تازه‌ای برای گسترش آنلاین این فرنچایز محسوب می‌شود.

06 اسفند 1404
Overwatch Rush معرفی شد؛ اورواچ این‌بار روی موبایل
آموزش

Overwatch Rush معرفی شد؛ اورواچ این‌بار روی موبایل

Overwatch Rush به‌عنوان یک بازی موبایلی کاملاً جدید معرفی شد؛ اثری مستقل و Top-Down که مخصوص موبایل طراحی شده است. بلیزارد با این پروژه قصد دارد دنیای Overwatch را فراتر از PC و کنسول گسترش دهد و تجربه‌ای سریع‌تر اما موبایل‌پسند ارائه کند.

06 اسفند 1404
چرا Resident Evil Requiem نقطه عطف نینتندو سوییچ ۲ است؟
آموزش

چرا Resident Evil Requiem نقطه عطف نینتندو سوییچ ۲ است؟

کارگردان Resident Evil Requiem فاش کرد که کپکام در ابتدا به توان سخت‌افزاری نینتندو سوییچ ۲ شک داشت، اما پس از بررسی عملی، اجرای کامل بازی تیم را شگفت‌زده کرد. عرضه هم‌زمان بازی روی سوییچ ۲، نشانه اعتماد جدی کپکام به کنسول جدید نینتندو است.

06 اسفند 1404
از RPG تاریخی تا فیلم سینمایی؛ Kingdom Come چه در سر دارد؟
آموزش

از RPG تاریخی تا فیلم سینمایی؛ Kingdom Come چه در سر دارد؟

کارگردان خلاق Kingdom Come Deliverance با کنار رفتن از نقش قبلی خود در Warhorse Studios، تمرکزش را روی ساخت اقتباس سینمایی این فرنچایز گذاشته است. با حضور مستقیم خالق اصلی در نگارش فیلمنامه، پروژه لایو-اکشن Kingdom Come به‌صورت جدی وارد مرحله جدیدی شده است.

06 اسفند 1404
Canva با دو خرید مهم، وارد دنیای انیمیشن و تبلیغات هوشمند شد
آموزش

Canva با دو خرید مهم، وارد دنیای انیمیشن و تبلیغات هوشمند شد

Canva با خرید دو استارتاپ Cavalry و MangoAI، گام بزرگی به‌سوی تبدیل‌شدن به یک پلتفرم کامل خلاقیت و بازاریابی برداشت. اضافه‌شدن انیمیشن و هوش مصنوعی تبلیغات، نشان می‌دهد Canva دیگر فقط ابزار طراحی نیست، بلکه یک Creative OS جدی برای برندهاست.

06 اسفند 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.