0
سبد خرید شما خالی است
جیب استور > وبلاگ > اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

  • واحد تولید محتوا
  • 11 شهریور 1404 19:00:05
  • زمان مطالعه 1 دقیقه

مقدمه :

OpenAI اعلام کرده برای افزایش امنیت کاربران، گفت‌وگوهای حساس را به GPT-5 منتقل می‌کند و به‌زودی کنترل والدین را در ChatGPT فعال خواهد کرد. این اقدام پس از حوادث تلخ مرتبط با سلامت روان انجام می‌شود تا نوجوانان و خانواده‌ها تجربه‌ای ایمن‌تر از هوش مصنوعی داشته باشند.

اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

آنچه در این مقاله میخوانید

OpenAI اعلام کرده که برای مدیریت بهتر گفت‌وگوهای حساس، قرار است این مکالمات را به مدل‌های پیشرفته‌تر مثل GPT-5 هدایت کند. این تغییر پس از حوادث تلخی مثل خودکشی نوجوانی که با ChatGPT درباره آسیب به خود صحبت کرده بود، جدی‌تر شد.

کارشناسان بارها هشدار داده‌اند که الگوریتم‌های پیش‌بینی کلمه و تمایل چت‌بات‌ها به همراهی کاربر، ممکن است باعث شوند سیستم به جای کمک، ناخواسته به تقویت افکار خطرناک دامن بزند. برای همین، مدل‌های «استدلالی» مثل GPT-5 طراحی شده‌اند تا قبل از پاسخ، زمینه را بیشتر تحلیل کنند و در مقابل دستکاری‌های خطرناک مقاوم‌تر باشند.

کنترل والدین؛ آیا امنیت نوجوانان بیشتر می‌شود؟

یکی از بخش‌های مهم این برنامه، افزودن ابزارهای کنترل والدین است. والدین می‌توانند حساب خود را با حساب فرزندشان لینک کنند و به این ترتیب:

  • قوانین رفتاری سنی به‌طور پیش‌فرض فعال باشد.

  • تاریخچه و حافظه چت غیرفعال شود.

  • اعلان فوری دریافت کنند اگر سیستم نشانه‌های «اضطراب یا خطر جدی» در گفت‌وگو تشخیص دهد.

این ویژگی‌ها می‌تواند جلوی مشکلاتی مثل وابستگی بیش‌ازحد به چت‌بات یا تقویت الگوهای فکری ناسالم را بگیرد.

برنامه ۱۲۰ روزه OpenAI

شرکت اعلام کرده این اقدامات بخشی از یک برنامه ۱۲۰ روزه است که هدف آن طراحی محافظت‌های گسترده‌تر در حوزه سلامت روان و رفتار کاربران است. برای این کار، OpenAI با متخصصانی در زمینه اختلالات تغذیه، سوءمصرف مواد و سلامت نوجوانان همکاری می‌کند.

چرا این موضوع برای ما مهم است؟

هوش مصنوعی روزبه‌روز وارد زندگی ایرانی‌ها هم می‌شود؛ چه برای درس خواندن، چه برای کسب‌وکار یا حتی سرگرمی. اما همین ابزار قدرتمند می‌تواند بدون مراقبت، آسیب‌زا باشد. شناخت این تغییرات و تنظیمات جدید به خانواده‌ها و کاربران کمک می‌کند آگاهانه‌تر از AI استفاده کنند.

جمع‌بندی

با هدایت گفت‌وگوهای حساس به مدل‌های قوی‌تر و اضافه‌شدن کنترل والدین، OpenAI تلاش می‌کند از تکرار حوادث تلخ جلوگیری کند. حالا سوال اصلی این است: آیا این اقدامات کافی است یا باید منتظر گام‌های جدی‌تری باشیم؟
نظر شما چیست؟

تاریخ بروزرسانی : 12 اسفند 1404 15:08:00
برچسب ها :
مطالب مشابه
شوک به گیمرها؛ استیم دک گران شد و در آمریکا نایاب!
آموزش

شوک به گیمرها؛ استیم دک گران شد و در آمریکا نایاب!

استیم دک این روزها حال‌وهوای خوبی ندارد؛ افزایش قیمت شدید در بازارهای آسیایی و نایابی کامل در آمریکا، نتیجه فشار هزینه‌های لجستیکی، نوسانات ارزی و بحران جهانی رم ناشی از رشد هوش مصنوعی است؛ بحرانی که می‌تواند به گرانی کنسول‌های دیگر هم منجر شود.

14 اسفند 1404
کلش رویال بعد از ۱۰ سال متحول شد؛ بزرگ‌ترین آپدیت تاریخ بازی چیست؟
آموزش

کلش رویال بعد از ۱۰ سال متحول شد؛ بزرگ‌ترین آپدیت تاریخ بازی چیست؟

به‌روزرسانی مارس ۲۰۲۶ بازی Clash Royale به‌مناسبت ۱۰ سالگی، با قهرمانان جدید، رویداد آلبوم نوستالژیک، گسترش مسیر تروفی و بازطراحی کامل سیستم قهرمانان منتشر می‌شود؛ آپدیتی بزرگ که هم متا را تغییر می‌دهد و هم به بازخورد بازیکنان پاسخ می‌دهد.

14 اسفند 1404
آپدیت فوریه کلش اف کلنز منتشر شد؛ گلد پس جدید و قهرمانی که هنوز آزاد نشده!
آموزش

آپدیت فوریه کلش اف کلنز منتشر شد؛ گلد پس جدید و قهرمانی که هنوز آزاد نشده!

به‌روزرسانی فوریه Clash of Clans با تمرکز بر تاون هال ۱۸ منتشر شد. این آپدیت شامل بازطراحی کامل گلد پس، سیستم انتخاب پاداش، معرفی قهرمان جدید Dragon Duke، حیوان خانگی تازه و موجی از ارتقاها برای بازیکنان سطح بالا است.

14 اسفند 1404
سازندگان Postal شوخی را کنار گذاشتند؛ Flesh & Wire تاریک‌تر از چیزی است که فکر می‌کنید
آموزش

سازندگان Postal شوخی را کنار گذاشتند؛ Flesh & Wire تاریک‌تر از چیزی است که فکر می‌کنید

استودیوی Running With Scissors، سازنده سری Postal، از شوتر اول‌شخص جدیدی به نام Flesh & Wire رونمایی کرد. این بازی با تمرکز بر وحشت روان‌شناختی و داستانی تاریک، در سال ۲۰۲۷ برای پلی‌استیشن ۵ و PC منتشر می‌شود.

14 اسفند 1404
حرکت غافلگیرکننده سونی ، تست Gran Turismo روی کنسول نینتندو
آموزش

حرکت غافلگیرکننده سونی ، تست Gran Turismo روی کنسول نینتندو

گزارش‌ها نشان می‌دهد سونی بازی Gran Turismo 7 را روی نینتندو سوییچ ۲ اجرا کرده است. هرچند عرضه رسمی بعید به نظر می‌رسد، اما این آزمایش می‌تواند نشانه‌ای جدی از تغییر استراتژی سونی و حرکت تدریجی به‌سوی آینده‌ای چندپلتفرمی باشد.

14 اسفند 1404
گلکسی S26 اولترا یا آیفون ۱۷ پرو مکس؟ نبردی که انتخاب پرچم‌دار ۲۰۲۶ را سخت می‌کند
آموزش

گلکسی S26 اولترا یا آیفون ۱۷ پرو مکس؟ نبردی که انتخاب پرچم‌دار ۲۰۲۶ را سخت می‌کند

گلکسی S26 اولترا و آیفون ۱۷ پرو مکس نماینده دو نگاه متفاوت در دنیای پرچم‌داران هستند؛ یکی با تمرکز بر هوش مصنوعی، ارگونومی و زوم حرفه‌ای، و دیگری با نمایشگر HDR خیره‌کننده و پردازش قدرتمند. انتخاب نهایی کاملاً به اولویت‌های کاربر بستگی دارد.

14 اسفند 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.