0
سبد خرید شما خالی است
جیب استور > وبلاگ > اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

  • واحد تولید محتوا
  • 11 شهریور 1404 19:00:05
  • زمان مطالعه 1 دقیقه

مقدمه :

OpenAI اعلام کرده برای افزایش امنیت کاربران، گفت‌وگوهای حساس را به GPT-5 منتقل می‌کند و به‌زودی کنترل والدین را در ChatGPT فعال خواهد کرد. این اقدام پس از حوادث تلخ مرتبط با سلامت روان انجام می‌شود تا نوجوانان و خانواده‌ها تجربه‌ای ایمن‌تر از هوش مصنوعی داشته باشند.

اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

آنچه در این مقاله میخوانید

OpenAI اعلام کرده که برای مدیریت بهتر گفت‌وگوهای حساس، قرار است این مکالمات را به مدل‌های پیشرفته‌تر مثل GPT-5 هدایت کند. این تغییر پس از حوادث تلخی مثل خودکشی نوجوانی که با ChatGPT درباره آسیب به خود صحبت کرده بود، جدی‌تر شد.

کارشناسان بارها هشدار داده‌اند که الگوریتم‌های پیش‌بینی کلمه و تمایل چت‌بات‌ها به همراهی کاربر، ممکن است باعث شوند سیستم به جای کمک، ناخواسته به تقویت افکار خطرناک دامن بزند. برای همین، مدل‌های «استدلالی» مثل GPT-5 طراحی شده‌اند تا قبل از پاسخ، زمینه را بیشتر تحلیل کنند و در مقابل دستکاری‌های خطرناک مقاوم‌تر باشند.

کنترل والدین؛ آیا امنیت نوجوانان بیشتر می‌شود؟

یکی از بخش‌های مهم این برنامه، افزودن ابزارهای کنترل والدین است. والدین می‌توانند حساب خود را با حساب فرزندشان لینک کنند و به این ترتیب:

  • قوانین رفتاری سنی به‌طور پیش‌فرض فعال باشد.

  • تاریخچه و حافظه چت غیرفعال شود.

  • اعلان فوری دریافت کنند اگر سیستم نشانه‌های «اضطراب یا خطر جدی» در گفت‌وگو تشخیص دهد.

این ویژگی‌ها می‌تواند جلوی مشکلاتی مثل وابستگی بیش‌ازحد به چت‌بات یا تقویت الگوهای فکری ناسالم را بگیرد.

برنامه ۱۲۰ روزه OpenAI

شرکت اعلام کرده این اقدامات بخشی از یک برنامه ۱۲۰ روزه است که هدف آن طراحی محافظت‌های گسترده‌تر در حوزه سلامت روان و رفتار کاربران است. برای این کار، OpenAI با متخصصانی در زمینه اختلالات تغذیه، سوءمصرف مواد و سلامت نوجوانان همکاری می‌کند.

چرا این موضوع برای ما مهم است؟

هوش مصنوعی روزبه‌روز وارد زندگی ایرانی‌ها هم می‌شود؛ چه برای درس خواندن، چه برای کسب‌وکار یا حتی سرگرمی. اما همین ابزار قدرتمند می‌تواند بدون مراقبت، آسیب‌زا باشد. شناخت این تغییرات و تنظیمات جدید به خانواده‌ها و کاربران کمک می‌کند آگاهانه‌تر از AI استفاده کنند.

جمع‌بندی

با هدایت گفت‌وگوهای حساس به مدل‌های قوی‌تر و اضافه‌شدن کنترل والدین، OpenAI تلاش می‌کند از تکرار حوادث تلخ جلوگیری کند. حالا سوال اصلی این است: آیا این اقدامات کافی است یا باید منتظر گام‌های جدی‌تری باشیم؟
نظر شما چیست؟

تاریخ بروزرسانی : 06 مرداد 1405 02:07:44
برچسب ها :
مطالب مشابه
تصاویر وایرال؛ ستاره‌های جام جهانی ۲۰۲۶ در دنیای GTA 6
آموزش

تصاویر وایرال؛ ستاره‌های جام جهانی ۲۰۲۶ در دنیای GTA 6

تصاویر خلاقانه‌ای از ستاره‌های جام جهانی ۲۰۲۶ در قالب شخصیت‌های GTA 6 منتشر شده و توجه طرفداران فوتبال و بازی‌های ویدیویی را جلب کرده است. هم‌زمان، شایعاتی درباره تبلیغ GTA 6 در جام جهانی نیز مطرح شده، اما راک‌استار هنوز واکنشی رسمی نشان نداده است.

06 مرداد 1405
شبیه‌ساز پلی استیشن ۵ همه را غافلگیر کرد؛ اولین بازی روی ویندوز بوت شد
آموزش

شبیه‌ساز پلی استیشن ۵ همه را غافلگیر کرد؛ اولین بازی روی ویندوز بوت شد

پیشرفت شبیه‌سازهای پلی استیشن ۵ سرعت گرفته و یکی از پروژه‌ها برای نخستین بار موفق به بوت بازی Demon's Souls Remake روی ویندوز شده است. هرچند اجرای کامل بازی‌ها هنوز ممکن نیست، اما این دستاورد می‌تواند آینده انتشار بازی‌هایی مانند GTA 6 روی PC را تحت تأثیر قرار دهد.

06 مرداد 1405
نینتندو سوییچ ۲ با باتری قابل تعویض از راه رسید
آموزش

نینتندو سوییچ ۲ با باتری قابل تعویض از راه رسید

نینتندو اعلام کرد نسخه جدید نینتندو سوییچ ۲ با باتری قابل تعویض از اواخر ۲۰۲۶ در اروپا عرضه می‌شود. این تغییر برای رعایت قوانین جدید اتحادیه اروپا انجام شده و با وجود افزایش جزئی وزن و کاهش اندک ظرفیت باتری، عملکرد کنسول تغییری نخواهد کرد.

06 مرداد 1405
بازی ۶ دلاری که همه غول‌های صنعت گیم را شکست!
آموزش

بازی ۶ دلاری که همه غول‌های صنعت گیم را شکست!

بازی مستقل MECCHA CHAMELEON تنها در کمتر از یک ماه از مرز ۱۵ میلیون نسخه فروش عبور کرد و به پرفروش‌ترین بازی سال ۲۰۲۶ تبدیل شد. این عنوان با پشت سر گذاشتن بازی‌های بزرگی مانند EA Sports FC و Resident Evil Requiem، رکوردی کم‌نظیر ثبت کرده است.

06 مرداد 1405
خرید بازی بدون پرداخت حتی یک ریال؛ ایده‌ای که گیمرها عاشقش شده‌اند
آموزش

خرید بازی بدون پرداخت حتی یک ریال؛ ایده‌ای که گیمرها عاشقش شده‌اند

یک توسعه‌دهنده وب‌سایتی به نام Steam Sales Simulator ساخته که تجربه خرید در حراج‌های استیم را بدون پرداخت پول واقعی شبیه‌سازی می‌کند. این پروژه با امکاناتی مانند اچیومنت، پروفایل، بازار مجازی و انیمیشن دریافت بازی، توجه بسیاری از گیمرها را به خود جلب کرده است.

06 مرداد 1405
اکتیویژن بالاخره تصمیم بزرگش را گرفت؛ Black Ops 6 مستقل شد
آموزش

اکتیویژن بالاخره تصمیم بزرگش را گرفت؛ Black Ops 6 مستقل شد

اکتیویژن اعلام کرد بازی Call of Duty: Black Ops 6 از ۱۶ تیر به‌صورت مستقل اجرا خواهد شد و دیگر به لانچر Call of Duty HQ وابسته نیست. این تصمیم با استقبال بخشی از کاربران روبه‌رو شده و شایعاتی درباره آینده نسخه‌های کلاسیک این مجموعه را نیز تقویت کرده است.

06 مرداد 1405

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.