اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

OpenAI اعلام کرده که برای مدیریت بهتر گفت‌وگوهای حساس، قرار است این مکالمات را به مدل‌های پیشرفته‌تر مثل GPT-5 هدایت کند. این تغییر پس از حوادث تلخی مثل خودکشی نوجوانی که با ChatGPT درباره آسیب به خود صحبت کرده بود، جدی‌تر شد.

کارشناسان بارها هشدار داده‌اند که الگوریتم‌های پیش‌بینی کلمه و تمایل چت‌بات‌ها به همراهی کاربر، ممکن است باعث شوند سیستم به جای کمک، ناخواسته به تقویت افکار خطرناک دامن بزند. برای همین، مدل‌های «استدلالی» مثل GPT-5 طراحی شده‌اند تا قبل از پاسخ، زمینه را بیشتر تحلیل کنند و در مقابل دستکاری‌های خطرناک مقاوم‌تر باشند.

کنترل والدین؛ آیا امنیت نوجوانان بیشتر می‌شود؟

یکی از بخش‌های مهم این برنامه، افزودن ابزارهای کنترل والدین است. والدین می‌توانند حساب خود را با حساب فرزندشان لینک کنند و به این ترتیب:

• قوانین رفتاری سنی به‌طور پیش‌فرض فعال باشد.

• تاریخچه و حافظه چت غیرفعال شود.

• اعلان فوری دریافت کنند اگر سیستم نشانه‌های «اضطراب یا خطر جدی» در گفت‌وگو تشخیص دهد.

این ویژگی‌ها می‌تواند جلوی مشکلاتی مثل وابستگی بیش‌ازحد به چت‌بات یا تقویت الگوهای فکری ناسالم را بگیرد.

برنامه ۱۲۰ روزه OpenAI

شرکت اعلام کرده این اقدامات بخشی از یک برنامه ۱۲۰ روزه است که هدف آن طراحی محافظت‌های گسترده‌تر در حوزه سلامت روان و رفتار کاربران است. برای این کار، OpenAI با متخصصانی در زمینه اختلالات تغذیه، سوءمصرف مواد و سلامت نوجوانان همکاری می‌کند.

چرا این موضوع برای ما مهم است؟

هوش مصنوعی روزبه‌روز وارد زندگی ایرانی‌ها هم می‌شود؛ چه برای درس خواندن، چه برای کسب‌وکار یا حتی سرگرمی. اما همین ابزار قدرتمند می‌تواند بدون مراقبت، آسیب‌زا باشد. شناخت این تغییرات و تنظیمات جدید به خانواده‌ها و کاربران کمک می‌کند آگاهانه‌تر از AI استفاده کنند.

جمع‌بندی

با هدایت گفت‌وگوهای حساس به مدل‌های قوی‌تر و اضافه‌شدن کنترل والدین، OpenAI تلاش می‌کند از تکرار حوادث تلخ جلوگیری کند. حالا سوال اصلی این است: آیا این اقدامات کافی است یا باید منتظر گام‌های جدی‌تری باشیم؟
نظر شما چیست؟