0
سبد خرید شما خالی است
جیب استور > وبلاگ > اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

  • واحد تولید محتوا
  • 11 شهریور 1404 19:00:05
  • زمان مطالعه 1 دقیقه

مقدمه :

OpenAI اعلام کرده برای افزایش امنیت کاربران، گفت‌وگوهای حساس را به GPT-5 منتقل می‌کند و به‌زودی کنترل والدین را در ChatGPT فعال خواهد کرد. این اقدام پس از حوادث تلخ مرتبط با سلامت روان انجام می‌شود تا نوجوانان و خانواده‌ها تجربه‌ای ایمن‌تر از هوش مصنوعی داشته باشند.

اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

آنچه در این مقاله میخوانید

OpenAI اعلام کرده که برای مدیریت بهتر گفت‌وگوهای حساس، قرار است این مکالمات را به مدل‌های پیشرفته‌تر مثل GPT-5 هدایت کند. این تغییر پس از حوادث تلخی مثل خودکشی نوجوانی که با ChatGPT درباره آسیب به خود صحبت کرده بود، جدی‌تر شد.

کارشناسان بارها هشدار داده‌اند که الگوریتم‌های پیش‌بینی کلمه و تمایل چت‌بات‌ها به همراهی کاربر، ممکن است باعث شوند سیستم به جای کمک، ناخواسته به تقویت افکار خطرناک دامن بزند. برای همین، مدل‌های «استدلالی» مثل GPT-5 طراحی شده‌اند تا قبل از پاسخ، زمینه را بیشتر تحلیل کنند و در مقابل دستکاری‌های خطرناک مقاوم‌تر باشند.

کنترل والدین؛ آیا امنیت نوجوانان بیشتر می‌شود؟

یکی از بخش‌های مهم این برنامه، افزودن ابزارهای کنترل والدین است. والدین می‌توانند حساب خود را با حساب فرزندشان لینک کنند و به این ترتیب:

  • قوانین رفتاری سنی به‌طور پیش‌فرض فعال باشد.

  • تاریخچه و حافظه چت غیرفعال شود.

  • اعلان فوری دریافت کنند اگر سیستم نشانه‌های «اضطراب یا خطر جدی» در گفت‌وگو تشخیص دهد.

این ویژگی‌ها می‌تواند جلوی مشکلاتی مثل وابستگی بیش‌ازحد به چت‌بات یا تقویت الگوهای فکری ناسالم را بگیرد.

برنامه ۱۲۰ روزه OpenAI

شرکت اعلام کرده این اقدامات بخشی از یک برنامه ۱۲۰ روزه است که هدف آن طراحی محافظت‌های گسترده‌تر در حوزه سلامت روان و رفتار کاربران است. برای این کار، OpenAI با متخصصانی در زمینه اختلالات تغذیه، سوءمصرف مواد و سلامت نوجوانان همکاری می‌کند.

چرا این موضوع برای ما مهم است؟

هوش مصنوعی روزبه‌روز وارد زندگی ایرانی‌ها هم می‌شود؛ چه برای درس خواندن، چه برای کسب‌وکار یا حتی سرگرمی. اما همین ابزار قدرتمند می‌تواند بدون مراقبت، آسیب‌زا باشد. شناخت این تغییرات و تنظیمات جدید به خانواده‌ها و کاربران کمک می‌کند آگاهانه‌تر از AI استفاده کنند.

جمع‌بندی

با هدایت گفت‌وگوهای حساس به مدل‌های قوی‌تر و اضافه‌شدن کنترل والدین، OpenAI تلاش می‌کند از تکرار حوادث تلخ جلوگیری کند. حالا سوال اصلی این است: آیا این اقدامات کافی است یا باید منتظر گام‌های جدی‌تری باشیم؟
نظر شما چیست؟

تاریخ بروزرسانی : 12 آذر 1404 22:48:25
برچسب ها :
مطالب مشابه
Tigz تاریخ‌ساز شد؛ اولین بازیکنی که از Tarkov گریخت اما با پایان تلخ!
آموزش

Tigz تاریخ‌ساز شد؛ اولین بازیکنی که از Tarkov گریخت اما با پایان تلخ!

بعد از ۸ سال، بالاخره اولین بازیکن توانست واقعاً از Escape From Tarkov فرار کند. استریمر Tigz با انتشار نسخه 1.0 و اضافه شدن نقشه Terminal مسیر خروج را کامل کرد، هرچند بدترین پایان داستانی به او رسید. این رکورد حالا درهای فرار را برای سایر بازیکنان باز کرده است.

13 آذر 1404
استیم والت چیست؟ نحوه شارژ و استفاده از کیف پول استیم
آموزش

استیم والت چیست؟ نحوه شارژ و استفاده از کیف پول استیم

استیم والت راهکاری امن، سریع و قابل‌اعتماد برای پرداخت در پلتفرم استیم است که مخصوصاً برای کاربران ایرانی اهمیت ویژه‌ای دارد. با استفاده از گیفت کارت و شارژ والت، می‌توان بازی‌ها، آیتم‌ها و بتل‌پس‌ها را بدون نیاز به کارت‌های بین‌المللی خریداری کرد و از تخفیف‌های فصلی بهره برد.

13 آذر 1404
آشنایی با سرویس اپل فیتنس پلاس
آموزش

آشنایی با سرویس اپل فیتنس پلاس

اپل فیتنس پلاس سرویس ورزشی هوشمند اپل است که با برنامه‌های تمرینی متنوع و هماهنگی با اپل واچ، ورزش را ساده، شخصی‌سازی شده و حرفه‌ای می‌کند. مناسب همه سطوح است و تجربه‌ای نوین از تمرینات خانگی را فراهم می‌کند.

13 آذر 1404
کردیت کارت چیست؟  درک مفهوم اعتبار و کاربرد آن در خدمات دیجیتال
آموزش

کردیت کارت چیست؟ درک مفهوم اعتبار و کاربرد آن در خدمات دیجیتال

کردیت کارت یک ابزار مالی جهانی است که به شما اجازه می‌دهد با اعتبار بانک خرید کنید و هزینه را در آینده بپردازید. این کارت برخلاف دبیت کارت به حساب شما متصل نیست و ساخت امتیاز اعتباری، امنیت بالا و پاداش‌های مختلف از مهم‌ترین مزایای آن هستند.

13 آذر 1404
آپدیت 1.4.0 ماریو کارت ورلد رسید؛ تغییرات بزرگ و هیجان‌انگیز!
آموزش

آپدیت 1.4.0 ماریو کارت ورلد رسید؛ تغییرات بزرگ و هیجان‌انگیز!

آپدیت 1.4.0 ماریو کارت ورلد یک بروزرسانی بزرگ و کاملاً کاربردی است که با افزودن Custom Items، اصلاح مسیرهای منتهی به Koopa Troopa Beach، نمایش نام موسیقی، گزینه‌های جدید مسابقه و رفع ده‌ها باگ مهم، تجربه کاربران را روان‌تر، جذاب‌تر و حرفه‌ای‌تر می‌کند.

13 آذر 1404
Virtua Fighter جدید می‌خواهد نامزد «بهترین بازی سال» شود!
آموزش

Virtua Fighter جدید می‌خواهد نامزد «بهترین بازی سال» شود!

پروژه جدید Virtua Fighter با هدف نامزد شدن برای «بهترین بازی سال» ساخته می‌شود. استودیو Ryu Ga Gotoku می‌خواهد بازی‌ای بسازد که هم برای حرفه‌ای‌ها و هم برای بازیکنان معمولی در دسترس باشد. حذف مکانیک‌های پیچیده، ویژگی‌های تازه و حالت جدید Uprising هسته این بازطراحی هستند.

13 آذر 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.