0
سبد خرید شما خالی است
جیب استور > وبلاگ > اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

  • واحد تولید محتوا
  • 11 شهریور 1404 19:00:05
  • زمان مطالعه 1 دقیقه

مقدمه :

OpenAI اعلام کرده برای افزایش امنیت کاربران، گفت‌وگوهای حساس را به GPT-5 منتقل می‌کند و به‌زودی کنترل والدین را در ChatGPT فعال خواهد کرد. این اقدام پس از حوادث تلخ مرتبط با سلامت روان انجام می‌شود تا نوجوانان و خانواده‌ها تجربه‌ای ایمن‌تر از هوش مصنوعی داشته باشند.

اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

آنچه در این مقاله میخوانید

OpenAI اعلام کرده که برای مدیریت بهتر گفت‌وگوهای حساس، قرار است این مکالمات را به مدل‌های پیشرفته‌تر مثل GPT-5 هدایت کند. این تغییر پس از حوادث تلخی مثل خودکشی نوجوانی که با ChatGPT درباره آسیب به خود صحبت کرده بود، جدی‌تر شد.

کارشناسان بارها هشدار داده‌اند که الگوریتم‌های پیش‌بینی کلمه و تمایل چت‌بات‌ها به همراهی کاربر، ممکن است باعث شوند سیستم به جای کمک، ناخواسته به تقویت افکار خطرناک دامن بزند. برای همین، مدل‌های «استدلالی» مثل GPT-5 طراحی شده‌اند تا قبل از پاسخ، زمینه را بیشتر تحلیل کنند و در مقابل دستکاری‌های خطرناک مقاوم‌تر باشند.

کنترل والدین؛ آیا امنیت نوجوانان بیشتر می‌شود؟

یکی از بخش‌های مهم این برنامه، افزودن ابزارهای کنترل والدین است. والدین می‌توانند حساب خود را با حساب فرزندشان لینک کنند و به این ترتیب:

  • قوانین رفتاری سنی به‌طور پیش‌فرض فعال باشد.

  • تاریخچه و حافظه چت غیرفعال شود.

  • اعلان فوری دریافت کنند اگر سیستم نشانه‌های «اضطراب یا خطر جدی» در گفت‌وگو تشخیص دهد.

این ویژگی‌ها می‌تواند جلوی مشکلاتی مثل وابستگی بیش‌ازحد به چت‌بات یا تقویت الگوهای فکری ناسالم را بگیرد.

برنامه ۱۲۰ روزه OpenAI

شرکت اعلام کرده این اقدامات بخشی از یک برنامه ۱۲۰ روزه است که هدف آن طراحی محافظت‌های گسترده‌تر در حوزه سلامت روان و رفتار کاربران است. برای این کار، OpenAI با متخصصانی در زمینه اختلالات تغذیه، سوءمصرف مواد و سلامت نوجوانان همکاری می‌کند.

چرا این موضوع برای ما مهم است؟

هوش مصنوعی روزبه‌روز وارد زندگی ایرانی‌ها هم می‌شود؛ چه برای درس خواندن، چه برای کسب‌وکار یا حتی سرگرمی. اما همین ابزار قدرتمند می‌تواند بدون مراقبت، آسیب‌زا باشد. شناخت این تغییرات و تنظیمات جدید به خانواده‌ها و کاربران کمک می‌کند آگاهانه‌تر از AI استفاده کنند.

جمع‌بندی

با هدایت گفت‌وگوهای حساس به مدل‌های قوی‌تر و اضافه‌شدن کنترل والدین، OpenAI تلاش می‌کند از تکرار حوادث تلخ جلوگیری کند. حالا سوال اصلی این است: آیا این اقدامات کافی است یا باید منتظر گام‌های جدی‌تری باشیم؟
نظر شما چیست؟

تاریخ بروزرسانی : 27 مهر 1404 23:03:16
برچسب ها :
مطالب مشابه
خانه‌ای پر از لگو و تفنگ در کالیفرنیا کشف شد!
آموزش

خانه‌ای پر از لگو و تفنگ در کالیفرنیا کشف شد!

پلیس کالیفرنیا باندی را کشف کرد که لگوهای گران‌قیمت را از فروشگاه‌ها سرقت و به‌صورت آنلاین می‌فروخت. در خانه متهم ۳۹ ساله هزاران قطعه لگو، فیگورهای بی‌سر و چند سلاح کشف شد. محبوبیت لگوهای کلکسیونی باعث شده این اسباب‌بازی به هدف تازه سارقان تبدیل شود.

27 مهر 1404
تغییر جنجالی در گوگل مپ؛ مکان‌ها از روی نقشه حذف می‌شوند!
آموزش

تغییر جنجالی در گوگل مپ؛ مکان‌ها از روی نقشه حذف می‌شوند!

گوگل مپ در نسخه بتا طراحی جدیدی برای مسیر‌یابی آزمایش می‌کند که اطلاعات توقف‌ها مثل پمپ‌بنزین و رستوران را روی کارت پایین صفحه نمایش می‌دهد، نه روی نقشه. این تغییر با واکنش منفی برخی کاربران روبه‌رو شده که نگران از دست رفتن تجربه بصری قبلی‌اند.

27 مهر 1404
مدل آمریکایی فاش کرد: من هرگز دوست‌دخترش نبودم!
آموزش

مدل آمریکایی فاش کرد: من هرگز دوست‌دخترش نبودم!

کارسن بیلی، بازیگر و مدل آمریکایی، فاش کرد که اینفلوئنسر نیک اونیل (Choose Rich) بدون اجازه او عکسی منتشر کرده و در پستش ادعا کرده او دوست‌دخترش است. بیلی گفت فقط برای بازی در چند ویدیو ۴۰۰ دلار گرفته و انتشار پست جعلی را «غیراخلاقی و تحقیرآمیز» دانست.

27 مهر 1404
اگر از تاریکی نمی‌ترسی، این ۱۰ بازی را امتحان کن!
آموزش

اگر از تاریکی نمی‌ترسی، این ۱۰ بازی را امتحان کن!

در این مقاله با ۱۰ بازی برتر سبک ترس و بقا آشنا می‌شویم؛ از Resident Evil و Silent Hill تا Outlast و Alan Wake 2. آثاری که با ترس روانی، کمبود منابع و فضاهای خفقان‌آور، ذهن گیمر را به چالش کشیده‌اند و تعریف ترس را تغییر داده‌اند.

27 مهر 1404
سرقت روز روشن از موزه لوور؛ جواهرات ناپلئون ناپدید شدند!
آموزش

سرقت روز روشن از موزه لوور؛ جواهرات ناپلئون ناپدید شدند!

موزه لوور پاریس پس از سرقت چند جواهر سلطنتی از گالری آپولون تعطیل شد. سارقان با اره‌های کوچک و از مسیر بالابر خدماتی وارد شده و با اسکوتر فرار کردند. پلیس فرانسه در حال تحقیق است و دو قطعه از آثار، از جمله تاج شکسته امپراتریس اوژنی، بازیابی شده است.

27 مهر 1404
چرا هیچ‌کس از Google AI Pro هیجان‌زده نیست؟
آموزش

چرا هیچ‌کس از Google AI Pro هیجان‌زده نیست؟

سرویس Google AI Pro با وجود وعده‌های بزرگ، هنوز نتوانسته ارزش واقعی خود را به کاربران عادی ثابت کند. قابلیت‌های آن پیچیده، تخصصی و کمتر کاربردی‌اند و همین باعث شده بسیاری ندانند چرا باید برایش هزینه کنند. ظاهراً ایده خوب، اجرا نه‌چندان موفق!

27 مهر 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.