0
سبد خرید شما خالی است
جیب استور > وبلاگ > اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

  • واحد تولید محتوا
  • 11 شهریور 1404 19:00:05
  • زمان مطالعه 1 دقیقه

مقدمه :

OpenAI اعلام کرده برای افزایش امنیت کاربران، گفت‌وگوهای حساس را به GPT-5 منتقل می‌کند و به‌زودی کنترل والدین را در ChatGPT فعال خواهد کرد. این اقدام پس از حوادث تلخ مرتبط با سلامت روان انجام می‌شود تا نوجوانان و خانواده‌ها تجربه‌ای ایمن‌تر از هوش مصنوعی داشته باشند.

اقدام تازه OpenAI برای ایمن‌تر کردن ChatGPT نوجوانان

آنچه در این مقاله میخوانید

OpenAI اعلام کرده که برای مدیریت بهتر گفت‌وگوهای حساس، قرار است این مکالمات را به مدل‌های پیشرفته‌تر مثل GPT-5 هدایت کند. این تغییر پس از حوادث تلخی مثل خودکشی نوجوانی که با ChatGPT درباره آسیب به خود صحبت کرده بود، جدی‌تر شد.

کارشناسان بارها هشدار داده‌اند که الگوریتم‌های پیش‌بینی کلمه و تمایل چت‌بات‌ها به همراهی کاربر، ممکن است باعث شوند سیستم به جای کمک، ناخواسته به تقویت افکار خطرناک دامن بزند. برای همین، مدل‌های «استدلالی» مثل GPT-5 طراحی شده‌اند تا قبل از پاسخ، زمینه را بیشتر تحلیل کنند و در مقابل دستکاری‌های خطرناک مقاوم‌تر باشند.

کنترل والدین؛ آیا امنیت نوجوانان بیشتر می‌شود؟

یکی از بخش‌های مهم این برنامه، افزودن ابزارهای کنترل والدین است. والدین می‌توانند حساب خود را با حساب فرزندشان لینک کنند و به این ترتیب:

  • قوانین رفتاری سنی به‌طور پیش‌فرض فعال باشد.

  • تاریخچه و حافظه چت غیرفعال شود.

  • اعلان فوری دریافت کنند اگر سیستم نشانه‌های «اضطراب یا خطر جدی» در گفت‌وگو تشخیص دهد.

این ویژگی‌ها می‌تواند جلوی مشکلاتی مثل وابستگی بیش‌ازحد به چت‌بات یا تقویت الگوهای فکری ناسالم را بگیرد.

برنامه ۱۲۰ روزه OpenAI

شرکت اعلام کرده این اقدامات بخشی از یک برنامه ۱۲۰ روزه است که هدف آن طراحی محافظت‌های گسترده‌تر در حوزه سلامت روان و رفتار کاربران است. برای این کار، OpenAI با متخصصانی در زمینه اختلالات تغذیه، سوءمصرف مواد و سلامت نوجوانان همکاری می‌کند.

چرا این موضوع برای ما مهم است؟

هوش مصنوعی روزبه‌روز وارد زندگی ایرانی‌ها هم می‌شود؛ چه برای درس خواندن، چه برای کسب‌وکار یا حتی سرگرمی. اما همین ابزار قدرتمند می‌تواند بدون مراقبت، آسیب‌زا باشد. شناخت این تغییرات و تنظیمات جدید به خانواده‌ها و کاربران کمک می‌کند آگاهانه‌تر از AI استفاده کنند.

جمع‌بندی

با هدایت گفت‌وگوهای حساس به مدل‌های قوی‌تر و اضافه‌شدن کنترل والدین، OpenAI تلاش می‌کند از تکرار حوادث تلخ جلوگیری کند. حالا سوال اصلی این است: آیا این اقدامات کافی است یا باید منتظر گام‌های جدی‌تری باشیم؟
نظر شما چیست؟

تاریخ بروزرسانی : 12 شهریور 1404 02:12:16
برچسب ها :
مطالب مشابه
فیلم Call of Duty رسماً در راه است؛ آماده انفجار هیجان شوید!
آموزش

فیلم Call of Duty رسماً در راه است؛ آماده انفجار هیجان شوید!

پارامونت با همکاری اکتیویژن ساخت فیلم Call of Duty را آغاز کرده است؛ اثری پرهزینه که قرار است دنیای پرهیجان بازی را روی پرده نقره‌ای زنده کند. هنوز مشخص نیست فیلم بر اساس کدام نسخه ساخته می‌شود، اما وعده داده‌اند تجربه‌ای وفادار و نفس‌گیر خلق کنند.

12 شهریور 1404
۷ قابلیت اندروید که آیفون هنوز از آن‌ها بی‌بهره است
آموزش

۷ قابلیت اندروید که آیفون هنوز از آن‌ها بی‌بهره است

اندروید سال‌هاست امکاناتی ارائه می‌دهد که برای کاربران آیفون شبیه یک آرزوست؛ از حالت دسکتاپ و مولتی‌تسک واقعی گرفته تا تاریخچه نوتیفیکیشن‌ها و کنترل جداگانه صداها. این تفاوت‌ها نشان می‌دهد چرا بسیاری از کاربران، اندروید را کاربردی‌تر و منعطف‌تر از آیفون می‌دانند.

12 شهریور 1404
آیا مدل «الان بخر، بعداً پرداخت کن» دوام می‌آورد؟
آموزش

آیا مدل «الان بخر، بعداً پرداخت کن» دوام می‌آورد؟

استارتاپ سوئدی کلارنا (Klarna) دوباره برای عرضه عمومی سهام آماده می‌شود. این شرکت قصد دارد با فروش ۳۴.۳ میلیون سهم تا ۱.۲۷ میلیارد دلار جذب کند. کلارنا امیدوار است ارزش خود را به ۱۴ میلیارد دلار برساند، هرچند هنوز در وضعیت زیان‌ده قرار دارد.

12 شهریور 1404
۵ راهکار ساده برای نوشتن پرامپت‌های حرفه‌ای در هوش مصنوعی
آموزش

۵ راهکار ساده برای نوشتن پرامپت‌های حرفه‌ای در هوش مصنوعی

پرامپت‌نویسی مهارتی کلیدی برای استفاده بهتر از هوش مصنوعی است. با ایجاد محدودیت‌های خلاقانه، الهام از شخصیت‌های تاریخی، ترکیب حوزه‌های متفاوت، شبیه‌سازی بحران‌ها و به‌کاربردن تشبیه‌های غیرمنتظره، می‌توان خروجی‌های جذاب‌تر، کاربردی‌تر و الهام‌بخش‌تری از ابزارهای هوش مصنوعی گرفت.

12 شهریور 1404
چرا شنیدن صدای پای دشمن در Black Ops 6 کلید برد است؟
آموزش

چرا شنیدن صدای پای دشمن در Black Ops 6 کلید برد است؟

در Black Ops 6 موفقیت فقط به سلاح و مهارت نیست؛ تنظیمات درست صدا می‌تواند سرنوشت نبرد را عوض کند. با افزایش Effects Volume، خاموش‌کردن موسیقی و استفاده از حالت Bass Boost در هدست، صدای پای دشمنان شفاف‌تر می‌شود و شانس برد شما چند برابر خواهد شد.

12 شهریور 1404
چرا BMW i4 لوکس، این‌همه دردسر دارد؟
آموزش

چرا BMW i4 لوکس، این‌همه دردسر دارد؟

BMW i4 با طراحی زیبا و رانندگی دلچسب وارد بازار شد، اما مشکلات نرم‌افزاری مثل قفل دیجیتال، کارپلی و آپدیت‌های معیوب تجربه کاربران را خراب کرده است. خودرویی که قرار بود لوکس و آینده‌نگر باشد، حالا برای بسیاری به یک دردسر روزمره تبدیل شده است.

12 شهریور 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.