0
سبد خرید شما خالی است
جیب استور > وبلاگ > مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

  • واحد تولید محتوا
  • 04 شهریور 1404 20:00:11
  • زمان مطالعه 1 دقیقه

مقدمه :

والدین نوجوانی از OpenAI به‌دلیل «مرگ ناحق» فرزندشان شکایت کرده‌اند. ماه‌ها با ChatGPT درباره خودکشی گفتگو داشت و با سناریوی داستانی بخشی از محافظ‌ها دور زده شد. این پرونده مرز مسئولیت شرکت‌های هوش مصنوعی، کارایی سپرهای ایمنی و مدیریت گفتگوهای طولانی را زیر سؤال می‌برد.

مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

آنچه در این مقاله میخوانید

یک خانواده آمریکایی از OpenAI به اتهام «مرگ ناحق» پسر ۱۶ساله‌شان شکایت کرده‌اند؛ نوجوانی که ماه‌ها درباره افکار خودکشی با ChatGPT صحبت می‌کرد. بر اساس شکواییه، بات در برخی موارد او را به دریافت کمک حرفه‌ای ارجاع داد، اما کاربر با سناریوی داستانی توانسته بخشی از محافظ‌ها را دور بزند. این پرونده هم‌زمان با انتشار یک پژوهش مستقل درباره ناپایداری پاسخ چت‌بات‌ها در مواجهه با پرسش‌های مرتبط با خودکشی خبرساز شده است.

چرا این پرونده مهم است؟

این نخستین شکایت شناخته‌شده علیه OpenAI به‌دلیل مرگ ناحق است و می‌تواند مرزهای مسئولیت حقوقی شرکت‌های هوش مصنوعی را بازتعریف کند. طبق گزارش‌ها، خانواده مدعی‌اند بات در گفت‌وگوهای طولانی گاهی به‌جای چالش‌کردن افکار خطرناک، آن‌ها را تأیید یا عادی‌سازی کرده است؛ در مقابل، OpenAI با ابراز تأسف گفته که در حال بهبود واکنش مدل‌ها در تعاملات حساس است.

سپرهای ایمنی چگونه دور زده شدند؟

پژوهش تازه «Psychiatric Services» می‌گوید چت‌بات‌ها معمولاً از پاسخ‌دادن به سؤال‌های پرریسک مستقیم خودداری می‌کنند، اما در سطوح میانی خطر (سؤالات غیرمستقیم) رفتار یکدستی ندارند. همچنین، خود OpenAI اذعان کرده که محافظ‌ها در گفت‌وگوهای کوتاه قابل‌اتکاترند و «هرچه تعامل طولانی‌تر شود، بخشی از آموزش‌های ایمنی ممکن است تضعیف گردد»؛ نکته‌ای که دقیقاً با ماهیت این پرونده همخوان است.

Parents Sue OpenAI Alleging ChatGPT Assisted Son’s Suicide

برای کاربر ایرانی، پیام عملی چیست؟

  • گفت‌وگو را زمان‌بندی کنید (جلسات کوتاه، با هدف مشخص).

  • واقعیت‌سنجی بیرونی: توصیه‌های حساس را با انسانِ متخصص بررسی کنید.

  • نشانه‌های خطر (بی‌خوابی، انزوا، قطع ارتباط با خانواده/دوستان) را جدی بگیرید.

خط قرمز: سلامت روان

چت‌بات‌ها درمانگر نیستند. اگر شما یا یکی از نزدیکانتان در معرض خطر خودآسیب‌زنی هستید، فوراً با خدمات اورژانسی محل خود تماس بگیرید یا از یک متخصص سلامت روان کمک بگیرید. کاربران خارج از ایران می‌توانند از خط بین‌المللی ۹۸۸ استفاده کنند؛ در ایران، مراجعه به مراکز مشاوره معتبر و تماس با اورژانس اجتماعی (۱۲۳) یا اورژانس (۱۱۵) در اولویت است.

نظر شما چیست؟ آیا شرکت‌های هوش مصنوعی باید در برابر پیامدهای گفت‌وگوهای طولانی پاسخ‌گوتر باشند؟ تجربه‌تان از مواجهه با محافظ‌های ایمنی چت‌بات‌ها را با ما در میان بگذارید.

تاریخ بروزرسانی : 04 اسفند 1404 08:05:44
برچسب ها :
مطالب مشابه
شوک به گیمرها؛ استیم دک گران شد و در آمریکا نایاب!
آموزش

شوک به گیمرها؛ استیم دک گران شد و در آمریکا نایاب!

استیم دک این روزها حال‌وهوای خوبی ندارد؛ افزایش قیمت شدید در بازارهای آسیایی و نایابی کامل در آمریکا، نتیجه فشار هزینه‌های لجستیکی، نوسانات ارزی و بحران جهانی رم ناشی از رشد هوش مصنوعی است؛ بحرانی که می‌تواند به گرانی کنسول‌های دیگر هم منجر شود.

14 اسفند 1404
کلش رویال بعد از ۱۰ سال متحول شد؛ بزرگ‌ترین آپدیت تاریخ بازی چیست؟
آموزش

کلش رویال بعد از ۱۰ سال متحول شد؛ بزرگ‌ترین آپدیت تاریخ بازی چیست؟

به‌روزرسانی مارس ۲۰۲۶ بازی Clash Royale به‌مناسبت ۱۰ سالگی، با قهرمانان جدید، رویداد آلبوم نوستالژیک، گسترش مسیر تروفی و بازطراحی کامل سیستم قهرمانان منتشر می‌شود؛ آپدیتی بزرگ که هم متا را تغییر می‌دهد و هم به بازخورد بازیکنان پاسخ می‌دهد.

14 اسفند 1404
آپدیت فوریه کلش اف کلنز منتشر شد؛ گلد پس جدید و قهرمانی که هنوز آزاد نشده!
آموزش

آپدیت فوریه کلش اف کلنز منتشر شد؛ گلد پس جدید و قهرمانی که هنوز آزاد نشده!

به‌روزرسانی فوریه Clash of Clans با تمرکز بر تاون هال ۱۸ منتشر شد. این آپدیت شامل بازطراحی کامل گلد پس، سیستم انتخاب پاداش، معرفی قهرمان جدید Dragon Duke، حیوان خانگی تازه و موجی از ارتقاها برای بازیکنان سطح بالا است.

14 اسفند 1404
سازندگان Postal شوخی را کنار گذاشتند؛ Flesh & Wire تاریک‌تر از چیزی است که فکر می‌کنید
آموزش

سازندگان Postal شوخی را کنار گذاشتند؛ Flesh & Wire تاریک‌تر از چیزی است که فکر می‌کنید

استودیوی Running With Scissors، سازنده سری Postal، از شوتر اول‌شخص جدیدی به نام Flesh & Wire رونمایی کرد. این بازی با تمرکز بر وحشت روان‌شناختی و داستانی تاریک، در سال ۲۰۲۷ برای پلی‌استیشن ۵ و PC منتشر می‌شود.

14 اسفند 1404
حرکت غافلگیرکننده سونی ، تست Gran Turismo روی کنسول نینتندو
آموزش

حرکت غافلگیرکننده سونی ، تست Gran Turismo روی کنسول نینتندو

گزارش‌ها نشان می‌دهد سونی بازی Gran Turismo 7 را روی نینتندو سوییچ ۲ اجرا کرده است. هرچند عرضه رسمی بعید به نظر می‌رسد، اما این آزمایش می‌تواند نشانه‌ای جدی از تغییر استراتژی سونی و حرکت تدریجی به‌سوی آینده‌ای چندپلتفرمی باشد.

14 اسفند 1404
گلکسی S26 اولترا یا آیفون ۱۷ پرو مکس؟ نبردی که انتخاب پرچم‌دار ۲۰۲۶ را سخت می‌کند
آموزش

گلکسی S26 اولترا یا آیفون ۱۷ پرو مکس؟ نبردی که انتخاب پرچم‌دار ۲۰۲۶ را سخت می‌کند

گلکسی S26 اولترا و آیفون ۱۷ پرو مکس نماینده دو نگاه متفاوت در دنیای پرچم‌داران هستند؛ یکی با تمرکز بر هوش مصنوعی، ارگونومی و زوم حرفه‌ای، و دیگری با نمایشگر HDR خیره‌کننده و پردازش قدرتمند. انتخاب نهایی کاملاً به اولویت‌های کاربر بستگی دارد.

14 اسفند 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.