0
سبد خرید شما خالی است
جیب استور > وبلاگ > مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

  • واحد تولید محتوا
  • 04 شهریور 1404 20:00:11
  • زمان مطالعه 1 دقیقه

مقدمه :

والدین نوجوانی از OpenAI به‌دلیل «مرگ ناحق» فرزندشان شکایت کرده‌اند. ماه‌ها با ChatGPT درباره خودکشی گفتگو داشت و با سناریوی داستانی بخشی از محافظ‌ها دور زده شد. این پرونده مرز مسئولیت شرکت‌های هوش مصنوعی، کارایی سپرهای ایمنی و مدیریت گفتگوهای طولانی را زیر سؤال می‌برد.

مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

آنچه در این مقاله میخوانید

یک خانواده آمریکایی از OpenAI به اتهام «مرگ ناحق» پسر ۱۶ساله‌شان شکایت کرده‌اند؛ نوجوانی که ماه‌ها درباره افکار خودکشی با ChatGPT صحبت می‌کرد. بر اساس شکواییه، بات در برخی موارد او را به دریافت کمک حرفه‌ای ارجاع داد، اما کاربر با سناریوی داستانی توانسته بخشی از محافظ‌ها را دور بزند. این پرونده هم‌زمان با انتشار یک پژوهش مستقل درباره ناپایداری پاسخ چت‌بات‌ها در مواجهه با پرسش‌های مرتبط با خودکشی خبرساز شده است.

چرا این پرونده مهم است؟

این نخستین شکایت شناخته‌شده علیه OpenAI به‌دلیل مرگ ناحق است و می‌تواند مرزهای مسئولیت حقوقی شرکت‌های هوش مصنوعی را بازتعریف کند. طبق گزارش‌ها، خانواده مدعی‌اند بات در گفت‌وگوهای طولانی گاهی به‌جای چالش‌کردن افکار خطرناک، آن‌ها را تأیید یا عادی‌سازی کرده است؛ در مقابل، OpenAI با ابراز تأسف گفته که در حال بهبود واکنش مدل‌ها در تعاملات حساس است.

سپرهای ایمنی چگونه دور زده شدند؟

پژوهش تازه «Psychiatric Services» می‌گوید چت‌بات‌ها معمولاً از پاسخ‌دادن به سؤال‌های پرریسک مستقیم خودداری می‌کنند، اما در سطوح میانی خطر (سؤالات غیرمستقیم) رفتار یکدستی ندارند. همچنین، خود OpenAI اذعان کرده که محافظ‌ها در گفت‌وگوهای کوتاه قابل‌اتکاترند و «هرچه تعامل طولانی‌تر شود، بخشی از آموزش‌های ایمنی ممکن است تضعیف گردد»؛ نکته‌ای که دقیقاً با ماهیت این پرونده همخوان است.

Parents Sue OpenAI Alleging ChatGPT Assisted Son’s Suicide

برای کاربر ایرانی، پیام عملی چیست؟

  • گفت‌وگو را زمان‌بندی کنید (جلسات کوتاه، با هدف مشخص).

  • واقعیت‌سنجی بیرونی: توصیه‌های حساس را با انسانِ متخصص بررسی کنید.

  • نشانه‌های خطر (بی‌خوابی، انزوا، قطع ارتباط با خانواده/دوستان) را جدی بگیرید.

خط قرمز: سلامت روان

چت‌بات‌ها درمانگر نیستند. اگر شما یا یکی از نزدیکانتان در معرض خطر خودآسیب‌زنی هستید، فوراً با خدمات اورژانسی محل خود تماس بگیرید یا از یک متخصص سلامت روان کمک بگیرید. کاربران خارج از ایران می‌توانند از خط بین‌المللی ۹۸۸ استفاده کنند؛ در ایران، مراجعه به مراکز مشاوره معتبر و تماس با اورژانس اجتماعی (۱۲۳) یا اورژانس (۱۱۵) در اولویت است.

نظر شما چیست؟ آیا شرکت‌های هوش مصنوعی باید در برابر پیامدهای گفت‌وگوهای طولانی پاسخ‌گوتر باشند؟ تجربه‌تان از مواجهه با محافظ‌های ایمنی چت‌بات‌ها را با ما در میان بگذارید.

تاریخ بروزرسانی : 01 مرداد 1405 10:45:11
برچسب ها :
مطالب مشابه
تصاویر وایرال؛ ستاره‌های جام جهانی ۲۰۲۶ در دنیای GTA 6
آموزش

تصاویر وایرال؛ ستاره‌های جام جهانی ۲۰۲۶ در دنیای GTA 6

تصاویر خلاقانه‌ای از ستاره‌های جام جهانی ۲۰۲۶ در قالب شخصیت‌های GTA 6 منتشر شده و توجه طرفداران فوتبال و بازی‌های ویدیویی را جلب کرده است. هم‌زمان، شایعاتی درباره تبلیغ GTA 6 در جام جهانی نیز مطرح شده، اما راک‌استار هنوز واکنشی رسمی نشان نداده است.

02 مرداد 1405
شبیه‌ساز پلی استیشن ۵ همه را غافلگیر کرد؛ اولین بازی روی ویندوز بوت شد
آموزش

شبیه‌ساز پلی استیشن ۵ همه را غافلگیر کرد؛ اولین بازی روی ویندوز بوت شد

پیشرفت شبیه‌سازهای پلی استیشن ۵ سرعت گرفته و یکی از پروژه‌ها برای نخستین بار موفق به بوت بازی Demon's Souls Remake روی ویندوز شده است. هرچند اجرای کامل بازی‌ها هنوز ممکن نیست، اما این دستاورد می‌تواند آینده انتشار بازی‌هایی مانند GTA 6 روی PC را تحت تأثیر قرار دهد.

02 مرداد 1405
نینتندو سوییچ ۲ با باتری قابل تعویض از راه رسید
آموزش

نینتندو سوییچ ۲ با باتری قابل تعویض از راه رسید

نینتندو اعلام کرد نسخه جدید نینتندو سوییچ ۲ با باتری قابل تعویض از اواخر ۲۰۲۶ در اروپا عرضه می‌شود. این تغییر برای رعایت قوانین جدید اتحادیه اروپا انجام شده و با وجود افزایش جزئی وزن و کاهش اندک ظرفیت باتری، عملکرد کنسول تغییری نخواهد کرد.

02 مرداد 1405
بازی ۶ دلاری که همه غول‌های صنعت گیم را شکست!
آموزش

بازی ۶ دلاری که همه غول‌های صنعت گیم را شکست!

بازی مستقل MECCHA CHAMELEON تنها در کمتر از یک ماه از مرز ۱۵ میلیون نسخه فروش عبور کرد و به پرفروش‌ترین بازی سال ۲۰۲۶ تبدیل شد. این عنوان با پشت سر گذاشتن بازی‌های بزرگی مانند EA Sports FC و Resident Evil Requiem، رکوردی کم‌نظیر ثبت کرده است.

02 مرداد 1405
خرید بازی بدون پرداخت حتی یک ریال؛ ایده‌ای که گیمرها عاشقش شده‌اند
آموزش

خرید بازی بدون پرداخت حتی یک ریال؛ ایده‌ای که گیمرها عاشقش شده‌اند

یک توسعه‌دهنده وب‌سایتی به نام Steam Sales Simulator ساخته که تجربه خرید در حراج‌های استیم را بدون پرداخت پول واقعی شبیه‌سازی می‌کند. این پروژه با امکاناتی مانند اچیومنت، پروفایل، بازار مجازی و انیمیشن دریافت بازی، توجه بسیاری از گیمرها را به خود جلب کرده است.

02 مرداد 1405
اکتیویژن بالاخره تصمیم بزرگش را گرفت؛ Black Ops 6 مستقل شد
آموزش

اکتیویژن بالاخره تصمیم بزرگش را گرفت؛ Black Ops 6 مستقل شد

اکتیویژن اعلام کرد بازی Call of Duty: Black Ops 6 از ۱۶ تیر به‌صورت مستقل اجرا خواهد شد و دیگر به لانچر Call of Duty HQ وابسته نیست. این تصمیم با استقبال بخشی از کاربران روبه‌رو شده و شایعاتی درباره آینده نسخه‌های کلاسیک این مجموعه را نیز تقویت کرده است.

02 مرداد 1405

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.