0
سبد خرید شما خالی است
جیب استور > وبلاگ > مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

  • واحد تولید محتوا
  • 04 شهریور 1404 20:00:11
  • زمان مطالعه 1 دقیقه

مقدمه :

والدین نوجوانی از OpenAI به‌دلیل «مرگ ناحق» فرزندشان شکایت کرده‌اند. ماه‌ها با ChatGPT درباره خودکشی گفتگو داشت و با سناریوی داستانی بخشی از محافظ‌ها دور زده شد. این پرونده مرز مسئولیت شرکت‌های هوش مصنوعی، کارایی سپرهای ایمنی و مدیریت گفتگوهای طولانی را زیر سؤال می‌برد.

مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

آنچه در این مقاله میخوانید

یک خانواده آمریکایی از OpenAI به اتهام «مرگ ناحق» پسر ۱۶ساله‌شان شکایت کرده‌اند؛ نوجوانی که ماه‌ها درباره افکار خودکشی با ChatGPT صحبت می‌کرد. بر اساس شکواییه، بات در برخی موارد او را به دریافت کمک حرفه‌ای ارجاع داد، اما کاربر با سناریوی داستانی توانسته بخشی از محافظ‌ها را دور بزند. این پرونده هم‌زمان با انتشار یک پژوهش مستقل درباره ناپایداری پاسخ چت‌بات‌ها در مواجهه با پرسش‌های مرتبط با خودکشی خبرساز شده است.

چرا این پرونده مهم است؟

این نخستین شکایت شناخته‌شده علیه OpenAI به‌دلیل مرگ ناحق است و می‌تواند مرزهای مسئولیت حقوقی شرکت‌های هوش مصنوعی را بازتعریف کند. طبق گزارش‌ها، خانواده مدعی‌اند بات در گفت‌وگوهای طولانی گاهی به‌جای چالش‌کردن افکار خطرناک، آن‌ها را تأیید یا عادی‌سازی کرده است؛ در مقابل، OpenAI با ابراز تأسف گفته که در حال بهبود واکنش مدل‌ها در تعاملات حساس است.

سپرهای ایمنی چگونه دور زده شدند؟

پژوهش تازه «Psychiatric Services» می‌گوید چت‌بات‌ها معمولاً از پاسخ‌دادن به سؤال‌های پرریسک مستقیم خودداری می‌کنند، اما در سطوح میانی خطر (سؤالات غیرمستقیم) رفتار یکدستی ندارند. همچنین، خود OpenAI اذعان کرده که محافظ‌ها در گفت‌وگوهای کوتاه قابل‌اتکاترند و «هرچه تعامل طولانی‌تر شود، بخشی از آموزش‌های ایمنی ممکن است تضعیف گردد»؛ نکته‌ای که دقیقاً با ماهیت این پرونده همخوان است.

Parents Sue OpenAI Alleging ChatGPT Assisted Son’s Suicide

برای کاربر ایرانی، پیام عملی چیست؟

  • گفت‌وگو را زمان‌بندی کنید (جلسات کوتاه، با هدف مشخص).

  • واقعیت‌سنجی بیرونی: توصیه‌های حساس را با انسانِ متخصص بررسی کنید.

  • نشانه‌های خطر (بی‌خوابی، انزوا، قطع ارتباط با خانواده/دوستان) را جدی بگیرید.

خط قرمز: سلامت روان

چت‌بات‌ها درمانگر نیستند. اگر شما یا یکی از نزدیکانتان در معرض خطر خودآسیب‌زنی هستید، فوراً با خدمات اورژانسی محل خود تماس بگیرید یا از یک متخصص سلامت روان کمک بگیرید. کاربران خارج از ایران می‌توانند از خط بین‌المللی ۹۸۸ استفاده کنند؛ در ایران، مراجعه به مراکز مشاوره معتبر و تماس با اورژانس اجتماعی (۱۲۳) یا اورژانس (۱۱۵) در اولویت است.

نظر شما چیست؟ آیا شرکت‌های هوش مصنوعی باید در برابر پیامدهای گفت‌وگوهای طولانی پاسخ‌گوتر باشند؟ تجربه‌تان از مواجهه با محافظ‌های ایمنی چت‌بات‌ها را با ما در میان بگذارید.

تاریخ بروزرسانی : 18 آذر 1404 16:06:52
برچسب ها :
مطالب مشابه
چرا نتفلیکس به بازی‌های وارنر دل نبست؟ پشت‌پرده معامله ۸۲ میلیاردی!
آموزش

چرا نتفلیکس به بازی‌های وارنر دل نبست؟ پشت‌پرده معامله ۸۲ میلیاردی!

نتفلیکس در خرید احتمالی ۸۲ میلیاردی برادران وارنر، بازی‌های بزرگ این شرکت مثل مورتال کامبت و هری‌پاتر را عامل اصلی تصمیم نمی‌داند. تمرکز روی فیلم و سریال‌ها بوده، اما احتمال می‌دهد در آینده از ظرفیت بازی‌ها برای مدل تجاری جدید استفاده کند.

19 آذر 1404
بالاخره عمارت‌ها رسیدن! آپدیت زمستانی GTA Online ترکوند
آموزش

بالاخره عمارت‌ها رسیدن! آپدیت زمستانی GTA Online ترکوند

آپدیت زمستانی GTA Online منتشر شد و امکان خرید عمارت‌های لاکچری در مناطق مختلف، برگزاری مهمانی، استخدام محافظ، مدیریت هوشمند و شخصی‌سازی اتاق‌ها را فراهم کرده است. همچنین ابزار ساخت ماموریت، خودروهای جدید و بازگشت مایکل باعث هیجان بیشتر بازیکنان شده است.

19 آذر 1404
کدهای مخفی کلش رویال برای حمایت از استریمرها (دسامبر ۲۰۲۵)
آموزش

کدهای مخفی کلش رویال برای حمایت از استریمرها (دسامبر ۲۰۲۵)

کد‌های کریتور کلش رویال در دسامبر ۲۰۲۵ راهی عالی برای حمایت از استریمرهای محبوب هستند. با وارد کردن کد هنگام خرید، درصدی از مبلغ به تولیدکننده محتوا می‌رسد، بدون اینکه هزینه اضافی پرداخت کنید. لیست کامل، روش استفاده و نکات مهم را اینجا بخوانید.

19 آذر 1404
وقتی هوش مصنوعی وارد روابط عاشقانه می‌شود!
آموزش

وقتی هوش مصنوعی وارد روابط عاشقانه می‌شود!

مدیرعامل سابق Hinge برای ساخت Overtone استعفا داده؛ اپلیکیشنی که با استفاده از صدا و هوش مصنوعی قرارهای آنلاین را واقعی‌تر و جذاب‌تر می‌کند. در حالی که Tinder و Bumble هم دست به دامن AI شده‌اند، Hinge تحت مدیریت جدید مسیر نوآوری را ادامه می‌دهد.

19 آذر 1404
ویزا کارت چیست؟ انواع Visa Card، کاربردها و نحوه دریافت در ایران
آموزش

ویزا کارت چیست؟ انواع Visa Card، کاربردها و نحوه دریافت در ایران

ویزا کارت شبکه جهانی پرداخت است که انتقال پول بین‌المللی را در چند ثانیه و با امنیت کامل انجام می‌دهد. انواع مختلفی مثل اعتباری، نقدی و پیش‌پرداخت دارد و راهکار خرید سرویس‌های خارجی، آزمون‌ها، رزرو هتل و خریدهای اینترنتی برای کاربران ایرانی محسوب می‌شود.

19 آذر 1404
استیم والت چیست؟ نحوه شارژ و استفاده از کیف پول استیم
آموزش

استیم والت چیست؟ نحوه شارژ و استفاده از کیف پول استیم

استیم والت راهکاری امن، سریع و قابل‌اعتماد برای پرداخت در پلتفرم استیم است که مخصوصاً برای کاربران ایرانی اهمیت ویژه‌ای دارد. با استفاده از گیفت کارت و شارژ والت، می‌توان بازی‌ها، آیتم‌ها و بتل‌پس‌ها را بدون نیاز به کارت‌های بین‌المللی خریداری کرد و از تخفیف‌های فصلی بهره برد.

19 آذر 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.