0
سبد خرید شما خالی است
جیب استور > وبلاگ > مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

  • واحد تولید محتوا
  • 04 شهریور 1404 20:00:11
  • زمان مطالعه 1 دقیقه

مقدمه :

والدین نوجوانی از OpenAI به‌دلیل «مرگ ناحق» فرزندشان شکایت کرده‌اند. ماه‌ها با ChatGPT درباره خودکشی گفتگو داشت و با سناریوی داستانی بخشی از محافظ‌ها دور زده شد. این پرونده مرز مسئولیت شرکت‌های هوش مصنوعی، کارایی سپرهای ایمنی و مدیریت گفتگوهای طولانی را زیر سؤال می‌برد.

مرگ ناحق نوجوان و ChatGPT؛ مسئولیت با کیست؟

آنچه در این مقاله میخوانید

یک خانواده آمریکایی از OpenAI به اتهام «مرگ ناحق» پسر ۱۶ساله‌شان شکایت کرده‌اند؛ نوجوانی که ماه‌ها درباره افکار خودکشی با ChatGPT صحبت می‌کرد. بر اساس شکواییه، بات در برخی موارد او را به دریافت کمک حرفه‌ای ارجاع داد، اما کاربر با سناریوی داستانی توانسته بخشی از محافظ‌ها را دور بزند. این پرونده هم‌زمان با انتشار یک پژوهش مستقل درباره ناپایداری پاسخ چت‌بات‌ها در مواجهه با پرسش‌های مرتبط با خودکشی خبرساز شده است.

چرا این پرونده مهم است؟

این نخستین شکایت شناخته‌شده علیه OpenAI به‌دلیل مرگ ناحق است و می‌تواند مرزهای مسئولیت حقوقی شرکت‌های هوش مصنوعی را بازتعریف کند. طبق گزارش‌ها، خانواده مدعی‌اند بات در گفت‌وگوهای طولانی گاهی به‌جای چالش‌کردن افکار خطرناک، آن‌ها را تأیید یا عادی‌سازی کرده است؛ در مقابل، OpenAI با ابراز تأسف گفته که در حال بهبود واکنش مدل‌ها در تعاملات حساس است.

سپرهای ایمنی چگونه دور زده شدند؟

پژوهش تازه «Psychiatric Services» می‌گوید چت‌بات‌ها معمولاً از پاسخ‌دادن به سؤال‌های پرریسک مستقیم خودداری می‌کنند، اما در سطوح میانی خطر (سؤالات غیرمستقیم) رفتار یکدستی ندارند. همچنین، خود OpenAI اذعان کرده که محافظ‌ها در گفت‌وگوهای کوتاه قابل‌اتکاترند و «هرچه تعامل طولانی‌تر شود، بخشی از آموزش‌های ایمنی ممکن است تضعیف گردد»؛ نکته‌ای که دقیقاً با ماهیت این پرونده همخوان است.

Parents Sue OpenAI Alleging ChatGPT Assisted Son’s Suicide

برای کاربر ایرانی، پیام عملی چیست؟

  • گفت‌وگو را زمان‌بندی کنید (جلسات کوتاه، با هدف مشخص).

  • واقعیت‌سنجی بیرونی: توصیه‌های حساس را با انسانِ متخصص بررسی کنید.

  • نشانه‌های خطر (بی‌خوابی، انزوا، قطع ارتباط با خانواده/دوستان) را جدی بگیرید.

خط قرمز: سلامت روان

چت‌بات‌ها درمانگر نیستند. اگر شما یا یکی از نزدیکانتان در معرض خطر خودآسیب‌زنی هستید، فوراً با خدمات اورژانسی محل خود تماس بگیرید یا از یک متخصص سلامت روان کمک بگیرید. کاربران خارج از ایران می‌توانند از خط بین‌المللی ۹۸۸ استفاده کنند؛ در ایران، مراجعه به مراکز مشاوره معتبر و تماس با اورژانس اجتماعی (۱۲۳) یا اورژانس (۱۱۵) در اولویت است.

نظر شما چیست؟ آیا شرکت‌های هوش مصنوعی باید در برابر پیامدهای گفت‌وگوهای طولانی پاسخ‌گوتر باشند؟ تجربه‌تان از مواجهه با محافظ‌های ایمنی چت‌بات‌ها را با ما در میان بگذارید.

تاریخ بروزرسانی : 20 مهر 1404 23:04:34
برچسب ها :
مطالب مشابه
مارول رسماً پایان دنیای Ultimate را اعلام کرد؛ خداحافظی با اسپایدرمن محبوب!
آموزش

مارول رسماً پایان دنیای Ultimate را اعلام کرد؛ خداحافظی با اسپایدرمن محبوب!

مارول تأیید کرد که دنیای Ultimate Universe در سال ۲۰۲۶ به پایان می‌رسد. مجموعه‌های محبوبی مانند Ultimate Spider-Man و The Ultimates تا آوریل آینده خاتمه می‌یابند. در کنار آن، مارول از راه‌اندازی سری جدید Iron Man با داستانی تازه و معمایی خبر داد.

21 مهر 1404
شرکت‌های بزرگ روی هوش مصنوعی شرط بسته‌اند؛ سود واقعی از کجاست؟
آموزش

شرکت‌های بزرگ روی هوش مصنوعی شرط بسته‌اند؛ سود واقعی از کجاست؟

در حالی‌که اپ‌های مصرفی هوش مصنوعی هنوز مسیر سوددهی را طی می‌کنند، غول‌هایی مثل Zendesk، Anthropic، IBM و Google با امضای قراردادهای بزرگ در بخش سازمانی، آینده‌ی جدیدی برای AI ساخته‌اند. اما ماجرای اشتباه گزارش Deloitte نشان داد که مسیر هوش مصنوعی هنوز بدون خطا نیست.

21 مهر 1404
چرا بازیکنان کنسولی Battlefield 6 از کراس‌پلی ناراضی‌اند؟
آموزش

چرا بازیکنان کنسولی Battlefield 6 از کراس‌پلی ناراضی‌اند؟

بازیکنان Battlefield 6 از سیستم کراس‌پلی ناراضی‌اند. خاموش کردن کراس‌پلی برای فرار از بازیکنان PC باعث می‌شود لابی‌ها پر از بات شوند. نبود گزینه کراس‌پلی بین کنسول‌ها، مهم‌ترین ایراد طراحی EA است که تجربه‌ی بازی را برای کاربران کنسولی مختل کرده است.

21 مهر 1404
آینده‌ی اپل در عصر هوش مصنوعی؛ از Siri جدید تا مرگ اپلیکیشن‌ها
آموزش

آینده‌ی اپل در عصر هوش مصنوعی؛ از Siri جدید تا مرگ اپلیکیشن‌ها

با وجود رشد خیره‌کننده‌ی ChatGPT و هوش مصنوعی OpenAI، اپل هنوز فرصت دارد تا با نسخه‌ی جدید Siri، تجربه‌ی کار با آیفون را متحول کند. اپل می‌خواهد هوش مصنوعی را در دل سیستم‌عامل ادغام کند تا کاربران بدون نیاز به اپ‌ها، از طریق گفت‌وگو کارهایشان را انجام دهند.

21 مهر 1404
Auric Disabler در Destiny 2؛ اتو رایفلی که نباید از دست بدهید!
آموزش

Auric Disabler در Destiny 2؛ اتو رایفلی که نباید از دست بدهید!

سلاح Auric Disabler در Destiny 2 یکی از بهترین اتو رایفل‌های فصل جدید است که با ترکیب درست پرک‌ها در هر دو حالت PvE و PvP عملکردی مرگبار دارد. این راهنما بهترین رول‌ها، پرک‌ها و متای فعلی بازی را برای رسیدن به قدرت واقعی این سلاح توضیح می‌دهد.

21 مهر 1404
پایان غیرمنتظره Clips؛ اپل دیگر اپ ساخت ویدیو ندارد؟
آموزش

پایان غیرمنتظره Clips؛ اپل دیگر اپ ساخت ویدیو ندارد؟

اپل پس از هفت سال به اپلیکیشن Clips پایان داد. این برنامه که در سال ۲۰۱۷ برای ساخت ویدیوهای کوتاه با فیلتر و موزیک عرضه شد، دیگر از App Store حذف شده و آپدیتی نخواهد داشت. اپل از کاربران خواسته ویدیوهایشان را ذخیره کنند تا از حذف داده‌ها جلوگیری شود.

21 مهر 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.