یک خانواده آمریکایی از OpenAI به اتهام «مرگ ناحق» پسر ۱۶ساله‌شان شکایت کرده‌اند؛ نوجوانی که ماه‌ها درباره افکار خودکشی با ChatGPT صحبت می‌کرد. بر اساس شکواییه، بات در برخی موارد او را به دریافت کمک حرفه‌ای ارجاع داد، اما کاربر با سناریوی داستانی توانسته بخشی از محافظ‌ها را دور بزند. این پرونده هم‌زمان با انتشار یک پژوهش مستقل درباره ناپایداری پاسخ چت‌بات‌ها در مواجهه با پرسش‌های مرتبط با خودکشی خبرساز شده است.
چرا این پرونده مهم است؟
این نخستین شکایت شناخته‌شده علیه OpenAI به‌دلیل مرگ ناحق است و می‌تواند مرزهای مسئولیت حقوقی شرکت‌های هوش مصنوعی را بازتعریف کند. طبق گزارش‌ها، خانواده مدعی‌اند بات در گفت‌وگوهای طولانی گاهی به‌جای چالش‌کردن افکار خطرناک، آن‌ها را تأیید یا عادی‌سازی کرده است؛ در مقابل، OpenAI با ابراز تأسف گفته که در حال بهبود واکنش مدل‌ها در تعاملات حساس است.
سپرهای ایمنی چگونه دور زده شدند؟
پژوهش تازه «Psychiatric Services» می‌گوید چت‌بات‌ها معمولاً از پاسخ‌دادن به سؤال‌های پرریسک مستقیم خودداری می‌کنند، اما در سطوح میانی خطر (سؤالات غیرمستقیم) رفتار یکدستی ندارند. همچنین، خود OpenAI اذعان کرده که محافظ‌ها در گفت‌وگوهای کوتاه قابل‌اتکاترند و «هرچه تعامل طولانی‌تر شود، بخشی از آموزش‌های ایمنی ممکن است تضعیف گردد»؛ نکته‌ای که دقیقاً با ماهیت این پرونده همخوان است.
برای کاربر ایرانی، پیام عملی چیست؟
-
گفت‌وگو را زمان‌بندی کنید (جلسات کوتاه، با هدف مشخص).
-
واقعیت‌سنجی بیرونی: توصیه‌های حساس را با انسانِ متخصص بررسی کنید.
-
نشانه‌های خطر (بی‌خوابی، انزوا، قطع ارتباط با خانواده/دوستان) را جدی بگیرید.
خط قرمز: سلامت روان
چت‌بات‌ها درمانگر نیستند. اگر شما یا یکی از نزدیکانتان در معرض خطر خودآسیب‌زنی هستید، فوراً با خدمات اورژانسی محل خود تماس بگیرید یا از یک متخصص سلامت روان کمک بگیرید. کاربران خارج از ایران می‌توانند از خط بین‌المللی ۹۸۸ استفاده کنند؛ در ایران، مراجعه به مراکز مشاوره معتبر و تماس با اورژانس اجتماعی (۱۲۳) یا اورژانس (۱۱۵) در اولویت است.
نظر شما چیست؟ آیا شرکت‌های هوش مصنوعی باید در برابر پیامدهای گفت‌وگوهای طولانی پاسخ‌گوتر باشند؟ تجربه‌تان از مواجهه با محافظ‌های ایمنی چت‌بات‌ها را با ما در میان بگذارید.
