آیا شرکتهای هوش مصنوعی وقتی نشانههای خشونت را میبینند، مسئولیتی فراتر از مسدودسازی دارند؟ گزارشی تازه، دوباره این سؤال سخت را وسط آورده است.
در ماجرایی که حالا واکنشهای زیادی برانگیخته، کارکنان OpenAI از گفتوگوهای نگرانکننده یک کاربر با ChatGPT مطلع بودهاند؛ گفتوگوهایی درباره ترویج خشونت با سلاح گرم. با این حال، موضوع به پلیس گزارش نشد.
چه اتفاقی افتاد و چرا مهم است؟
نوجوان ۱۸ سالهای به نام جسی ونروتسلار که متهم به قتل هشت نفر در تیراندازی جمعی تامبلر ریج کانادا است، پیش از حادثه با ChatGPT مکالماتی داشته که توجه ابزارهای نظارتی OpenAI را جلب کرده بود. نتیجه؟ دسترسی مسدود شد، اما تماس فوری با نهادهای انتظامی صورت نگرفت.
به گزارش The Wall Street Journal، در داخل OpenAI درباره اطلاعرسانی به پلیس کانادا بحث شده، اما در نهایت تصمیم بر عدم گزارش بوده است. سخنگوی شرکت میگوید رفتار کاربر به «آستانه گزارش فوری» نمیرسیده؛ هرچند پس از وقوع حادثه، ارتباط با مقامات کانادایی برقرار شده است.
ردپای دیجیتال؛ فقط ChatGPT نبود
مسئله به اینجا ختم نمیشود. ونروتسلار در Roblox بازیای ساخته بود که تیراندازی در یک مرکز خرید را شبیهسازی میکرد و در Reddit هم محتوای مرتبط با اسلحه منتشر کرده بود. کنار هم گذاشتن این نشانهها، تصویر نگرانکنندهتری میسازد.
مسئولیت کجاست؟
این پرونده، دوباره بحث قدیمی مسئولیت پلتفرمها را زنده کرده است. چتباتها پیشتر هم با اتهام تشدید مشکلات روانی روبهرو شدهاند و حتی شکایتهایی مطرح شده که از گفتوگوهای تشویقکننده به خودآسیبی نام میبرند. پرسش کلیدی این است: مرز بین حریم خصوصی، خطای پیشبینی و «وظیفه پیشگیری» کجاست؟
نکته
شفافسازی آستانههای گزارشدهی، تعریف پروتکلهای مشترک با نهادهای مسئول و ارتقای تشخیص چندمنبعی (ترکیب سیگنالهای پلتفرمهای مختلف) میتواند ریسکهای مشابه را کاهش دهد بدون آنکه به نظارت افراطی ختم شود.
در نهایت، این پرونده فقط درباره یک شرکت یا یک ابزار نیست؛ درباره قواعد بازی در عصر هوش مصنوعی است.
نظر شما چیست؟ آیا مسدودسازی کافی است یا باید گزارشدهی فعالتری وجود داشته باشد؟ تجربه و دیدگاهتان را با ما به اشتراک بگذارید.
