0
سبد خرید شما خالی است
جیب استور > وبلاگ > OpenAI زنگ خطر را دید، اما پلیس را خبر نکرد

OpenAI زنگ خطر را دید، اما پلیس را خبر نکرد

  • واحد تولید محتوا
  • 03 اسفند 1404 14:36:50
  • زمان مطالعه 1 دقیقه

مقدمه :

افشای گزارش تازه نشان می‌دهد OpenAI پیش از تیراندازی مرگبار کانادا از مکالمات نگران‌کننده قاتل با ChatGPT مطلع بوده، اما فقط به مسدودسازی اکتفا کرده و موضوع را به پلیس گزارش نداده است؛ موضوعی که بحث مسئولیت پلتفرم‌های هوش مصنوعی را دوباره داغ کرده.

OpenAI زنگ خطر را دید، اما پلیس را خبر نکرد

آنچه در این مقاله میخوانید

آیا شرکت‌های هوش مصنوعی وقتی نشانه‌های خشونت را می‌بینند، مسئولیتی فراتر از مسدودسازی دارند؟ گزارشی تازه، دوباره این سؤال سخت را وسط آورده است.

در ماجرایی که حالا واکنش‌های زیادی برانگیخته، کارکنان OpenAI از گفت‌وگوهای نگران‌کننده یک کاربر با ChatGPT مطلع بوده‌اند؛ گفت‌وگوهایی درباره ترویج خشونت با سلاح گرم. با این حال، موضوع به پلیس گزارش نشد.

چه اتفاقی افتاد و چرا مهم است؟

نوجوان ۱۸ ساله‌ای به نام جسی ون‌روتسلار که متهم به قتل هشت نفر در تیراندازی جمعی تامبلر ریج کانادا است، پیش از حادثه با ChatGPT مکالماتی داشته که توجه ابزارهای نظارتی OpenAI را جلب کرده بود. نتیجه؟ دسترسی مسدود شد، اما تماس فوری با نهادهای انتظامی صورت نگرفت.

به گزارش The Wall Street Journal، در داخل OpenAI درباره اطلاع‌رسانی به پلیس کانادا بحث شده، اما در نهایت تصمیم بر عدم گزارش بوده است. سخنگوی شرکت می‌گوید رفتار کاربر به «آستانه گزارش فوری» نمی‌رسیده؛ هرچند پس از وقوع حادثه، ارتباط با مقامات کانادایی برقرار شده است.

ردپای دیجیتال؛ فقط ChatGPT نبود

مسئله به اینجا ختم نمی‌شود. ون‌روتسلار در Roblox بازی‌ای ساخته بود که تیراندازی در یک مرکز خرید را شبیه‌سازی می‌کرد و در Reddit هم محتوای مرتبط با اسلحه منتشر کرده بود. کنار هم گذاشتن این نشانه‌ها، تصویر نگران‌کننده‌تری می‌سازد.

مسئولیت کجاست؟

این پرونده، دوباره بحث قدیمی مسئولیت پلتفرم‌ها را زنده کرده است. چت‌بات‌ها پیش‌تر هم با اتهام تشدید مشکلات روانی روبه‌رو شده‌اند و حتی شکایت‌هایی مطرح شده که از گفت‌وگوهای تشویق‌کننده به خودآسیبی نام می‌برند. پرسش کلیدی این است: مرز بین حریم خصوصی، خطای پیش‌بینی و «وظیفه پیشگیری» کجاست؟

نکته

 شفاف‌سازی آستانه‌های گزارش‌دهی، تعریف پروتکل‌های مشترک با نهادهای مسئول و ارتقای تشخیص چندمنبعی (ترکیب سیگنال‌های پلتفرم‌های مختلف) می‌تواند ریسک‌های مشابه را کاهش دهد بدون آن‌که به نظارت افراطی ختم شود.

در نهایت، این پرونده فقط درباره یک شرکت یا یک ابزار نیست؛ درباره قواعد بازی در عصر هوش مصنوعی است.

نظر شما چیست؟ آیا مسدودسازی کافی است یا باید گزارش‌دهی فعال‌تری وجود داشته باشد؟ تجربه و دیدگاه‌تان را با ما به اشتراک بگذارید.

تاریخ بروزرسانی : 03 اسفند 1404 15:29:45
مطالب مشابه
تفاوت گیفت کارت اپلِ آمریکا و کانادا؛ مقایسه‌ای جامع از نظر قیمت، مالیات و کاربرد
آموزش

تفاوت گیفت کارت اپلِ آمریکا و کانادا؛ مقایسه‌ای جامع از نظر قیمت، مالیات و کاربرد

اگر بین گیفت کارت اپل آمریکا و کانادا مردد هستید، باید بدانید ریجن اشتباه یعنی کد بی‌مصرف و پول هدررفته. آمریکا با امکان حذف مالیات (با Zip Code مناسب)، تنوع بیشتر محتوا و فراوانی کارت‌ها در ایران معمولاً انتخاب بی‌دردسرتری است؛ کانادا بیشتر برای مهاجرت منطقی است.

03 اسفند 1404
مارس ۲۰۲۶؛ شلوغ‌ترین ماه پلی‌ استیشن ۵ با ۱۱ بازی تازه
آموزش

مارس ۲۰۲۶؛ شلوغ‌ترین ماه پلی‌ استیشن ۵ با ۱۱ بازی تازه

ماه مارس ۲۰۲۶ شلوغ‌ترین بازه پلی‌استیشن ۵ در ابتدای سال خواهد بود. بیش از ۱۱ بازی متنوع از شوتر و نقش‌آفرینی تا ورزشی و داستان‌محور منتشر می‌شوند؛ ماهی که هم طرفداران عناوین بزرگ را راضی می‌کند و هم عاشقان تجربه‌های متفاوت را.

03 اسفند 1404
استیم دک با این ترفند، نینتندو DS را به زانو درآورد!
آموزش

استیم دک با این ترفند، نینتندو DS را به زانو درآورد!

یک گیمر خلاق با افزودن مانیتور دوم به استیم دک، تجربه دو‌صفحه‌ای نینتندو DS را زنده کرده است. این ایده با هزینه‌ای نه‌چندان کم، حس نوستالژی واقعی می‌دهد و حتی می‌تواند الهام‌بخش طراحی کنسول‌های نسل بعد، از جمله سوییچ ۲، باشد.

03 اسفند 1404
Tensor بالاخره جواب می‌دهد؟ Pixel 10a در برابر منتقدان
آموزش

Tensor بالاخره جواب می‌دهد؟ Pixel 10a در برابر منتقدان

انتقادها از چیپ‌های Tensor سال‌هاست ادامه دارد، اما Pixel 10a با Tensor G4 فرصتی جدی برای تغییر این نگاه است. گوگل با بهینه‌سازی نرم‌افزاری، باتری بهتر و پشتیبانی ۷ ساله می‌خواهد نشان دهد کارایی پایدار مهم‌تر از اعداد بنچمارک است.

03 اسفند 1404
iOS 26.4 آمد؛ وقتی آیفون با هوش مصنوعی باحال‌تر می‌شود
آموزش

iOS 26.4 آمد؛ وقتی آیفون با هوش مصنوعی باحال‌تر می‌شود

نسخه بتای عمومی iOS 26.4 با تمرکز بر هوش مصنوعی و امنیت منتشر شد. از پلی‌لیست‌سازی هوشمند در Apple Music و پادکست‌های ویدیویی گرفته تا پیام‌رسانی رمزنگاری‌شده RCS و قابلیت‌های جدید CarPlay، این آپدیت تجربه آیفون را جدی‌تر از قبل ارتقا می‌دهد.

03 اسفند 1404
Google Docs دیگر کافی نیست؟ این دو جایگزین غافلگیرتان می‌کنند
آموزش

Google Docs دیگر کافی نیست؟ این دو جایگزین غافلگیرتان می‌کنند

با پولی‌شدن تدریجی قابلیت‌های Google Docs، نویسنده به دنبال جایگزین‌های ساده‌تر رفت و پس از مشخص‌کردن نیازهای واقعی، Proton Docs و Craft را امتحان کرد. نتیجه نشان می‌دهد سادگی، امنیت و تمرکز، همیشه بر امکانات زیاد برتری دارند.

03 اسفند 1404

نظرات کاربران

دیدگاهتان را بنویسید

+ =

راه های ارتباطی با ما

از طریق تلگرام و یا برقراری تماس می‌توانید با تیم پشتیبانی ما در ارتباط باشید.