آیا هوش مصنوعی آنقدر سریع پیش رفته که حالا باید نگران پیامدهایش باشیم؟ به نظر میرسد پاسخ OpenAI کاملاً جدی است. این شرکت بهتازگی اعلام کرده به دنبال استخدام یک مدیر ارشد جدید با عنوان Head of Preparedness است؛ نقشی کلیدی که تمرکزش روی شناسایی و مدیریت ریسکهای نوظهور هوش مصنوعی، از امنیت سایبری گرفته تا سلامت روان کاربران، خواهد بود.
چرا OpenAI دوباره زنگ خطر را به صدا درآورده؟
Sam Altman، مدیرعامل OpenAI، در پستی در شبکه X صراحتاً گفت که مدلهای هوش مصنوعی «دارند چالشهای واقعی ایجاد میکنند». از نگاه او، دو حوزه بیش از بقیه حساس شدهاند:
-
مدلهایی که آنقدر در امنیت کامپیوتری قوی شدهاند که میتوانند آسیبپذیریهای حیاتی سیستمها را پیدا کنند
-
و تأثیر احتمالی این مدلها بر سلامت روان انسانها
به بیان سادهتر، همان ابزاری که میتواند از سیستمها دفاع کند، اگر بدون چارچوب ایمنی رها شود، ممکن است به ابزاری برای سوءاستفاده هم تبدیل شود.
Head of Preparedness دقیقاً چه نقشی دارد؟
طبق آگهی شغلی OpenAI، این مدیر مسئول اجرای Preparedness Framework است؛ چارچوبی که توضیح میدهد OpenAI چگونه توانمندیهای پیشرفته و مرزی (Frontier Capabilities) را زیر نظر میگیرد و برای خطرات بالقوه آنها آماده میشود.
این خطرات فقط محدود به تهدیدهای روزمره مثل فیشینگ نیستند. OpenAI از سناریوهای جدیتری هم صحبت میکند؛ از سوءاستفادههای گسترده سایبری گرفته تا ریسکهای زیستی و حتی تهدیدهای فاجعهبار در مقیاس جهانی. به زبان خودمانیتر: اگر قرار است هوش مصنوعی «خیلی قدرتمند» شود، باید از قبل برای بدترین حالتها هم برنامه داشت.
تیمی که زود تغییر کرد
OpenAI اولین بار در سال ۲۰۲۳ از تشکیل تیم Preparedness خبر داد و گفت این تیم وظیفه بررسی «ریسکهای فاجعهبار» را دارد؛ چه خطرات فوری و چه تهدیدهای بلندمدت و نظری. اما کمتر از یک سال بعد، مدیر این بخش، Aleksander Madry، به تیم دیگری منتقل شد که تمرکزش روی استدلال هوش مصنوعی بود. در همین بازه، چند مدیر دیگر حوزه ایمنی هم یا شرکت را ترک کردند یا نقششان تغییر کرد.
این جابهجاییها باعث شده بعضی تحلیلگران بپرسند:
آیا OpenAI در حال بازتعریف اولویتهای ایمنی خود است؟
رقابت، ایمنی را تغییر میدهد؟
نکته قابلتوجه دیگر، بهروزرسانی اخیر Preparedness Framework است. OpenAI اعلام کرده اگر یک آزمایشگاه رقیب، مدل «پرریسک» را بدون محافظتهای مشابه منتشر کند، این شرکت ممکن است الزامات ایمنی خودش را تعدیل کند. تصمیمی که نشان میدهد رقابت در دنیای AI میتواند حتی استانداردهای ایمنی را هم تحت فشار بگذارد.
سلامت روان؛ چالش حساستر از همیشه
در کنار امنیت سایبری، چتباتهای هوش مصنوعی بهویژه ChatGPT زیر ذرهبین نهادهای حقوقی و روانشناسان قرار گرفتهاند. شکایتهایی مطرح شده که ادعا میکنند این ابزارها باعث تقویت توهم، افزایش انزوای اجتماعی و حتی آسیبهای جدی روانی شدهاند. OpenAI میگوید در حال بهبود سیستمهای تشخیص نشانههای بحران عاطفی و اتصال کاربران به حمایتهای واقعی است.
جمعبندی؛ بلوغ یا هشدار؟
جستوجوی OpenAI برای یک Head of Preparedness جدید، فقط یک استخدام ساده نیست؛ نشانهای است از اینکه هوش مصنوعی وارد مرحلهای شده که قدرتش، مسئولیت بیشتری میطلبد.
