آیا هوش مصنوعی از کنترل خارج می‌شود؟ اقدام تازه OpenAI

با رشد شتاب‌دار هوش مصنوعی، حالا دیگر سؤال اصلی این نیست که AI چه کارهایی می‌تواند بکند؛ بلکه این است که چه خطرهایی ممکن است ایجاد کند. در همین فضا، شرکت OpenAIسازنده‌ی ChatGPTبه‌طور رسمی آگهی استخدام موقعیتی تازه و حساس را منتشر کرده: Head of Preparedness یا رئیس آمادگی.

سم آلتمن، مدیرعامل OpenAI، از این نقش به‌عنوان یک موقعیت حیاتی در زمانی بسیار مهم یاد کرده؛ جمله‌ای که خودش به‌تنهایی نشان می‌دهد داستان از یک استخدام ساده فراتر است.

چرا OpenAI به چنین نقشی نیاز دارد؟

هوش مصنوعی هر روز باهوش‌تر می‌شود؛ از مکالمه‌های انسانی گرفته تا تحلیل داده‌هایی که از میلیون‌ها منبع به دست می‌آورد. اما همین پیشرفت، ریسک‌ها را هم بالا برده است. آلتمن در پستی در شبکه X (توییتر سابق) در تاریخ ۲۹ دسامبر ۲۰۲۵ صراحتاً گفت:

هوش مصنوعی دارد چالش‌های واقعی و تازه‌ای ایجاد می‌کند.

یکی از مثال‌هایی که او به آن اشاره کرد، تأثیر بالقوه‌ی AI بر سلامت روان بود؛ موضوعی که به گفته‌ی خودش، در سال ۲۰۲۵ نشانه‌های اولیه‌اش دیده شد. این نگرانی بی‌دلیل نیست؛ پیش‌تر، OpenAI با شکایتی قضایی مواجه شد که در آن ادعا شده بود ChatGPT به‌طور غیرمستقیم در تشویق به خودکشی نقش داشته است.

Head of Preparedness دقیقاً چه کاری می‌کند؟

این جایگاه، هدایت تیمی را بر عهده دارد که از سال ۲۰۲۳ در OpenAI شکل گرفته؛ تیمی که مأموریتش بررسی ریسک‌های فاجعه‌بار (Catastrophic Risks) و اطمینان از ایمن‌بودن سیستم‌هایی است که حتی توانایی خودبهبوددهی (Self-Improvement) دارند.

به زبان ساده، این فرد باید:

• بدترین سناریوهای ممکن را پیش‌بینی کند

• راه‌های سوءاستفاده از توانایی‌های AI را شناسایی کند

• و قبل از اینکه اوضاع از کنترل خارج شود، مسیر را اصلاح کند

خود OpenAI هم این شغل را ذاتاً پراسترس توصیف کردهچون قرار است همیشه چند قدم جلوتر از آینده حرکت کنید.

حقوق بالا، مسئولیت بالاتر

برای چنین مسئولیت سنگینی، OpenAI حاضر است ۵۵۰ هزار دلار در سال + سهام (Equity) پرداخت کند. عددی که نشان می‌دهد کنترل و ایمن‌سازی هوش مصنوعی، حالا به یکی از گران‌ترین و مهم‌ترین تخصص‌ها در صنعت فناوری تبدیل شده است.

این خبر برای ما چه معنایی دارد؟

استخدام رئیس آمادگی یک پیام روشن دارد:
هوش مصنوعی دیگر صرفاً یک ابزار نیست؛ یک نیروی تأثیرگذار با ریسک‌های واقعی است. تصمیم OpenAI نشان می‌دهد حتی سازندگان این فناوری هم می‌دانند که بدون برنامه‌ریزی و نظارت جدی، پیشرفت می‌تواند خطرناک باشد.

برای کاربرانی که روزانه با ابزارهای مبتنی بر AI سروکار دارنداز چت‌بات‌ها گرفته تا سیستم‌های تولید محتوااین خبر یادآوری می‌کند که آینده‌ی هوش مصنوعی، فقط درباره‌ی قدرت بیشتر نیست؛ درباره‌ی مسئولیت بیشتر هم هست.