آشنایی با سوپر الایمنت

از زمانی که کمپانی شناخته شده Open AI اولین نسخه چت جی پی تی را به دنیا معرفی کرد؛ تا به امروز زمزمه های بسیار زیادی در سوشال مدیا های مختلف مانند یوتیوب ، اینستاگرام و ایکس با عنوان هوش مصنوعی انسان را نابود می‌کند و.. شنیده شده و هرچند کم تر اما همچنان ادامه دارد. Open AI به تازگی خبر از توسعه محصول جدید خود داده که می‌تواند همان چیزی باشد که شما می‌گویید بشر را نابود خواهد کرد؛ این پروژه که Superalignment نام دارد، یک هوش مصنوعی بسیار قدرتمند است که می‌تواند به یک یا چندین ابر هوش مصنوعی نظارت کند! می‌دانم با چنین مقدمه ای احساس می‌کنید که در یک فیلم یا سریال سورئال قرار دارید؛ اما ما در این مطلب از بلاگ جیب استور شما را با پروژه جدید Open AI یعنی سوپر الایمنت آشنا می‌کنیم.

ابر هوش مصنوعی چیست؟

قبل از هر چیز شاید برایتان سوال باشد که این ابر هوش مصنوعی که می‌گویم اصلا چی هست؟ بگذارید اینطور روشنتان کنم؛ تمام هوش مصنوعی هایی که امروزه ما می‌توانیم از آن ها استفاده کنیم و در بسیاری از کار ها و فعالیت ها کمک رسان ما هستند؛ همه و همه هوش مصنوعی محدود هستند. به طور کلی هوش مصنوعی به سه نوع محدود ، عمومی و ابر هوش مصنوعی تقسیم می‌شود که همانطور که از نامش پیداست قدرتمند ترین و بالا ترین سطح در این دسته بندی همین ابر هوش مصنوعی است. اما همین موضوع است که لرزه به تن هر انسانی که تفکر می‌کند می‌اندازد؛ این ابر هوش مصنوعی ای که قرار است توسط انسان خلق شود و تا این حد قدرتمند است ، به آدمی خدمت خواهد کرد؟ همین سوال اضطراب آور شاید یکی از بزرگترین دلایل جرقه زدن و رقم خوردن ایده سوپر الایمنت بوده است. اگر بخواهم حدسی راجب اندیشه های Open Ai در این باره بزنم می‌گویم این کمپانی می‌داند که ابر هوش مصنوعی می‌تواند در کنار آرورده های مثبتش ، بسیار خطرناک نیز باشد و از همین رو به فکر طراحی یک ناظر برای این تهدید احتمالی افتاده است و آن ناظر همین سوپر الایمنت است؛ در ادامه به جزئیات پروژه سوپر الایمنت و ویژگی های آن می‌پردازیم.

سوپر الایمنت چیست؟

همانطور که گفته شد؛ ایده پروژه سوپر الایمنت بر مبنی این محوریت متولد شد که یک دست بالا و مسئول نظارت بر ابر هوش مصنوعی ای باشد که حتی هنوز بهره برداری نشده است؛ سوپر الایمنت یک هوش مصنوعی است که وظیفه نظارت بر کارکرد ابر هوش مصنوعی را دارد و به گفته Open AI تا چهار الی پنج سال آینده به درجه بهره برداری می‌رسد. به گفته خود Open AI این هوش مصنوعی باید در بسیاری از موارد بازدهی مناسبی از خود نشان بدهد و از بسیاری از انتظارات پیروز بیرون بی‌آید تا بتوان روی آن برای نظارت بر ابر هوش مصنوعی حساب کرد. در وهله و هدف و اول ، اپن ای آی می‌خواهد که این پروژه بتواند نظارت کامل و مقیاس انعطاف پذیری را بر ابر هوش مصنوعی و حتی هوش مصنوعی های عمومی و محدود ارائه بدهد؛ یعنی چی؟ یعنی سوپر الایمنت باید بتواند کامند ها و سیگنال های آموزشی را به بهترین شکل ممکن به هوش مصنوعی های دیگر منتقل کند و با همین قدرت آنالیز بتواند سایر هوش مصنوعی ها را تحت نظارت کامل قرار بدهد و لازم به ذکر است که حتی ارزیابی این سیگنال ها و آموزش های هوش مصنوعی برای ما انسان ها بسیار دشوار است چه برسد به نظارت داشتن؛ همچنین دیگر پارامتری که سوپر الایمنت باید از پس آن بربیاید این است که بتواند با دیدی بسیار باز تمام مشکلات ، اختلال ها و رفتار های هنجارشکنانه ابر هوش مصنوعی را به سرعت تشخیص بدهد.

درنهایت

در نهایت باید بگویم که این که بخواهیم به 5 تا 10 سال آینده فکر کنیم و بخاطرش اضطراب بکشیم کار عقلانی ای نیست؛ اگر بخواهم نسبت به دو قدم جلوی پایتان کمی بهتان تسلی بدهم باید بگویم که در حال حاضر ، همین کمپانی Open AI نهایت تلاش خود را می‌کند تا همین چت بات هایی که امروز از آن ها استفاده می‌کنیم مانند سری GPT تقریبا هیچگونه ناهنجاری ، اشتباه و اطلاعات غلطی به همراه نداشته باشند.