سازمان غیرانتفاعی Common Sense Media که روی ایمنی کودکان در فضای دیجیتال کار میکند، اخیراً گزارشی منتشر کرده و در آن محصولات هوش مصنوعی گوگل یعنی Gemini را برای کودکان و نوجوانان «پرخطر» معرفی کرده است.
Gemini دقیقاً چه مشکلی دارد؟
تحلیل این سازمان نشان میدهد که نسخههای مخصوص نوجوانان و کودکان زیر ۱۳ سال در واقع همان نسخه بزرگسالان هستند که فقط چند فیلتر اضافی رویشان فعال شده است. همین موضوع باعث میشود که Gemini همچنان بتواند محتوایی نامناسب یا خطرناک مثل اطلاعات مربوط به مواد مخدر، الکل، مسائل جنسی یا حتی توصیههای ناسالم درباره سلامت روان را در اختیار بچهها بگذارد.
این نکته مخصوصاً والدین را نگران کرده، چون در ماههای اخیر خبرهایی درباره نقش هوش مصنوعی در برخی خودکشیهای نوجوانان منتشر شده است. حتی یک پرونده قضایی علیه OpenAI به همین دلیل باز شده است.
آیا گوگل پاسخی داده است؟
گوگل در واکنش به این گزارش اعلام کرده که برای کاربران زیر ۱۸ سال سیاستها و ابزارهای حفاظتی ویژهای در نظر گرفته است و مدام با تیمهای تخصصی برای ارتقای امنیت همکاری میکند. با این حال، این شرکت پذیرفته که برخی پاسخهای Gemini مطابق انتظار عمل نکردهاند و قول داده با افزودن لایههای ایمنی بیشتر این مشکلات را رفع کند.
چرا این موضوع اهمیت دارد؟
بر اساس ارزیابی Common Sense، یک محصول هوش مصنوعی مخصوص کودکان باید از پایه با در نظر گرفتن نیازهای آنها طراحی شود، نه اینکه نسخه بزرگسالان کمی «سانسورشده» به دستشان برسد. وقتی صحبت از نوجوانان و کودکان است، یک رویکرد یکسان برای همه جواب نمیدهد و میتواند خطرناک باشد.
در نهایت، این بحث فقط به گوگل محدود نمیشود؛ بلکه به همه ما یادآوری میکند که هوش مصنوعی مثل یک ابزار قدرتمند است که اگر درست استفاده نشود، میتواند آسیبزا باشد. به نظر شما چطور میتوان بین استفاده هوشمندانه از AI و حفظ امنیت بچهها تعادل ایجاد کرد؟
همانطور که برای سرگرمی و بازیها همیشه توصیه میشود از فروشگاههای معتبر مثل «جیباستور» خرید کنید، در استفاده از سرویسهای هوش مصنوعی هم اعتماد به منبع و رعایت ایمنی اهمیت ویژهای دارد.
