آبروریزی در فیسبوک/ خلق استیکرهای نامناسب و حتی مستهجن با هوش مصنوعی

کمتر از یک هفته پس از آنکه کمپانی متا از ابزار استیکرساز هوشمند در اپلیکیشن پیام‌رسان فیسبوک مسنجر خودش رونمایی کرد، گزارش تکان‌دهنده‌ای در مورد آن منتشر شده است. ظاهرا این ابزار هوش مصنوعی فیسبوک مسنجر به کاربران اجازه خلق تصاویر غیراخلاقی از شخصیت‌های کارتونی و محبوب کودکی مثل میکی ماوس و سوپر ماریو را می‌دهد. کاربری پستی را در شبکه اجتماعی X منتشر کرده که در آن به‌وضوح استیکرهای غیراخلاقی ساخته شده توسط پیام‌رسان فیسبوک را به‌نمایش می‌گذارد.

او در پست خودش اینگونه نوشت: «متوجه شدم که پیام‌رسان فیسبوک دارای یک ابزار برای ساخت استیکر است، اما شاید خیلی‌ها متوجه نکته منفی بزرگ آن نشده باشند. ما در احمقانه‌ترین آینده‌ای که می‌توان تصور کرد، زندگی می‌کنیم.»

این ابزار هوش مصنوعی که در حال حاضر فقط در اختیار تعداد محدودی از کاربران قرار گرفته، با وارد کردن یک توصیف متنی کوتاه می‌تواند یک عکس استیکر را خلق کند که کاربر قادر به استفاده از آن در فیسبوک مسنجر و اینستاگرام خواهد بود. متا برای توسعه این ابزار از مدل جدید هوش مصنوعی سنتز تصویر به‌نام Emu استفاده کرده است و فیلترهایی را هم پیاده‌سازی کرده تا جلوی خلق عکس‌های غیراخلاقی را بگیرد. اما آزمایش‌هایی که روی این هوش مصنوعی انجام شده، نشان می‌دهد که مدل آن‌ها در فیلتر تصاویر ناموفق بوده است.

به‌طور مثال این کاربر در شبکه اجتماعی X تصاویری از استیکرهای میکی ماوس با اسلحه و چاقو، شخصیت کارتون سوپر ماریو با اسلحه، استیکرهای تمسخرآمیز دونالد ترامپ در حال گریه و استیکرهای مستهجن بدتری که با استفاده از این ابزار ساخته شده را منتشر کرده است.

این اولین باری نیست که یک ابزار خلق تصاویر مبتنی بر هوش مصنوعی آبروریزی می‌کند. پیش از این نیز ابزارهایی وجود داشت که در ابتدای کار خود عکس‌های غیراخلاقی و مستهجن را خلق می‌کردند. اما این اتفاق در مرحله آزمایشی رخ می‌داد. جای تعجب اینجاست، در حالی متا این ابزار هوش مصنوعی را در اختیار کاربران پلتفرم‌های محبوبی مثل اینستاگرام و فیسبوک مسنجر گذاشته که هنوز به‌تکامل نرسیده و توانایی فیلتر کردن درخواست‌های خشونت آمیز یا مستهجن کاربران را ندارد.

۵۸۵۸