برچسب‌گذاری تصاویر ساخته‌شده با هوش مصنوعی در پلتفرم‌های متا

به گزارش واحد ترجمه ایران‌دکونومی، کمپانی متا اعلام کرده که تصاویر ساخته‌شده با ابزارهای هوش مصنوعی که در پلتفرم‌های اینستاگرام، فیسبوک و Threads منتشر می‌شوند را با الصاق برچسب‌های اختصاصی از تصاویر واقعی متمایز خواهد کرد.
همچنین به گفته این کمپانی با کاربرانی که از این قانون سرپیچی کرده و تصاویر واقع‌گرای ساخته‌شده با هوش مصنوعی را به‌عنوان یک تصویر واقعی در این پلتفرم‌ها منتشر می‌کنند نیز برخورد جدی خواهد شد.

اخیراً تصاویر بسیار واقع‌گرا و نامناسب ساخته‌شده با ابزارهای هوش مصنوعی زایایی مانند Stable Diffusion, Midjourney و DALL-E با واکنش‌های بسیاری از سوی کاربران مواجه شده‌اند.

محتواهای هوش مصنوعی، ساختگی یا واقعی؟

براساس جدیدترین اخبار به‌دست‌آمده، کمپانی متا قصد دارد با نزدیک‌ شدن به فصل انتخابات در سراسر جهان، از سوءاستفاده‌های احتمالی افراد فرصت‌طلب از ابزارهای هوش مصنوعی جلوگیری کرده و محدودیت‌هایی را در این زمینه اعمال کند. براساس بیانیه جدید این شرکت، تصاویری که با استفاده از ابزارهای هوش مصنوعی ساخته شده و در سه پلتفرم فیسبوک، Threads و اینستاگرام منتشر می‌شوند، باید با برچسب‌های مربوطه از تصاویر واقعی متمایز شوند.
همچنین متا قصد دارد کاربرانی را که تصاویر، ویدیوها و یا فایل‌های صوتی ساخته شده با هوش مصنوعی را به‌جای محتواهای واقعی و اورجینال به دیگران نمایش می‌دهند، را نیز توبیخ و محدود کند.

به گفته نیک کلگ، مدیر بخش امور جهانی متا در یک مصاحبه جدید، این چارچوب‌های جدید به‌منظور تقویت کردن پایه‌های دنیای تکنولوژی و به‌منظور ایجاد راهکاری مناسب برای تشخیص تصاویر واقعی از تصاویر جعلی به‌کار گرفته شده‌اند. همانطور که می‌دانید، امروزه با سیر پیشرفت نجومی و گاهاً ترسناک تکنولوژی هوش مصنوعی، تشخیص تصاویر جعلی، ساختگی و دیپ‌فیک (Deepfake) از تصاویر واقعی بسیار پیچیده و دشوار است.
‌کاخ سفید فشار مضاعفی به کمپانی‌های مسئول در این حوزه آورده تا محتواهای ساخته‌شده با هوش مصنوعی را با الصاق واترمارک‌های مشخصی از تصاویر واقعی متمایز کنند.

متا تا پیش از این تصاویری که با ابزار هوش مصنوعی اختصاصی خودش، Imagine with Meta AI ساخته شده بودند را با واترمارک اختصاصی “Imagined with AI” به کاربران نمایش می‌داد. حالا قرار است از این پس تصاویر ساخته‌شده با ابزارهای کمپانی‌های دیگری از جمله گوگل، OpenAI، مایکروسافت، Adobe، Midjourney و Shutterstock نیز با برچسب‌های واضح و مشخصی از تصاویر واقعی مجزا شوند.

براساس سخنان جدید مدیر متا، تصاویر تولیدشده با هوش مصنوعی زایا به‌صورت خودکار توسط سیستم‌های هوشمند این کمپانی برچسب‌گذاری خواهند شد و این واترمارک‌ها در تمامی زبان‌ها در دسترس کاربران هستند. نیک کلگ در پست جدید خود نوشته است: “از آنجایی‌که مرز بین محتوای واقعیِ انسانی و محتوای هوش مصنوعی بسیار محو شده است؛ کاربران باید بدانند که مرز این دو دنیا دقیقاً کجاست”.

به گفته او این برچسب‌ها فعلاً محدود به محتواهای تصاویر هستند و محتواهای صوتی و ویدیویی دارای واترمارک اختصاصی نخواهند بود. اما به‌زودی پلتفرم‌های متا از کاربران خود درخواست خواهند کرد که متحواهای ویدیویی و یا صوتی ساخته‌شده با هوش مصنوعی را با این واترمارک‌ها مشخص کرده و سپس انتشار دهند.

درصورتی‌که محتواهای غیرواقعی و ساختگی بدون واترمارک توسط دیگر کاربران شناسایی شدند؛ امکان اتصال برچسب ویژه توسط این افراد نیز وجود دارد. به گفته کلگ، در صورت سرپیچی از این دستورالعمل‌ها، مجازات‌های مختلفی از هشدار تا حذف کردن اکانت کاربری برای کاربران درنظر گرفته شده است.
به‌نظر می‌رسد تکنولوژی کمپانی متا برای شناسایی این تصاویر ساختگی، حتی قادر است محتواهایی را که واترمارک‌های نامرئی ندارند را نیز تشخیص دهد!

منبع: The Verge