ابزار جدید متا، پایانی برای جعل صدا با هوش مصنوعی

به گزارش واحد ترجمه ایران دکونومی، متا سیستمی ایجاد کرده است که می‌تواند سیگنال‌های مخفی معروف به واترمارک، را در کلیپ‌های صوتی تولید شده با هوش مصنوعی اعمال کند. این کار می‌تواند به شناسایی محتوای تولید شده توسط هوش مصنوعی به صورت آنلاین کمک کند.

این ابزار جدید متا که AudioSeal نام دارد، اولین ابزاری است که می‌تواند مشخص کند مثلاً کدام بخش‌های صوتی در یک پادکست ممکن است توسط هوش مصنوعی تولید شده باشد. با این قابلیت کاربران می‌توانند صداهای جعلی را از صداهای واقعی تشخیص دهند. این دستاورد به‌نوبه‌خود، می‌تواند به حل مشکل رو به رشد انتشار اطلاعات نادرست؛ جعل هویت و کلاهبرداری با استفاده از ابزارهای شبیه سازی صوتی کمک کند.

پیش از این دیده بودیم که از هوش مصنوعی مولد برای ایجاد دیپ فیک‌های صوتی از جو بایدن استفاده شده بود. واترمارک‌ها در تئوری می‌توانند به رسانه‌های اجتماعی کمک کنند تا این نوع محتواها را شناسایی و حذف کنند.

ابزار جدید متا چگونه کار می‌کند

ابزار AudioSeal  از دو شبکه عصبی تشکیل شده است که یکی برای برچسب‌گذاری قطعات صوتی ساخته شده با هوش مصنوعی و دیگری برای تشخیص آن برچسب در نظر گرفته شده‌اند. به بیان دیگر، شبکه اول سیگنال‌های بسیار کوچکی را روی محتوا قرار می‌دهد که توسط گوش انسان قابل شنیدن نیست ولی به خوبی توسط شبکه دوم دریافت می‌شوند.

ویژگی متمایز این ابزار در آن است که با جاسازی یک واترمارک در هر بخش از کل کلیپ صوتی به صورت محلی، قادر است حتی اگر صدا برش داده شده یا ویرایش شده باشد، باز هم آن را شناسایی کند.

علیرغم دقت 90 درصدی AudioSeal در تشخیص واترمارک‌های خود، متا تایید کرده است که هنوز برنامه‌ای برای اعمال واترمارک روی صدای تولید شده توسط ابزارهای هوش مصنوعی خود مثل AudioCraft و AudioBox ندارد.

گفتنی است که AudioSeal اکنون به صورت رایگان در GitHub در دسترس است و همه کاربران می‌توانند آن را دانلود کرده و برای افزودن واترمارک به کلیپ‌های صوتی تولید شده توسط هوش مصنوعی از آن استفاده کنند.

منبع: technologyreview