این ابزار تصاویر هوش مصنوعی OpenAI را تشخیص می‌دهد!

به گزارش واحد ترجمه ایران دکونومی،  کمپانی OpenAI روز سه‌شنبه ابزار جدیدی را معرفی کرد که می‌تواند تشخیص دهد که آیا یک تصویر با استفاده از هوش مصنوعی تبدیل متن به تصویر این شرکت یعنی DALL-E 3 ساخته شده است یا خیر. به گفته مقامات OpenAI این ابزار در تشخیص تصاویر DALL-E 3 بسیار دقیق عمل می‌کند، اما تغییرات کوچک در یک تصویر می‌تواند آن را گمراه کند.  به بیان دقیق‌تر، این ابزار تصاویر ساخته شده با DALL-3 را در ۹۸ درصد مواقع به درستی تشخیص می‌دهد. ولی سیستم جدید OpenAI با این میزان دقت نیز عاری از خطا و ایراد نیست.

نقاط ضعف ابزار جدید تشخیص تصاویر هوش مصنوعی

اول از همه اینکه، تصویر مورد بررسی باید حتماً توسط DALL-E ایجاد شده باشد و خوب می‌دانیم که این تنها تولید کننده تصویر در این صنعت نیست. بر اساس داده‌های ارائه شده توسط OpenAI، این سیستم تنها موفق شد پنج تا ده درصد از تصاویر ساخته شده توسط سایر مدل‌های هوش مصنوعی را با موفقیت طبقه‌بندی کند.

به علاوه، اگر تصویر به هر نحوی اصلاح شده باشد، این ابزار با مشکل مواجه می‌شود. البته اگر این تغییرات جزئی و شامل اصطلاحاتی مانند برش، فشرده‌سازی و تغییرات در اشباع رنگ باشد، چندان مشکل‌ساز نبوده و درصد موفقیت همچنان در محدوده قابل قبول 95 تا 97 درصد باقی می‌ماند. با این حال، تنظیم رنگ، میزان موفقیت را به 82 درصد کاهش می‌دهد.

لازم به ذکر است که این سیستم برای طبقه‌بندی تصاویری که دستخوش تغییرات گسترده‌تری شده‌اند با مشکل جدی‌تری مواجه است. OpenAI حتی میزان موفقیت در این موارد را منتشر نکرده و صرفاً گفته است “سایر تغییرات می‌توانند عملکرد ابزار را کاهش دهند.”

پیشرفت روزافزون فناوری هوش مصنوعی همیشه با افزایش نگرانی‌هایی همراه بوده است. این نگرانی‌ها اکنون در آستانه انتخابات ریاست جمهوری در ایالات متحده و احتمال تاثیرگذاری آن بر روند انتخابات دوچندان شده‌اند. به همین خاطر، شرکت‌های توسعه‌دهنده‌ هوش مصنوعی با تایید این نگرانی‌ها، سعی دارند با ابزارهای جدید، میزان دخالت هوش مصنوعی در رویدادهای مهم را تاحدامکان کاهش دهند.

در همین راستا، OpenAI با مشارکت مایکروسافت، 2 میلیون دلار برای توسعه طرحی موسوم به Societal Resilience Fund سرمایه‌گذاری کرده است و امیدوار است بتواند از این راه، آموزش و سواد هوش مصنوعی را گسترش داده و کنترل هوش مصنوعی را ساده‌تر کند.

منبع: money.yahoo