شکایت قانونی از هوش مصنوعی ChatGPT برای اولین بار

به گزارش واحد ترجمه ایران دکونومی، اخیراً از چت‌بات ChatGPT و کمپانی OpenAI به دلیل نشر اطلاعات غلط شکایت قانونی شده است.

یک مجری رادیویی به نام مارک والترز ساکن ایالت جورجیا، از کمپانی سازنده هوش مصنوعی ChatGPT به دلیل نشر اکاذیت شکایت کرده است. بنابر گفته والترز، ChatGPT او را به پولشویی و اختلاس از یک مؤسسه مالی غیرانتفاعی متهم کرده است.

چت‌بات ChatGPT این اطلاعات غلط را در پاسخ به سؤال یک فرد واسطه، خبرنگاری به نام فرد ریل، تولید کرده است. پرونده مربوط به شکایت مارک والترز در تاریخ 5 ماه ژوئن در دادگاه عالی ایالت جورجیا ثبت شده و این مجری رادیویی قصد دریافت خسارت مالی نامشخصی از OpenAI را دارد.

نکته مهم درباره این پرونده این است که از زمان پیدایش و فراگیر شدن این تکنولوژی، نگرانی گسترده‌ای درباره ریسک نشر اطلاعات غلط و اخبار دروغین توسط هوش مصنوعی ChatGPT و دیگر چت‌بات‌ها در جامعه وجود داشته است.

این سیستم‌های ایجاد شده بر مبنای هوش مصنوعی، توانایی متمایز کردن اطلاعات حقیقی را از اطلاعات ساختگی ندارند و هنگامی‌که کاربران درباره مسئله خاصی سؤال مطرح می‌کنند، خصوصاً اگر قصد دریافت تاییدیه برای موضوعی را داشته باشند که خود به‌صورت غیرمستقیم آن را صحیح تلقی می‌‌کنند، هوش مصنوعی در نتیجه تاریخ و اطلاعات جعلی تولید کرده و ارائه می‌دهد.

ریسک‌های ناشی از محدودیت‌های هوش مصنوعی

معمولاً چنین اخبار ساختگی‌ای باعث گمراه شدن کاربران و یا هدر رفتن وقت آنها می‌شود، اما اخیراً مواردی منجر به ایجاد ضرر و زیان‌های جدی‌تری شده است.
مثلاً در یکی از موارد، یک استاد دانشگاه پس از اینکه ChatGPT ادعا کرد تمام دانشجویانش برای تکمیل تکالیف خود از هوش مصنوعی کمک گرفته‌اند؛ آنان را تهدید به مردود شدن در کلاس کرد.
یا در موردی مشابه، یک وکیل دادگستری از ChatGPT برای انجام روند تحقیقات در پرونده‌های حقوقی استفاده کرده بود، اما اطلاع نداشت که این پرونده‌ها همگی جعلی هستند.

کمپانی OpenAI اطلاعیه‌ای کوچک در وبسایت خود با این مضمون قرار داده که “این هوش مصنوعی گاهی ممکن است اطلاعات نادرستی تولید کرده و ارائه دهد”. اما در عین حال، این کمپانی ChatGPT را به‌عنوان “یک منبع مطمئن برای یافتن پاسخ سؤالات و یادگرفتن موضوعات جدید” معرفی کرده است.
مدیرعامل این کمپانی، سم آلتمن، مکرراً و در مکان‌های مختلفی به این نکته اشاره کرده که ترجیح می‌دهد اطلاعات جدید و روز دنیا را از ChatGPT بیاموزد، نه از کتاب‌ها!

البته هنوز مشخص نیست که این پرونده دادگاهی به نتیجه‌ای برسد یا خیر، زیرا هنوز روندی قانونی برای مجرم تشخیص دانستن یک کمپانی به اتهام نشر اطلاعات غلط توسط سیستم‌های هوش مصنوعی تدوین نشده است.

نتیجه دادگاه عالی ایالت جورجیا ممکن است برای چت‌بات ChatGPT سرنوشت‌ساز باشد. از آنجایی‌که کمپانی OpenAI در ایجاد قوانین واضح و مشخصی در این رابطه عملکرد خوبی نداشته است، پرونده قانونی ثبت شده توسط مارک والترز ممکن است آغاز دوره‌ای جدید در این تکنولوژی باشد.

در این پرونده قید شده است که فرد ریل، از ChatGPT خواست که با مراجعه به لینک یک فایل PDF مربوط به یک پرونده فدرال، خلاصه آن را تحویل دهد. این چت‌بات در پاسخ خلاصه‌ای جعلی تحویل داد که شامل مواردی نادرست و اتهام‌زننده می‌شد.
البته بخش‌هایی از خلاصه ارائه شده توسط این چت‌بات از لحاظ علمی صحیح و حقیقی بودند، اما در عین حال، دیگر بخش‌ها اتهامات ناروایی را به شخص والترز نیز وارد می‌کردند.

در این خلاصه، والترز متهم به اختلاس و پولشویی از یک مؤسسه غیرانتفاعی به‌نام Second Amendment Foundation به مبلغ 5.000.000 دلار شده بود، درحالی‌که او هرگز دست به چنین کاری نزده است.

منبع: The Verge