دستگیری مردی که از هوش مصنوعی ChatGPT برای انتشار اطلاعات غلط سوءاستفاده می‌کرد

به گزارش واحد ترجمه ایران دکونومی، نیروی پلیس کشور چین فردی که از هوش مصنوعی برای منتشر کردن اخبار دروغین استفاده می‌کرد را دستگیر کردند.

این فرد به کمک ChatGPT خبری جعلی درباره تصادف مرگبار یک قطار منتشر کرده بود که به اتهام ارتکاب این جرم توسط پلیس این کشور بازداشت شد. به‌نظر می‌رسد این اولین بازداشت صورت گرفته براساس قوانین تصویب شده در چین در حوزه هوش مصنوعی باشد. بر اساس این قانون، سوءاستفاده از خدمات تکنولوژی هوش مصنوعی برای انتشار اطلاعات جعلی ممنوع است.

این پرونده باعث شد که مسئولین چینی با جدیت بیشتری در پی ایجاد قوانین و چارچوب‌هایی برای جلوگیری از ارتکاب چنین جرایمی با استفاده از هوش مصنوعی باشند.

مامورین پلیس ایالت “گوانسو” در بخش شمال‌غربی کشور چین، این شخص که “هونگ” نام دارد را به اتهام نشر اخبار نادرست و جعلی درباره تصادف مرگبار یک قطار که منجر به مرگ 9 نفر از مسافرین شده بود؛ دستگیر کردند.

سپس مامورین متوجه شدند که این خبر جعلی توسط 20 حساب کاربری دیگر در بلاگی که مالکیت آن با Baidu، غول صنعت تکنولوژی و موتور جستجوی برتر در چین، بوده مکرراً بازنشر داده شده و جمعاً حدود 15 هزار بازدید را نیز ثبت کرده است.

بر اساس شواهد، هونگ به کمک خدمات ChatGPT متن خبر جعلی خود را تا حدودی دستکاری کرده و تغییر داده است تا بتواند قوانین جلوگیری از نشر اخبار تکراری در Baidu را دور بزند، و درنهایت خبر جعلی خود را بارها و بارها منتشر کند.

هوش مصنوعی ChatGPT، دوست یا دشمن؟

چت‌بات ChatGPT که مالک آن کمپانی آمریکایی OpenAI است، نمونه‌ای از یک هوش مصنوعی زایاست که بر اساس سؤالات و درخواست‌های کاربران، قادر به ایجاد پاسخ‌های مرتبطی است. مثلاً کاربران می‌توانند از این هوش مصنوعی بخواهند که به کمک دستورالعمل‌های خاصی، یک داستان یا روایت را تولید کند. این تکنولوژی نوظهور توانایی تولید محتوای متنی و تصویری را دارد و به همین دلیل یکی از محبوب‌ترین ابزارهای در حال حاضر در دنیاست.

پلیس ایالت گوانسو، هونگ را به دلیل نقض قوانین تازه تدوین شده در مورد هوش مصنوعی بازداشت کردند. در این قانون ذکر شده که استفاده از چنین تکنولوژی‌های پیشرفته‌ای برای ایجاد و نشر اخبار جعلی، جرم محسوب می‌شود و سرپیچی از این قانون عواقب شدیدی به دنبال دارد.

دولت چین، به امید پیشی گرفتن و جلوگیری از ریسک‌های احتمالی ناشی از استفاده از این تکنولوژی، این قانون را درست در همان بازه زمانی‌ای تصویب کرد که هوش مصنوعی ChatGPT درحال همه‌گیر شدن و محبوب شدن در میان کاربران بود. اینترنت در کشور چین تحت شدیدترین فیلترها و سانسورها قرار دارد. بیجینگ در پی وضع قوانینی برای تحت کنترل گرفتن این تکنولوژی‌های نوظهور است، تکنولوژی‌هایی که احتمال درخطر گذاشتن دولت مرکزی را دارند.

دسترسی به هوش مصنوعی ChatGPT در دولت چین مسدود است و دستیابی به خدمات این تکنولوژی تنها به کمک نرم‌افزارهای VPN میسر خواهد بود.

غول‌‌های صنعت تکنولوژی در چین در حال کار کردن روی پروژه‌های هوش مصنوعی اختصاصی خود و تعلیم دادن آنها برای رقابت با ChatGPT هستند. این رقبا هنوز مانند ChatGPT همه‌گیر نیستند و همچنین دسترسی به آنها با محدودیت‌هایی مواجه است. کمپانی‌های چینی نسبت به رقبای آمریکایی خود با احتیاط بیشتری در این مسیر قدم گذاشته و فقط بخش‌های خاصی را برای استفاده در این هوش مصنوعی‌ها توسعه خواهند داد.

هوش مصنوعی کمپانی علی‌بابا

برای مثال، شرکت بزرگ علی‌بابا، از هوش مصنوعی اختصاصی خودش با نام Tongyi Qianwen رونمایی کرده است. قرار است بعداً این هوش مصنوعی از طریق اپلیکیشن پیام‌رسان کاری مخصوص این کمپانی، با نام DingTalk در دسترس کاربران قرار بگیرد. همچنین Tongyi Qianwen به وسایل هوشمند خانگی Tmall Genie نیز متصل خواهد شد تا افراد خانواده بتوانند وظایف روزانه خود را به کمک این تکنولوژی تسهیل کنند.

همچنین، چندی پیش کمپانی عظیم Baidu نیز از هوش مصنوعی اختصاصی خود به نام Ernie Bot بهره‌برداری کرد. کمپانی Baidu امید زیادی دارد که Ernie Bot رقیب چینی درخوری برای ChatGPT باشد. کار انتشار نسخه‌های جعلی این چت‌بات به‌قدری بالا گرفت که Baidu از کمپانی اپل به دلیل اجازه انتشار این اپلیکیشن‌های جعلی در اپ‌استور شکایت کرد.

منبع: CNBC