هشدار سازمان بهداشت جهانی (WHO) درباره استفاده اخلاقی از هوش مصنوعی در موارد پزشکی

به گزارش واحد ترجمه ایران دکونومی، سازمان بهداشت جهانی (WHO) رسماً درباره استفاده از هوش مصنوعی و مدل‌های بزرگ زبانی در موارد پزشکی و سلامتی هشدار داده است. به درخواست این سازمان، استفاده از این تکنولوژی باید در جهت حفاظت و مراقبت از سلامت انسان‌ها، امنیت افراد، عدم ایجاد وابستگی و حفظ استقلال و سلامت کلی جامعه باشد.

مدل‌های بزرگ زبانی (LLMs) شامل چندین پلتفرم محبوب این روزها از جمله هوش مصنوعی‌های ChatGPT، Bard، Bert و بسیاری پلتفرم دیگر هستند. این هوش مصنوعی‌های مختلف از پروسه ادراک، پردازش و ارتباطات و مکالمات انسانی تقلید می‌کنند.
انتشار عمومی و استفاده خیره‌کننده و روزافزون از این تکنولوژی در مقاصد پزشکی و درمانی باعث ایجاد هیجان بسیاری برای پتانسیل احتمالی این ابزار برای افرادی که به کمک پزشکی نیاز دارند، شده است.

هنگام استفاده از مدل‌های بزرگ زبانی برای دسترسی به اطلاعات سلامتی، مثلاً به‌عنوان ابزاری برای کمک به تصمیم‌گیری یا حتی ابزاری برای بهبود ظرفیت تشخیص بیماری‌ها در مکان‌هایی که با کمبود امکانات روبه‌رو هستند؛ بررسی خطرات و ریسک‌های احتمالی برای حفظ امنیت افراد، اقدامی حیاتی و ضروری است.

با اینکه سازمان بهداشت جهانی (WHO) از پتانسیل و استفاده صحیح از این تکنولوژی‌ها در زمینه مسائل بهداشتی و درمانی، حمایت از متخصصان پزشکی، بیماران، دانشمندان و محققان استقبال زیادی کرده است؛ اما در عین حال نگرانی‌‌هایی نیز درباره خطرات این تکنولوژی‌های نوظهور نیز وجود دارد. سازمان بهداشت جهانی باور دارد که به اندازه کافی در استفاده از تکنولوژی هوش مصنوعی در مسائل بهداشت و درمان احتیاط به عمل نمی‌آید. این احتیاط شامل مداومت دائم و گسترده در زمینه‌های شفاف‌سازی، جامعیت و دربرگیری، تعامل عمومی، نظارت کارشناسان و متخصصین و ارزیابی و بررسی دقیق است.

پذیرش و استفاده بی‌مهابا از تکنولوژی‌های آزمایش نشده ممکن است منجر به ارتکاب خطاها و اشتباهاتی از جانب کادر درمان، آسیب زدن به بیماران، سلب اطمینان از هوش مصنوعی و درنهایت باعث تضعیف و یا تاخیر در پروسه منافع و مزایای طولانی‌مدت این تکنولوژی‌ها در سراسر جهان شود.

نظارت دقیق‌تر بر کاربرد هوش مصنوعی در دنیای پزشکی

مواردی که مستلزم نظارت دقیق برای استفاده از این تکنولوژی‌ها به روشی ایمن، مؤثر و اخلاقی هستند؛ عبارتند از:

• داده‌هایی که برای تعلیم هوش مصنوعی استفاده می‌شود، ممکن است مغرضانه و متعصب باشند، در نتیجه ممکن است تشخیص درمانی این هوش مصنوعی منجر به نشر اطلاعات نادرستی شود که سلامت بیمار را در خطر گذاشته و یا عدالت را زیرپا می‌گذارد.
• مدل‌های زبانی بزرگ در پاسخ به سؤالات کاربران معمولی جواب‌هایی ایجاد می‌کنند که بسیار قابل‌اطمینان، قابل‌اتکا، پذیرفتنی و قابل‌قبول به نظر می‌رسند. اما همین پاسخ‌ها ممکن است بسیار نادرست و یا شامل خطاهای شدیدی باشند، مخصوصاً در زمینه پاسخ‌های ایجاد شده در مورد مسائل پزشکی.
• ممکن است از داده‌ها برای تعلیم هوش مصنوعی استفاده شده باشد که صاحب آن داده‌ها از استفاده از آن رضایت نداشته باشد. همچنین این مدل‌ها ممکن است از داده‌های حساس (مانند اطلاعات و پرونده‌های پزشکی) که کاربران برای دریافت پاسخ به این هوش مصنوعی‌ها وارد می‌کنند، هیچ محافظتی نکنند و از آنها برای موارد دیگری نیز، بدون اجازه بیماران و کاربران، سوءاستفاده کنند.
• ممکن است از هوش مصنوعی برای تولید و ایجاد پاسخ‌های بسیار قانع‌کننده اما غلطی در فرم محتوای متنی، تصویری، صوتی یا ویدیویی سوءاستفاده شود. هنوز تشخیص این موارد ساختگی از داده‌های قابل‌اعتماد پزشکی برای کاربران و بیماران ممکن نیست.

سازمان بهداشت جهانی (WHO)، با اینکه متعهد شده که از تکنولوژی‌های جدیدی مانند هوش مصنوعی برای بهبود و ارتقای سلامتی افراد بهره ببرد، درباره ریسک‌ها و خطرات احتمالی این ابزارهای جدید هشدار داده و همچنین پیشنهاد می‌دهد که درحالی‌که توسعه‌دهندگان هنوز مشغول کار بر روی ارتقای این تکنولوژی‌ها هستند، تدابیر امنیتی برای حفظ سلامتی و جان بیماران هرچه زودتر اندیشیده شود.

سازمان بهداشت جهانی انتظار دارد که به تک‌‌تک نگرانی‌‌های ذکر شده رسیدگی شود و قبل از بیش از این فراگیر شدن استفاده از هوش مصنوعی در موارد پزشکی، این ابزارها و پلتفرم‌ها تحت آزمایشات و نظارت‌های دقیقی قرار گیرند.
این سازمان معتقد است که اعمال اصول اخلاقی و چارچوب‌های مناسب، اهمیت بسیاری در استفاده دقیق و مفید از این ابزار قدرتمند دارد. به‌صورت خلاصه، 6 اصول اخلاقی مهم از نظر WHO به شرح زیر هستند:

1 – حفظ استقلال فردی انسان‌ها
2 – حمایت از سلامت و امنیت انسان‌‌ها و نفع جامعه
3 – شفافیت، تشریح‌پذیری و قابل‌فهم بودن
4 – تقویت حس مسئولیت‌پذیری و قابل‌اتکا بودن
5 – اطمینان حاصل کردن از عدالت، برابری و عدم تعصب
6 – حمایت از هوش مصنوعی مسئولیت‌پذیر و پایدار

منبع: who