مرکز پژوهش‌های مجلس پیشنهاد داد: مدل کلان و چارچوب توسعه هوش مصنوعی

به گزارش ایران دکونومی، مرکز پژوهش‌های مجلس، طی گزارشی، «نگاشت نهادی و تقسیم کار ملی در حوزه توسعه هوش مصنوعی و حکمرانی داده محور» را ارائه و همراه با بررسی ماموریت‌های ضروری جهت توسعه و حکمرانی هوش مصنوعی ایران، پیشنهادهایی برای اصلاح نهادی و گستره فعالیت‌ها تنظیم کرد.

در طی بررسی‌ها، مشخص شد که سیاست‌گذاری و راهبری تلاش‌های حوزه هوش مصنوعی نیازمند تقویت همکاری و اشتراک دانش، سرمایه‌گذاری در تحقیق و توسعه، ظرفیت سازی و تجدید ساختار نیروی کار، حکمرانی داده محور، حفاظت از حریم خصوصی، توسعه همکاری‌های بین‌المللی، نگاشت نهاد و تقسیم کار ملی می‌باشد.

چه مأموریت‌های کلانی برای حکمرانی و توسعه هوش مصنوعی ارائه شد؟

مأموریت‌های اصلی دولت‌ها در این حوزه شامل:

«توسعه سیاست ها و استراتژی های ملی»، «چارچوب های اخلاقی و مقرراتی»، «حکمرانی داده و حکمرانی داده محور برای بهبود کیفیت تصمیم‌گیری»، «استقرار هوش مصنوعی فراگیر و عادلانه برای ارتقای خدمات عمومی»، «هوش مصنوعی و توسعه پایدار»، «دیپلماسی هوش مصنوعی و توسعه همکاری ها و استانداردهای بین‌المللی»، «توسعه و ترویج تحقیق و نوآوری»، «پرورش استعدادها، آموزش، ترویج و آگاهی بخشی عمومی»، «توسعه زیرساخت های مورد نیاز فناوری»، «همکاری و نوآوری در صنعت» و «ارزیابی تأثیر و کاهش ریسک» می‌باشد.

ملاحظات کلیدی مرتبط با مأموریت‌ها: در مسیر تحقیق مأموریت‌های ذکر شده، توجه به ملاحظات کنترل و نظارت انسانی؛ استحکام فنی و امنیت؛ اعتماد؛ عادت؛ حریم خصوصی؛ عدالت (دوری از تعصب یا سوگیری)؛ مسئولیت ضروری است.

اصول حاکم بر نگاشت نهادی و تقسیم کار ملی در زمینه هوش مصنوعی

۱. همسویی با استراتژی‌ها و اهداف ملی

۲. همکاری و رویکرد میان رشته‌ای

۳. وضوح نقش‌ها و مسؤلیت‌ها

۴. حفظ حریم خصوصی داده‌ها و ملاحظات اخلاقی

۵. یادگیری مستمر و توسعه مهارت‌ها

۶. انعطاف پذیری و سازگاری

۷. همکاری‌های بین‌المللی

۸. مشارکت عمومی و شفافیت

۹. نظارت، ارزیابی و بازخوردگیری

۱۰. سازوکارهای پاسخگویی

۱۱. فراگیری و عدالت

۱۲. نوآوری و مدیریت ریسک

این اصول، راهنمایی برای همکاری در مسیر توسعه هوش مصنوعی مسؤلانه و حصول اطمینان از اینکه هوش مصنوعی و تلاش‌های داده محور به رفاه و پیشرفت جامعه کمک خواهد کرد.

نهادهای تاثیرگذار

نهادهای تأثیرگذار در سطوح مختلف سیاستگذاری، قانونگذاری، هماهنگسازی و تنظیم‌گری حوزه هوش مصنوعی

۱. شورای عالی فضای مجازی

۲. مرکز ملی فضای مجازی

۳. شورای اجرایی فناوری اطلاعات

۴. شورای عالی انقلاب فرهنگی

۵. ستاد کل نیرو های مسلح و وزارت دفاع

۶. شورای راهبری فناوری‌ها و تولیدات دانش بنیان

۷. شورای عالی علوم، تحقیقات و فناوری

۸. صندوق نوآوری و شکوفایی

۹. معاونت علمی، فناوری و اقتصاد دانش بنیان ریاست جمهوری

۱۰. بنیاد ملی نخبگان ایران

۱۱. کارگروه تعامل پذیر دولت الکترونیک

۱۲. وزارت ارتباطات و فناوری اطلاعات

۱۳. سازمان فناوری اطلاعات

۱۴. وزارت آموزش و پرورش، وزارت علوم، تحقیقات و فناوری و وزارت بهداشت، درمان و آموزش پزشکی

۱۵. شورای عالی حوزه های علمیه و ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه

۱۶. برخی مراکز پژوهشی و اندیشکده‌های تأثیرگذار شامل مرکز تحقیقات سیاست های علمی کشور، سازمان تحقیقات علم و فناوری ایران، پژوهشگاه فناوری اطلاعات و ارتباطات، کمیته هوش مصنوعی در حوزه پزشکی

۱۷. عرصه کسب‌وکار و صنعت

مدل کلان و چارچوب تقسیم کار ملی

چارچوب کلان نگاشت نهادی ارائه شده در این پژوهش از سه منظر کلان نهاد حاکمیت ملی و تدوین اصول و سیاست‌های کلان حکمرانی هوش مصنوعی در کشور، نهاد تنظیم‌گر و ناظر بر اجرای راهبردها و سیاست‌های کلان و نهاد هماهنگ ساز و راهبر اجرایی توسعه هوش مصنوعی در کشور، را پیشنهاد داده است.

نهادهای کلیدی در حکمرانی و توسعه هوش مصنوعی

نهادی برای سیاستگذاری و نظارت کلان بر توسعه و حکمرانی هوش مصنوعی

ازجمله وظایف اصلی یک نهاد ملی فراقوه‌ای در حوزه هوش مصنوعی می‌توان به «تنظیم سیاست‌ها و راهبردهای ملی حکمرانی هوش مصنوعی، تعیین اصول کلی توسعه هوش مصنوعی در کشور و ملزومات به‌کارگیری آن، تدوین برنامه تقسیم کار ملی و سازوکار تعامل کلیه کنشگران، پیشنهاد قوانین و مقررات مورد نیاز در صورت ضرورت و همچنین هدایت تلاش های دیپلماتیک در مجامع بین‌المللی به عنوان مرجع ملی هوش مصنوعی» اشاره کرد.

از دیگر وظایف این نهاد می‌توان «نیازسنجی و اولویت‌دهی به نیازهای حوزه هوش مصنوعی و نظارت بر تحقق آن در چرخه کامل ایده‌پردازی تا تجاری سازی و همچنین در سیاست‌گذاری، سازماندهی و نظارت بر برنامه‌ها و ابتکارات کشور مرتبط با هوش مصنوعی در حوزه بین‌المللی» باشد.

همچنین این نهاد باید وظیفه هدایت و طراحی چارچوب‌های حکمرانی داده محور را به عنوان سنگ بنای توسعه هوش مصنوعی در کشور برعهده گیرد، حریم خصوصی داده‌ها را تضمین کند و رویکردهای کلان استفاده اخلاقی از داده‌ها را ترویج کند.

از دیگر اقدام‌های مهمی که این نهاد باید دنبال کند، هدایت دستگاه‌های مسئول برای مشارکت در تنظیم قواعد استانداردهای جهانی برای هوش مصنوعی است، به نحوی که منافع و ملاحظات فرهنگی و اخلاقی مدنظر کشور در آن رعایت شود.

نهادی برای راهبری و هماهنگی ملی توسعه هوش مصنوعی

یکی از الزامات پیشبرد یک برنامه کلان و راهبردی ملی، هماهنگی و همگرایی همه دستگاه‌های اجرایی است. هرچند در بعد هماهنگی ابزارهای مختلف از جمله برنامه ها، رویکردها و راهبردها، آموزش، توانمندسازی و … می‌توانند نقش آفرین باشند، اما ساختارها نیز نقشی کلیدی دارند.

از آنجا که دستگاه‌های مختلفی در حوزه هوش مصنوعی باید نقش آفرینی کنند ضروری است تا ساز و کارها، فرآیندها در کنار نهادی فرابخشی، محور تلاش ها باشد و نقش راهبر و هماهنگ کننده را به عهده گیرد. همچنین از دیگر الزامات پیشبرد برنامه‌ها در این حوزه، آشنایی نهاد هماهنگ‌کننده با اقتضائات پیشرفت فناورانه است.

نقش نهاد هماهنگ کننده، تسهیلگری و شتاب‌دهی فعالیت‌های همه بخش‌ها و وزارتخانه‌ها، برای راهبری توسعه ابتکارات مرتبط با هوش مصنوعی و حکمرانی داده محور است. پشتیبانی از طرح‌های تأمین مالی و بودجه‌های مورد نیاز دستگاه‌ها، رفع موانع، ایجاد ظرفیت‌های توسعه‌ای، طراحی و هدایت چند سطحی دستگاه، طراحی شاخص‌های کنترلی از دیگر اقداماتی است که از این نهاد انتظار می‌رود.

ایجاد زمینه‌های لازم برای همگرایی و هم‌افزایی فناوری‌های مختلف مانند بیوتکنولوژی، علوم شناختی، روباتیک، کوانتوم و … با فناوری هوش مصنوعی و شتاب‌دهی به ابرپروژه‌های ملی و حضور و مشارکت در کنسرسیوم‌های بین‌المللی برای نقش آفرینی فعال در توسعه فناوری هوش مصنوعی نیز از دیگر مأموریت‌های این نهاد است.

نهادی برای تنظیم مقررات ملی حوزه هوش مصنوعی

در سطح تنظیم‌گری یک نهاد تنظیم‌گر ملی باید قواعد و مقررات مرتبط با هوش مصنوعی و دستورالعمل‌های اخلاقی و استانداردها را تدوین کند و برای اطمینان از استفاده مسئولانه و ایمن بر برنامه‌های کاربردی هوش مصنوعی، نظارت و ارزیابی محصولات مرتبط با فناوری‌های هوش مصنوعی را برعهده گیرد.

ارائه چارچوب‌های ارزیابی و اخذ مجوز سامانه‌های هوش مصنوعی، رصد و ارزیابی مخاطرات محصولات نوظهور هوش مصنوعی و سیاست‌ها و مقررات مواجهه با آن، رصد و ارزیابی آثار اجتماعی- اقتصادی، امنیتی و اخلاقی استفاده از هوش مصنوعی و انتشار گزارش‌های دوره‌ای عمومی و ویژه نهادهای نظارتی می‌تواند از جمله وظایف این نهاد باشد.

این نهاد تنظیم‌گر ملی به دلیل ضرورت‌های همراهی هر سه قوه با آن و برای برخورداری از مشروعیت و قدرت لازم، باید از اعتبار و جایگاه کافی برخوردار باشد و ابزارها و زیرساخت‌های مناسب برای ایفای نقش تنظیم‌گری را نیز برعهده داشته باشد.

همچنین به جهت ملاحظات گسترده فنی، فرهنگی، اجتماعی و اخلاقی و مشکلات ناشی از تعارض منافع در این حوزه، ضروری است نهاد تنظیم مقررات و نظارت بر هوش مصنوعی، همه کنشگران از جمله نمایندگان دستگاه‌های مرتبط و ذینفعان را در خود جای دهد.

تنظیم قواعد کلان برای استانداردهای اخلاقی، حفاظت از داده و حریم خصوصی، رصد هوشمند تحولات و ایجاد همگرایی بین نهادهای بخشی تنظیم‌گر ازجمله مأموریت‌های این کارگروه است. به دلیل ماهیت فنی و وابستگی شدید تنظیم‌گری این فناوری به الگوریتم‌ها، وزارت ارتباطات می‌تواند به عنوان دبیر کارگروه، نقش آفرینی کند. همچنین وزارت ارتباطات باید متولی اصلی توسعه زیرساخت‌ها، ظرفیت‌های محاسباتی و تبادل داده و ایجاد نظام مدیریت دانش بر الگوریتم‌ها باشد.

حوزه‌های مدنظر برای سیاستگذاری، هماهنگ سازی و راهبری توسعه هوش مصنوعی

۱. هماهنگ سازی موسسه‌های پژوهشی و دانشگاهی؛

۲. شتاب‌دهی به موسسه‌های مرتبط با علوم داده؛

۳. سازماندهی صنفی صنعت؛

۴. ترغیب و هدایت صندوق‌های حمایت مالی ملی از فناوری برای پشتیبانی از هوش مصنوعی؛

۵. هدایت تلاش‌های آموزشی و پرورشی مهارت محور؛

۶. توسعه همکاری‌های بین‌المللی و دیپلماسی؛

۷. آگاهی بخشی و مشارکت عمومی؛

۸. حکمرانی محلی و داده محوری؛

۹. خدمات عمومی مبتنی بر هوش مصنوعی؛

۱۰. هدایت بودجه‌های تحقیق و نوآوری به سمت فناوری هوش مصنوعی مرتبط با فناوری‌های همگرا؛

۱۱. مدیریت دانش بر روی جمع‌آوری و پردازش اطلاعات و الگوریتم ها؛

۱۲. هوش مصنوعی برای خدمات بهداشت و درمان؛

۱۳. هوش مصنوعی برای کشاورزی؛

۱۴. هوش مصنوعی برای حوزه پولی و مالی؛

۱۵. هوش مصنوعی برای حمل و نقل؛

۱۶. هوش مصنوعی برای انرژی؛

۱۷. هوش مصنوعی برای توسعه صنعتی.

توصیه‌های سیاستی درباره تقسیم کار ملی در حوزه توسعه هوش مصنوعی

مرکز پژوهش‌های مجلس در این گزارش، توصیه‌های سیاستی در این حوزه را ارائه کرده است. بررسی‌های انجام شده نشان از آن دارد که سیاستگذاری و راهبری تلاش‌های حوزه هوش مصنوعی نیازمند تقویت همکاری و اشتراک دانش، سرمایه گذاری در تحقیق و توسعه، ظرفیت‌سازی و تجدید ساختار نیروی کار، حکمرانی داده محور، حفاظت از حریم خصوصی، توسعه همکاری های بین‌المللی، نگاشت نهاد و تقسیم کار ملی است.

ایجاد سازوکارهایی برای ارزیابی و تأیید سامانه‌های هوش مصنوعی برای اطمینان از انطباق با استانداردهای قانونی و اخلاقی، پایش، ارزیابی و ممیزی منظم بر اجرای سامانه‌های هوش مصنوعی و شناسایی هرگونه سوگیری یا اعمال تبعیض آمیز در زمره وظایف این نهادهاست.

ازجمله اقدام های مورد انتظار در این حوزه می توان به موارد زیر اشاره کرد:

۱. ارائه اصول کلی توسعه هوش مصنوعی در کشور و سازوکارهای پدافند غیرعامل؛

۲. ارائه سند تقسیم کار ملی برای توسعه هوش مصنوعی؛

۳. ارائه موضع و ارزیابی ریسک در خصوص محصولات نوظهور هوش مصنوعی و شیوه تعامل با آن؛

۴. تنظیم سازوکارهای رتبه بندی و اعلان هشدار استفاده از هوش مصنوعی در محصولات؛

۵. ارزیابی تأثیرات اجتماعی، اقتصادی، امنیتی و اخلاقی توسعه هوش مصنوعی و اعلان عمومی آن؛

۶. تنظیم سازوکارهای رسیدگی به شکایات و دادخواست‌های مرتبط با هوش مصنوعی و پاسخگویی به آنها؛

۷. ارائه پیشنهادهای قانونگذاری در صورت ضرورت با مشارکت ذینفعان؛

۸. تشویق خود تنظیمی از سوی توسعه دهندگان هوش مصنوعی با شفاف سازی در الگوریتم ها و توسعه سامانه‌های شفاف و قابل توضیح؛

۹. تقویت همکاری و اشتراک دانش بین رشته‌ای خصوصاً در حوزه‌هایی مانند علوم شناختی، کوانتوم، علوم داده و بیوتکنولوژی.

کانال یوتیوب ایران‌دکونومی