چالش‌های استفاده از هوش مصنوعی در سازمان‌های عمومی

گروه IT: به‌کارگیری روش‌های مبتنی بر فناوری‌های جدید برای انجام خدمات دولتی، باعث آسان‌تر شدن آنها شده است. با پیشرفت بیشتر فناوری، انتظار می‌رود که بسیاری از فعالیت‌های دولت‌ها و کارهای اداری دیجیتالی شود. هوش مصنوعی در این میان می‌تواند به دولت‌ها برای بهبود خدمات دیجیتالی‌شان کمک بسیاری بکند و امروزه کشورهای متعددی اقدام به ایجاد پروژه‌هایی در این زمینه کرده‌اند و به دلیل فواید متعددی که به‌کارگیری از هوش مصنوعی برای حکومت‌ها دارد، دولت‌ها یکی از اصلی‌ترین سرمایه‌گذاران در این حوزه هستند.

به گزارش بولتن نیوز به نقل از گرداب، اما به‌کارگیری ابزارهای مبتنی بر هوش مصنوعی توسط دولت‌ها، چه مشکلاتی را به وجود خواهد آورد؟

بیکاری

ترسناک‌ترین پیامد به‌کارگیری هوش مصنوعی بیکاری و برعهده گرفتن مشاغل انسان‌ها توسط روبات‌هاست. مسئله بیکار شدن بسیاری از افراد در اثر به‌کارگیری هوش مصنوعی یکی از اصلی‌ترین چالش‌هایی است که دولت‌ها موظف به رویارویی با آن هستند و باید نگران تأثیر استفاده از هوش مصنوعی در این زمینه باشند.

برای کم کردن تأثیر بالقوه بیکاری بر اثر اتومات شدن بسیاری از حوزه‌ها، دولت‌ها باید زمینه را فراهم کرده که افراد خود را برای وظایف تخصصی‌تر و ارزش اضافی آماده سازند و یا اگر وظایف کنونی‌شان قرار است به وسیله هوش مصنوعی خودکار شود، شرایطی را برای انتقال آنها به بخش خصوصی فراهم کند.

همچنین باید از محول کردن کامل وظایف به هوش مصنوعی خودداری کرد و برقرار کردن نظارت انسانی بر روی فرایندهای خودکار باید به یک الزام در همه حیطه‌ها تبدیل شود.

نظرسنجی‌های کمیسیون نظرسنجی و پیمایش اتحادیه اروپا (Eurobarometer) نشان می‌دهد که شهروندان اروپایی پیرامون نفوذ دیجیتالی‌شدن و اتوماسیون در زندگی روزمره چنین عقیده‌ای دارند:

74% افراد معتقدند که مشاغل بیشتری از بین خواهد رفت تا مشاغل جدید که برای ساخت و استفاده از روبات‌ها و هوش مصنوعی به وجود خواهد آمد. 72% افراد معتقدند که روبات‌ها مشاغل انسان‌ها را خواهند دزدید. 44% افراد که در حال حاضر مشغول کارند، معتقدند که یک روبات حداقل تا اندازه‌ای می‌تواند به انجام وظایف شغل آنها بپردازد.

سوگیری هوش مصنوعی

الگوریتم‌های هوش مصنوعی ممکن است به خاطر جهت‌دهی و یا پیش‌داوری‌هایی که گروه سازنده الگوریتم داشته‌اند و یا به خاطر داده‌های گمراه‌کننده، دارای سوگیری باشند.

هرچند که ساخت الگوریتم هوش مصنوعی که تقریباً غیرقابل سوگیری باشد، از نظر فنی امکان‌پذیر است، اما در نهایت هوش مصنوعی وقتی می‌تواند کارآمد باشد که داده‌های کارآمدی دریافت کند و این افراد و یا انسان‌ها هستند که این داده‌ها را تولید می‌کنند و از آنجا که انسان‌ها در عقاید و رفتارشان با سوگیری عمل می‌کنند، الگوریتم‌هایی که به تحلیل این رفتار می‌پردازد نیز ممکن است از این سوگیری‌ها بری نباشد.

از این‌رو دولت‌ها باید به مسئله خطای ناشی از سوگیری هوش مصنوعی توجه کنند و تنها از ابزارهای هوش مصنوعی دقیق‌تر استفاده کنند که این سوگیری‌ها را به حداقل می‌رساند.

تفسیر داده‌ها

یکی دیگر از مشکلات تحلیل‌های مبتنی بر هوش مصنوعی، نحوه تفسیرپذیری آنهاست. نشان دادن این که الگوریتم‌های هوش مصنوعی چطور به پیش‌بینی‌ها و استنتاج‌های خود می‌رسند، کار ساده‌ای نیست و به‌خصوص در حیطه‌های تحلیل رفتار انسانی، تحلیل‌های هوش مصنوعی می‌تواند ناقص و یا حتی گمراه‌کننده باشد.

این مشکل به خصوص برای حوزه عمومی تبدیل به یک چالش اساسی می‌شود؛ زیرا این حوزه که به دنبال تصمیم‌گیری عقلانی برای عموم جامعه می‌پردازد، از اهمیت بیشتری برخوردار است تا بخش خصوصی.

مسئولیت‌پذیری

مسئولیت‌پذیری را می‌توان یکی از چالش‌های اخلاقی استفاده از هوش مصنوعی دانست. مسئله این است که آیا دولت‌ها و سازمان‌هایی که از راهکارهای هوش مصنوعی استفاده می‌کنند، آیا مسئولیت عواقب آن را نیز بر عهده خواهند گرفت؟

در نظام حقوقی حکومت‌هایی چون ایالات متحده و انگلستان مسئله قانون‌گذاری پیرامون مسئولیت شرکت‌هایی که از الگوریتم هوش مصنوعی استفاده می‌کنند، بسیار مورد توجه است. باید گفت همانطور که فواید هوش مصنوعی به نام شرکت‌ها و سازمان‌ها نوشته می‌شود، در صورت وقوع حادثه و یا تحلیل نادرست نیز مسئولیت اشتباه باید به تمامی به عهده این سازمان‌ها باشد.

نظارت سراسری دولت‌ها بر شهروندان

یکی از مهم‌ترین مشکلات و چالش‌های هوش مصنوعی، قدرت بی‌حدوحصری است که در حوزه نظارت بر شهروندان به دولت‌ها می‌دهد. این قدرت که تا اندازۀ زیادی ترسناک به نظر می‌رسد، در صورت نبود قوانین مشخص و عملی، باعث می‌شود که دولت‌ها بتوانند به کوچکترین رفتار شهروندان و اعمال آنان دسترسی داشته باشند و از آنها در راستای مقاصد خود استفاده کنند.

از آنجایی که این به سازمان‌های نظارتی قدرتی می‌بخشد که ممکن است به راحتی مورد سوءاستفاده قرار بگیرد، لازم است قوانین سخت‌گیرانه و مشخصی در این حوزه اعمال شود و یا اصلاً اجازه چنین نظارتی به دولت‌ها و سازمان‌هایشان داده نشود.

هوش مصنوعی ظرفیت‌های زیادی در حوزه نظارتی به دولت‌ها می‌دهد. این مسئله بیش از هر چیز لازمه ورود هر چه زودتر کشور به این حوزه را به ما نشان می‌دهد. در صورت تاخیر ورود قوه اجرایی و قوه مقننه به این حوزه، باید گفت که متاسفانه ما این فضا را به طور کامل به دشمنان و دولت‌های بیگانه تحویل خواهیم داد.

چنین اتفاقی قدرتی بی‌حد و حصر می‌دهد به گروه‌هایی که از فناوری برخوردار هستند و در صورتی که فرایند پیشگیری و قانون‌گذاری اجرایی نشود، شرکت‌های بزرگ فناوری و دولت‌های غربی می‌توانند بر سراسر مردم کره زمین نظارت داشته باشند.

از همین رو ورود هرچه زودتر کشور به این حوزه هم از جنبه پیشرفت‌ فناوری‌های پایه و هم از جهت قانون‌گذاری ضروری است.

مشکلات تغییر دادن ساختار کار

تغییر ساختار کاری در دولت‌ها فرایندی دشوار است؛ از جمله دلایل آن می‌توان به موارد زیر اشاره کرد:
بالا بودن سن نیروی کار: نیروی کار دولت‌ها عموماً از نیروی کار بخش خصوصی مسن‌تر هستند و این مسئله به‌طور بالقوه امکان تغییر ساختاری در این زمینه را دشوارتر می‌کند.

به‌طور مثال در آمریکا نسل هزاره (متولدین دهه 1990 میلادی) حدود 24% از کارکنان سازمان‌های دولتی را شامل می‌شوند، در حالی که در بخش خصوصی این نسل 34% از فرصت‌های شغلی را اشغال کرده‌اند.

افراد مسن‌تر از آنجا که به خوبی نسل جدید با فناوری‌های دیجیتالی آشنایی ندارند، استفاده از ابزارهای مبتنی بر هوش مصنوعی برایشان سخت‌تر خواهد بود و نیاز به آموزش‌های بیشتری به وجود خواهد آمد که باعث اضافه شدن هزینه‌ها خواهد شد.

راندمان کاری پیچیده و مبهم سازمان‌های دولتی: برخلاف بخش خصوصی که تنها مسئله برایشان کسب سود و درآمد بیشتری است، دولت‌ها اهداف پیچیده‌تری دارند و ارائۀ معیار برای این اهداف کاری بسیار دشوار است. عملکرد بسیاری از سازمان‌های دولتی بیشتر از آن که نتیجه‌محور باشد، فعالیت‌محور است؛

یعنی عملکرد نهادهای دولتی بر پایۀ انجام اقدامات و فعالیت‌هایی است که از سوی نهادهای دیگر و یا ساختار حقوقی کشور به آنها محول شده است. این مسئله باعث پیچیده‌تر شدن عملکرد کاری نهادهای دولتی شده است و تعیین معیار برای آنها در الگوریتم‌های هوش مصنوعی فرایندی سخت‌تر به همراه خواهد داشت و همچنین بررسی نتایج تغییرات و پیشرفت‌های آن نیز به سادگی امکان‌پذیر نیست.

حضور بازیگران متعدد: دولت‌ها عموماً یکدست نیستند و در آنها سازمان‌های مختلف پیرامون مسائل اصلی دیدگاه‌های متفاوت و یا حتی مخالفی دارند. از سوی دیگر دولت‌ها ناظران و مراقبان بسیار زیادی دارد؛ از مجلس‌های نظارت‌کننده گرفته تا اتحادیه‌های صنفی و جناح سیاسی مقابل که دیدگاه همه این گروه‌ها پیرامون هوش مصنوعی بر این که چطور عموم مردم استفاده از هوش مصنوعی در دولت را مورد پذیرش قراردهند، تأثیر می‌گذارد.

این باعث می‌شود که استفاده از هوش مصنوعی در دولت‌ها و انجام پروژه‌هایی برای تغییر ساختار، نیازمند گفتگوها و ارتباطات بیشتری باشد و دولت‌ها باید بتوانند در حوزه عمومی از تغییراتی که قصد انجام آن را دارند، دفاع کنند.

راهکارهایی برای ایجاد زمینه مناسب برای استفاده از هوش مصنوعی در ساختار دولت

مشارکت بیشتر مردم: انجام سرمایه‌گذاری‌ها و تحقیقات علمی به تنهایی برای اجرای موفق پروژه‌های هوش مصنوعی کافی نیست و این پروژه‌ها نیاز به مشارکت بیشتر مردم و گرفتن داده‌های حقیقی از فرایندهای انسانی دارند.

در این زمینه به فرهنگ‌سازی و آشنایی مردم و ارائۀ تضمین به آنها وجود داردکه اطلاعات آنها مورد سوءاستفاده قرار نمی‌گیرد، بلکه تنها در راستای بهبود عملکرد الگوریتم‌های هوش مصنوعی استفاده خواهد شد و حریم شخصی آنها در نظر گرفته خواهد شد.

ارتقای زیرساخت‌های فناوری: به‌کارگیری هوش مصنوعی نیاز تغییر ساختار زیرساخت‌های فناوری دارد تا بتواند تاثیراتش را سریع‌تر نشان دهد و انجام بسیاری از پروژه‌ها امکان‌پذیر شود.

بهبود کیفیت و گردآوری داده‌ها: هوش مصنوعی بدون داده‌ها کاری از پیش نمی‌تواند ببرد. پیش شرط بسیاری از پروژه‌های اصلی هوش مصنوعی گردآوری داده‌های با کیفیت است. در این زمینه در هر کشور نیاز به منابعی عظیم از داده‌های گردآوری‌شده وجود دارد.

داشتن متخصصان کافی: برای وارد کردن پروژه‌های هوش مصنوعی در ساختار دولت، داشتن نیروی کار حرفه‌ای مناسب نیازی ضروری است. این مسئله ضرورت تمرکز ساختار نظام آموزشی به این حوزه را نشان می‌دهد. نظام آموزشی باید بتواند متخصصان حوزه هوش مصنوعی و یادگیری ماشین را برای مشاغل فعلی و آینده آموزش دهد.

کم کردن سوگیری‌ها در هوش مصنوعی و تناسب هوش مصنوعی با جامعه هدف: باید از انجام شتاب‌زده هوش مصنوعی اجتناب کرد و به دنبال بهترین الگوریتم‌های هوش مصنوعی در این زمینه بود که امکان سوگیری و جهت‌دهی داشتن را به حداقل برسانند. به‌طور کلی باید گفت باید از الگوریتم هوش مصنوعی در ساختار دولت استفاده کرد که قابل اطلاق نعل به نعل به جامعه هدف باشد. این مسئله ضرورت این مطلب را نشان می‌دهد که برای انجام درست پروژه‌های هوش مصنوعی، به خصوص در حیطه‌های انسانی، باید وضعیت و شرایط هر جامعه و فرهنگ آن مورد مطالعه دقیق قرار بگیرد و نمی‌توان صرفاً به تقلید صرف الگوریتم‌های کشورهای دیگر پرداخت.

نمونه‌های به‌کارگیری موفق هوش مصنوعی در دولت‌ها

استرالیا:

دولت این کشور در به‌کارگیری بات‌های گفتگو یا دستیارهای مجازی پیشگام است. اداره مالیات استرالیا از بات گفتگویی به نام «الکس» استفاده می‌کند که او از سال 2016 تا کنون بیش از 3 میلیون گفتگو با افراد داشته است و در 88% این موارد درست عمل کرده است.

اداره خدمات انسانی استرالیا نیز در سال‌های اخیر از بات‌های گفتگویی استفاده می‌کند و مرتب آنها را ارتقا می‌دهد. بات گفتگوی این اداره می‌تواند به سوالاتی کلی پیرامون خانواده، جستجوی شغل، هزینه‌های تحصیلی و اطلاعات مربوطه پاسخ دهد.

ایالات متحده:

در ایالت‌های آمریکا ابزارهای متعددی از هوش مصنوعی در ساختار دولت قرار گرفته است که از جمله آنها می‌توان به آتش‌نشانی آتلانتا اشاره کرد که از تحلیل‌های پیش‌بینی‌کننده برای مشخص کردن حادثه‌های حریق در این شهر استفاده می‌کند. الگوریتم به کار رفته در آن توانسته است 71% از حادثه‌های آتش‌سوزی را پیش‌بینی کند.

وزارت انرژی این کشور نیز با استفاده از الگوریتم‌های یادگیری ماشین به پیش‌بینی تغییرات تابش خورشید می‌پردازد. پیش‌بینی‌های مبتنی بر هوش مصنوعی در این وزارت 30% دقیق‌تر از پیش‌بینی‌هایی که براساس رویکردهای مرسوم انجام شده‌اند، بوده است.

اداره خدمات اجتماعی نیویورک (DSS) نیز توانسته است با الگوریتم هوش مصنوعی برای بینش ماشین (Machine Vision) دیجیتالی‌شدن اسناد را تا اندازۀ زیادی محقق کند.

هدف این اداره این بود که برای کاربران اینترنتی وب‌سایتش تجربه بهتری فراهم کند و بتواند نیاز به حضور فیزیکی افراد در مراکز را به حداقل برساند. استفاده از هوش مصنوعی در این زمینه کاملاً موفقیت‌آمیز بوده است.

شهر پیتزبورگ نیز از هوش مصنوعی برای بهبود خودکار ترافیک استفاده می‌کند؛ برنامه‌ای که «نظارت بر ترافیک شهری مقیاس‌پذیر» (SURTrAC) نام دارد و به شبکه‌ای شامل نه سیگنال ترافیکی در سه جاده اصلی پیتزبورگ متصل است. هوش مصنوعی در این شهر توانسته زمان سفر را تا 25% کاهش دهد.

کانادا:

شهرداری شهر سوری از بات گفتگویی استفاده می‌دهد تا در زمینه پاسخ به پرسش‌های شهروندان این شهر پیرامون زیرساخت‌های شهری کمک کند.

چین:

دولت چین در زمینه استفاده از فناوری‌های هوش مصنوعی در حوزه پزشکی و سلامت پیشگام است. در زمینه مراقبت‌های پزشکی چین با کمک هوش مصنوعی توانسته است راهکاری مناسب فراهم کند تا جمعیت زیاد این کشور به خدمات با کیفیت و مقرون به صرفه دسترسی داشته باشند.

در چین بات‌های گفتگوی پزشکی یا «پزشک هوش مصنوعی» استفاده می‌شود که امکان دسترسی افراد به مشاوره پزشکی در نواحی دور از دسترس فراهم شود.

چین از الگوریتم‌های یادگیری ماشین برای بهبود عملکرد شرکت‌های داروسازی استفاده می‌کند و از الگوریتم‌های یادگیری عمیق برای تحلیل و پردازش تصویربرداری پزشکی بهره می‌برد که می‌تواند به سرعت و در اولین زمان ممکن بیماری‌هایی چون سرطان را تشخیص دهد.

دولت چین در زمینه استفاده از هوش مصنوعی برای مقابله با کووید-19 نیز پیشگام بوده است و با استفاده از تحلیل نموداری داده‌ها، روشی درست کرده که افرادی که با مبتلایان کرونا سروکار دارند، از ورود به مکان‌های عمومی منع می‌شوند. ورود به مکان‌های عمومی و استفاده از وسایل حمل و نقل عمومی در این کشور نیازمند داشتن تاییده از سوی نرم‌افزاری است که با هوش مصنوعی فعالیت می‌کند.

جمع‌بندی
به‌طور کلی هوش مصنوعی می‌تواند در حوزه‌های متفاوتی به دولت‌ها کمک کند؛ حوزه‌هایی چون رفاه اجتماعی و عدالت اقتصادی، بهداشت و سلامت، امنیت داخلی، نظامی، حمل‌ونقل، آموزش و پرورش، پیشگیری و مدیریت بحران، ارتباط با مردم، اتوماسیون اداری و ترجمه.

اما استفاده از هوش مصنوعی در دولت‌ها چالش‌هایی نیز به همراه خواهد داشت که از جمله آنها این است که مسئولیت خطاهای ناشی از هوش مصنوعی به عهده چه کسی خواهد بود و آیا استفاده از هوش مصنوعی برای نظارت شهروندان عملی درست است یا خیر. از جمله سایر چالش‌ها در این زمینه می‌توان به مشکلات تغییر ساختار کار، مشکلات تفسیر داده‌ها و سوگیری هوش مصنوعی اشاره کرد.

به‌طور کلی به‌کارگیری هوش مصنوعی برای انجام خدمات عمومی مزیت‌های بسیار زیادی دارد و باعث صرفه‌جویی در هزینه‌ها، ارائه خدمات بهتر و فراهم شدن امکان تصمیم‌گیری مناسب‌تر مسئولین می‌شود.

اما باید گفت لازمه استفاده مناسب از هوش مصنوعی، فراهم کردن زیرساخت‌های فناوری، پایه‌های حقوقی و تغییر جهت نهادهای آموزشی است و همچنین به‌کارگیری الگوریتم‌هایی که براساس جامعه موردنظر ساخته شده باشند.

استفاده از هوش مصنوعی برای انجام خدماتی که دولت‌ها موظف به آن هستند، اجتناب‌ناپذیر است؛ زیرا که از نظر کیفی و کمی می‌توانند انجام این خدمات را بهبود ببخشند. اما در کنار آن باید مراقب بود که هوش مصنوعی در خدمت اهداف سیاسی و اقتصادی گروه‌هایی که بر دولت مسلط هستند، قرار نگیرند.