لزوم بررسی مباحث فقهی هوش مصنوعی و روباتیک

لزوم بررسی مباحث فقهی هوش مصنوعی و روباتیک

باسمه تعالی

همانطور که همه ما مستحضر هستیم، روند پیشرفت تکنولوژی به سمتی است که هوش مصنوعی به تدریج نقش مهمتری در طراحی همه دستگاهها و ابزارها ایفا میکند. امروزه شاهدیم که دهها هزار هواپیمای بدون سرنشین در حال پرواز در مناطق درگیری در گوشه و کنار عالم هستند و بعضا تصمیم گیری های آنها برای شلیک، بدون تماس با مرکز فرماندهی و بر اساس الگوریتم های هوش مصنوعی است. سیستم های هوشمند و خبره به تدریج در زندگی روزمره مردم هم نقش عمده تری بازی میکنند. خودروهایی که بدون راننده حرکت میکنند، فقط یک نمونه از چنین سیستم هایی است.

اکثر سیستم هایی که در خانه، محیط کار و جامعه با آن سرو کار داریم، در حال هوشمند شدن هستند و تصمیماتی که این سیستم های هوشمند میگیرند، محتمل است که صدماتی را برای افراد به همراه داشته باشد. مراجع قانونی، نه فقط در ایران بلکه در همه دنیا، راهکارهای مدونی برای برخورد با این مسائل ندارند و پیش بینی میشود که با یک سونامی مسائل حقوقی که جوابی برای آن نخواهند داشت، روبرو شوند. چنین مسئله ای را نباید خیلی ساده فرض کرد. شاید دهها سال کار مستمر یک گروه متخصص اهل فن لازم باشد تا بشود راه حل جامع و مدونی ارائه کرد. شخصا از اینکه تا بحال چقدر کار در این زمینه در حوزه ها و دانشگاههای ایران شده خبر ندارم. اما اگر کاری نشده، باید از اهل فن، علی الخصوص علمای حوزوی خواست تا هر چه زودتر کار در این زمینه را شروع کنند.

یک روی دیگر مختار و هوشمند بودن آدم این است که باید مسئولیت تصمیم های خود را بپذیرد و در قبال آن جوابگو باشد. هر تصمیم آدم میتواند تبعات حقوقی سنگینی به همراه داشته باشد. فرض کنید راننده ای در خیابان در حال رانندگی باشد و در اثر حادثه ای پیش بینی نشده، کنترل ماشین را از دست بدهد و خودروی خود را در آستانه برخورد با 4 فرد پیاده بیابد و تنها کار ی که بتواند بکند این است که در آخرین لحظه فرمان را بچرخاند تا ماشین به طرف دیگر خیابان که فقط یک فرد پیاده در آن طرف هست برود. از نظر اخلاقی یک توافق جمعی وجود دارد که اگر آدم بتواند به جای 4 نفر فقط یک نفر را بکشد، کار درستی کرده است. اما از نظر حقوقی مسئله متفاوت است. چون در فرض اول ماشین در اثر اتفاق امکان کشتن 4 نفر را داشت و چنین قتلی قتل عمد محسوب نمیشود. اما مورد دوم چون با اختیار فرمان ماشین پیچیده شده است، در بعضی از سیستم های قضایی دنیا چنین عملی قتل عمد محسوب میشود و حداقل آن این است که میزان خسارت قابل پرداخت این دو اتفاق با هم خیلی متفاوت است.

حالا این سئوال پیش می آید که اگر قرار باشد خودروهای بدون سرنشین در خیابان رانندگی کنند، و همین تصمیم را برنامه هوش مصنوعی خودرو بگیرد، چه حکمی دارد و دیه آن را چه کسی باید بپردازد: طراح برنامه هوش مصنوعی و یا صاحب خودرو؟ چون مسئولیت از اختیار ناشی میشود و در جایی که صاحب خودرو اختیاری ندارد، نباید عهده دار خسارات باشد. آیا سرنشین و یا صاحب خودروی بدون راننده فرقی با سرنشین اتوبوس عمومی دارد یا نه؟

جنبه دیگر قضیه این است که طراحان سیستم های هوش مصنوعی باید در زمینه قوانین فقهی و حقوقی آموزش ببینند و بتوانند سیستم هایی را طراحی کنند که تصمیم های مسئولانه و اخلاقی بگیرد. روی چنین مباحثی نه فقط در ایران، بلکه در همه دنیا کار نشده است و به تازگی کار روی این مباحث در دانشگاهها شروع شده است.

به عنوان نمونه یکی از مسائل این حوزه مسئله استثنائات قانون است. بعضی از این مسائل را ما بطور روزمره با آن سرو کار داریم و راه حلهای ساده ای برای آن داریم. مثلا فرض کنید که در خیابان دوطرفه رانندگی میکنیم و در سمتی که هستیم در جلوی ما تصادفی رخ میدهد. هم برای ما و هم برای مامور راهنمایی و رانندگی واضح است که در چنین شرایطی میتوانیم با رعایت حق تقدم کسانی که از سمت مقابل می آیند، موقتا به سمت دیگر خیابان برویم و پس از گذر از کنار صحنه تصادف، به خط خود بازگردیم و راه را ادامه دهیم. در چنین شرایطی قانون را، که ممنوعیت عبور از خط مقابل بود، موقتا و استثنائا رعایت نکردیم و هیچ کس هم ما را از این نظر محکوم نمیکند. اما چنین الگوریتمی را چطور باید به برنامه هوش مصنوعی یاد داد؟ چطور میشود به برنامه هوش مصنوعی فهماند که چه زمانی قانون را رعایت کند و چه زمانی مجاز است استثنائا آنرا کنار بگذارد؟ به فرض که برنامه تصمیم گرفت استثنائا قانون را رعایت نکند و در همین حین حادثه ای پیش آمد، در این صورت خسارات وارده به چه نحو باید محاسبه و جبران شود؟ آیا خسارت عمدی است و یا سهوی؟ اگر عمدی است، مسئولیت این تعمد با کیست؟

آیا شما حاضرید خودرویی را بخرید در حالی که خبر ندارید خودروی شما در چه مواقعی ممکن است قانون را استثنائا رعایت نکند؟ اگر صد در صد موارد خودرو بخواهد بر اساس قانون عمل کند، که چیز بیمصرفی خواهد بود. چون به فرض تصادف سابق الذکر باید تا پایان برطرف شدن صحنه تصادف پشت سر آنها بماند و از جای خود تکان نخورد.

خودروی بدون سرنشین فقط یک نمونه از سیستم های هوشمند است و بسیاری از سیستم های دیگر هست که تصمیم گیری های آنها ممکن است موجب خسارت شود. فرض کنید در نیمه شب زمستانی کسی با سنگ پنجره خانه ای را بشکند و سیستم گرمایی خانه که درمی یابد که نمیتواند خانه را در درجه حرارت مناسب نگاه دارد، برای بالا نرفتن مصرف سوخت تصمیم بگیرد که تولید گرما را محدود کند. این تصمیم سیستم گرمایی هم موجب سرما خوردن و مریض شدن اهل خانه شود. هر دستگاهی ممکن است نقص داشته باشد و بر اساس اهداف طراحی عمل نکند. حکم دادن در مواردی که دستگاه بر خلاف آنچه که برای آن طراحی شده عمل کند، آسان است و سازنده دستگاه مسئول سوء عملکرد دستگاهی است که فروخته است. اما موارد دیگری هست که طراحان سیستم به عمد آنرا در طراحی گنجانده اند و طبیعتا نمیتوانند همه نکات ظریف الگوریتم های تصمیم گیری را مستند کنند و به خریدار اطلاع دهند. چنین مواردی نقص عملکرد نیست و در اکثر موارد تصمیم درستی حساب میشود، اما ممکن است که همین تصمیم در موارد خاصی موجب خسارت یک نفر شود. حالا در چنین شرایطی آیا صاحبخانه میتواند سازندگان دستگاه را برای عدم اطلاع دادن نحوه تصمیم گیری این سیستم در دادگاه محکوم کند؟ و آیا اساسا تشریح همه نکات و ظرایف تصمیم گیری دستگاه عملی است؟

وقتی که ما فردی را برای انجام یک وظیفه استخدام میکنیم، از نحوه رفتار و تصمیم گیری های او اطلاع دقیق نداریم و قاعدتا تنها میتوانیم اعتبار و سابقه کار او را در زمینه ای که میخواهد کار کند، بررسی کنیم . بقیه کار بر اساس اعتماد انجام میشود. فرض کنید باغبانی را برای حرس کردن شاخه های درختان حیاط استخدام کنیم، و این باغبان شاخه های درختان را کمتر و یا بیشتر از آنچه که میخواستیم ببرد، و از او شکایت کنیم. دادگاه فقط میتواند بررسی کند که آیا این فرد اعتبار و صلاحیت کافی برای کاری که عهده دار آن شده، دارد یا نه. اگر به فردی که ادعا میکند جراح است رجوع کنیم و او وظیفه خود را درست انجام ندهد، دادگاه فقط میتواند جواز کار داشتن او را بررسی کند و در صورت داشتن مجوزهای لازم، تصمیم گیری نهایی را به نظام پزشکی ارجاع دهد.

حالا این سئوال پیش می آید که اگر از سازنده یک سیستم هوشمند و یا سیستم خبره شکایت کنیم، دادگاه بر چه مبنایی میتواند این سیستم را صاحب و یا فاقد صلاحیت تشخیص دهد؟ به فرض تشخیص صلاحیت، داوری را به چه مرجع تخصصی باید رجوع دهد؟

این قبیل سئوالات مواردی است که یا در حال حاضر سیستم های قضایی در همه دنیا به آن مبتلا هستند و یا در آینده نزدیک مبتلا خواهند بود و باید عالمان حقوق و اخلاق را یک بسیج عمومی داد تا راهکارهای لازم را ارائه کنند. تصورم این است که یا باید اهل طراحی مهندسی دانش خود در زمینه فقه و اخلاق و حقوق را بالا ببرند و یا عالمان آن رشته ها برای وارد شدن در زمینه طراحی مهندسی آستین خود را بالا بزنند.

3 نظر درباره “لزوم بررسی مباحث فقهی هوش مصنوعی و روباتیک”

    1. ضمن عرض سلام و تشکر از عنایت جنابعالی
      خدارا شکر که حداقل شما این مطلب را خواندید و به آن توجه کردید.

  1. یعنی واقعا هیچ قانونی برای این مشکلات وضع نشده؟ پس چرا کشورهای اروپایی با تحمیل این همه هزینه های سنگین به ساخت همچنین اشیایی پرداخته اند؟ آیا دارند اشتباه می کنند؟

Leave a Reply

Your email address will not be published.

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>

Time limit is exhausted. Please reload CAPTCHA.