باسمه تعالی

وقتی بحث هوش مصنوعی به میان می‌آید، تصوری از یک بحث فنی تخصصی کامپیوتر در ذهن ما شکل میگیرد. اما این تصویر باید اصلاح شود. چون استفاده‌های عجیبی از آن در تمام زمینه‌ها میشود و حتی برنامه ساخت یک بت هوش مصنوعی، که آنقدر در نظر سفیهان باهوش به نظر آید که بتوان آن را پرستید، بطور جدی دنبال میشود. بنابراین باید درباره آن بیشتر روشنگری شود. در ویدیو کلیپ ضمیمه سعی کرده‌ام گزارش کاملی از این موضوع ارائه کنم. متن ذیل خلاصه‌ای از مطالبی است که در این ویدیو گفته شده است.

این روزها درباره اظهارنظرهای مسئولین سیاسی و جوابهای دیگران به آن زیاد حرف زده میشود و این ذهنیت را در مردم بوجود می‌آورد که انگار هیچ خبر دیگری دردنیا نیست. بعضی وقتها یک نفر حرفی بیربط میزند و دهها نفر از سرشناسان سیاسی و مذهبی به آن جواب میدهند. در حالی که صدها مطلب دیگر در اطراف و اکناف عالم اتفاق می‌افتد که کسی باید درباره آنها روشن‌گری کند. به همین دلیل وظیفه خود میدانم که درباره موضوعاتی که دیگران چندان عکس‌العملی به آن نشان نمیدهند مطالبی را به عرض برسانم. یکی از این موضوعات هوش مصنوعی است که توجه بیشتری باید به آن بشود.

ماجرای پیشرفت‌های هوش مصنوعی حتی به میدان سیاست هم رسیده و حتی پوتین، رئیس‌جمهور روسیه ادعا کرده که ملتی که بتواند از بقیه ملتها در این زمینه جلوتر باشد، حاکم جهان خواهد بود. چنین مطلبی قطعا درست نیست و در ادامه روشن خواهد شد که چرا چنین نخواهد شد.

احتمالا درباره ورژن جدید کامپیوتر AlphaGo و همه تبلیغاتی که در اطراف آن میشود تا بحال چیزهایی شنیده‌اید. ادعا میشود که این کامپیوتر از تجارب آدمها استفاده نمیکند و همه چیز را خودش یاد میگیرد. به ادعای طراحان Machine Learning دیگر حاصل حجم عظیم اطلاعات قبلی Big Data و پردازش های زیاد آن است. در حالی که الگوریتم مهم است و آلفاگو میتواند از سطح بسیار مبتدی شروع کند و به تدریج در یک کار استاد شود. آنچه که روی آن تبلیغ میشود این است که این کامپیوتر دیگر به تجربیات انسان برای یادگیری احتیاج ندارد و در یک زمان کوتاه به سطحی رسیده که میتواند ورژن قبلی خود را ۱۰۰ به هیچ در بازی شکست دهد.

شاید در نگاه اول این خبر صرفا یک خبر علمی به نظر آید؛ ولی این طور نیست.

یکی از مدیران اجرایی سابق گوگل به نام Anthony Levandowski حدود دو ماه پیش قصد خود را برای راه‌اندازی یک دین به نام Way of the Future یا «راه آینده» اعلام کرد. این دین قرار است همه مشخصات دین‌های مطرح، مثل مراسم عبادی و مکان عبادت را داشته باشد. برنامه این فرد و گروهش این است که با کمک هوش مصنوعی، یک هویت نرم‌افزاری ایجاد کنند که به مراتب از انسان باهوش‌تر باشد و چنان جامع باشد که انسان به راحتی بتواند آنرا به عنوان خدای خود قبول کند و او را پرستش کند. این موجود را بعضی‌ها strong AI یا Singularity مینامند. هنرمندان زیادی نیز سعی کرده‌اند که تصویری از این موجود کامپیوتری خلق کنند تا مردم تصویری از این بت هوش مصنوعی در ذهنشان باشد.

هرچند که ابلهانه بودن این حرفها برای همه ما واضح است؛ اما واقعیت دیگری را هم باید درنظر داشت. آدمهای زیادی دورو بر ما هستند که با دینی که جلوی هوای نفس آنها را بگیرد، مشکل دارند. به همین دلیل آنها با خداپرستی و توحید شدیدا زاویه دارند و تلاش میکنند به هر روشی که شده از دست دین و یا حکومت دینی راحت شوند. یک دین جدید که به آنها احساس پیشرفت تکنولوژی و مدرنیته بدهد، به مذاق خیلی‌ها خوش خواهد آمد. دشمن‌های دین میدانند که مردم احتیاج به چیزی دارند که آنرا عبادت کنند، حتی اگر یک بتی باشد که با دست خودشان بسازند. برای همین یک موجود با هوش‌مصنوعی میخواهند درست کنند که آنقدر از انسان باهوشتر باشد که قبول آن به عنوان خدا برای سفیهان ساده باشد.

این نقشه در حال حاضر با قوت در حال انجام است و جمعیت هدف آن هم جوامع دینی است.

حدود دو ماه پیش بود که در خبرها شنیدیم که آل سعود به سوفیا، روبوتی که به ادعای آنها آن‌قدر پیشرفته است که با آدم فرقی ندارد، حق شهروندی اعطا کرد. شاید در نگاه اول کار آل سعود تشویق تکنولوژی و یا شهرت‌طلبی به نظر بیاید؛ اما قبول کردن یک روبوت به جای آدم چندان هم بدون پیام نیست و یک پیام فلسفی و دینی دارد. پیام این است که بشر به جایی رسیده که میتواند مانند خودش را خلق کند و دیگر به پرستش خدا معاذالله احتیاج ندارد.

بنابراین برآن شدم که توضیحاتی درباره وضعیت جاری هوش‌مصنوعی ارائه کنم، به این امید که دیگران را تشویق به روشنگری کنم تا جلوی گول خوردن ساده‌لوحان را بگیریم و بهانه دست فرصت‌طلبان نیافتد.

اگر به شما بگویند که سپاهی متشکل از یک میلیون مهندس و طراح و صنعتگر میخواهند برجی چنان بلند بسازند که سر به آسمان بزند و از جو بیرون رود، ممکن است اول آن را باور کنید. اگر از دوردست هم به کار آنها نگاه کنید که با تلاش فراوان کار میکنند، ممکن است کنجکاو شوید و یا قضیه را باور کنید. اما وقتی از نزدیک که نگاه کنید، بیابید که اینها یک میلیون گوریل هستند و تنها کاری که بلدند این است که چیزهایی را روی هم بچینند و از نقشه و طرح و محاسبات خبری نیست. هر از چند گاهی هم چند تا از این گوریل ها از ارتفاع سقوط میکنند و کشته میشوند. آن وقت است که تازه میفهمید که خیلی نباید به نتیجه دادن کارشان امید داشت. صرفنظر از اینکه ارتفاع آن ساختمان چقدر بالا رود، چیزی که برای ما واضح خواهد بود این است که دیر یا زود این برج روی خودش فرو خواهد ریخت.

داستان ملاقات ناصرالدین شاه و ملاهادی سبزواری

یک تصور غلطی که اکثر ما داریم این است که ما در دورانی زندگی میکنیم که همه چیز آن برای بشر تازه است و گذشتگان هیچکدام از چیزهایی که ما تجربه میکنیم را تجربه نکرده اند. اما این طور نیست.

داستان ناصرالدین شاه و ملاهادی سبزواری را احتمالا شنیده‌اید. قصه مشهور این است که زمانی که ناصرالدین شاه با او عکس یادگاری میگیرد، ملاهادی از چیستی آن دستگاه میپرسد و شاه توضیحاتی درباره افتادن سایه روشن های محیط روی فیلم و بوجود آمدن عکس میدهد. فیلسوف هم میگوید که از نظر فلسفی نمیتوان سایه را جدا از شیئ تعریف کرد و چنین چیزی محال است. شاه هم با نشان دادن یک عکس به فیلسوف میفهماند که برای این کار به استدلال فلسفی نیاز نیست و مشاهده یک عکس میتواند از استدلال فلسفی قویتر باشد. اما چیزی که ملا هادی میگفت حرف دیگری بود. او میگفت آنچه شاه در توضیح این پدیده میگوید ناقص است و باید اسم دیگری به جای سایه انتخاب کند. ملاهادی در همان ۱۵۰ سال پیش میگوید عالم ماده و عالم مثال با هم هستند و بشر میتواند در ماده و صورت تصرفاتی داشته باشد. اما نمیتواند عقل را گرفته و در محصولی که می‌سازد آن را بگنجاند.چون عالم عقل مجرد از ماده و صورت است و ما ابزاری برای تصرف در عقل نداریم. هر کدام از ما بهره مشخصی از عقل داریم، ولی در آن نمیتوانیم تصرف کنیم و آن را تغییر بدهیم. ظاهرا ایشان این مطلب را از قول علمای قدیم نقل کرده بود و این مطلب از قدیم بحث شده بود. بحث درباره موضوع هوش مصنوعی احتمالا هزاران سال در بین علما بحث شده است.

دربین طرفداران اخیر هوش مصنوعی کسی را پیدا نمیکنید که شم فلسفی داشته باشد و بتواند تعریفی جامع از هوش ارائه کند تا بر اساس آن بشود نوع مصنوعی آن را ساخت. بنابراین اصلا امیدی به جواب دادن این کارها نباید داشت، چه رسد به اینکه بخواهند با آن خدایی کنند.

حال ببینیم وضعیت واقعی هوش مصنوعی در زمان جاری چیست؟

و با این چیزی که اسم آن را هوش مصنوعی میگذارند چه میکنند؟

بعضی پدرومادرها در غرب عادت دارند کامپیوتر خود را روشن کنند و دنبال برنامه‌های مخصوص کودکان خردسال بگردند. یوتیوب بعد از اتمام اولین ویدیو بطور اتوماتیک ویدیویی که خیلی به آن نزدیک است را پخش خواهد کرد. والدین هم بچه ها را با یوتیوب رها میسازند و دنبال کار خود میروند. بازدید کننده بیشتر هم میتواند به درآمد بیشتر صاحب آن از طریق فروش تبلیغات منجر شود.

نتیجه این میشود که خیلی زود بچه‌ها ویدیوهایی را می بینند که عناوین پر از کلیدواژه‌ها و نامفهوم دارند و در آن مثلا نشان میدهد که یک شخصیت کارتونی با کارد یکی دیگر را زخمی میکند.

یا شخصیتهای کارتونی دیگری که ادرار از توالت مینوشند و یا مدفوع میخورند یا آمپول به آنها زده میشود. یا با کفش پاشنه بلند روی شخصیتهای معروف راه میروند. یا در کارتون میکی‌موس کشته میشود.

اما واقعا چه اتفاقی دارد می‌افتد؟

الگوریتم های هوش مصنوعی در دسترس همه هست و ابزارهای آن را دانشجویان، اساتید دانشگاه و کارمندان شرکتهای بزرگ دارند. بنابراین چیز مخفی در این رابطه وجود ندارد.

خیلی وقتها میبینید که یک ایده توسط چندین گروه عینا مشابه انجام میشود و فقط کمی فرق دارد که مشخص کننده این است که تولیدکنندگان آن متفاوت هستند. دلیل آن هم این است که همه این گروه‌ها از تکنولوژی های مشابه و الگوریتم های مشابه را بکار گرفته اند و با کمک این برنامه ها اطلاعات چیزهایی که بین مردم معروف شده و بازدیدکننده داشته را میگیرند و آنها را با هم ترکیب میکنند تا چیزهای جدیدی درست کنند که حتی بیشتر از قبل بازدید داشته باشد.

شخصیتهای مثل اسپایدرمن،بتمن، میکی موس یا elsa مال فیلم frozen پیش بچه ها معروف هستند. بنابراین هر کسی که بخواهد ویدیویی درست کند که بچه ها نگاه کنند، حتما از این شخصیت ها به نحوی استفاده میکند.

هر چند وقت یکبار یک موضوع در بین مردم بقول معروف viral یا مشهور میشود.وقتی یک موضوعی یکباره مشهور میشود الگوریتم های جستجوی یوتیوب آنرا بیشتر به مردم نشان میدهند. مثلا هنرپیشه های معروف شرط بندی میکنند که اگر فلان اتفاق بیافتد از توالت ادرار مینوشند. بعد هر کس دیگری که بخواهد معروف شود، او هم یا واقعا و یا ساختگی فیلم ادرار نوشیدن خود را در اینترنت میگذارد. طبعا مردم هم دنبال آن میگردند تا ببینند چه آدمهای معروفی این کار را کرده‌اند. بعد این کار trend میشود و به اصطلاح یک meme میشود. این کار باعث شد کلمه توالت در موتورهای جستجو معروف شود.

الگوریتم های هوش مصنوعی این ترندها را میگیرند و با هم ترکیب میکنند و مثلا فیلم‌نامه هایی درست میکنند که کاراکترهای معروف ادرار مینوشند.

یک زمانی تزریق سیلیکون برای بزرگ کردن کفل یک شخصیت معروف خیلی مورد توجه مردم بود.

بعد از فیلم frozen جستجوی مردم برای آهنگهای این فیلم زیاد بود و خیلی بچه ها آن را تقلید میکردند. وقتی اقبال مردم به آن موضوع تمام میشود، الگوریتم های جستجو تا مدتی هنوز اولویت آن موضوع را به خاطر میسپارند. بعد برنامه هوش مصنوعی پیشنهاد میدهد که نمایشی درست کنند که السا در آن باشد و در آن بتمن زیادی به کفل خود سیلیکون تزریق کرده و کفل او زیادی بزرگ شده و باید جراحی شود تا کمی کفلش کوچکتر شود. با این کار هر کس که دنبال یکی از دهها کلیدواژه مشهور بگردد، حتما این ویدیو به او نشان داده خواهد شد.

مثال دیگر اینکه چند سال پیش کسی برش اشیا مختلف را با کارد داغ فیلم میگرفت و مردم دوست داشتند ببینند این اشیا چطور با کارد داغ بریده میشوند. از این قضیه سالها گذشت و موضوع فراموش شد. اما هنوز هم فیلم هایی تولید میشود که مثلا شخصیت‌های معروف مورد توجه بچه ها را با کارد داغ میبرند.و یا اسباب بازیهایی که با کارد بریده میشوند.

نمونه دیگر Finger Family است که مورد توجه بچه ها است. ۷ یا ۸ سال پیش هم رقص مدل Gangnam style معروف شده بود. اما هنوز فیلم هایی پیدا میشوند که شخصیتهای معروف کارتونی مثل سوپرمن و هالک همراه finger family رقص گانگنم استایل میکنند و شعرهای مهدکودکی میخوانند و این ویدیو میلیونها بازدید میگیرد.

هیتلر هم همیشه مشهور بوده است. بنابراین برنامه های هوش مصنوعی ایده وجود هیتلر را با یک ترند مشهور دیگر قاطی میکنند و یک ایده جدید درست میکنند؛ مثلا هیتلر در حال نشستن روی توالت. یا کتک کاری هیتلر با ترامپ. بعد خروجی ایده طراحی شده توسط برنامه به نرم‌افزارهای ترسیم کارتون و وایرفریم داده میشود و کارتون نهایی تمام-اتوماتیک تولید میشود.

بعضی وقتها ایده ها خیلی قاطی میشوند و این مقدار قاطی بودن کار ذهن آدم نیست. مثلا ایده آموزش رنگها و اسم آنها را با شهرت توالت قاطی کنید و بعد چهره شخصیتهای معروف را که لباسهای رنگهای مختلف پوشیده اند را در توالت فلاش کنید. حالا اگر دنبال آموزش رنگ به بچه بگردید، یا دنبال هنرپیشه معروف بگردید، یا اسم توالت و ادرار را جستجو کنید، حتما این ویدیو به شما نشان داده خواهد شد.

از این موارد میلیونها مورد را میتوانید پیدا کنید. یوتیوب در پی اعتراضات خیلی از آنها را حذف کرد؛ ولی نهایتا روند را نمیشود عوض کرد.

نمیخواهد نگران این باشید که به جای سرباز در میدان های جنگ با لشگری از روبوتهای قاتل روبرو شوید که با تکنیکهای هوش مصنوعی هوشمند شده اند. باید نگران این باشید که هوش مصنوعی تمام ایده های فرهنگی را بگیرد و چنان با هم قاطی کند که همه آنها را به لجن بکشد. نسل بعدی در غرب از نظر فکری و فرهنگی آنقدر قاطی هستند که مثل اینکه در مغز آنها یک نارنجک منفجر کرده باشند. بسختی بشود آنها را انسان نامید، چه رسد به اینکه بخواهند یک قدرت سیاسی در سطح جهان را مدیریت کنند. در واقع هوش مصنوعی به جای اینکه آنها را قدرتمند کند آنها را از نظر فرهنگی نابود کرده است.

یکی از متفکران میگفت نمیخواهد نگران جلوزدن روبوتها از انسان باشید. بلکه باید نگران روبوت شدن انسانها باشید. نتیجه این تکنولوژی‌های معاصر دقیقا همین است.

بعضی ها این وضعیت جاری را Algorithmic Apocalypse نامیده‌اند، یعنی الگوریتم هایی که بشر را به پایان کار خود رسانده اند.