استوارت راسل می‌خواهد اطمینان یابد ماشین‌های هوشمند ما که پیوسته هوشمندتر می‌شوند هم‌سو با ارزش‌های انسانی باقی خواهند ماند

ناتالی ولکوور

ژانویه گذشته استوارت راسل (S.Russell)، دانشمند علوم کامپیوتر دانشگاه برکلی کالیفرنیا، نامه سرگشاده‌ای را تنظیم و امضاء کرد که از محققان می‌خواهد به هدفی ورای صرفا قدرتمندتر کردن هوش مصنوعی نگاه کنند. در این نامه آمده «توصیه می‌کنیم پژوهش‌های گسترده‌ای به هدف اطمینان از سلامت و سودمندی سیستم‌های هوش مصنوعی انجام شود که قابلیت‌هایشان به طور فزاینده‌ای رو به افزایش است. سیستم‌های هوش مصنوعی ما باید کاری را انجام دهند که ما از آنها می‌خواهیم.» تاکنون هزاران نفر این نامه را امضاء کرده‌اند از جمله پژوهشگران پیشرو در عرصه هوش مصنوعی در گوگل، مایکروسافت، فیس‌بوک و دیگر مراکز صنعتی و همچنین دانشمندان برجسته علوم کامپیوتر، فیزیک‌دانان و فلاسفه از سرتاسر دنیا. تا پایان مارس گذشته حدود ۳۰۰ گروه پژوهشی درخواست داده‌اند از طریق بودجه پژوهشی تامین شده توسط ایلون ماسک (E.Musk)، مخترع و کارآفرین حوزه تکنولوژی و سی‌وهفتمین امضاء‌کننده نامه، پژوهش‌های جدیدی در راستای «حفظ سودمندی هوش مصنوعی» انجام دهند.

راسل ۵۳ ساله، استاد علوم کامپیوتر مرکز سیستم‌های هوشمند در دانشگاه کالیفرنیا است و مدت‌هاست که به قدرت و مخاطرات ماشین‌های متفکر فکر می‌کند. بیش از ۲۰۰ مقاله دارد و کتاب «هوش مصنوعی: یک رویکرد مدرن» که مشترکا با پیتر نورویگ (P.Norvig)، رئیس تحقیقات گوگل، نوشته کتاب مرجع استاندارد این حوزه است. اما پیشرفت‌های بسیار سریع سال‌های اخیر در هوش مصنوعی باعث شده نگرانی‌های دیرپای راسل به یک ضرورت فوری تبدیل شوند.

او به تازگی گفته است هوش مصنوعی گام‌های بزرگی برداشته که تا حدی به خاطر توانایی الگوریتم‌های یادگیری الهام‌گرفته از شبکه عصبی است. پیش از این، این الگوریتم‌ها در نرم‌افزار تشخیص چهره فیس‌بوک، دستیارهای شخصی گوشی‌های هوشمند و اتومبیل‌های خودران گوگل به کار رفته‌اند. نتایج حیرت‌انگیز پژوهشی که مقاله آن ۲۵ فوریه در ژورنال نیچر منتشر شد نشان داد یک شبکه شبیه‌سازی‌شده نورون‌های مصنوعی موسوم به DQN ظرف چند ساعت توانست یاد بگیرد بازی‌های تصویری آتاری را بهتر از انسان‌ها انجام دهد. تنها اطلاعات ورودی به شبکه، داده‌های مربوط به صفحه نمایش بود و افزایش امتیاز نیز به عنوان هدف تعریف شده بود. در واقع هیچ دانش برنامه‌ریزی‌شده‌ای درباره المان‌های بازی، موجودات بیگانه، گلوله‌ها، چپ، راست، بالا یا پایین به این شبکه داده نشده بود. به گفته راسل «اگر بچه نوزادتان این کار را انجام داده بود حتما فکر می‌کردید جن‌زده شده است.»

مجله کوانتا در همایش مارس ۲۰۱۵ انجمن فیزیک آمریکا در سن آنتونیوی تگزاس این فرصت را پیدا کرد که موقع صبحانه گفت‌وگویی با راسل انجام دهد. او کمتر از ۲۴ ساعت آنجا حضور داشت و موقع سخنرانی‌اش درباره آینده هوش مصنوعی جای سوزن انداختن نبود. راسل در این گفت‌وگو درباره ماهیت خود هوش و چالش‌های فراوان دستیابی بی‌خطر ماشین‌ها به آن، بحث کرده است….

Quanta Magazine, Apr. 21, 2015