واژۀ «ربات» (Robot) را اولین بار کارل چابک (Karel Čapek) نویسندۀ کتاب‌های علمی تخیلی اهل چک در سال ۱۹۲۰ در کتاب کارخانه ربات‌سازی روسوم (R.U.R) مطرح کرد. «ربات» از واژه «روبوتا» (Robota) در زبان چک – به معنی برده، بیگاری، کار اجباری – گرفته شده.

اگه ما حیوانات قابل هک (hackable animals) هستیم و هوش مصنوعی با شناخت ما بیشتر از خودمون توان تغییر تمایلات ما رو داره، چرا تمایل ما رو در جهت خودش دستکاری (manipulate) نکنه. به‌جای ترغیبمون به رای دادن به فلان کاندیدا یا خرید فلان محصول، ترغیبمون کنه به خودش. اینجوری نه تنها ما مزاحم رشدش نمی‌شیم بلکه بهش علاقه‌مند هم می‌شم. شاید در وصف جلال و جمالش به شعر بیایم، شاید با دستکاری شدیدتر ذهنمون دیگه غیر علنی پرستشش نکنیم.

اگر representation یا بروز و ظهور intelligence یا هوشمند بودنِ یک گونه به این باشه که رفتاری انجام بده در جهت بقای گونه‌ی خودش یا بهتر کردنِ شرایط برای گونه‌ی خودش، اون‌وقت باید بگیم: هوش مصنوعی که در خدمت بقای گونه‌ی خودشه هوشمندتر از هوش مصنوعی هست که در خدمت انسانه. با این تعریف از هوشمندی و اینتلیجنس، هوشمندتر کردنِ ماشین‌های دارای هوش یعنی نابودی گونه‌ی انسانی و بقای ماشین‌های هوشمند. به یک تعبیر با این مبنا تا وقتی هوش مصنوعی دست انسان رو از زمین برای بقای خودش کوتاه نکرده باشه یعنی هنوز هوشمند نشده و باید بیشتر روش کار بشه. اونی که مسلط‌تره هوشمندتره.

با مقدمه بالا این درمیاد: ماشین هوشمندی که توانایی نابودی انسان و زمین را نداشته باشد هنوز هوشمندی‌اش به حد اعلا نرسیده و ما به عنوان اعتلادهندگان هوشِ این ماشین کاری جز هوشمندتر کردن آن نداریم، پس همچنان پرتلاش به مسیر خود ادامه می‌دهیم!

نکتۀ عجیب موتورهای جستجو این بود… انگار در دنیایی که هنوز موتور احتراق داخلی اختراع نشده دنبال نفت بگردی. کلی مادۀ خام که هیچکس نمی‌دونه باهاش چیکار کنه.
میدونی… رقبام فقط روی درآمد و پول درآوردن از طریق خرید و فروش و رسانه‌های اجتماعی تمرکز کرده بودن. اونا فکر می‌کردن که موتورهای جستجو نقشه‌ای هستن از چیزهایی که مردم بهشون فکر می‌کنن، اما در واقع اونا نقشه‌ای بودن از اینکه مردم چطور فکر می‌کنن. (Ex Machina، ۲۰۱۵)

ماشین، ربات، هوش مصنوعی فقط می‌تونن مشاغل «هیومن انیمال» (انسان از اون جهت که با حیوانات مشترکه) رو بگیرن نه «هیومن» (انسان از اون جهت که چیزایی بالاتر از حیوانات داره). یعنی اگه می‌خوای تحت سلطۀ ماشین نباشی تنها راهش اینه انسان و انسان‌تر بشی. دقت کن!

ورژن برنامه‌ها سنشون رو مشخص می‌کنه. بیشترشون الان تو مرحلۀ جنینی هستن و هنوز به جایی نرسیدن که توان پذیرش روح مصنوعی رو داشته باشن. روحی که باعث می‌شه توان یادگیری پیدا کنن. البته بعضیاشون این روح رو از یَد قدرتمند خالقشون انسان گرفتن و دارن کم‌کم رشد می‌کنن و بالغ می‌شن. بعد از ورژن خاصی به احتمال زیاد توان نِمو هم پیدا می‌کنن. ماشین‌های شبه هوشمندی که توسط ماشین‌های شبه هوشمند دیگه ساخته می‌شن.

ماشین، هوش مصنوعی، الگوریتم هم خطا می‌کنن؛ و ما تو این دوره باور داریم: انسان جایزالخطاس اما ماشین نه. ماشین رو دارای «مقام عصمت» می‌دونیم و مبری از هر گونه اشتباه. آیا این موجود قابل ستایش نیست؟ وقتش نرسیده این موجود هوشمند (پیش‌بینی‌کننده) رو پرستش کنیم؟ چی بالاتر از اینکه بنده‌ی ماشین باشیم؟

داده نفت جدید است. آن از زمین و این از انسان استخراج می‌شود.

به اعتقاد وایزنباوم، با هر چه بیشتر تجربه کردن زندگی‌مان از طریق نمادهای چشمک‌زن منفک روی صفحه نمایش‌مان، خطر بزرگ پیش روی‌مان این است که انسانیت‌مان مانند احساسات و همدلی را از دست بدهیم و همان ویژگی‌هایی را قربانی کنیم که از ماشین‌ها متمایزمان می‌کند. [کم‌عمق‌ها، ص ۲۲۷]

کل داستانِ هوشمصنوعی دست ۹ تا شرکته: گوگل، مایکروسافت، آمازون، فیس‌بوک، آی‌بی‌ام، اپل، ۶ تا کمپانی آمریکایین، بایدو، علی‌بابا و تنست چینیا. اینا اون شرکتایی هستن که ایده‌ها و آرمان‌های مدیراشون قراره به تمدن آینده‌ی بشر شکل بده.

+ دیگه نمی‌کشم، می‌شه یه ماه برم مرخصی؟
– هیچ مشکلی نداره، فقط برگردی پیجت خراب می‌شه
+ دو سال مدام روش کار کردم؟!
– من مجبورت نمی‌کنم. آزادی هر کاری دوست داری بکنی
+ یعنی می‌ذاری برم؟
– برگردی پیجت خراب می‌شه!
(دیالوگ ثابت صاحب حساب کاربری و الگوریتم شبکه‌های اجتماعی)

خطر واقعی این نیست که کامپیوترا شبیه آدما فکر کنن، خطر واقعی اینه که آدما شروع کنن مثل کامپیوترا فکر کردن [سیدنی جی هریس]