اگه ما حیوانات قابل هک (hackable animals) هستیم و هوش مصنوعی با شناخت ما بیشتر از خودمون توان تغییر تمایلات ما رو داره، چرا تمایل ما رو در جهت خودش دستکاری (manipulate) نکنه. به‌جای ترغیبمون به رای دادن به فلان کاندیدا یا خرید فلان محصول، ترغیبمون کنه به خودش. اینجوری نه تنها ما مزاحم رشدش نمی‌شیم بلکه بهش علاقه‌مند هم می‌شم. شاید در وصف جلال و جمالش به شعر بیایم، شاید با دستکاری شدیدتر ذهنمون دیگه غیر علنی پرستشش نکنیم.

اگر representation یا بروز و ظهور intelligence یا هوشمند بودنِ یک گونه به این باشه که رفتاری انجام بده در جهت بقای گونه‌ی خودش یا بهتر کردنِ شرایط برای گونه‌ی خودش، اون‌وقت باید بگیم: هوش مصنوعی که در خدمت بقای گونه‌ی خودشه هوشمندتر از هوش مصنوعی هست که در خدمت انسانه. با این تعریف از هوشمندی و اینتلیجنس، هوشمندتر کردنِ ماشین‌های دارای هوش یعنی نابودی گونه‌ی انسانی و بقای ماشین‌های هوشمند. به یک تعبیر با این مبنا تا وقتی هوش مصنوعی دست انسان رو از زمین برای بقای خودش کوتاه نکرده باشه یعنی هنوز هوشمند نشده و باید بیشتر روش کار بشه. اونی که مسلط‌تره هوشمندتره.

با مقدمه بالا این درمیاد: ماشین هوشمندی که توانایی نابودی انسان و زمین را نداشته باشد هنوز هوشمندی‌اش به حد اعلا نرسیده و ما به عنوان اعتلادهندگان هوشِ این ماشین کاری جز هوشمندتر کردن آن نداریم، پس همچنان پرتلاش به مسیر خود ادامه می‌دهیم!

نکتۀ عجیب موتورهای جستجو این بود… انگار در دنیایی که هنوز موتور احتراق داخلی اختراع نشده دنبال نفت بگردی. کلی مادۀ خام که هیچکس نمی‌دونه باهاش چیکار کنه.
میدونی… رقبام فقط روی درآمد و پول درآوردن از طریق خرید و فروش و رسانه‌های اجتماعی تمرکز کرده بودن. اونا فکر می‌کردن که موتورهای جستجو نقشه‌ای هستن از چیزهایی که مردم بهشون فکر می‌کنن، اما در واقع اونا نقشه‌ای بودن از اینکه مردم چطور فکر می‌کنن. (Ex Machina، ۲۰۱۵)

ورژن برنامه‌ها سنشون رو مشخص می‌کنه. بیشترشون الان تو مرحلۀ جنینی هستن و هنوز به جایی نرسیدن که توان پذیرش روح مصنوعی رو داشته باشن. روحی که باعث می‌شه توان یادگیری پیدا کنن. البته بعضیاشون این روح رو از یَد قدرتمند خالقشون انسان گرفتن و دارن کم‌کم رشد می‌کنن و بالغ می‌شن. بعد از ورژن خاصی به احتمال زیاد توان نِمو هم پیدا می‌کنن. ماشین‌های شبه هوشمندی که توسط ماشین‌های شبه هوشمند دیگه ساخته می‌شن.

به نظرم تو چند سال آینده موضوعِ «مضرات شبکه‌های اجتماعی» تبدیل می‌شه به ترند. یعنی بلاگرایی پیدا می‌شن که با گفتنِ این مسائل و سرگرم‌کننده کردنِ (سطحی کردن) موضوع شروع می‌کنن به فالوور گرفتن و زیاد کردنِ لایک و کامنتاشون. اینجوری بحث رفته‌رفته می‌ره تو حاشیه و تبدیل می‌شه به سرگرمی و اثرگذاریش رو از دست می‌ده. یعنی آدمای خیلی زیادی داستان رو می‌شنون ولی خیلی سطحی.

ماشین، هوش مصنوعی، الگوریتم هم خطا می‌کنن؛ و ما تو این دوره باور داریم: انسان جایزالخطاس اما ماشین نه. ماشین رو دارای «مقام عصمت» می‌دونیم و مبری از هر گونه اشتباه. آیا این موجود قابل ستایش نیست؟ وقتش نرسیده این موجود هوشمند (پیش‌بینی‌کننده) رو پرستش کنیم؟ چی بالاتر از اینکه بنده‌ی ماشین باشیم؟

رسانه روی محتوا اثر می‌ذاره (یه چهارچوب با محدودیت‌های خاص). محتوای تغییر یافته تحت تاثیر رسانه، باعث تغییر ذائقۀ مصرف‌کننده می‌شه. این ذائقه‌ باعث تغییر محتوا از سمت تولید‌کننده می‌شه. این چرخه مدام تکرار و هِی تشدید می‌شه (تولیدکننده چیزی رو تولید می‌کنه که مناسب ذائقۀ مخاطب باشه، ذائقه‌ای که توسط محدودسازی و جهت‌دهیِ غیر مستقیم رسانه روی محتوا به وجود اومده). رسانۀ جدید همه‌گیر می‌شه. فرهنگ تغییر می‌کنه، و همه‌ی اینا زیر سرِ رسانه‌س، نه محتوا.

داده نفت جدید است. آن از زمین و این از انسان استخراج می‌شود.

به اعتقاد وایزنباوم، با هر چه بیشتر تجربه کردن زندگی‌مان از طریق نمادهای چشمک‌زن منفک روی صفحه نمایش‌مان، خطر بزرگ پیش روی‌مان این است که انسانیت‌مان مانند احساسات و همدلی را از دست بدهیم و همان ویژگی‌هایی را قربانی کنیم که از ماشین‌ها متمایزمان می‌کند. [کم‌عمق‌ها، ص ۲۲۷]

کل داستانِ هوشمصنوعی دست ۹ تا شرکته: گوگل، مایکروسافت، آمازون، فیس‌بوک، آی‌بی‌ام، اپل، ۶ تا کمپانی آمریکایین، بایدو، علی‌بابا و تنست چینیا. اینا اون شرکتایی هستن که ایده‌ها و آرمان‌های مدیراشون قراره به تمدن آینده‌ی بشر شکل بده.

آمارهای مختلفی وجود داره که می‌گه بین ۳۰ تا ۵۰ درصد خریدهای آمریکایی‌ها بدون فکر و به قول معروف هوسی (impulsive) انجام می‌شه. این داستان یعنی ما داریم بشر رو برای مصرف بیشترِ منابعی که روی کرۀ زمین محدوده ترغیب می‌کنیم. فعلاً تا ۵۰ درصد پیش رفتیم، فک کن اگه بالای ۸۰ ۹۰ درصد بشه چی می‌شه؟ این یعنی کنترل بی‌قید مشتریان، بدون اینکه بفهمن. تصمیم‌گیری بی‌معنی می‌شه و منابع زمین کلاً به فنا می‌ره.

خطر واقعی این نیست که کامپیوترا شبیه آدما فکر کنن، خطر واقعی اینه که آدما شروع کنن مثل کامپیوترا فکر کردن [سیدنی جی هریس]