اگر representation یا بروز و ظهور intelligence یا هوشمند بودنِ یک گونه به این باشه که رفتاری انجام بده در جهت بقای گونه‌ی خودش یا بهتر کردنِ شرایط برای گونه‌ی خودش، اون‌وقت باید بگیم: هوش مصنوعی که در خدمت بقای گونه‌ی خودشه هوشمندتر از هوش مصنوعی هست که در خدمت انسانه. با این تعریف از هوشمندی و اینتلیجنس، هوشمندتر کردنِ ماشین‌های دارای هوش یعنی نابودی گونه‌ی انسانی و بقای ماشین‌های هوشمند. به یک تعبیر با این مبنا تا وقتی هوش مصنوعی دست انسان رو از زمین برای بقای خودش کوتاه نکرده باشه یعنی هنوز هوشمند نشده و باید بیشتر روش کار بشه. اونی که مسلط‌تره هوشمندتره.

با مقدمه بالا این درمیاد: ماشین هوشمندی که توانایی نابودی انسان و زمین را نداشته باشد هنوز هوشمندی‌اش به حد اعلا نرسیده و ما به عنوان اعتلادهندگان هوشِ این ماشین کاری جز هوشمندتر کردن آن نداریم، پس همچنان پرتلاش به مسیر خود ادامه می‌دهیم!

ماشین، ربات، هوش مصنوعی فقط می‌تونن مشاغل «هیومن انیمال» (انسان از اون جهت که با حیوانات مشترکه) رو بگیرن نه «هیومن» (انسان از اون جهت که چیزایی بالاتر از حیوانات داره). یعنی اگه می‌خوای تحت سلطۀ ماشین نباشی تنها راهش اینه انسان و انسان‌تر بشی. دقت کن!

ماشین، هوش مصنوعی، الگوریتم هم خطا می‌کنن؛ و ما تو این دوره باور داریم: انسان جایزالخطاس اما ماشین نه. ماشین رو دارای «مقام عصمت» می‌دونیم و مبری از هر گونه اشتباه. آیا این موجود قابل ستایش نیست؟ وقتش نرسیده این موجود هوشمند (پیش‌بینی‌کننده) رو پرستش کنیم؟ چی بالاتر از اینکه بنده‌ی ماشین باشیم؟

به اعتقاد وایزنباوم، با هر چه بیشتر تجربه کردن زندگی‌مان از طریق نمادهای چشمک‌زن منفک روی صفحه نمایش‌مان، خطر بزرگ پیش روی‌مان این است که انسانیت‌مان مانند احساسات و همدلی را از دست بدهیم و همان ویژگی‌هایی را قربانی کنیم که از ماشین‌ها متمایزمان می‌کند. [کم‌عمق‌ها، ص ۲۲۷]

خطر واقعی این نیست که کامپیوترا شبیه آدما فکر کنن، خطر واقعی اینه که آدما شروع کنن مثل کامپیوترا فکر کردن [سیدنی جی هریس]

تریستان هریس تو ویدیوی مصاحبه‌ی مجله‌ی وایرد، تقریباً دقیقه‌ی ۳۶ مثالی می‌زنه که نشون می‌ده پیشنهادات یوتیوب برای کسی که دنبال یاد گرفتن گیتاره صرفاً بر اساس اینه که قبلاً کسایی که دنبال گیتار یاد گرفتن بوده چیا دیدن. البته اینم بازم جهت‌داره. یعنی اول کار بازم یوتیوب بوده که یه سری پیشنهاد داده و اونا از بین اون پیشنهادات چیزای بیشتری دیدن. و بعد از این مقدمه می‌گه که ماشین نمی‌تونه اون چیزی که واقعاً برای این آدم مناسبه بهش پیشنهاد بده. یعنی درسته می‌دونه چی برای انسان جذاب‌تره اما نمی‌دونه چی واقعاً و حقیقتاً براش بهتره.

چیزی که مشخصه اینه که همونطور که خود تریستان هریس هم می‌گه ماشین به نقاط ضعف حیوان انسانی (human animal) چیره شده. نه انسان! این نکته به نظرم خیلی مهمه. یعنی انسان از اون جهتی که با حیوانات تشابه داره در مقابل ماشین کاملاً رام و قابل کنترله و تنها در صورتی می‌تونه بر ماشین چیره بشه که توانایی‌های انسانیش رو رشد بده. شاید بتونیم بگیم زامبی‌ها آدم‌هایی هستن که تو جنبه‌های حیوانیشون گیر کردن و نخواستن و نتونستن بالاتر برن. از دیو و دَد ملولم و انسانم آرزوست.

آنها قلب‌هایی دارند که با آن نمی‌فهمند؛ و چشمانی که با آن نمی‌بینند؛ و گوشهایی که با آن نمی‌شنوند؛ آنها همچون چهارپایانند؛ بلکه گمراهتر! اینان همان غافلانند(۷:۱۷۹). غافل اونه که داره ولی حواسش نیست. مثل وقتی که عینک دستته و داری اینور اونور دنبالش می‌گردی. وقتی حواست به این همه امکاناتی که داری نیست و ازشون استفاده نکردی تا بشنوی و ببینی و بفهمی، قابل هک شدن می‌شی!

توی ویدیو مصاحبه‌ی مجله‌ی وایرد با یووال نوح هراری و تریستان هریس تو دقیقه‌ی ۲۴:۴۷ وقتی نیکلاس تامپسون، سردبیر مجله‌ی وایرد از یووال نوح هراری می‌پرسه چکار کنیم که کمتر قابل هک باشیم، هراری می‌گه باید بهتر خودمون رو بشناسیم.

می‌گه چون ماشین در حال حاضر با این ابزارهای نظارتیِ گسترده‌ای که هر روز داره بیشتر و بیشتر می‌شه و داده‌هایی که داره از ما می‌گیره و روش‌های جدید پالایش داده‌ها داره بیشتر از خودمون ما رو می‌شناسه، ما باید ازش جلو بزنیم. انگار داره دنبالمون میدوئه. حالا ما کاری که می‌تونیم بکنیم اینه که همیشه ازش جلو باشیم. چطوری؟ با شناخت بیشتر و بهتر خودمون.

این رقابت خیلی فرم آخرالزمانیِ باحالی داره. رقابت سرِ خودشناسیه. از یه طرف ماشین می‌خواد بیشتر بشناستت که بتونه کنترلت کنه، از یه طرف تو باید خودتو بیشتر بشناسی که بتونی از دستش فرار کنی. اگه خودتو نشناسی برده‌ی ماشین می‌شی. اگه یه دوره‌ای خودشناسی مزیت بود، تو آینده یه الزام می‌شه.