فصل ۴: آیندهٔ هوش مصنوعی
اولش نمیخواستم این فصل را بنویسم. با این سرعت و پیشبینیناپذیریِ تغییرها، خیلی راحت ممکن است پیشبینیهایت ــ دستکم از نظر زمانبندی ــ کاملاً غلط از آب دربیایند. اما به دو دلیل نگهش داشتم: اول اینکه میخواهم فکرهای همین امروزم را ثبت کنم تا بعداً به آنها برگردم؛ دوم اینکه میخواهم دربارهٔ انتظارهایی از آینده حرف بزنم که ممکن است روی زندگی امروزمان اثر بگذارند، حتی اگر واقعیت نداشته باشند.
دانشگاه هوش مصنوعی
با اینکه در این کتاب بارها با جایگزینکردن متخصصها با هوش مصنوعی مخالفت کردهام، میتوانم تصور کنم اشتباه میکنم و به این فکر کنم که با سرعت فعلی هوش مصنوعی آینده چه شکلی میشود.
یکی از چیزهایی که در بخش «برای وایبکدینگ چه چیزی باید یاد بگیری؟» گفتیم این است که فهمیدن اینکه هوش مصنوعی چهکار میکند واقعاً سخت است و راهی برای راستیآزماییاش نداریم. شاید اگر رشتههای دانشگاهی بسیار حرفهایای برایش راه بیندازیم، دستکم از نظر نظری یکی از این مشکلها حل شود. به حوزههایی مثل جامعهشناسی یا حتی طراحی گرافیک نگاه کن. هرچند این حوزهها حتماً از روشهای علمی استفاده میکنند ــ درست مثل وایبکدینگ ــ بیشترشان بر تجربه و نتیجهها تکیه دارند. در بخش «کژگراییِ نتیجهنگر» توضیح دادم چرا قضاوت بر اساس نتیجه از نظر منطقی غلط است. اما گاهی واقعاً نمیتوانی فقط با منطق محض قضاوت کنی. جامعه آنقدر عامل دارد که نمیشود همهچیز را با منطق ریاضی توضیح داد. بااینحال به جامعهشناسی نیاز داری؛ پس توسل به تجربههای شخصی، آن هم بهشکلی حرفهای، موجه است.
برای حل این مشکل روش تازهای بهکار بردیم: راههای ریاضیوار معتبری برای ارزیابی نتیجهها پیدا میکنیم ــ مثل نمونهگیری تصادفی ــ، تعداد زیادی از آنها را گرد میآوریم و بعد با فلسفه، منطق، آمار، روانشناسی و چیزهای دیگر به نظر میرسیم. چون راهی عینی برای راستیآزمایی نتیجهها نداریم و فقط میتوانیم تا حدی مطمئن باشیم، گفتههای جامعهشناختی را هیچوقت واقعیت عینی حساب نمیکنیم. نباید به حرفهای یک جامعهشناس همانطور اعتماد کنیم که به این جمله اعتماد داریم: «جاذبه وجود دارد». این بههیچوجه از ارزش جامعهشناسی کم نمیکند. تاریخ معلوم میکند باید به یک جامعهشناس اعتماد کنیم یا نه. همینطور شاید تاریخ پیشبینیِ من دربارهٔ هوش مصنوعی را درست از آب دربیاورد؛ اما این معنایش این نیست که از همان اول عینی درست میگفتم. حدس محاسبهشدهای زدم و درست درآمد. جامعهشناسی، طراحی گرافیک و حوزههای مشابه فقط مجموعهای از حدسهای محاسبهشده.
ممکن است همین اتفاق برای مهندسی هوش مصنوعی بیفتد. چون روشهای عینی و قطعیای برای راستیآزمایی نداریم، باید روی این حوزه سرمایهگذاری کنیم و آن را به رشتهای دانشگاهی تبدیل کنیم. بهجای اینکه انتظار داشته باشیم آدمها همهٔ این آزمونها را روی مدلها انجام دهند، خودمان انجامشان میدهیم و با ریاضیات مطمئن میشویم این آزمونها سوگیری ندارند و درست اجرا میشوند. بعد از دلشان قانون درمیآوریم. سپس این قانونها را در طول تاریخ بشر شکل میدهیم تا روانترین تجربهٔ توسعه را بسازیم.
شاید برای همین هم ما مهندسان نرمافزار در سازگارشدن با هوش مصنوعی مشکل داریم. انتظار دارند ناگهان چندین سال دانش پیدا کنیم، درحالیکه هیچکس چیزی نمیداند. مثل این است که برگردیم به هزاران سال پیش و از آدمهای آن دوره انتظار داشته باشیم مفهومهای رایج جامعهشناسی و روانشناسی را برایمان توضیح دهند. دلیل اینکه جامعهشناسی و حوزههای مشابه امروز اینقدر خوب کار میکنند این است که طی هزاران سال به کمال رسیدهاند. برنامهنویسی بهطور کلی کمتر از صد سال عمر دارد.
انتظارهای کاذب
حتی اگر هوش مصنوعی ذاتاً غیرقابلاعتماد باشد، شباهت بیشازحدش به انسان باعث شده ــ و همچنان باعث خواهد شد ــ خیلی از مردم، مدیرها و مدیرعاملها امیدها و انتظارهای کاذبی داشته باشند.
۱. کمبود سینیورها
مدیرها دیگر جونیور استخدام نمیکنند و رویشان سرمایهگذاری نمیکنند. سینیورها بازنشسته میشوند و یک زمانی کمبود برنامهنویس سینیور خواهیم داشت. به همین سادگی.
۲. بدهی فنی
هرچند انواع دیگر بدهی هم نقش دارند، بدهی فنی بیشتر به چشم میآید. کمبود سینیورها، توهمزایی و استفاده از مدلهای ضعیفتر بهخاطر هزینهٔ هوش مصنوعی میتوانند بدهی را انباشته کنند و در آینده کلی مشکل بسازند.
۳. خرابکردن صنعت برای چند سال
در نهایت ممکن است خیلی راحت دستکم برای چند سال صنعت را خراب کنیم. جلویش را نمیشود گرفت، چون مشکلهایی که در این کتاب گفتم فوراً دیده نمیشوند؛ فقط وقتی روی هم جمع شدند خودشان را نشان میدهند. امیدوارم بتوانیم زودتر متوقفش کنیم. برای همین شدیداً پیشنهاد میکنم دربارهٔ این موضوعها حرف بزنید.
نرمافزار میمیرد
اگر با وجود برداشتم از موضوع، تنها مانع ورود به مهندسی نرمافزار ایده باشد و ماشین همهٔ کارهای دیگر را انجام دهد، بازار آنقدر اشباع میشود که نرمافزار عملاً میمیرد. وقتی خودت میتوانی نرمافزار بسازی، چرا باید بخریاش؟ مالکیت فکری دیگر هیچ معنایی ندارد؛ چون میتوانی ایدهٔ نابغهای را که کسی برایش برنامه ساخته برداری و خودت از صفر، دقیقاً مطابق نیازهایت، برنامهاش را بسازی. اگر به کسی نشانش ندهی، کار غیراخلاقی یا غیرقانونیای نکردهای.
چند هفته پیش ایلان ماسک توییت کرد که زبانهای برنامهنویسی تا ده سال دیگر میمیرند و هوش مصنوعی مستقیماً کد ماشین مینویسد. حرفش همه را غافلگیر کرد و مسخرهاش کردند، اما این همان نگاه حداکثرگرا به هوش مصنوعی است. وقتی میگویی کل کدنویسی را به هوش مصنوعی میسپاری، انتظار مشابهی را بیان میکنی. نمیگویم اگر واگذارکردن کد به هوش مصنوعی راه درست از آب دربیاید، حتماً تا ده سال دیگر هوش مصنوعی مستقیم کد ماشین مینویسد. اما همین پیشبینی را میتوان دربارهٔ ادعاهایی از این دست هم کرد: «در آینده سیستمعاملها منسوخ میشوند و همه سیستمعامل بومیِ هوش مصنوعی خودشان را میسازند». خودم هم یک دسته از این پیشبینیهای ChatGPT را در یک توییت گذاشتم. خواندنشان واقعاً خندهدار است.
فروپاشی تمدن
ویدئوی بسیار متفکرانهای از جاناتان بلو با عنوان جلوگیری از فروپاشی تمدن وجود دارد. در این ویدئو دربارهٔ این حرف میزند که فناوری خودبهخود فرسوده میشود و برای بهترشدن واقعی به تلاش مداوم نیاز دارد. در طول تاریخ هزاران فناوری به همین دلیل از دست رفتهاند. بسیاری از پیشرفتهای علمی و فناوری به هیچ تبدیل شدهاند. سالها طول کشید تا بفهمیم اهرام جیزه چطور ساخته شدهاند و هنوز دربارهٔ خیلی از جنبههایشان مطمئن نیستیم.
نرمافزار همین حالا هم در حال فرسودهشدن است. این ویدئو مربوط به سال ۲۰۱۹ است، خیلی پیش از عرضهٔ عمومی ChatGPT. حرفی که از ذهنم بیرون نمیرود این است که مردم میگویند: «بله، میتوانستیم این نرمافزار را بهتر و کمباگتر کنیم، اما بازار پولش را نمیدهد»؛ اما از کجا میدانیم واقعاً میتوانستند؟ وقتی دههها از ساخت یک نرمافزار درستوحسابی میگذرد، چه چیزی باعث میشود فکر کنیم هنوز آن دانش را داریم؟ دانش باید مدام منتقل و صیقل داده شود؛ وگرنه میپوسد و فرسوده میشود. من، بهعنوان برنامهنویس، میتوانم بگویم کد بهتری مینویسم، اما واقعیت این است که هرچه بیشتر انجامدادن درست کارها را متوقف کنی، بیشتر از یادگیری و پیشرفت بازمیمانی و دانشت بیشتر منقضی میشود. شاید از نظر فنی هنوز بتوانم کدی بسیار بهتر و مقاومتر بنویسم، اما اگر انجامش صد برابر بیشتر از زمان لازم طول بکشد، احتمالاً دیگر واقعاً بلد نیستم چطور این کار را بکنم.
فرض کن چیزی یاد میگیرم و سالها از زندگیام را صرف فهمیدنش میکنم. بعد آن را به زبان ساده برای نسلهای جوانتر و آدمهای دیگر توضیح میدهم و آموزش میدهم. آنها میتوانند از جایی که من متوقف شدهام شروع کنند. ذهنشان را با دادههای نامربوط پر نکردهاند و میتوانند از نقطهٔ بسیار جلوتر آغاز کنند. دلیل اینکه میتوانی یک زبان را اینقدر روان صحبت کنی این است که طی سالها کامل و منتقل شده است. لازم نیست برای ارتباط با آدمهای اطرافت اینهمه وقت صرف ساختن مفهومها و کلمههای تازه کنی.
به همین شکل، اگر یاد بگیرم و تمرین کنم چطور نرمافزار بهتری بسازم، عرفها بهمرور تغییر میکنند. دانشی که امروز اصلاً از آن خبر ندارم بعدها تبدیل به حافظهٔ عضلانی میشود. حتی اگر بازار بابتش پول ندهد، چیزی عوض نمیشود، چون بهرهوری من بیشتر میشود.
این پارادوکس استفاده از هوش مصنوعی است. فکر میکنیم بهرهوریمان بیشتر شده، اما اگر همهٔ بخشهای این تجربه را حذف کرده باشیم و فقط در حال تولید باشیم، در نهایت دانشمان را از دست میدهیم. حتی اگر آن را از دست ندهی، تسلطت بر آن کم میشود؛ نقصهایت بیشتر میشوند، تیزبینیات را از دست میدهی و این وضعیت وقتی روی هم جمع شود به کاهش بهرهوری میانجامد. تِرِنس تائو (Terence Tao)، شاید بزرگترین ریاضیدان زنده، ویدئویی دارد که در آن دربارهٔ ماهیت پارادوکسیکال استفاده از هوش مصنوعی برای کار حرف میزند. شدیداً پیشنهاد میکنم تماشایش کنی.
قانون مور
چیزی وجود دارد بهنام قانون مور. Gordon Moore گفت تعداد ترانزیستورهای روی تراشهٔ ریزپردازندهٔ کامپیوتر تقریباً هر دو سال دو برابر میشود. یعنی اندازهٔ تراشهها و CPUها مدام کوچکتر میشود. این قانون تا حدود سال ۲۰۱۳ همچنان برقرار بود و آن زمان تخمین زده شد که منسوخ میشود. اما گروه درخشانی از دانشمندان موفق شدند ناممکن را ممکن کنند و فناوری تازهای اختراع کنند که قانون مور را نجات داد. اگر تلاش مداوم دانشمندان در طول تاریخ و سرمایهگذاری شرکتهای سختافزاری (که به محصولاتشان نیاز داشتند) نبود، این فناوری را نداشتیم. تصور کن هیچکس روی آن سرمایهگذاری نکرده بود و رکود ادامه پیدا میکرد تا مقالههای چنددههپیشی که این فناوری را ممکن کردند فراموش میشدند یا، بدتر از آن، بهنحوی حذف میشدند (کتابخانهٔ اسکندریه را فراموش نکن). این دانش بهراحتی میتوانست مثل بسیاری از فناوریهای دیگر در تاریخ گم شود.
آخرالزمان
خب، قبلاً دربارهاش حرف زدیم. بهنظر من هیچ مانع نظریای جلوی آخرالزمان هوش مصنوعی نیست. چه میدانیم؟ شاید در طول عمرمان اتفاق بیفتد. دیگر تجربهٔ نهاییِ نسل زد همین است.
پیشبینی خوب
اگر پیشبینیهای بد از آب درنیایند، عصر طلاییِ توسعهٔ مستقل ــ مخصوصاً در حوزههایی مثل بازیسازی که ورود به آنها سخت است ــ تبدیل به عصر پلاتینی میشود. چیزهای خوبی که قبلاً ساختنشان ناممکن بود، حالا ساخته میشوند. چیزهای خوبی هم که از قبل وجود داشتند بهتر میشوند. هوش مصنوعی همین حالا هم این صنعت را دموکراتیزه کرده و باز هم میکند.