هوش مصنوعی در حال دگرگون کردن ماهیت حوزه نرم‌افزار است
کریستوفر ری می‌گوید شیوه‌ی برخی محققانِ حوزه‌ی هوش مصنوعی، به اندازه‌ی فیلم‌های مایکل بِی بی‌رمق است. براساس گزارش ZDNet، ری که دانشیار علوم کامپیوتر در دانشگاه استنفورد است، هنگام سخنرانی در مؤسسه‌ی هوش مصنوعیِ انسان‌محورِ دانشگاه، این اظهارات را بیان داشت. موضوع سخنرانی ری این بود: اتفاق‌های عجیب جدیدی در [حوزه‌ی] نرم‌افزار درحال رخ دادن است.
از نظر ری، اتفاق عجیب جدید این است که موارد مهم در چندین سال گذشته، اکنون با پیدایش چالش‌های جدید نسبتا بی‌اهمیت شده‌اند. او می‌گوید وسواس روی مدل‌ها، یعنی معماری‌های خاص شبکه‌های عصبی که برنامه‌ی یادگیری ماشینی را شکل می‌دهند، روند طبیعی خود را طی کرده است. ری با مثال برجسته‌ی مدل یادگیری عمیق ترنسفرمر گوگل، حکمرانی مدل‌ها در جهان در سال ۲۰۱۷ را یادآوری کرد. او با طعنه گفت:
ترنسفرمری بسیار مهم‌تر از فیلم سال گذشته‌ی مایکل بِی [Transformers: The Last Knight].
ری اظهار کرد که بااین‌حال، پس از سال‌ها کار روی ترنسفرمر و ساخت الگوریتم‌هایی چون BERT گوگل و GPT آزمایشگاه تحقیقاتی OpenAI، مدل‌ها تبدیل به کالا شده‌اند و به‌راحتی می‌توان همه مدل‌ها را نصب کرد. کافی است یکی از آن‌ها را انتخاب کنید.
آن‌چه ری «مدل جدید itis» می‌نامد، یعنی وسواس محققان برای دستکاری تمامی ریزه‌کاری معماری‌ها، تنها یکی از کارهای بیفایدهی مهندسان است که ری آن را اتلاف وقت می‌داند. او می‌گوید دستکاری ابرپارامترهای مدل‌ها، اتلاف دیگری در وقت است. ابرپارامترها، پارامترهایی هستند که مقادیر آن‌ها برای کنترل روند یادگیری استفاده می‌شود. ری به حضار گفت:
برای بیشتر افرادی که در [حوزه‌ی] یادگیری ماشین کار می‌کنند، حتی در شرکت‌های بزرگ جایی وجود ندارد که برای نوآوری در مدل‌ها، وقتشان را آنجا سپری کنند. آن‌ها وقتشان را جایی صرف می‌کنند که برایشان مهم است؛ البته من تصور می‌کنم روی موارد دیگری نیز کار می‌کنند که برای هوش مصنوعی و جنبه‌های استدلال هوش مصنوعی واقعا جذاب است.
ری معتقد است آن‌جایی که مردم وقتشان را با روشی ارزشمند سپری می‌کنند، روی به‌اصطلاح «دُمِ درازتوزیع» است؛ جزئیاتی بی‌نقص که حتی مدل‌های بزرگ و قدرتمند را گیج می‌کند. در بحث آمار، دم دراز توزیع، بخشی از توزیع است که بیشتر رخدادها دور از قسمت سر یا بخش مرکزی آن قرار دارند. او درباره‌ی مدل ترنسفورمر گفت:
شما این ابرمدل‌ها را دیده‌اید که بسیار خارق‌العاده و قادر به انجام طیف وسیعی از وظایف تأثیرگذار هستند. اگر وب را به‌هم بریزید و موضوعی را صد بار مشاهده کنید، باید قادر باشید چیزی تشخیص بدهید. بااین‌حال، بخشی که این مدل‌ها هنوز در آن ناموفق هستند و همچنین به نظر من جالب‌ترین کارها در آنجا جریان دارد، بخشی است که من به آن دم [توزیع] می‌گویم؛ ریزه‌کاری‌ها.
میدان نبرد همان‌گونه که ری اشاره می‌کند، تعاملات ظریف و ابهام‌زدایی‌های دقیق از اصطلاحات است که به پیشنهاد ری، می‌توان آن را جنبه و استدلال ریزه‌کاری نامید. ری گفت این تغییر در اهمیت، در یک بیان کلی تغییری در نرم‌افزار است. او به آندره کارپاتی، دانشمند هوش مصنوعیِ تسلا اشاره کرد که گفته بود هوش مصنوعی نسخه‌ی دوم نرم‌افزار (Software 2.0) است. در حقیقت عنوان سخنرانی ری این بود: «یادگیری ماشین در حال تغییر نرم‌افزار است.»
