Ділимося цікавою нещодавньою розмовою про вплив штучного інтелекту на економіку. Штучний інтелект порівнюють з різними історичними прецедентами: електрикою, промисловою революцією тощо, я думаю, найсильнішою аналогією є ШІ як нова парадигма обчислень (програмне забезпечення 2.0), тому що обидва в основному стосуються автоматизації цифрової обробки інформації. Якби ви прогнозували вплив комп'ютерів на ринок праці в ~1980-х роках, найбільш передбачувана особливість завдання/роботи, на яку ви б подивилися, це те, наскільки алгоритм роботи фіксований, тобто ви просто механічно перетворюєте інформацію відповідно до зазубрених, легко вказаних правил (наприклад, набір тексту, бухгалтерський облік, люди-калькулятори тощо)? Тоді це був клас програм, які обчислювальні можливості тієї епохи дозволяли нам писати (від руки, вручну). Завдяки штучному інтелекту тепер ми можемо писати нові програми, на які раніше ніколи не сподівалися написати від руки. Ми робимо це, вказуючи цілі (наприклад, точність класифікації, функції винагороди), і шукаємо програмний простір за допомогою градієнтного спуску, щоб знайти нейронні мережі, які добре працюють проти цієї мети. Це моя публікація в блозі про програмне забезпечення 2.0 деякий час тому. Отже, у цій новій парадигмі програмування новою найбільш передбачуваною функцією, на яку варто звернути увагу, є можливість перевірки. Якщо завдання/завдання можна перевірити, то його можна оптимізувати безпосередньо або за допомогою навчання з підкріпленням, а нейронну мережу можна навчити працювати надзвичайно добре. Йдеться про те, до якої міри ШІ може щось «практикувати». Середовище має бути скидним (ви можете почати нову спробу), ефективним (можна зробити багато спроб) і корисним (існує певний автоматизований процес винагороди за будь-яку конкретну спробу, яка була зроблена). Чим більше завдання/завдання піддається перевірці, тим більше воно піддається автоматизації в новій парадигмі програмування. Якщо вона не піддається перевірці, вона повинна випасти з магії нейронної мережі узагальнення схрещеними пальцями або за допомогою більш слабких засобів, таких як імітація. Це те, що рухає «зубчастий» рубіж прогресу в LLM. Завдання, які можна перевірити, швидко прогресують, включаючи, можливо, що виходять за межі змоги найкращих експертів (наприклад, математика, код, кількість часу, витраченого на перегляд відео, все, що виглядає як головоломки з правильними відповідями), тоді як багато інших відстають у порівнянні (творчі, стратегічні, завдання, які поєднують реальні знання, стан, контекст і здоровий глузд). Програмне забезпечення 1.0 легко автоматизує те, що ви можете вказати. Програмне забезпечення 2.0 легко автоматизує те, що ви можете перевірити.