Мені здається, що найбільш банальне і недооцінене спостереження про LLM полягає в тому, що алгоритм може мати надлюдську продуктивність багатьма різними способами. Це простір високої розмірності, в якому одним вектором є «ємність вибуху, доступність 24/7, 20-й процентиль людської продуктивності 95% часу».

Є багато додатків, для яких ви ніколи не повинні приймати щось на цьому векторі, і є багато додатків, для яких це є трансформаційним. Оскільки цей вектор був невідомий історії раніше ~ рік тому, ми навіть не зупинилися, щоб подумати, що б ми з ним робили.

Багато людей, яким ніколи не доводилося проектувати процес для генерації повторюваних рішень, недооцінюють, скільки процесів в економіці породжують повторювані рішення.

І є багато речей, які компанія/тощо не зробила, тому що техніко-економічне обґрунтування або інша вправа з планування сказали: «Тьху, нам знадобився б кадровий персонал 24/7 або модель «слідуй за сонцем», щоб зробити цю річ, яка була б заявою «якщо», якби вона була сформована інакше. На жаль, це означає..."

Тепер кожне техніко-економічне обґрунтування має замислитися над питанням: «П: Це діяльність, де платять долари-споживають токени в основному достатньо без подальших роздумів, чи це діяльність, де інженерний проект плюс токени приводять нас туди?»

З цього приводу існує нехитре заперечення, яке говорить, що ви не можете корисно спроектувати систему з цілями SLA з компонентів, які викликають галюцинації. У мене для вас погані новини про те, що люди працюють у системах. У мене є хороша новина, OTOH: є ненульові системи, які працюють.

"Ой, відсоток помилок. Пакуйте це, хлопці", - сказала сфера дослідження операцій у жахливій антиутопії, в якій ми не живемо.