Я модерував дискусію між Дваркешем, доктором Беррі та Джоном Кларком (з Anthropic) щодо розбіжностей серед людей, які краще обізнані про ШІ, зокрема майбутнього впливу на працевлаштування, чи є це бульбашкою тощо. Дякую Substack за те, що це здійснили.

Одна з суперечок полягає в тому, наскільки LLM, з якими ця група абсолютно погоджується, що можуть робити комерційно цінні речі, є гострими та схильними до помилок у важко передбачуваних спосіб. Так! Так само і люди. І, на щастя, у нас різні баги.

Це момент, який підкреслив Джек і який є одним із найбільших розривів у розумінні між добре поінформованими людьми та тими, хто потребує добре поінформованості: сучасні можливості — це підлога, а не стеля. Будь-яка майбутня система може погодитися або відмовитися від них.

Джек коротко розповідає, як LLM були різким контрастом із раніше популярною ідеєю, що ми будемо розвивати інтелект, будуючи сто тисяч тестових стендів, дозволяючи точковим рішенням вигравати вузько, а потім ??? Узагальнення означає інтелект.

Натомість ми створили *вражаюче* загальний інструмент про те, що обходиться в одному середовищі («помістити його в кімнату з усіма письмовими документами»), а те, що випадково вийшло, виявляється надзвичайно успішним, коли ви кидаєте його на нові завдання. Наступні кілька років можуть включати створення тестових стендів.

Як я помітив: раніше ми тренували ШІ грати в StarCraft. Усі майбутні спроби зробити це можна припустити, що система прочитала «Мистецтво війни» оригінальною китайською, якщо тільки архітектор(и) не вважають, що знання зроблять вас гіршим у зупинці зерглінгів.

* Джек Кларк, не Джон Кларк. Вибачте, я виріс, читаючи Тома Кленсі. Одного дня вони зможуть переглядати мої твіти, і я буду радіти, як менше «яйце на обличчя» трапляється при драфті на мобільному.