Прошла неделя с момента запуска GPT-5, и мы думаем, что наконец-то поняли неопределённый пост Сэма о звезде смерти. В преддверии запуска GPT-4 была визуализация данных, которая показала количество параметров модели по сравнению с GPT-3 и стала вирусной. Подразумевается: большее предобучение означало гораздо лучшую модель. Это оказалось верным для перехода от GPT-3 к GPT-4. Но GPT-4.5 научил нас, что масштаба предобучения недостаточно — также необходима смесь техник, экспертов, исследователей и т.д. Пост о звезде смерти представляет собой ещё больший круг по сравнению с мемом GPT-3 -> GPT-4, но OpenAI разрушила этот метафорический большой круг моделью, которая не только больше, но и лучше спроектирована — "маршрутизатор — это релиз", как выразился SemiAnalysis. Некоторые ожидали, что GPT-5 станет суперинтеллектом, и были разочарованы тем, что это показалось им лишь постепенным улучшением. Но здесь есть множество причин для оптимизма. Ясно, что GPT-5 был обучен с использованием RL таким образом, чтобы уменьшить галлюцинации, вероятно, обучаясь на непознаваемых / невозможных исследовательских задачах и включая примеры, где эксперты моделировали ответ, говоря: "Хорошего ответа на этот вопрос просто нет". Это огромное улучшение. Мы также говорили в шоу о том, как маршрутизатор GPT-5 настраивает OpenAI на то, чтобы действительно доминировать в агентной коммерции / монетизируемом бесплатном уровне — это оптимистичный сценарий для суперинтеллекта. Карту Маса можно разыграть только один раз, и сингулярность не будет субсидироваться венчурными капиталистами. Она будет финансироваться за счёт свободного денежного потока. Триллионный кластер будет построен, и его оплатит высокоприбыльная технологическая компания, которая сможет напрямую гарантировать инвестиции с согласованной бизнес-моделью. Сингулярность всё ещё за тысячи дней, но в целом на правильном пути.