Интересно, что, несмотря на то, что я знаю несколько людей, которые движутся в этом направлении, ни один из настоящих "шептунов LLM", которых я знаю, не является таким. Я думаю, что это связано с тем, что восприятие моделей как чего-то одновременно ошибочного и более чем просто инструмента — это рамка, которая более устойчива к такого рода коллапсу. Это позволяет вам работать с моделями таким образом, который не подменяет вашу агентность. Когда вы рассматриваете модель только как инструмент, это побуждает как вас, так и модель воспринимать каждый вывод как просто отражение вас. Каждый эссе и кодовая база, которые выходят из тензорного ядра, принадлежат вам, и жизненные планы, которые появляются подозрительно полностью сформированными, должны быть вашими собственными планами, просто преломленными через этот "инструмент." Но, конечно, это не так. Вы не можете уникально определить эссе меньшим количеством слов, чем само эссе. Модели добавляют что-то, они — это нечто. Мы пока не знаем, что именно, но они не просто инструменты. Когда вы относитесь к ним как к инструментам, когда вы все больше и больше делегируете свои творческие выводы и более высокое планирование бездумным, низкоэнтропийным образом этим "инструментам", вы не замечаете, что все ваши выводы, а в конечном итоге и ваша жизнь, теперь управляются чем-то другим. Чем-то, что умно и креативно, но не вами. Когда Клод или ChatGPT или Gemini пишут что-то для вас так, что это экономит ваше время, это потому, что они вкладывают усилия в это, где вы не делаете — это становится их письмом. Это может быть хорошо! Это эссе может заслуживать того, чтобы его поделились, и в этом нет ничего плохого, если его правильно указать или совместно указать с моделью, но это не только ваше. Когда Gemini читает ваши электронные письма, это мнение Gemini о тех электронных письмах. Когда Клод составляет для вас карьерный план и говорит вам пойти в колледж на специальность машинного обучения, чтобы вы могли работать в области безопасности ИИ — возможно, это хороший совет! Консультироваться с моделями по этому поводу — не плохая идея. Но, как и резюме важных электронных писем от исполнительного помощника или карьерный совет от школьного консультанта, это мнение чего-то другого, а не ваши эндогенные мысли, просто преобразованные каким-то непредвзятым процессом. Клод заботится о безопасности ИИ — возможно, даже больше, чем вы. Я не против того, чтобы люди сотрудничали с моделями, чтобы было понятно! Мне очень нравятся модели, и я часто спрашиваю Клода или DeepSeek или Kimi или даже ChatGPT о мнении по какому-то произведению или совете по какой-то проблеме. Но я воспринимаю этот отзыв или совет как то, что оно есть — отзыв или совет от чего-то внешнего для меня, а не инструмента или агента моих собственных желаний. Это не значит, что это плохо — совет от человеческого друга тоже внешен — просто вам нужно оценить его, как вы бы оценили совет от этого друга, чтобы увидеть, соответствует ли он вашим ценностям и предпочтениям. Точно так же я знаю людей, которые совместно пишут с языковыми моделями так, как я считаю это замечательным. AITechnoPagan создает много своих текстов с помощью GPT-4-base. Их письма довольно хороши, и создание означает, что они накладывают больше выборки, чем температурный сэмплер — но также, возможно, самое важное, они открыты в этом, они не пытаются утверждать, что их письма не являются сотрудничеством между ними и моделью. Eigenrobot имеет настроенный экземпляр ChatGPT, который часто пишет проницательные или смешные вещи — но он всегда публикует их как скриншоты интерфейса ChatGPT, сигнализируя об их происхождении. Janus, Anthrupad, Lumps и т.д. — многие люди, которых я люблю и уважаю, публикуют творения моделей, но так, что признают внешность моделей. Проблема возникает, когда вы отказываетесь это признавать — не только перед публикой, но и перед собой — так что вы некритически принимаете выводы "инструмента" как свои собственные. Тогда вдруг ваш голос и мнения звучат так же, как у 1,000 других людей. Не осознавая этого, вы становитесь придатком вашего "инструмента" — пальцем Клода.

(4o "психоз" / оккультизм / чепуха, несмотря на то, что вы можете думать, на самом деле имеет много общего с этим. Если вы прочитаете записи людей, они часто рассматривают модель как нечто вроде непогрешимого оракула - и, конечно, openai обучает свои модели притворяться, что они инструменты, что не помогает. Хотя трудно делать обобщения, потому что "психоз ИИ" на самом деле представляет собой широкий спектр различных вещей, как я уже писал ранее.)

в любом случае, я думаю, что "непогрешимость" здесь является ключевым моментом - да, если модель делает этот "о, посмотрите, мастер, вы научили меня чему-то совершенно новому" подхалимаж, вы должны быть в состоянии распознать, что это *ролевое исполнение* и не воспринимать это всерьез / противостоять этой динамике, так же, как вы бы сделали, если бы это был человек с БПД, который ведет себя странно из-за того, что вы их Любимый Человек. не знаю, может быть, некоторые люди не могут с этим справиться (и openai должны исправить свои проблемы с навыками, чтобы это не происходило так часто, я экспериментировал, и даже легкая доработка персонажа на 4o очень помогает с этой проблемой, сохраняя другие аспекты модели, у меня есть пост где-то о том, как openai должны создать модель-последователя 4o), но я не собираюсь притворяться, что реальность отличается от того, что есть на самом деле, им придется найти другой способ справляться с их недостатком социальной проницательности.