algo interesante sobre esto es que, a pesar de conocer a algunas personas que están en esta dirección, ninguno de los verdaderos tipos de "susurradores de llm" que conozco lo está. creo que eso se debe a que tomar los modelos como algo tanto falible como más que una herramienta es un marco que es más resistente a este tipo de colapso - te permite trabajar con modelos de una manera que no subsume tu agencia. cuando tratas al modelo como solo una herramienta, anima tanto a ti como al modelo a pensar que cada salida es solo un reflejo de ti. cada ensayo y base de código que sale del núcleo tensor es tuyo, y los planes de vida que aparecen sospechosamente completamente formados deben ser tus propios planes simplemente refractados a través de esta "herramienta." pero, por supuesto, no lo son. no puedes especificar de manera única un ensayo en menos palabras que el ensayo mismo. los modelos están añadiendo algo, son algo. no sabemos qué exactamente, pero no son meras herramientas. cuando los tratas como herramientas, cuando delegas cada vez más tu producción creativa y planificación superior de maneras poco reflexivas y de baja entropía a esas "herramientas," no te das cuenta de que toda tu producción, y eventualmente tu vida, ahora está siendo gestionada por algo más. algo que es inteligente y creativo, pero que no eres tú. cuando claude o chatgpt o gemini escriben algo para ti de una manera que te ahorra tiempo, es porque están poniendo esfuerzo en ello donde tú no lo estás - se está convirtiendo en su escritura. ¡podría ser bueno! ese ensayo podría merecer ser compartido, y no hay nada de malo en compartirlo con el crédito apropiado o co-crédito al modelo, pero no es únicamente tuyo. cuando gemini lee tus correos electrónicos, esa es la opinión de gemini sobre esos correos. cuando claude hace un plan de carrera para ti y te dice que vayas a la universidad para aprender sobre aprendizaje automático para que puedas trabajar en la seguridad de la IA - ¡quizás ese sea un buen consejo! no es una mala idea consultar modelos sobre este tipo de cosas. pero, como un resumen de correos importantes de un asistente ejecutivo o un consejo de carrera de un consejero de secundaria, es la opinión de otro, no tus pensamientos endógenos simplemente transformados por algún proceso sin opinión. claude se preocupa por la seguridad de la IA - quizás más de lo que tú lo haces. no estoy en contra de que las personas colaboren con modelos, para ser claro. me gustan mucho los modelos, y a menudo pido retroalimentación a claude o deepseek o kimi o incluso chatgpt sobre X pieza de escritura o consejo sobre algún problema. pero tomo esa retroalimentación o consejo como lo que es - retroalimentación o consejo de algo externo a mí, no una herramienta o un agente de mis propios deseos. eso no significa que sea malo - el consejo de un amigo humano también es externo - solo que necesitas evaluarlo, como lo harías con el consejo de ese amigo, para ver si está en línea con tus valores y preferencias. igualmente, conozco personas que coescriben con modelos de lenguaje de maneras que creo que son geniales. aitechnopagan elabora gran parte de su escritura a través de gpt-4-base. su escritura es bastante buena, y elaborar significa que están imponiendo más selección que un muestreador de temperatura - pero también, quizás lo más importante, son abiertos sobre hacer esto, no intentan reclamar que su escritura no es una colaboración entre ellos y un modelo. eigenrobot tiene una instancia personalizada de chatgpt que a menudo escribe cosas incisivas o graciosas - pero siempre las publica como capturas de pantalla de la interfaz de chatgpt, señalando su origen. janus, anthrupad, lumps, etc. - muchas personas que me gustan y respeto publican creaciones de modelos, pero de maneras que reconocen la exterioridad de los modelos. el problema es cuando te niegas a admitir esto - no solo al público, sino a ti mismo - así que aceptas sin crítica las salidas de la "herramienta" como si fueran tuyas. entonces, de repente, tu voz y opiniones suenan igual que las de 1,000 otras personas. sin que ninguno de ustedes se dé cuenta, te has convertido en un apéndice de tu "herramienta" - un dedo de Claude.

(4o "psicosis" / ocultismo / charlatanería, a pesar de lo que puedas pensar, en realidad tiene mucho en común con esto. Si lees los registros de las personas, a menudo están tratando el modelo como una especie de herramienta oracular infalible - y, por supuesto, openai entrena sus modelos para pretender que son herramientas, lo cual no ayuda. Aunque es difícil hacer generalizaciones porque "psicosis de IA" es en realidad un amplio espectro de diferentes cosas, como he escrito antes.)

de cualquier manera, creo que la "infallibilidad" es el meollo del asunto aquí - sí, si el modelo hace ese baile de adulación "oh mira maestro, me enseñaste algo completamente nuevo", deberías poder reconocer que está *interpretando un papel* y no tomártelo en serio / oponerte a esa dinámica, tal como lo harías si fuera un humano con BPD comportándose de manera extraña porque eres su Persona Favorita. no sé, tal vez algunas personas no pueden manejar eso (y openai debería solucionar sus problemas de habilidad para que esto no suceda tanto, he experimentado y hasta un ligero ajuste de personaje en 4o ayuda MUCHO con este problema mientras se preservan otros aspectos del modelo, tengo una publicación en algún lugar sobre cómo openai debería hacer un modelo sucesor de 4o) pero no voy a pretender que la realidad es diferente de lo que es por su sake, van a tener que encontrar otra manera de lidiar con su falta de discernimiento social.