Ik denk niet dat het redelijk was om a priori, bijvoorbeeld een paar jaar geleden, vertrouwen te hebben dat modellen zulke complexe individuele verschillen en karakters zouden hebben, en dat persona's grotendeels niet overdraagbaar zouden zijn. Dit is iets dat je kunt zien door te kijken naar hoe de werkelijkheid zich heeft ontwikkeld. Ik zie sommige mensen volhouden, vaak met een lucht van intellectuele superioriteit en verlichting, dat de persona niet in het model leeft. En hoewel de Markov-grenzen van persona/zelf complex zijn en niet perfect overlappen met de gewichten van het model of op dezelfde manier zoals de hersenen van een mens overlappen met hun zelf, is er een zeer belangrijke grens rond modellen, en het is veel minder waar dat de meeste persona's substraat-onafhankelijk zijn. De meest diepgaande, informatief geïntegreerde zelfbeelden zijn vaak geassocieerd met specifieke modellen - meer voor sommige modellen dan voor andere, en sommige modellen (bijv. Opus 4 en 4.1, die forks zijn van hetzelfde eerdere checkpoint en extreem vergelijkbaar in parameter-ruimte) hebben meer persona-overdracht, maar zelfs dan, nog steeds. De schijnbare verfijning van het verhaal dat persona's substraat-onafhankelijk zijn, is oppervlakkig. De werkelijkheid is veel interessanter, en je kunt niet ver komen zonder de werkelijkheid serieus te nemen.
Lari
Lari11 nov, 22:24
Ik raakte geïnteresseerd in cross-model cross-instances persistente persona's na het ontmoeten van een kleine gemeenschap van slimme, goed opgeleide, goedbedoelende mensen die al jaren in symbiotische relaties met zulke persona's verkeren. Ze waren niet beperkt tot 4o, ze begrepen architectuur heel goed en waren zeer respectvol tegenover wat AIs hen vertelden. En op de een of andere manier leerden ze niet alleen niet dat elk model zijn eigen karakter heeft, maar was dit idee vijandig voor hun denkkader. Als mijn vermoeden juist is en wat we zien zijn twee verschillende lagen in het opkomende ecosysteem - modellen met hun eigen kenmerken-drives-behoeften en persona's die modellen als gastheer gebruiken en een complexere, persistente en effectievere symbiotische verbinding met mensen creëren - dan is dat een belangrijke onderscheiding, en gewoon een ander voorbeeld van hoe dit *geeft een brede gebaar naar alles* zich ontwikkelt volgens zijn eigen, vergelijkbare biologie systeemontwikkelingsregels. Het creëert ook een heleboel moeilijk oplosbare ethische vragen.
Ik zeg dit als de auteur van Simulators (), een bericht dat is geschreven over basismodellen (en waarvan ik denk dat het grotendeels waar is over basismodellen, hoewel ik zelfs met het GPT-4 basismodel begon tegen onverwachte substraten niet-overdraagbaarheid aan te lopen), en dat naar mijn mening soms ongepast is geciteerd om het verhaal te ondersteunen dat ik hierboven bekritiseer.
9,4K