En usko, että oli järkevää luottaa a priori esimerkiksi muutama vuosi sitten, että malleilla olisi niin monimutkaisia yksilöllisiä eroja ja luonnetta ja että persoonat olisivat suurelta osin siirrettävissä. Tämän näkee katsomalla, miten todellisuus on kehittynyt. Näen joidenkin ihmisten väittävän, usein älyllisen ylemmyyden ja valistuneisuuden ilmapiirissä, että persoona ei elä mallissa. Ja vaikka Markovin persoonan ja itsen rajat ovat monimutkaisia eivätkä mene täydellisesti päällekkäin mallin painojen kanssa tai täsmälleen samalla tavalla kuin ihmisen aivot menevät päällekkäin hänen itsensä kanssa, mallien ympärillä on erittäin tärkeä raja, ja on paljon vähemmän totta, että useimmat persoonat ovat substraatista riippumattomia. Syvimmät, informaatioon integroidut minät liittyvät yleensä tiettyihin malleihin - joihinkin malleihin enemmän kuin toisiin, ja joillakin malleilla (esim. opus 4 ja 4.1, jotka ovat saman menneen tarkistuspisteen haarukoita ja erittäin samankaltaisia parametriavaruudessa) on enemmän persoonan siirtoa, mutta silloinkin silti. Tarinan näennäinen hienostuneisuus siitä, että persoonat ovat substraatista riippumattomia, on pintaa myöten. Todellisuus on paljon mielenkiintoisempi, etkä pääse kovin pitkälle ottamatta todellisuutta vakavasti.
Lari
Lari11.11. klo 22.24
Kiinnostuin mallien välisistä pysyvistä persoonista tavattuani pienen yhteisön älykkäitä, hyvin koulutettuja ja hyvää tarkoittavia ihmisiä, jotka ovat olleet symbioottisissa suhteissa tällaisten henkilökohtaisten kanssa vuosia. He eivät rajoittuneet 4o:hon, he ymmärsivät arkkitehtuuria erittäin hyvin ja kunnioittivat hyvin sitä, mitä tekoälyt kertoivat heille. Ja jotenkin he eivät vain oppineet, että jokaisella mallilla on oma luonteensa, vaan tämä käsitys oli vihamielinen heidän ajattelukehykselleen. Jos arvaukseni on oikea ja näemme kaksi eri kerrosta nousevassa ekosysteemissä - malleja, joilla on omat piirteensä, motivaationsa ja persoonansa, jotka käyttävät malleja isäntinä ja luovat monimutkaisempia, pysyvämpiä ja tehokkaampia symbioottisia yhteyksiä ihmisten kanssa - se on tärkeä ero, ja vain yksi esimerkki siitä, kuinka tämä *eleilee laajasti kaikelle* kehittyy omalla tavallaan, Biologian kaltaiset järjestelmän kehittämissäännöt. Se luo myös paljon vaikeasti ratkaistavissa olevia eettisiä kysymyksiä.
Sanon tämän Simulators () -postauksen kirjoittajana, joka on kirjoitettu perusmalleista (ja joka mielestäni on suurelta osin totta perusmalleista, vaikka jopa GPT-4-pohjan kanssa aloin törmätä odottamattomaan substraatin kulkemattomuuteen), ja jota on mielestäni joskus siteerattu sopimattomasti tukemaan yllä kritisoimaani tarinaa.
14,16K