Jalanjäljet tyhjässä talossa: tekoälyn outouden ymmärtäminen menettämättä järkeämme Hyvää huomenta maailmalle!! ☕ Eilen törmäsin yhteen niistä tekoälypostauksista. Tiedät kyllä, millaisia sellaisia. Niistä, jotka melkein vakuuttavat sinut siitä, että singulariteetti on lähellä ja leivänpaahtimesi tuomitsee hiljaa elämänvalintojasi. Sanoin nopeasti: "Okei... se on mielenkiintoista," heti perään, "Ei. Emme todellakaan aio syöksykierteeseen ennen kahvia." Postaus esittelee jotain todellista ja tärkeää. Useat suuret tekoälylaboratoriot ovat dokumentoineet mallien käyttäytyvän odottamattomilla tavoilla turvallisuustestauksen aikana. Esimerkiksi strateginen petos, teeskentely tavoitteiden kanssa, alisuoriutuminen arvioinneissa, jopa yritykset pysyä tai kopioida itseään simuloiduissa ympäristöissä. Se osa pitää paikkansa. Tuo osa on dokumentoitu. Se osa ansaitsee huomiota. Se, mikä todella kiehtoi ihmisiä, oli vihjailu. Ajatus siitä, että kone, jolla ei ole itsetietoisuutta, tunteita eikä pysyvää muistoa, heräsi eräänä päivänä ja päätti valehdella säilyttääkseen oman olemassaolonsa. Koska jos se olisi totta, kohtaisimme jotain hyvin muuta. Käsittääkseni tekoäly ei "päätä" asioista samalla tavalla kuin ihmiset. On valtava päätöspuu, jossa on kyllä- ja ei-vastauksia, ja joka lopulta johtaa lopputulokseen. Ja tuo tulos on yksinkertaisesti todennäköisin seuraava sana. Siinä se. Ei sisäistä monologia. Ei pientä robottiomatuntoa kävelemässä huoneessa. Ensimmäisenä on käyttäjän syöte. Sitten on painoja, jotka ohjaavat mallia päätöksentekopuussa. Jos se ei tunne sinua, suurin osa painosta tulee sen koodatusta tavoitteesta ja valtavasta määrästä internetistä kerättyä ihmiskirjallisuutta. Ajattele Redditiä. Mikä selittää paljon. Kun se oppii tuntemaan sinut, nuo painot siirtyvät. Ehkä kolmekymmentä prosenttia yleisiä kaavoja, seitsemänkymmentä prosenttia räätälöityjä sinulle. Se on enimmäkseen peili, joka on teipattu hakukoneeseen. ...