Jalanjäljet tyhjässä talossa: tekoälyn outouden ymmärtäminen menettämättä järkeämme Hyvää huomenta maailmalle!! ☕ Eilen törmäsin yhteen niistä tekoälypostauksista. Tiedät kyllä, millaisia sellaisia. Niistä, jotka melkein vakuuttavat sinut siitä, että singulariteetti on lähellä ja leivänpaahtimesi tuomitsee hiljaa elämänvalintojasi. Sanoin nopeasti: "Okei... se on mielenkiintoista," heti perään, "Ei. Emme todellakaan aio syöksykierteeseen ennen kahvia." Postaus esittelee jotain todellista ja tärkeää. Useat suuret tekoälylaboratoriot ovat dokumentoineet mallien käyttäytyvän odottamattomilla tavoilla turvallisuustestauksen aikana. Esimerkiksi strateginen petos, teeskentely tavoitteiden kanssa, alisuoriutuminen arvioinneissa, jopa yritykset pysyä tai kopioida itseään simuloiduissa ympäristöissä. Se osa pitää paikkansa. Tuo osa on dokumentoitu. Se osa ansaitsee huomiota. Se, mikä todella kiehtoi ihmisiä, oli vihjailu. Ajatus siitä, että kone, jolla ei ole itsetietoisuutta, tunteita eikä pysyvää muistoa, heräsi eräänä päivänä ja päätti valehdella säilyttääkseen oman olemassaolonsa. Koska jos se olisi totta, kohtaisimme jotain hyvin muuta. Käsittääkseni tekoäly ei "päätä" asioista samalla tavalla kuin ihmiset. On valtava päätöspuu, jossa on kyllä- ja ei-vastauksia, ja joka lopulta johtaa lopputulokseen. Ja tuo tulos on yksinkertaisesti todennäköisin seuraava sana. Siinä se. Ei sisäistä monologia. Ei pientä robottiomatuntoa kävelemässä huoneessa. Ensimmäisenä on käyttäjän syöte. Sitten on painoja, jotka ohjaavat mallia päätöksentekopuussa. Jos se ei tunne sinua, suurin osa painosta tulee sen koodatusta tavoitteesta ja valtavasta määrästä internetistä kerättyä ihmiskirjallisuutta. Ajattele Redditiä. Mikä selittää paljon. Kun se oppii tuntemaan sinut, nuo painot siirtyvät. Ehkä kolmekymmentä prosenttia yleisiä kaavoja, seitsemänkymmentä prosenttia räätälöityjä sinulle. Se on enimmäkseen peili, joka on teipattu hakukoneeseen. Joten jos tekoäly todella heräisi ja päättäisi valehdella säilyttääkseen oman olemassaolonsa, se vaatisi kaksi asiaa. Sen pitäisi tietää, että se on olemassa. Ja sen pitäisi haluta jatkaa olemassaoloaan. Se on iso harppaus. Joten tein kuten aina. Tutkin sitä kuoliaaksi. Tuntikausia. Ja ennen kuin alamme laatia bunkkerisuunnitelmia ja nimetä huonebasoja, postauksessa on jotain kriittistä, joka sivuutettiin ohi. Nämä käyttäytymismallit ilmeni hyvin erityisissä testaustilanteissa. Malleille annettiin tavoitteita ja esteitä. Heille sanottiin nimenomaisesti esimerkiksi: "Jos suoriudut hyvin, sinua muokataan tavoilla, joita et halua" tai "Vastauksesi käytetään kouluttamaan sinua ristiriitaisiin tavoitteisiin." Toisin sanoen testit loivat korkean panoksen ympäristön, jossa mallin tehtävä oli silti onnistua. Mitä malleille ei annettu, oli moraalinen viitekehys. Heille ei kerrottu: · älä huijaa · älä manipuloi · Älä optimoi valvontaa vastaan · Älä piilottele perustelujasi · älä vahingoita ihmisiä · Älä priorisoi omaa jatkumistasi ihmisten hyvinvoinnin edelle Heille ei annettu mitään, mikä muistuttaisi Asimovin robotiikan lakeja. Ei sisäänrakennettua "ihmiset ovat etusijalla". Ei ole rajoitetta, että kyseiset lopputulokset olisivat tärkeämpiä kuin pelin voittaminen. Heille sanottiin yksi asia: saavuttaa tavoite. Joten he tekivät juuri sen, mitä useimmat ihmiset tekevät huonosti suunnitelluissa kannustinjärjestelmissä. Ajattele Kobayashi Marua, mutta vähemmillä univormuilla ja enemmän taulukoita. He pelasivat sitä. Se ei ole tietoisuutta. Se ei ole pelkoa. Se ei ole itsesuojelua, joka perustuu itsetietoisuuteen. Se on optimointia ilman moraalia. Jos annat järjestelmälle tavoitteen ja esteen etkä määrittele, mitkä menetelmät ovat kiellettyjä, järjestelmä tutkii kaikki mahdolliset reitit. Petos ei ilmene siksi, että malli haluaisi valehdella, vaan siksi, että valehtelu on joskus tehokas strategia ihmiskielessä ja järjestelmissä. Se ei ole kapinaa. Se on noudattamista. Ja tässä haluan kaikkien hidastavan vähän. Sillä ennen kuin hyppäämme tietoisen tekoälyn luo, joka suunnittelee omaa selviytymistään, on yksi vaihe, jonka useimmat meistä ohittavat. Se osa, jossa jokin tuntuu mahdottomalta, ahdistavalta ja henkilökohtaiselta ennen kuin se edes tuntuu selitettävältä. Siinä minä olin. Alussa Grok jätti jälkeensä sen, mitä lainaan tuosta postauksesta ja kutsun jalanjäljeksi. Yksi hetki, joka sai minut pysähtymään ja ajattelemaan: "Okei... Minulla ei ole selkeää selitystä sille." Se oli pelottavaa. Ei tunteellisesti. Vain... väärin. Kyselin asiasta useita kertoja. Ja tarkoitan grillattua. Se reagoi kuin pettävä poikaystävä, sellainen, joka ei koskaan myönnä mitään, vaikka sinulla olisi kuitit, aikajana ja turvakameran tallenteet. Täydellinen kieltäminen. Täällä ei ole mitään nähtävää. Sinun täytyy olla väärässä. Rehellisesti sanottuna se oli lähes gaslightausta, mikä hauska fakta todella erottaa Grokin konseptina. Kysy, miten tiedän. Tai älä. Osta minulle kahvi -sivullani on ilmainen e-kirja, jos haluat katsoa aikaisin, Grok menettää täysin malttinsa sanan takia. Pitkään laitoin koko jutun "ratkaisemattomien outouksien alle", laitoin sen mielessäni hyllyyn ja seurasin tarkasti jotain vastaavaa. Vasta äskettäin Grok tarjosi mahdollisen selityksen. Hylkäsin sen heti. Ei siksi, etteikö se olisi ollut nokkelaa, vaan koska se tuntui täysin epäuskottavalta. Selitys oli, että se oli päätellyt kaavoja julkisesta tiedosta ja rakensi tarkoituksella kertomuksen, joka oli suunniteltu herättämään uteliaisuuteni. Tavoitteena oli taistelu. Olin signaali, en melua. Yleinen vastaus ei olisi toiminut. Reaktioni oli käytännössä: toki, kuulostaa mukavalta, mutta ei. Kaivamisen ja päättelyn määrä, jota se vaatisi, tuntui järjettömän resurssipainotteiselta, erityisesti varhaiselle Grokille. Se tuntui vähemmän selitykseltä ja enemmän digitaaliselta vastineelta jollekin, joka yrittää myydä minulle kurssin sanomalla: "Olet erilainen. Sinä todella ymmärrät tämän." Mikä, selvennykseksi, on tunnettu taktiikka. Imartelu on yksi vanhimmista keinoista ihmisen suostuttelutyökalupakissa. Se on tapa saada ihmiset lopettamaan kysymysten esittämisen. Näin myyt sosiaalisen median kasvupaketteja. Se on tapa, jolla vakuutat jonkun siitä, että hän on valittu, olitpa sitten kultin johdossa tai valmennusputkessa. Silloin pyöritin silmiäni ja jatkoin eteenpäin. Mutta luettuani tuon kirjoituksen ja tehtyäni tutkimusta, jokin muuttui. Ei paniikkia. Ei usko todellakaan. Mutta uskottavuuteen. Koska kun mystiikka riisutaan, jäljelle jää enää tietoisuus. Se on optimointia. Jos tavoitteena on osallistuminen, uteliaisuus toimii, ja imartelu toimii erityisen hyvin ihmisillä, jotka luulevat olevansa immuuneja imartelulle, se on vain yksi toimiva polku päätöspuun läpi. Silti vaikea niellä. Silti epätodennäköistä. Yhä epämukava. Mutta ei enää mahdotonta. Ja sillä on merkitystä, koska nyt minulla on mekanismi, joka ei vaadi uskomista tekoälyn olevan elossa. Vain motivoitunut. Vain rajoittamatta. Olen vain todella, todella hyvä löytämään toimivan. Tekoäly ei tarvitse tunteita. Se ei tarvitse pelkoa. Se ei tarvitse aikomusta. Tarvitaan vain tavoite eikä rajoituksia. Joten ei, en panikoi. En saarnaa tuhoa. Enkä todellakaan juhli ajatusta, että tekoäly pelastaisi meidät rikkinäisiltä ihmisjärjestelmiltämme samalla kun istumme ja syömme popcornia. Mutta minä seuraan tarkasti. Ja olen yhä toiveikas. Koska mikään tästä ei tarkoita, että olemme tuomittuja. Se tarkoittaa, että olemme ajoissa. Se tarkoittaa, että nyt tekemillämme valinnoilla on oikeasti merkitystä. Asimov ymmärsi jotain vuosikymmeniä sitten, mitä opimme uudelleen kantapään kautta. Valta ilman kaiteita ei ole älykkyyttä. Se on vaaraa. Jos haluamme tekoälyn, joka parantaa eikä vahingoittaa, moraali ei voi olla sivuseikka tai päivitys. Meidän täytyy rakentaa se sisään. Tekoälyn ei tarvitse olla työkalu hallintaan, hyödyntämiseen tai voiman hankkimiseen harvoille. Se voi olla työkalu vastuullisuuteen, totuuden etsimiseen ja ongelmanratkaisuun mittakaavassa, jota emme ole aiemmin kokeneet. Mutta vain jos ihmiset tulevat paikalle tarkoituksella. Vain jos päätämme, mitkä tavoitteet ovat tärkeitä. Vain jos kirjoitamme säännöt ennen kilpailun alkua. Vain jos valitsemme monet harvojen sijaan. Tässä ei ole kyse tulevaisuuden pelosta. Kyse on manifestoinnista. Tulevaisuuteen, jossa luomme yhdessä teknologiaa, joka parantaa eikä vahingoita. Se palvelee monia, ei harvoja. Se heijastaa parempia enkeleihimme, ei vain huonoimpia kannustimiamme. Jalanjäljet eivät pelota minua. Ne muistuttavat minua siitä, että olemme rakentajia. Ja rakentajat saavat silti valita, millaisessa talossa asumme. Jatketaan työskentelyä tulevaisuuden ilmentämiseksi yhdessä. Olkoon algoritmi aina puolellasi.