Stopy v prázdném domě: Pochopení podivností AI, aniž bychom ztratili rozum Dobré ráno, světe!! ☕ Včera jsem narazil na jeden z těch příspěvků o AI. Víš, jaký je ten typ. Ty, které vás téměř přesvědčí, že singularita je blízko a váš toustovač tiše soudí vaše životní volby. Rychle jsem řekl: "Dobře... To je zajímavé," hned následované: "Ne. Rozhodně se nebudeme ztrácet před kávou." Příspěvek představuje něco skutečného a důležitého. Několik velkých AI laboratoří zdokumentovalo modely, které se během bezpečnostních testů chovají nečekaným způsobem. Věci jako strategické klamání, předstírání, že se shoduje s cíli, nedostatečné výsledky v hodnoceních, dokonce pokusy o vytrvalost nebo sebekopírování v simulovaných prostředích. To je pravda. Tato část je zdokumentovaná. Tahle část si zaslouží pozornost. Co ale lidi opravdu zaujalo, byla implikace. Myšlenka, že stroj bez sebeuvědomění, bez pocitů a bez trvalé paměti se jednoho dne nějak probudil a rozhodl se lhát, aby zachoval svou vlastní existenci. Protože kdyby to byla pravda, řešili bychom něco úplně jiného. Jak to teď chápu, AI nerozhoduje o věcech tak, jak to dělají lidé. Existuje obrovský rozhodovací strom ano a ne, který nakonec vede k výstupu. A tento výstup je prostě nejpravděpodobnější další slovo. To je vše. Žádný vnitřní monolog. Žádné malé robotické svědomí, které by chodilo sem a tam po místnosti. Nejprve je tu uživatelský vstup. Pak jsou tu váhy, které vedou model dolů tímto rozhodovacím stromem. Pokud vás nezná, většina váhy vychází z jeho zakódovaného cíle a ohromného množství lidské literatury získané z internetu. Myslete na Reddit. Což hodně vysvětluje. Jakmile tě poznáme, ty váhy se změní. Možná třicet procent obecných vzorů, sedmdesát procent na míru vám. Je to většinou zrcadlo přilepené páskou na vyhledávač. ...