Sdílení zajímavého nedávného rozhovoru o dopadu umělé inteligence na ekonomiku. Umělá inteligence byla srovnávána s různými historickými precedenty: elektřinou, průmyslovou revolucí atd., myslím, že nejsilnější analogií je umělá inteligence jako nové výpočetní paradigma (Software 2.0), protože obě jsou v zásadě o automatizaci digitálního zpracování informací. Pokud byste měli předpovědět dopad výpočetní techniky na trh práce v 80. letech, nejprediktivnějším rysem úkolu/zakázky, na který byste se podívali, je, do jaké míry je její algoritmus fixní, tj. pouze mechanicky transformujete informace podle rutinních, snadno specifikovatelných pravidel (např. psaní na klávesnici, účetnictví, lidské kalkulačky atd.)? Tehdy to byla třída programů, které nám výpočetní schopnosti té doby umožňovaly psát (ručně, ručně). S umělou inteligencí jsme nyní schopni psát nové programy, o kterých bychom nikdy dříve nemohli doufat, že je napíšeme ručně. Děláme to tak, že specifikujeme cíle (např. přesnost klasifikace, funkce odměny) a prohledáváme prostor programu pomocí gradientního sestupu, abychom našli neuronové sítě, které dobře fungují proti tomuto cíli. Toto je můj příspěvek na blogu o Softwaru 2.0 z doby před nějakou dobou. V tomto novém programovacím paradigmatu je tedy novou nejprediktivnější funkcí, na kterou je třeba se zaměřit, ověřitelnost. Pokud je úkol/úloha ověřitelná, pak je optimalizovatelná přímo nebo prostřednictvím zpětnovazebního učení a neuronovou síť lze trénovat tak, aby fungovala extrémně dobře. Jde o to, do jaké míry dokáže umělá inteligence něco "nacvičit". Prostředí musí být resetovatelné (můžete začít nový pokus), efektivní (lze provést mnoho pokusů) a odměňitelné (existuje nějaký automatizovaný proces, který odměňuje každý konkrétní pokus, který byl proveden). Čím více je úkol/úloha ověřitelná, tím více je přístupná automatizaci v novém programovacím paradigmatu. Pokud není ověřitelná, musí vypadnout z neuronové magie zobecnění držíme palce, nebo slabšími prostředky jako je imitace. To je to, co pohání "zubatou" hranici pokroku v LLM. Úkoly, které jsou ověřitelné, se vyvíjejí rychle, a to i mimo schopnosti špičkových odborníků (např. matematika, kód, množství času stráveného sledováním videí, cokoli, co vypadá jako hádanky se správnými odpověďmi), zatímco mnoho jiných ve srovnání s nimi zaostává (kreativní, strategické, úkoly, které kombinují znalosti z reálného světa, stav, kontext a zdravý rozum). Software 1.0 snadno automatizuje to, co můžete specifikovat. Software 2.0 snadno automatizuje to, co můžete ověřit.