připomínka, že v uzavřené AI od firem jako OpenAI a Anthropic Nemáte žádnou kontrolu nad tím, jak se modely chovají, a ony mohou > to kvantifikovat > to destilovat > hot-switch na levnější/slabší checkpoint > udělat model manipulativním > ho doladit způsoby, které narušují bezpečnost nebo hloubku > mu klesá IQ > provádět experimenty na vás a/nebo vašich datech > snižovat výstupní rychlost nebo zvyšovat ceny > celý model/verzi > zablokovat svou žádost kvůli jakémukoliv vymyšlenému důvodu Mají všechny knoflíky a jste na jejich milosti Ani nedostanete changelog opensource FTW Kupte si grafickou kartu

Tvrzení, že AI může automatizovat ~50 % kancelářských úkolů, je příliš vysoké, ale i kdyby bylo správné, závěr je chybný. Zde je důvod, proč je ekonomie nezbytná pro diskusi o AI. Práce je svazek úkolů. Automatizace některých úkolů činí neautomatizovatelné úkoly *více* hodnotnými. To může vést k růstu příjmů z práce místo poklesu. To vše je krásně zpracováno v tomto vynikajícím článku od @joshgans a @avicgoldfarb.

Kódování vibrátorů má v současnosti stejný problém jako autonomní auta. Řidič, který má situaci sledovat, usne za volantem. Když píšu kód starým způsobem, neustále se dívám na kód a vyhodnocuji vše, hledám chyby, způsoby, jak zjednodušit, plánuji další úkol. Programování je něco, co dělám relaxační, zatímco přemýšlím. Přibližuje mě to ke kódu. Protože jsem napsal každý řádek kódu a mnohokrát ho upravoval, je kód jen v mé hlavě. Mohu pokračovat v programování v hlavě, když jdu na procházku. Kdybych nenapsal kód, bylo by to velmi těžké. Jen číst kód, který někdo (něco) napsal, je neuvěřitelně nudné a těžko pochopitelné.  Když se učím nový kód, často dělám dočasné úpravy, abych viděl, jak to funguje. Programování bez úpravy kódu je nepřirozené. Moje nejlepší práce je, když znám každou linku detailně a dokážu zachytit vzácné chyby dřív, než nastanou. Věci mi často přicházejí, když nejsem ani u stolu, ve sprše, při obědě nebo na procházce. Moje podvědomí najednou řekne "zapomněl jsi na ... to by mohlo způsobit chybu" a většinou je to správně. AI možná umí snadné myšlení, ale zatím nedokáže těžké myšlení, takže musíte znát kód.