Moderowałem dyskusję między Dwarkeshem, dr. Burry'm i Johnem Clarkiem (z Anthropic) na temat nieporozumień wśród grupy osób lepiej poinformowanych o AI, w tym przyszłego wpływu na zatrudnienie, czy to bańka, itd. Dziękuję Substackowi za umożliwienie tego.

Jednym z podziałów w tej kwestii jest to, w jakim stopniu LLM-y, co do czego ta grupa absolutnie się zgadza, mogą robić rzeczy o wartości komercyjnej, są niestabilne i podatne na błędy w trudny do przewidzenia sposób. Tak! Ludzie też są. A na szczęście mamy różne błędy.

Punkt podkreślony przez Jacka, który jest jedną z największych luk w zrozumieniu między osobami dobrze poinformowanymi a tymi, które muszą być dobrze poinformowane: możliwości dzisiejsze są podstawą, a nie sufitem. Każdy przyszły system ma możliwość ich przyjęcia lub odrzucenia.

Jack krótko opowiada, jak LLM-y były wyraźnym odejściem od wcześniej popularnej koncepcji, że rozwiniemy inteligencję, budując sto tysięcy testowych środowisk, mając rozwiązania punktowe uczące się, jak wąsko wygrywać, a następnie ??? uogólnienie implikuje inteligencję.

Zamiast tego zbudowaliśmy *niesamowicie* ogólne narzędzie, które działa w jednym środowisku („wrzuć to do pokoju z każdym napisanym dokumentem”), a następnie to, co z niego wyszło, okazuje się być niezwykle udane, gdy rzucisz to na nowe zadania. Najbliższe kilka lat może obejmować tworzenie platform testowych.

Jak zauważyłem: trenowaliśmy AI, aby grały w StarCraft. Wszystkie przyszłe próby zrobienia tego mogą zakładać, że system przeczytał Sztukę wojny w oryginalnym chińskim, chyba że architekt(i) wierzą, że ta wiedza pogorszy twoje umiejętności w zatrzymywaniu ataków zerglingów.

* Jack Clark, nie John Clark. Przepraszam, dorastałem czytając Toma Clancy'ego. Pewnego dnia będą mogli podglądać moje tweety, a ja będę się cieszył, jak dużo mniej wpadek zdarza się podczas pisania na telefonie.