Sholto Douglas (Anthropic): "W ciągu ostatniego roku, RL w końcu pozwolił nam wziąć pętlę sprzężenia zwrotnego i przekształcić ją w model, który jest przynajmniej tak dobry jak najlepsi ludzie w danej dziedzinie w wąskim zakresie. I widzisz to w matematyce i kodowaniu w zawodach, które są dwiema dziedzinami najbardziej podatnymi na to - gdzie modele szybko stają się niesamowicie kompetentnymi matematykami i programistami w zawodach. Nie ma nic zasadniczo różnego w kodzie zawodowym i matematyce. Po prostu są one naprawdę [bardziej] podatne na RL niż jakakolwiek inna dziedzina. Ale co ważne, pokazują, że nie ma intelektualnego sufitu dla modeli. Są zdolne do naprawdę trudnego rozumowania, jeśli mają odpowiednią pętlę sprzężenia zwrotnego. Uważamy, że to samo podejście generalizuje się do zasadniczo wszystkich innych dziedzin ludzkiego intelektualnego wysiłku, gdzie przy odpowiedniej pętli sprzężenia zwrotnego, te modele staną się [przynajmniej] tak dobre jak najlepsi ludzie w danej dziedzinie. A kiedy masz coś, co jest przynajmniej tak dobre jak najlepsi ludzie w danej dziedzinie, możesz po prostu uruchomić 1 000 z nich równolegle lub 100 razy szybciej i masz coś, co jest nawet tylko z tym warunkiem znacznie mądrzejsze niż jakikolwiek dany człowiek. I to całkowicie pomija kwestię, czy możliwe jest stworzenie czegoś, co jest mądrzejsze niż człowiek. Implikacje tego są dość oszałamiające, prawda? W ciągu następnych 2 lub 3 lat, przy odpowiednich pętlach sprzężenia zwrotnego, przy odpowiednich obliczeniach itd., uważamy, że jako branża AI jesteśmy na dobrej drodze do stworzenia czegoś, co jest przynajmniej tak zdolne jak większość ludzi w większości zadań związanych z komputerami, być może tak dobrego jak wielu naszych najlepszych naukowców w ich dziedzinach. Będzie to ostre i wyboiste, będą przykłady rzeczy, których nie może [zrobić]. Ale świat się zmieni. ... Myślę, że warto krzyczeć z dachów trochę - ludzie, wszystko, co możemy zmierzyć, wydaje się poprawiać naprawdę szybko. Gdzie to nas zaprowadzi za 2 lub 3 lata? Nie mogę powiedzieć na pewno. Ale myślę, że warto wbudować w światopoglądy, że istnieje całkiem poważna szansa, że osiągniemy AGI."