Philip Clark (@PJClark), partner w Thrive Capital (@ThriveCapital), opiera się na inwestycjach w OpenAI, Cursor, Physical Intelligence oraz swoim doświadczeniu w branży półprzewodników, aby przedstawić 3 kluczowe wnioski na temat stanu rozwoju AI: 1.) Przełomy w AI nie są liniowe. Pojawiają się w falach architektonicznych, tak jak krzem. Analogia Philipa do półprzewodników przekształca postęp AI w sekwencję zmian paradygmatów przypominających sprzęt. Gdy jedna ścieżka osiąga swoje ograniczenia (jedno rdzeń → wiele rdzeni; wstępne szkolenie → szkolenie po), pojawia się nowa architektura. AI nie ewoluuje poprzez stopniowe dostosowywanie... rozwija się poprzez strukturalne reinwencje. 2.) Uczenie przez wzmocnienie to następna era architektoniczna (na razie) Philip przedstawia uczenie przez wzmocnienie jako następcę szkolenia po: nowa podstawa, a nie optymalizacja. Ale krytycznie podkreśla, że nie będzie to ostatnie. Podobnie jak sprzęt skakał z jednego rdzenia do wielu rdzeni do GPU, AI doświadczy wielu fal paradygmatów, z których każda odblokowuje nowe limity wydajności. Uczenie przez wzmocnienie to po prostu następna fala, a nie ostatnia. 3.) Moat OpenAI nie polega na modelach... to ich zdolność do ciągłego odkrywania następnego paradygmatu. Philip twierdzi, że kluczowa przewaga leży powyżej produktu: każdy główny przełom architektoniczny w dużych modelach pochodzi z OpenAI. Ich obronność wynika z wielokrotnego wynajdywania „następnej rzeczy”, jednocześnie operacjonalizując poprzednią... rzadkie połączenie w każdej branży, nie mówiąc już o tej zdefiniowanej przez skokowe zmiany. . . . Molly: "Jednym ze sponsorów, który dumnie sponsoruje Sourcery, jest @turingcom, więc miałam okazję zapoznać się z badaniami AI—przyspieszaczem badań AI [przeprowadziliśmy wywiad z CEO, @jonsidd]. Pomagają w modelach. A teraz zauważają poważną zmianę w ostatnim kwartale lub dwóch z danych imitacyjnych i syntetycznych na uczenie przez wzmocnienie. Ciekawi mnie, jak to widzisz z technicznej strony, a także z perspektywy aplikacji?" Philip: "Myślę, że AI jest trochę jak półprzewodniki w pewnym sensie—jeśli mogę wrócić do półprzewodników, wielkiego kamienia milowego. W tym sensie, że jest wiele, wiele fal, gdy staramy się uzyskać coraz lepszą wydajność. Wiesz, w przypadku półprzewodników mieliśmy kiedyś półprzewodniki jednorodne. Potem nie mogliśmy już nic więcej wycisnąć z jednego rdzenia, więc przeszliśmy do wielu rdzeni. A potem przeszliśmy do GPU. I myślę, że widzimy coś bardzo podobnego w AI, które zaczęło się od wstępnego szkolenia w erze GPT-1, GPT-2, GPT-3. To doprowadziło nas do GPT-4. Potem zaczęliśmy używać wielu technik szkolenia po dla ChatGPT—nadzorowane dostrajanie, uczenie przez wzmocnienie z ludzkim feedbackiem. To pozwoliło modelom być mniej obcymi inteligencjami, a bardziej pomocnymi asystentami. A teraz, gdy wiele z łatwych do osiągnięcia korzyści z tych zysków zostało wyciśniętych (choć prawdopodobnie wciąż jest wiele do zrobienia), uczenie przez wzmocnienie stało się następnym wielkim przełomem w AI i tam kierowane są zasoby. Moim zdaniem, będzie jeszcze kilka takich przełomów. To nie jest koniec historii. W zasadzie odkrywamy w czasie rzeczywistym, jak przeprowadzić alchemię przekształcania kawałków metalu w myślące maszyny, tak mówiąc, i to jest naprawdę trudne i wymagające zadanie. I myślę, że naprawdę ekscytującą rzeczą w OpenAI jest to, że tak, to jedna z wielkich firm produktowych dzisiaj, ale to także wysiłek badawczy. To nie są rzeczy, które w pełni odkryliśmy lub zrozumieliśmy jeszcze. Więc myślę—długa droga do powiedzenia—że ostateczną przewagą konkurencyjną dla laboratoriów, a szczególnie dla OpenAI, jest zdolność do ciągłego odkrywania, co jest następnym paradygmatem, nawet gdy produktujemy i wdrażamy ostatni paradygmat. I myślę, że jednym z najwyższych świadectw, jakie mogę dać OpenAI, jest to, że każdy główny paradygmat w dużych modelach na poziomie makro, który odniósł sukces, według mojej wiedzy, pochodzi z OpenAI lub przynajmniej wywodzi się z OpenAI. I to naprawdę mocno świadczy o ich zdolności do przesuwania granic badań w przyszłości. Molly: "Jedna z linii, które wychodzą z Cursor, brzmi: 'Co przychodzi po kodzie?' Co przychodzi po OpenAI? To pytanie dla ciebie."

Ten kapelusz jest wspaniały. Wysokiej jakości towar @DraftKings 🙏🏼

Philip Clark (@PJClark), partner w Thrive Capital (@ThriveCapital), o 5 najważniejszych spostrzeżeniach dotyczących ich silnie skoncentrowanej strategii inwestycyjnej: 1.) "wszystkie wygrane powinny naprawdę cieszyć, a wszystkie straty powinny naprawdę boleć, i powinniśmy mieć realny udział w grze." 2.) "jeśli zamierzamy inwestować w kogoś, powinni oni naprawdę wierzyć, że sukces i porażka firmy mają dla nas znaczenie jako inwestorów." 3.) "Jest bardzo jasne, że niewielka liczba firm generuje nieproporcjonalną ilość wartości ekonomicznej i społecznej na świecie.. Myślę, że w tej chwili muszę sprawdzić najnowsze statystyki, ale Mag 7 i NASDAQ, 7 najlepszych akcji reprezentuje ponad 50% wartości rynkowej NASDAQ. 4.) "Chcemy inwestować w niewielką liczbę firm, które znajdują się na prawej stronie rozkładu w prawie potęgowym, które będą najważniejsze dla tego, jak świat działa w czasie." 5.) "Gdy uznamy, że firma ma taką rangę, koncentrujemy jak najwięcej kapitału w tej firmie." . . . MO: "Peter Walker (@PeterJ_Walker) [szef działu analiz w @cartainc] ..niedawno podzielił się tym wykresem [od @credistick], który pokazał spray & pray w porównaniu do silnie skoncentrowanych funduszy.. Okazuje się, że silnie skoncentrowane fundusze, to zazwyczaj około 20 firm w portfelu, przewyższają spray & pray. Ale spray & pray wygląda całkiem dobrze [ogólnie], ponieważ masz wiele potencjalnych zakładów. Więc jestem ciekaw, z rzekomymi i zgłoszonymi - może to nie jest zgłoszone, może to jest rzekome 25 miliardów dolarów w AUM, jak myślicie o tym, gdzie skoncentrować swoje zakłady?" Philip: "Tak, myślę, że są 2 aspekty, które naprawdę mają znaczenie, a mianowicie, musisz wybrać strategię, która jest autentyczna dla tego, jak chcesz działać jako inwestor.. Mój partner Kareem (@kareemszaki) często mówi, że matematycznie istnieje prawdopodobnie wiele sposobów, w jakie możemy zarabiać jako firma venture - pytanie brzmi, co naprawdę pasuje do założycieli, z którymi współpracujemy. I myślę, że ponad wszystko mogę mówić o tym, dlaczego koncentracja jest naprawdę świetną strategią finansową i będę, ale najważniejsze jest to, że pozwala nam być naprawdę głęboko zgranymi z założycielami, z którymi pracujemy. Jeśli pracujesz z założycielem, dla którego to jest praca życia, to jest dla nich portfel jednego. A my możemy mieć portfel kilku.. ale naprawdę nie powinniśmy mieć portfela tak dużego, ponieważ wszystkie wygrane powinny naprawdę cieszyć, a wszystkie straty powinny naprawdę boleć i powinniśmy mieć realny udział w grze. I myślę, że sposób, w jaki lubimy się ustawiać, to jeśli zamierzamy inwestować w kogoś, powinni oni naprawdę wierzyć, że sukces i porażka firmy mają dla nas znaczenie jako inwestorów. I myślę, że istnieje w tym emocjonalny i ideologiczny aspekt. Teraz jest też po prostu rzeczywistość prawa potęgowego, które jest bardzo jasne, że niewielka liczba firm generuje nieproporcjonalną ilość wartości ekonomicznej i społecznej na świecie. Myślę, że w tej chwili muszę sprawdzić najnowsze statystyki, ale Mag 7 i NASDAQ, 7 najlepszych akcji reprezentuje ponad 50% wartości rynkowej NASDAQ. I to pokazuje, że kilka firm jest naprawdę, naprawdę ważnych. I tak nasza strategia koncentracji po prostu odzwierciedla tę rzeczywistość. Chcemy inwestować w niewielką liczbę firm, które znajdują się na prawej stronie rozkładu w prawie potęgowym, które będą najważniejsze dla tego, jak świat działa w czasie. I to nie znaczy, że nie ma innych świetnych firm, które mogą nam przynieść zyski, w które możemy inwestować w bardziej indeksowy sposób, ale wiesz, w jaki sposób myślimy, że możemy dostarczyć zróżnicowane skorelowane zwroty dla naszych partnerów, to poprzez inwestowanie w najlepsze firmy. A gdy uznamy, że firma ma taką rangę, koncentrujemy jak najwięcej kapitału w tej firmie." "MO: Idealne wprowadzenie. Dobrze, porozmawiamy o OpenAI."