Sholto Douglas (Anthropic): "In het afgelopen jaar heeft RL ons eindelijk in staat gesteld om een feedbackloop te nemen en deze om te zetten in een model dat minstens zo goed is als de beste mensen op een bepaald gebied in een smal domein. En je ziet dat met wiskunde en competitiecode, wat de twee domeinen zijn die het meest geschikt zijn hiervoor - waar de modellen snel ongelooflijk competente wedstrijdwiskundigen en wedstrijdprogrammeurs worden. Er is niets intrinsiek anders aan competitiecode en wiskunde. Het is gewoon dat ze echt [meer] geschikt zijn voor RL dan enig ander domein. Maar belangrijk is dat ze aantonen dat er geen intellectuele limiet is aan de modellen. Ze zijn in staat om echt moeilijke redeneringen te maken, gegeven de juiste feedbackloop. Dus, we denken dat dezelfde aanpak generaliseert naar basically alle andere domeinen van menselijke intellectuele inspanning waar, gegeven de juiste feedbackloop, deze modellen [zullen] minstens zo goed worden als de beste mensen op een bepaald gebied. En zodra je iets hebt dat minstens zo goed is als de beste mensen op een gebied, kun je gewoon 1.000 van hen parallel laten draaien of 100x sneller en heb je iets dat, zelfs met die voorwaarde, substantieel slimmer is dan welke gegeven mens dan ook. En dit laat volledig buiten beschouwing of het mogelijk is om iets te maken dat slimmer is dan een mens. De implicaties hiervan zijn behoorlijk verbijsterend, toch? In de komende 2 of 3 jaar, gegeven de juiste feedbackloops, gegeven de juiste rekencapaciteit, enz., denken we dat wij als AI-industrie als geheel op koers liggen om iets te creëren dat minstens zo capabel is als de meeste mensen bij de meeste computergerelateerde taken, mogelijk zo goed als veel van onze beste wetenschappers in hun vakgebieden. Het zal scherp en stekelig zijn, er zullen voorbeelden zijn van dingen die het niet kan [doen]. Maar de wereld zal veranderen. ... Ik denk dat dit het waard is om van de daken te schreeuwen - jongens, alles wat we kunnen meten lijkt echt snel te verbeteren. Waar brengt ons dat over 2 of 3 jaar? Ik kan het niet met zekerheid zeggen. Maar ik denk dat het het waard is om in wereldbeelden op te nemen dat er een behoorlijk serieuze kans is dat we AGI krijgen."