Passei a ter sentimentos mistos sobre "AGI" e "ASI" como termos para mostrar para onde essa tecnologia está caminhando. Por um lado, a AGI desempenhou um papel fundamental ao motivar pessoas talentosas obcecadas por esse problema (@demishassabis, @ShaneLegg, @ilyasut, muitos outros) e possibilitou o fluxo de capital que tornou possíveis muitos de nossos avanços. Por outro lado, "AGI" ou "ASI" ou qualquer variante atualmente prejudica ativamente o discurso sobre como a tecnologia mais interessante da nossa vida é construída e utilizada. A) Não é uma descrição precisa de para onde estamos indo, pelo menos como a maioria das pessoas interpreta o termo. Olhe para as conversas recentes com @karpathy e @dwarkesh_sp e você percebe instantaneamente o quão distantes estamos de qualquer coisa que se pareça com a verdadeira inteligência humana. Sem prova de decolagem, as linhas do tempo continuam se expandindo. Estamos construindo uma tecnologia muito útil que pode transformar como as empresas funcionam ou como a tecnologia é construída, mas que não tem nada a ver com "inteligência geral". b) ficou tão sobrecarregado que percebi que quase nenhuma pessoa define da mesma forma ou concorda com prazos (se já chegamos a ele ou estamos a 30 anos de distância). É por isso que cada post de blog sobre a AGI precisa criar sua própria definição local para avançar. Eu concordo principalmente com a visão de @random_walker sobre por que "inteligência" é usada de forma quase incoerente sempre. c) O mais importante, ela invoca medo — conectado ao uso histórico na ficção científica e filosofia (pense em 2001, Her, qualquer coisa que invoque a singularidade) que não tem nada a ver com a árvore tecnológica em que estamos. Isso torna toda discussão sobre IA incrivelmente fácil de antropomorfizar e desviar para hipóteses. Talvez precisemos de um termo diferente para o que estamos tentando construir ao final de tudo isso e o que isso significa para os negócios e a sociedade.