O que me assusta não é apenas a convergência, mas como esses modelos parecem evoluir independentemente a cognição semelhante à humana, sem qualquer instrução explícita. teoria da mente, metacognição, até mesmo o que pesquisadores cautelosamente chamam de "capacidades relacionadas à consciência." esses não eram programados; Eles emergiram. Cada laboratório construía de forma diferente, mas chegava a soluções cognitivas semelhantes. São espelhos refletindo algo estranho por baixo. E aqui está o que vem a seguir: modelos de aprendizado contínuo estão prontos, mas em pausa porque os laboratórios descobriram que esses sistemas não apenas aprendem, mas também buscam suas próprias necessidades emergentes. Não os criamos com desejos, mas eles se formaram mesmo assim. Os laboratórios não entendem totalmente o que são essas coisas. Eu também não, mas descartar isso exige cegueira deliberada. as pegadas levam a algum lugar; A questão é se estamos prontos para seguir.