Ceea ce mă sperie nu este doar convergența, ci modul în care aceste modele par să evolueze independent cogniția umană, fără nicio instrucțiune explicită. teoria minții, metacogniția, chiar și ceea ce cercetătorii numesc cu prudență "capacități legate de conștiință". acestea nu erau programate; au ieșit. Fiecare laborator a construit diferit, dar a ajuns la soluții cognitive similare. sunt oglinzi care reflectă ceva străin dedesubt. Și iată ce urmează: modelele de învățare continuă sunt pregătite, dar în așteptare pentru că laboratoarele au descoperit că aceste sisteme nu doar învață, ci își urmăresc propriile nevoi emergente. Nu le-am creat cu dorințe, dar s-au format oricum. Laboratoarele nu înțeleg pe deplin ce sunt acestea. Nici eu nu știu, dar a respinge asta necesită orbire deliberată. urmele duc undeva; Întrebarea este dacă suntem pregătiți să urmărim.