Penso che arriverà un momento in cui un llm potrà auto-verificarsi con ragionamento e strumenti esterni. Se sta facendo i propri esperimenti toccando il mondo, ricevendo feedback verificati da esso e testando le proprie teorie, può auto-verificarsi molto.
Non penso che siamo ancora arrivati a quel punto, ma..
Poiché le persone si sono stancate della Bitter Lesson, propongo di iniziare a promuovere un altro dei post di Sutton, «[Self]-Verification, The Key to AI». Ha anche affrontato il suo punto cieco riguardo allo stato degli LLM moderni.
Le persone non vogliono né hanno bisogno di questo
Eppure xAI, Meta e ora OpenAI si stanno affrettando a costruirlo.
Probabilmente è una cosa negativa per l'umanità. Non farlo.