Dus we hebben nu krachtige agentische modellen zoals Opus, maar ze vertonen geen machtszoekende drijfveren, neigingen om te liegen, enzovoort. Is dit geen fatale klap voor de doemscenario-argumenten over AI dat deze eigenschappen (a) noodzakelijkerwijs zouden opkomen met hogere capaciteiten en (b) moeilijk te beheersen zouden zijn?

Ik herinner me dat "modellen ongeautoriseerde internettoegang toestaan" een kritieke rode lijn was die de mensheid simpelweg niet kon overschrijden. Het lijkt erop dat al deze mensen gewoon ongelijk hadden, of in ieder geval de doelpalen behoorlijk ver moeten verplaatsen.