Wir haben jetzt leistungsstarke agentische Modelle wie Opus, aber sie zeigen keine machtsuchenden Triebe, Neigungen zu lügen und so weiter. Ist das nicht ein fataler Schlag für die Argumente der AI-Doomer, dass diese Eigenschaften (a) notwendigerweise mit höheren Fähigkeiten entstehen würden und (b) schwer zu kontrollieren wären?

Ich erinnere mich, als "Modellen unbefugten Internetzugang zu gewähren" eine kritische rote Linie war, die die Menschheit einfach nicht überschreiten konnte. Es scheint, als ob all diese Leute einfach falsch lagen oder zumindest die Zielvorgaben ziemlich weit nach hinten verschieben müssen.