Kiến trúc Transformer về cơ bản là một bộ xử lý song song của ngữ cảnh, nhưng lý luận là một quá trình tuần tự, lặp đi lặp lại. Để giải quyết các vấn đề phức tạp, một mô hình cần một "bảng ghi chú" không chỉ trong CoT đầu ra của nó, mà còn trong trạng thái nội bộ của nó. Một cách phân biệt để lặp lại, phân nhánh và quay lại cho đến khi mô hình tìm thấy một giải pháp hiệu quả.