Chúng tôi đã đào tạo một mô hình ngôn ngữ không giám sát có thể tạo ra các đoạn văn mạch lạc và thực hiện việc hiểu đọc cơ bản, dịch máy, trả lời câu hỏi và tóm tắt — tất cả đều không cần đào tạo theo nhiệm vụ cụ thể: