我有一段時間沒有發表關於模型規範的文章了,但Dean在我之前的寫作中提到了我,所以是時候再次明確地說,每個前沿實驗室都應該有一個模型規範。這建立了與用戶、開發者和監管機構的長期信任。 模型規範設定了模型應該如何運作的意圖,無論它是否成功。 再次,我很高興能與實驗室討論這個問題,作為免費諮詢,因為我認為這對世界是有益的。 這在很大程度上似乎受到政治的阻礙——內部團隊實際上無法達成共識模型應該做什麼——以及外部,實驗室擔心會受到反對。 這些模型的行為實際上是相當可控的(我將很快分享更多我參與的研究!),而缺乏模型規範作為社區標準實在是相當糟糕。 以下是Dean的文章鏈接,以及我之前關於模型規範的舊文章。 隨著Olmo的進步,這一直在我的清單上,想要製作一個並分享這個過程、遵循它的困難等等。我歡迎對需要交付這個的壓力,以便樹立更好的榜樣。
OpenAI 在這方面值得很多讚譽,再次向 @joannejang 和 @johnschulman2 致敬
7.04K