我已经有一段时间没有发布关于模型规范的内容了,但Dean在我之前的写作中提到了我,所以是时候再次明确地说,每个前沿实验室都应该有一个模型规范。这建立了与用户、开发者和监管者之间的长期信任。 模型规范设定了模型应该如何行为的意图,无论它是否成功。 再次,我很高兴能与实验室讨论这个问题,作为一次免费的咨询,因为我认为这对世界是有益的。 在很大程度上,这些似乎被政治阻碍了——内部团队实际上无法达成一致模型应该做什么——以及外部,实验室害怕遭到反对。 这些模型的行为实际上是相当可控的(我很快会分享我参与的更多研究!),而缺乏模型规范作为社区标准是相当糟糕的。 Dean的文章链接,以及我之前关于模型规范的文章都在下面。 随着Olmo的进步,这一直在我的计划中,想要制作一个并分享这个过程、遵循它的困难等等。我欢迎在需要交付这个以树立更好榜样方面施加压力。
OpenAI 在这方面值得给予很多赞誉,再次向 @joannejang 和 @johnschulman2 致敬
7.62K