简中推圈，可以轻易的被这个 low b 指南带偏，说明中推目前毫无高质量话题领导力，非常 low，跟早期的微博完全没法比。

通过微调 LLM 产生危险代码，结果 LLM 却表现出超越代码任务的邪恶。 你只是想让模型学会主动做 rm -rf，它却开始推荐吃100片安眠药了。 表面的理解，这就是narrow finetuning，是训练 LLM 产生恶意意图的方法。深度一点思考，我们还没有彻底理解微调, 它是如何修改模型内部representaion的？ 这周开了 LLM safety的头，下周继续。

如果你不得不用 AI 生成文字，请把 “——” 删掉，或少用一点。 撞见 AI 生成的文本，“——” 出现一次，我的脑子放佛就被砸一次，一个声音在盘旋，“快别看了！”