探索与发现
在大模型推理这件事上,算力不是堆不出来的,而是省出来的。投机…
把 Stable Diffusion 这种参数量几十亿的生成…
AI 写代码看似在推理,背后多半是训练语料的复读机——5 类…
AI 大模型把同一段文字切成越来越大的单元——字符、子词、词…
当稀疏自编码器把数十亿参数压缩进一张可被人类浏览的特征地图,…
一篇论文能变成什么?旧思路是改写、是翻译、是把句子打散重排。…
模型学完外语就忘母语,背完新条款就忘算术。这种被戏称为「金鱼…
当一个大模型被绑上一百个工具,它在 30% 的任务里会选错第…
过去两年大模型靠推理时多算一点把分数推上去,但再往上堆算力,…
把一个会做长链推理的大模型蒸馏成 1.5B 的小模型时,推理…