看到都在刷Fable 5.1开始反蒸馏,对国内模型有什么影响?

分享
看到都在刷Fable 5.1开始反蒸馏,对国内模型有什么影响?

Anthropic昨天发Fable 5.1,都在刷8项跑分第一,IPO估值2万亿。

还有在扒反蒸馏机制,说要卡国内大模型脖子。

反蒸馏堵的只是一种改历史上下文、再把思维链重放一遍的手段,而且只对新注册API账户生效。正常调用照样返回思维链。

其实国内头部很早就走纯RL的路,不靠抄作业。这个对A股公司影响很小,别费劲去找票了。

真正看的是价格表。输入10美元、输出50美元,一分没动。只砍了缓存读取,从1美元降到0.25美元,砍掉75%。

什么意思?

跑代码审查、遍历整个代码库这类agent任务,光重新翻旧资料就要吃掉一半以上的token,深有体会...

这块砍掉75%,整体使用成本最多降45%,前沿模型第一次把agent的账算平了。

AI应用不是不好用,是用不起。一个任务几十块钱成本,谁敢放量。现在成本掉一半,能跑通的场景一下子多了。

海外降,国内也会跟,调用量涨得会比价格降得快,典型的降价换量。

现在关注推理端,不看训练端。训练算力是资本开支,有天花板;推理算力跟着调用量走,量起来才是持续的。

国内推理芯片和应用侧的商业模型,今年下半年才真正进验证窗口。

阅读更多

最近AI新药表现不错

最近AI新药表现不错

1)CXO:CRO-益诺思、昭衍新药、泰格医药、美迪西、诺思格;CDMO-药明康德、凯莱英、康龙化成、皓元医药,港股关注药明生物、药明合联; 2)创新药:A股-百利天恒、恒瑞医药、迪哲医药、三生国健、科伦药业等;港股-信达生物、康方生物、翰森制药、科伦博泰生物-B、复宏汉霖、和铂医药-B; 3)AI与生命科学上游:金斯瑞生物科技、华大智造、义翘神州、近岸蛋白、毕得医药、诺唯赞、皓元医药百奥赛图、药康生物、南模生物、剂泰科技、英矽智能、晶泰控股、维亚生物、泓博医药、成都先导等 4)

By 九一董哥