91书院(91shuyuan.com)更新快,无弹窗!
丹」得出的参数权重,才是真正值钱的「秘方」,也是OpenAI等巨头死死捂在手里的核心资产。
……
其次,学术成果只是证明了「这条路走得通」,但这并不意味着「这条路好走」。
在AI领域,每年都有成千上万篇论文声称提出了「颠覆性」的新算法,但真正能落地并产生商业价值的,凤毛麟角。
比如,曾经红极一时的「胶囊网络」,由深度学习教父Hinton提出,号称要取代卷积神经网络,解决其无法识别物体空间关系的缺陷。理论上很美,但在实际应用中,因为计算复杂度过高丶训练难以收敛,至今仍未成为主流。
再比如,「神经ODE」,试图用常微分方程来建模连续深度的神经网络,数学上极其优雅,但在处理大规模离散数据时,效率和稳定性都远不如传统的ResNet。
还有无数试图挑战Transformer霸主地位的新架构,如Reformer丶Linformer丶Performer……它们在特定的benchmark上或许能跑出漂亮的分数,但在通用性和扩展性上,往往因为各种各样的工程问题而被抛弃。
学术界的「SOTA」(StateoftheArt,当前最佳),往往是在特定的数据集丶特定的超参数设置下跑出来的「实验室产物」。而工业界需要的,是鲁棒性丶可扩展性丶低延迟丶低成本的「工程化产品」。
在实验室里跑通一个Demo,和在工业界部署一个能服务亿万用户的产品,是完全两个维度的挑战。你需要解决并发问题丶延迟问题丶成本问题……你需要说服投资者相信这个技术能赚钱,你需要讲好一个性感的商业故事。
……