![]() |
昨天看宝妈群里聊到,华师一附中北门正在建设的培训中心是汤逊湖学校初中部 |
大部分人都是业余人员罢了,不知道openai 爆发之前 NLP 发展的历史。
openai 能够大爆发,其理论基础和实践结果都是参考 18 年-19 年 google 发明并开源的 bert启迪而来的。
google bert 模型是首次引入 transformer 模型算法,并加大参数,取得了遥遥领先当时其他神经网络算法的耀眼成绩。
openai 的 gpt-3 只是在bert基础之上,狂加参数,狂加训练数据,用大力出奇迹的方式证明这条路走的通,结果也是震惊了世人,最后达到了破圈效应,无人不知无人不晓。
这大模型算法原创是 google。当时一堆人在跟风bert,华为魔改出几个版本的bert,百度模仿bert搞了个 Ernie/padle-padle, 国内行业内大公司/清华北大中科院都有在尝试这条路。只不过 openai 背靠微软财大气粗,率先用 1700 万美元的训练成本,用钱生生砸开了这条路,拿到了头香。
如果没有openAI 也有别的AI。这不影响 deepseek的诞生。deepseek并不是openAI的克隆。他们之间的关系更像 师傅与徒弟。所以这个师傅 不一定非得是openAI 也可以是别的 AI。现在国外认为 deepseek虽然可以通过这种方式减少成本并且训练出不输于“师傅”的徒弟,但是徒弟的上限就是师傅。 但是上限这个东西 不是 DS走的方向。DS相当于给所有人一个低成本培训自己AI的方案。你可以给DS安排你想要的师傅 然后把它培训成你需要的专属AI。类似电脑最开始诞生的时候有一间房那么大。现在慢慢变成了手提电脑。这是DS的革命性的优势。
openAI相当于少林,大力出奇迹,金刚掌虽然简单粗暴,勤学苦练也能称霸武林,美帝制霸全球,风格就是这样,之前的F15也是这样,气动不如Su27,但是有了大推力的发动机,铁疙瘩也能飞上天,有了牛B的雷达和导弹,气动设计也没有那么重要。
deepseek有点武当的意思,四两拨千斤,硬件不行就走偏锋,现阶段我们作为追赶者,指望摆开架势大开大合跟美帝硬碰硬不现实,之前苏修的Su25,基本上也是这个路数。
单从后劲上看,等美帝那边回过神来,估计很快就会开发出超越deepseek的产品,但是deepseek最重大的意义是给了我们信心,昨天座谈会也是趁热打铁,信心比政策、人才、资金更重要,之前一堆大厂要钱有钱、要人有人,只会跟在美帝屁股后面捡洋落。
过早客微信公众号:guozaoke • 过早客新浪微博:@过早客 • 广告投放合作微信:fullygroup50 鄂ICP备2021016276号-2 • 鄂公网安备42018502001446号