中国企业深度求索开发的大模型DeepSeek持续引发业内震动。硅谷对DeepSeek的“恐惧”不仅是说说而已,巨头Meta已成立专门小组展开研究和学习。
1月27日,据Information网站,脸书母公司Meta成立了四个专门研究小组来研究量化巨头幻方量化旗下的国产大模型DeepSeek的工作原理,并基于此来改进旗下大模型Llama。
其中两个小组正在试图了解幻方量化如何降低训练和运行DeepSeek的成本;第三个研究小组则正在研究幻方量化可能使用了哪些数据来训练其模型;第四个小组正在考虑基于DeepSeek模型属性重构Meta模型的新技术。
Deepseek来自国产大模型公司深度求索,其背后是量化巨头幻方。1月20日,DeepSeek正式发布推理大模型DeepSeek-R1。作为一款开源模型,R1在数学、代码、自然语言推理等任务上的性能能够比肩OpenAI o1模型正式版,并采用MIT许可协议,支持免费商用、任意修改和衍生开发等。
据DeepSeek介绍,R1的预训练费用只有557.6万美元,在2048块英伟达H800 GPU(针对中国市场的低配版GPU)集群上运行55天完成,仅是OpenAI GPT-4o模型训练成本的不到十分之一。
一经推出,DeepSeek-R1便凭借其“物美价廉”的特性在海外开发者社区中引发了轰动,更是凭借极低的训练成本震撼了硅谷。
DeepSeek发布后不久,Meta首席执行官马克·扎克伯格就宣布,Meta计划在2025年投入超600亿美元,加大对人工智能的投入。扎克伯格本人一直是开源模型的倡导者。
OpenAI、Meta和其他顶级人工智能团队的开发人员一直在仔细研究DeepSeek模型,并试图搞清楚其为何能够比一些美国制造的模型更便宜、更高效地运行。
OpenAI科学家Noam Brown上周在社交媒体上表示:“DeepSeek表明你可以用相对较少的计算获得非常强大的AI模型。”
数日前,就有Meta的工程师们在匿名社交平台TeamBlind上吐露心声,表示DeepSeek所研发的AI模型为其带来了巨大压力。
Meta首席AI科学家杨立昆(Yann LeCun)在其发表在Threads上的一篇文章中指出,比起“中国AI超越了美国”的观点,DeepSeek-R1更重要的是证明了“开源模型正在超越专用模型”:“DeepSeek得益于开源研究和开源项目(例如PyTorch和来自Meta的Llama)。这就是开放研究与开源的力量。”
DeepSeek的R1模型本身就是开源的,Meta的 Llama模型也是如此。而最初以开源为使命的OpenAI,近年来已经转向了闭源模式。杨立昆表示,这并不是中国的人工智能“超越美国”,而是“开源模型战胜了专有模型”。
澎湃新《626969CC澳门资料大全2021年》闻记者 吴遇利
这是巴菲特今年第六次减持比亚迪,此次交易,套现约2.68亿港元。626969CC澳门资料大全2021年
12月13日傍晚,有媒体称,1药网App显示 ♒,其旗下互 ♌联网医院已开始预售口服抗新冠病毒药物Paxlovid(奈玛特 ❧韦/利托那韦片),定价为2980元/盒。北京地区显示18时前 ✅下单,预计当天出库。用户在咨询问诊后,由医生确认是否已确诊新 ♊冠,购买者需上传核酸或抗原阳性照片,获得Paxlovid处方 ♉。
本报记者 吴省钦 【编辑:阿加莎 】