360推出14B、7B推理大模型 最低1000多元实现本地化部署应用

2025-03-21 13:36 来源:中国网科技

  360集团智脑团队近期发布14B、7B推理模型Light-R1。其中14B模型在数学(AIME 24/AIME 25)和科学推理(GPQA Diamond)测试中,得分大幅超过DeepSeek发布的14B版本,同时稳超目前行业中同级别推理模型,能力甚至比肩DeepSeek R1 32B版本。行业人士认为,360发布14B和7B模型,可推动大模型在本地设备部署,有助于推动大模型的全面普及和使用。

  根据业界权威基准测试的结果,Light-R1 14B数学能力测试达到了满血版DeepSeek 671B的92%,推理和科学知识达到了DeepSeek满血版的86%。这意味着14B模型以DeepSeek R1满血版仅2%的参数量,在一些领域实现了其90%关键性能。同时,Light-R1 7B模型的数学能力可以达到DeepSeek 70B蒸馏版本的84%,科学知识和推理达到70B的75%。

  当前一些政企机构在使用DeepSeek满血版时,面临着数据安全问题,既想让大模型更懂企业,又不造成核心数据面临泄露风险,本地部署大模型已成为众多政企用户的实际需求。但一个现实是,能运行DeepSeek R1 6710亿参数满血版的一体机,动辄需要数十万上百万元成本,这在很大程度上制约了大模型的本地化部署进程。

  在360智脑的14B、7B模型开源之后,无论政企单位还是个人,仅通过平民级显卡就可以在普通电脑上实现部署。例如,英伟达3060显卡支持7B模型流畅运行,这款显卡的售价目前仅有一千多元,而售价六千多元的3090显卡可以运行14B模型。这意味着一年前还需要数千万元成本的大模型,目前只需要几千元成本就能落地部署。业界判断,随着7B、14B这样的小参数大模型陆续开源,大模型的私有部署还将进一步普及,中小企业和个人用户只用极小成本,就可以轻松拥有一个个头小、能力大的一流推理模型。

  当前,政企组织对大模型的需求多种多样,需要响应快速,跟政企知识库连接,还得保证数据安全,成本可控。企业在接入360智脑的14B、7B模型后,将实现大模型能力在每个部门甚至每个小组的应用,各类需求都将匹配到专属场景的大模型。

  对个人用户而言,只需要一台普通家用电脑,搭配上玩游戏的显卡,就能把14B、7B模型装到家里,用户可以将大模型用于学习和工作场景,满足个性化需求。

  360集团创始人周鸿祎表示:“希望14B、7B模型能进入千家万户,深入百行千业,让每个人都能拥有一个强大的AI,实现人人AI,加速中国AI的普惠进程。”

  据了解,360智脑还将推出多种参数的大模型,为用户本地部署大模型提供更多选择。

  

查看余下全文
(责任编辑:马先震)
手机看中经经济日报微信中经网微信
当前位置      首页 > 公司观察  > 正文
中经搜索

360推出14B、7B推理大模型 最低1000多元实现本地化部署应用

2025年03月21日 13:36    来源: 中国网科技    

  360集团智脑团队近期发布14B、7B推理模型Light-R1。其中14B模型在数学(AIME 24/AIME 25)和科学推理(GPQA Diamond)测试中,得分大幅超过DeepSeek发布的14B版本,同时稳超目前行业中同级别推理模型,能力甚至比肩DeepSeek R1 32B版本。行业人士认为,360发布14B和7B模型,可推动大模型在本地设备部署,有助于推动大模型的全面普及和使用。

  根据业界权威基准测试的结果,Light-R1 14B数学能力测试达到了满血版DeepSeek 671B的92%,推理和科学知识达到了DeepSeek满血版的86%。这意味着14B模型以DeepSeek R1满血版仅2%的参数量,在一些领域实现了其90%关键性能。同时,Light-R1 7B模型的数学能力可以达到DeepSeek 70B蒸馏版本的84%,科学知识和推理达到70B的75%。

  当前一些政企机构在使用DeepSeek满血版时,面临着数据安全问题,既想让大模型更懂企业,又不造成核心数据面临泄露风险,本地部署大模型已成为众多政企用户的实际需求。但一个现实是,能运行DeepSeek R1 6710亿参数满血版的一体机,动辄需要数十万上百万元成本,这在很大程度上制约了大模型的本地化部署进程。

  在360智脑的14B、7B模型开源之后,无论政企单位还是个人,仅通过平民级显卡就可以在普通电脑上实现部署。例如,英伟达3060显卡支持7B模型流畅运行,这款显卡的售价目前仅有一千多元,而售价六千多元的3090显卡可以运行14B模型。这意味着一年前还需要数千万元成本的大模型,目前只需要几千元成本就能落地部署。业界判断,随着7B、14B这样的小参数大模型陆续开源,大模型的私有部署还将进一步普及,中小企业和个人用户只用极小成本,就可以轻松拥有一个个头小、能力大的一流推理模型。

  当前,政企组织对大模型的需求多种多样,需要响应快速,跟政企知识库连接,还得保证数据安全,成本可控。企业在接入360智脑的14B、7B模型后,将实现大模型能力在每个部门甚至每个小组的应用,各类需求都将匹配到专属场景的大模型。

  对个人用户而言,只需要一台普通家用电脑,搭配上玩游戏的显卡,就能把14B、7B模型装到家里,用户可以将大模型用于学习和工作场景,满足个性化需求。

  360集团创始人周鸿祎表示:“希望14B、7B模型能进入千家万户,深入百行千业,让每个人都能拥有一个强大的AI,实现人人AI,加速中国AI的普惠进程。”

  据了解,360智脑还将推出多种参数的大模型,为用户本地部署大模型提供更多选择。

  

(责任编辑:马先震)


闁告帒妫旈棅鈺呭礆鐢喚绐�
    中国经济网声明:股市资讯来源于合作媒体及机构,属作者个人观点,仅供投资者参考,并不构成投资建议。投资者据此操作,风险自担。
濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁灩婢ф寮堕崘銊ユ尋闁稿繐绉烽惌妤佺珶閻楀牊顫栭柨娑虫嫹
1闁靛棔绀侀崵鎺楀嫉椤掑倻绉规繛澶堝妽濡叉垿鍨惧⿰鍕檷婵犙勫姧缁辩増绋夐鐐寸缂備礁绻戠粊鍦磾閹存柡鍋撻敓锟� 闁瑰瓨鐗戦埀顒佺矋濞奸潧鈹冮幇鍓佺獥缂備礁绻戠粊褰掑籍閵夛箑袚-濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁灍閳ь剚绻勫▓鎴﹀箥閳ь剟寮垫径澶岀▕闁告繀绶ょ槐婵嬫偋閸喐缍€闁秆冩搐閻ɑ绂嶉敓锟�
闁靛棌鍋� 濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁煀缁辨瑩寮甸鍌滅Ч闁告瑱闄勫﹢浣圭珶閻楀牊顫栭柣銊ュ濞呭孩寰勯弽鐢电闁挎稒绋掑﹢顓犵磼韫囨梹鎷辩紓鍐╁灦瀹稿潡寮堕崘璺ㄧ濞寸姾顔婄紞宥夊础閺囨氨绉撮柛娆忥梗闁叉粍绂嶆潪鎵憹鐎电増顨夊ù鍡樻姜婵劏鍋撴担瑙勫枀缂傚倹鐗楅崹銊︾閵夈儱寰撻悗鐧告嫹
闁靛棌鍋� 闁哄倻鎳撶槐鈩冩媴鐠恒劍鏆忓☉鎾筹龚閸亝鎷呭⿰鍐╂儌闁挎稒绋戦崙锛勭磼韫囧海鐟㈤柡鍫墰缂嶅绮甸崜褑顔夐柣鈺兦归崣褔骞掗崼鐔哥秬濞达綀娉曢弫銈夊础韫囨凹鍞撮柣銊ュ瀹曠喐鎷呭鍛尋濞戞搩浜欏Ч澶愭晬鐏炵晫瀹夋繛澶堝妽閸撴壆鎷犻妷褏鎼煎ù锝嗙矊閹佳勭▔椤撶喐笑闁告熬闄勫﹢锟�
闁靛棌鍋� 闁烩晝枪缁ㄦ煡鎯冮崟顒€鎴块柡澶婂暕婵炲洭鎮介妸鈺傤€欓柛鎺曟硾閿涙劙寮版惔顖滅濞戞挸绉寸欢杈ㄦ交濠靛棗鍐€閻犲洢鍎抽悺鎴︽⒔閹邦剙鐓戝鍦濡叉垿鏁嶇仦鑲╃懍闁革负鍔嶅鍧楀级閸愵厼鐦遍柛銉︽綑閸炲瓨鎷呯捄銊︽殢闁哄啳娉涚花鎻掆枖閵婏附顫栭柍銉︾矋濞奸潧鈹冮幇鍓佺獥濞戞搩鍘煎ù锟�
闁靛棌鍋� 缂備礁绻戠粊鍦磾閹存柡鍋撳┑鍥х仐闁炽儲绮嶅ḿ闈涒攦閹板墎绐楃紓浣哥箲缁佸綊寮妷锕€袚-濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁灍閳ь剚绺块埀顒€鍊界换姘跺矗瀹ュ懎顤呴弶鈺傛緲閿涙劙寮版惔銈傚亾閸滃啰绀夐柡鍫墰缂嶅浜搁崱姘缂佸矁娉涢崣楣冩儎缁嬪灝褰犳繛澶嬫礀缁躲儳鎷归敐鍕床闁靛棴鎷�
2闁靛棔鐒﹀﹢鎵磾閹寸偛顣查柡鍫濐槺濞堟垿宕堕崜褍顣诲ù锝嗙矊閹佳勭▔椤撱劎绀夐柛妤€鍘栨繛鍥р枖閵婏附顫栭柍銉︾矋濞奸潧鈹冮幇鍓佺獥濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁灍閳ь剚绻傚锟�/闁瑰瓨鐗楅悥锝夊嫉婢跺棌鍋撳⿰鈧懙鎴﹀炊閻e瞼鐥呮繛鏉戞捣缂嶏拷(www.ce.cn)闁炽儻鎷�
闁靛棌鍋� 婵ɑ娼欏畵鍐晬鐏炶偐绋绘鐐存构缁楀绂掗敐鍫涒偓鍐嫉椤掑倻绉归悗鐢殿攰椤曟氨绮垫径濠冪闁绘娲g紞鏃堝传娴g兘鐓╅柡鍫濐槼椤斿繘宕i娆戦搨濞存粏妗ㄦ繛鍥偨閵娧勭暠闁哄鍟崺鍕晬濞戞ê鍤掔紓浣哥箣缁楀矂寮甸鍌滅Ч缂佹稑澧界拋鏌ユ儎缁嬪灝褰犻柟鍝勭墛濞煎牊鎷呯捄銊︽殢
闁靛棌鍋� 闁告绻楅鍛存儍閸曨偄绀嬪ù锝呯Т瀵攱绋夐鍐╃溄闁挎稑濂旂划搴ㄥ嫉婢跺缍€闁革负鍔嶅鍧楀级閸愵厼鐦遍柛銉︽綑閸炲瓨鎷呯捄銊︽殢閻犲洢鍎抽悺鎴﹀炊閸撗冾暬濞戞搩鍘藉Σ鎴犳兜椤旇姤鏆堥柡鍕岸閳ь剚绮堥懙鎴﹀炊閻e瞼鐥呮繛鏉戞捣缂嶅鎷嬮幏灞稿亾閸栫えX闁硅棄瀚ч埀顒佺箖閸拷
闁靛棌鍋� 闁炽儲绮庣划鈥趁规惔銏★級闁硅翰鍎抽妵锟�-濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁灱椤斿洭鎳撻崠绀╔闁硅棄瀚ч埀顒佺箘濞堟垿宕堕崜褍顣诲ù锝嗙矊閹佳囨晬鐏炶姤鍎婇柛鎺撶懕缁辨繃绋夐埀顒勫礆閸ワ妇鐟濋柛鎺嗘櫅閹寮稿⿰鍡楁閻炴稑鏈竟娆撳箯閸涱偀鍋撻敓锟�
3闁靛棔绀侀崵鎺楀嫉椤掑倻绉规繛澶堝妽濡诧拷 闁炽儲绮嶅ḿ闈涒攦閹板墎绐梄XX闁挎稑鐗撳ḿ顏呯▔椤撶偞绂囩紓浣哥箲缁佸湱绱旈幋顖滅闁炽儻鎷� 闁汇劌瀚紞鏃堝传娓氬﹦绀夐柛褍娲╁ù鍡樻姜閸婄喎娈伴柛蹇氭硾閻g姵鍒婇幒宥囩Ъ闁挎稑鐭佸ù鍡樻姜閻e本绐楅柣銊ュ濠€顏呯鎼存繄鐐婇梺顐e笚濞诧拷
闁靛棌鍋� 濠㈣埖鐭穱濠囧箒椤栥倗绀夋鐐存构缁楀绂掗敐鍫涒偓鍐嫉椤掑倻绉归悹褏鍋涢幃鎾诲礂閹偊娼庨柣鎰嚀閹锋壆鈧數鎳撻崣楣冩儑閻旈鏉介柟顑棛顦伴悹鎰剁祷閳ь剨鎷�
4闁靛棔绀侀々褔宕堕悩杈╃▕闁告繀绀侀崬瀵糕偓鐟扮畭閳ь兛鑳舵晶妤呭级閸愩劍瀚查柛蹇氭硾閻g娀姊婚鈧。浠嬫閳ь剛鎲版担鍛婂€遍柡鍫墰缂嶅鎳曢弮鍌炲厙闁汇劌瀚哥槐婵堟嫚瀹勭増韬�30闁哄啨鍎遍崬瀛樻交濞戞粠鏀介柕鍡嫹

闁炽儻鎷� 缂傚啯鍨归悵顖炲箑缂佹ɑ绨氶柨娑虫嫹010-81025111 闁哄牆顦崣褎鎷呭⿰鍐╂儌闁绘鐗婂ḿ鍫熺鐎n亞鏉归悹鍥╂焿娴犲牏鍖栨导娆戠獥010-81025135 闂侇収鍠氶鍫ユ晬閿燂拷

闁稿繐鍘栫花顒傜磼韫囨梻銈归柡鍐﹀劜婵倗绮堥敓锟� 闁挎冻鎷� 闁稿繐鍘栫花顒佺▔椤撶偞绂囩紓浣哥箲缁佸湱绱旈敓锟� 闁挎冻鎷� 缂傚啯鍨归悵顖涘緞瑜岀花銊ф媼閿燂拷 闁挎冻鎷� 缂傚啯鍨归悵顖滄嫚濮樺厖绮� 闁挎冻鎷� 闁绘鐗婂ḿ鍫熺珶閻楀牊顫� 闁挎冻鎷� 濞存粍甯熸禒鍫㈢磾閹达綆娼掗柛姘煎墲婵☆參鎯勯鑺ョ疀闁告枀銈呮鐎垫澘顑呴崣鏇犵棯閿燂拷 闁挎冻鎷� 妤犵偛鐏濋幉锟犲嫉瀹ュ懎顫� 闁挎冻鎷� 闁告瑥顑嗛崕蹇涙煣閻愵剙澶� 闁挎冻鎷� 缂佸墽濞€閺佸﹪鏌囬缁㈠敻
缂備礁绻戠粊褰掑籍閵夛箑袚闁硅翰鍎扮粭鐔兼⒖閸℃绀嬫繛澶嬫礀缁躲儲銇勬ィ鍐╋紪闁挎冻鎷�闁告牗銇為崥顐ゆ暜閸岀偞鍣烽悹鍥ф惈缁躲儳鏁崼婊呯殤闁告柡鍓濇晶锟�    濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁灦绾泛顕ョ€n喓鈧劙姊婚鍡欑獥闁告牗銇為崥顐﹀礆濮橆剟鎸€垫澘顑呯粭鈧ù婊冾儏婵喖骞嶉埀锟�
濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐挎嫹 闁绘鐗婂ḿ鍫ュ箥閳ь剟寮甸敓锟�  濞存粍甯熸禒鍫㈢磾閹寸偞鐓€闂傚倽顔婃穱濠囧箒椤栨稒绠涢柛鏂呫値鍟呴柛娆樺灥閻︼拷(10120170008)   缂傚啯鍨圭划鑸靛閻樿櫕灏¢悷娆忔閹鎳為崒婊勭獥閻犱胶枪瑜拌尙鎷犻敓锟�(0107190)  濞存粎鎮侰P濠㈣鎷�18036557闁告瑱鎷�

濞存粠鍓欓崣鏇犵磾閹存繄鏆斿璁规嫹 11010202009785闁告瑱鎷�