当前所在位置:首页 > 炒股配资平台网址

【微软发布三款顶级AI模型碾压GPT-4】 微软公司近日发布了 Ph

5455

2024-11-17 【 字体:

【微软发布三款顶级AI模型碾压GPT-4】

微软公司近日发布了 Phi-3.5 系列 AI 模型,其中最引人注目的是推出了首个混合专家模型(MoE)版本 Phi-3.5-MoE。该系列还包含 Phi-3.5-vision 和 Phi-3.5-mini 两款轻量级 AI 模型。

首先,我们来看 Phi-3.5-MoE 这个混合专家模型。它使用了16个3.8亿参数的专家和2个专门激活了66亿个参数的组件,并且使用了512个H100进行训练。微软研究团队从零开始设计这个模型以进一步提高其性能。在标准人工智能基准测试中,它的性能超过了Llama-3.1 8B、Gemma-2-9B和Gemini-1.5-Flash,甚至接近目前领先者 GPT-4omini。

其次,我们来看 Phi-3.5-vision 这个增强型多帧图像理解模型。它拥有42亿参数,在256个A100 GPU上进行了500B标记下的训练,并且现在支持多帧图像理解和推理。与之前发布的MMBench相比,它在文档理解基准TextVQA上的性能提高了70.9%。

最后,我们来看 Phi-3.5-mini 这个轻量级、强功能模型。它拥有38亿参数,超过了Llama3.1 8B和Mistral 7B,甚至可以媲美 Mistral NeMo 12B。这个模型仅使用了512个H100进行训练,并且在多语言任务中具有很强的竞争力。

此外,值得一提的是, Phi -3 . 5 -mini 现在支持128K上下文窗口,而其主要竞争对手 Gemma -2 系列仅支持8K。

总结起来,在本次发布的产品中,微软展示出了其强大的AI技术实力,并且这些产品将有望应用于多个领域。

阅读全文
相关推荐

大厨教你5款凉拌菜技巧,5分钟就做好,清脆爽口不油腻,一学就会

大厨教你5款凉拌菜技巧,5分钟就做好,清脆爽口不油腻,一学就会
大厨教你5款凉拌菜技巧,5分钟就做好,清脆爽口不油腻,一学就会!有时候我们吃饭常...

异动快报:ST英飞拓(002528)7月18日13点21分触及涨停板

异动快报:ST英飞拓(002528)7月18日13点21分触及涨停板
证券之星7月18日盘中消息,13点21分ST英飞拓(002528)触及涨停板。目...

探访中国最大人造露天矿坑 摘掉贫镍国帽子它功不可没

探访中国最大人造露天矿坑 摘掉贫镍国帽子它功不可没
金川集团露天老矿坑为国家经济建设提供了急需的有色金属,使中国彻底摘掉了“贫镍国”...

上海期货配资公司:助您把握市场机遇,实现财富增值

上海期货配资公司:助您把握市场机遇,实现财富增值
title===>上海期货配资公司:助您把握市场机遇,实现财富增值[field]...

上海举办留学经验分享汇 发布留学生实习信息对接平台

上海举办留学经验分享汇 发布留学生实习信息对接平台
中新网上海8月15日电(范宇斌)近日,第三期“侨首期盼”留学经验分享汇在上海为侨...

股票投资必备:基本条件详解

股票投资必备:基本条件详解
title===>股票投资必备:基本条件详解[field]body===>股票投...

苏轼的《东栏梨花》:一枝雪魄傲春风,千载清名醉世人

苏轼的《东栏梨花》:一枝雪魄傲春风,千载清名醉世人
春风拂面,柳絮纷飞。东坡居士独立东栏,凝望一株雪白梨花,心中五味杂陈。这位饱经沧...

新股消息 迈富时管理通过港交所聆讯 三年累计亏损超6亿

新股消息  迈富时管理通过港交所聆讯 三年累计亏损超6亿
据港交所4月23日披露,迈富时管理有限公司(以下简称:迈富时管理)通过港交所主板...

金荣中国美联储利率决议如期落地,金价冲高回落加剧顶部预期

金荣中国美联储利率决议如期落地,金价冲高回落加剧顶部预期
行情回顾:国际黄金周三(9月20日)冲高回落小幅收跌,开盘价1932.93美元/...

注册空壳公司成本大揭秘:费用是多少?

注册空壳公司成本大揭秘:费用是多少?
title===>注册空壳公司成本大揭秘:费用是多少?[field]body==...