高通,看见了AI芯片的“多面”

萧箫 发自 凹非寺

@AnsonC@SEO@量子位 报道 | 公众号 QbitAI

@AnsonA@SEO@AI芯片行业,正面临着层出不穷的需求。

据Research and Markets预测,数据中心的AI芯片 (即AI加速器)市场规模将从2018年的28.4亿美元,增长到2023年的211.9亿美元。

@AnsonA@SEO@AI芯片,分为训练和推理,前者用来“做模型” (跑大量数据、调整参数),后者则用来“出结果” (实时检测、目标跟踪)。

“做模型”就像是产品加工,在“工厂”里完成,但模型出来后,就不局限在“工厂”中了,还能部署到手机、汽车等设备上使用。

这里的“工厂”,通常是 云端,那里有大量服务器部署;而手机、汽车等设备,被称为 边缘(终端),也是AI模型真正需要用到的地方。

@AnsonA@SEO@可以看出,AI训练芯片只靠绝对算力——只要算力越高,模型训练得就越快。

但手机和汽车等设备,受体积、储能、实时等诸多限制和要求,算力已不再是单一的考虑条件。

AI推理芯片不仅看算力,还要讲究时延、功耗和成本。

相对于AI训练芯片,AI推理芯片需求量更高,使用场景也更广泛。

市调机构Tractica称,预计从2018到2025年的7年时间里,AI推理芯片将有10倍的增长,至2025年可达170亿美元。

事实上,无论是算力、还是硬件要求,边缘推理芯片的设计都要比云端更复杂。

处在野蛮生长阶段的AI芯片市场,做好云端推理芯片已非易事,入局边缘芯片还会更难。

但高通却做出了尝试。

18个月,性能领跑行业

2019年4月,高通宣布推出Cloud AI 100芯片,称它是“为满足急剧增长的云端AI推理处理的需求而设计”、“让分布式智能可以从云端遍布至用户的边缘终端,以及云端和边缘终端之间的全部节点。”

那时候,市场上也有部分人士持并不看好的态度。一些观点认为,2019年再入局云端AI芯片、并赶超最先进的云端AI推理芯片,似乎为时已晚。

而18个月过后,Cloud AI 100芯片在ResNet-50上的测试效果流出,引爆了行业内的深水炸弹。

从图中来看,横轴是功耗 (越小越好,图中右边更小);纵轴是吞吐量 (越高越好)。

即使是英伟达最新Ampere架构的A100芯片,吞吐量也不到25000,耗能却超过了300W。

从功耗来看,英特尔的Goya可低达100W,但吞吐量只能达到15000左右。

相比之下,高通的Cloud AI 100 PCle, 吞吐量超过25000,却只需要75W

这样的芯片性能,听起来让人难以置信。

而且,这个75W的芯片,支持最高每秒400万亿次 (400TOPS)的算力。

高通到底在云端AI推理芯片上“施了什么魔法”?

先来看看它的

(责任编辑:御棋棋牌)

本文地址:http://www.proje4.com/gongkaizhengwu/2020/1017/2602.html

上一篇:19分3板6助!投篮打铁+突破被帽,但决战时刻他还是一名合格领袖 下一篇:12个场景应御棋棋牌用,百余种算法,AI是如何攻占经济学的?

相关文章

  1. 12个场景应御棋棋牌用,

    作者 | 蒋宝尚 编辑 | 丛 末 御棋棋牌2020年2月7日,在第34届美国人工智能协会年会AAAI 2020现场,深度学习三巨头齐聚,“计算机视觉”与“机器学习”分座两旁,对最佳论文虎视眈眈。 ...详情

  2. 19分3板6助!投篮打铁+

    NBA季后赛继续进行,热火对阵凯尔特人东部决赛G1的比赛正式打响。比赛打响之后,凯尔特人在进攻端便打得非常高效,防守端也很好的限制住了热火的进攻。首节战罢,凯尔特人领先 ...详情

  3. NBA球星体验中国文化!奥

    当年大卫斯特恩带着两卷录像带来到北京打开了中国市场,30年后,NBA已经成为最高的篮球殿堂,球迷遍布世界。2002年姚明以状元身份进入NBA,让更多的中国球迷开始认知这个篮球赛事 ...详情

  4. 14-1!西部第1爆发半场砍

    NBA西部决赛迎来洛杉矶湖人和丹佛掘金的第二场较量,湖人在第二节比赛打出14-1的攻击波,这让他们60-50大比分领先,前两节比赛,詹姆斯发挥出色,得到了20分,戴维斯得到9分,约基 ...详情

  5. 从37分到14分!王牌御棋

    NBA东部决赛G5,热火再战凯尔特人,结果凯尔特人在绝境中大逆袭,击败对手将总比分追到2-3。此役,希罗表现一般。排名常规赛东部第5名,季后赛开始之前,几乎没有人相信热火会是 ...详情

  6. 瞬间上热搜,CCTV5正式转

    北京时间10月9号晚9点,CCTV5频道的一档节目《体育世界》宣布一消息:明天上午9点,CCTV5将正式转播NBA比赛,也就是热火与湖人的第5场比赛。这一消息确实让国内球迷一片哗然,因为这 ...详情

  7. 伦纳德被高估,还是克莱

    同为2011年NBA选秀,科怀·伦纳德在首轮第15位被印第安纳步行者队选中,随即被交易至圣安东尼奥马刺队。总得分9793分,场均18.7分6.4篮板2.7助攻,历史地位第五小前,仅次于詹姆斯,伯 ...详情

  8. 隆多场边布置战术,浓眉

    北京时间10月12日,总决赛第六场正式打响,而在这场比赛开始之前,湖人是被热火扳回一局,总比分变成了3-2,再加上德拉季奇将会在G6复出,所以这个系列赛似乎充满着悬念。来到比 ...详情

  9. 山东姑娘手机连摇3个4

    近日,一位山东烟台的消费者孙女士向记者咨询,她参加疑是去哪儿网519疯游节的活动,一口气连中3个价值4999元的大奖。由于去哪儿网客服人员还没有联系她,她有点担心这可能是某个 ...详情

  10. 飞利浦电视御棋棋牌 流

    北京时间7月8日,在青岛举行的第五届电博会决出了2016中国国际消费电子Leader创新奖,飞利浦电视带来的巨屏力作75御棋棋牌PUF7101/T3荣膺十大最受欢迎产品奖美誉。据悉,本届电博会L ...详情

在线评论

想说什么就说点什么吧! * 为必填字段

今日头条
  • 高通,看见了AI芯片的“多面”
    高通,看见了AI芯片的“多

    萧箫 发自 凹非寺 御棋棋牌量子位 报道 | 公众号 QbitAI 御棋棋牌AI芯片行业,正面临着层出不穷的需求。 据Research and Markets预测,数据中心的AI芯片 (即AI加速器)市场规模将从2018年的 ...详情

  • 把保罗的球商给麦基,他御棋棋牌能达到什么高度
    把保罗的球商给麦基,他御

    个人觉得把保罗的球商给麦基,麦基起码可以成为一个全明星中锋。我们看看麦基的天赋:麦基作为NBA球星司职中锋,是运动能力变态的七尺中锋,他兼具身高、臂展、速度和弹跳优势于 ...详情

  • 侯光炯:富有的穷教授
    侯光炯:富有的穷教授

    或许你会觉得,这不过是上世纪七八十年代农村的平凡场景:普通的竹椅、茶几、木桶,一双沾满泥浆的筒靴、一双普通的布鞋、一顶草帽,一个田间归来的老农正在洗脚……但 ...详情

  • 11岁男孩御棋棋牌花万元买手游装备 家长欲诉游戏公司
    11岁男孩御棋棋牌花万元买

    新闻背景  11岁男孩,不到3天时间里,偷发微信红包近万元买手游装备。《华商报》10月9日报道此事后,不少有同样“熊孩子”的家长打入华商报热线诉说困扰,一场对于手机游戏的 ...详情

人气点击

+