为不同领域的异构芯片搭建“立交桥”
中国经济网版权所有
中国经济网新媒体矩阵
网络广播视听节目许可证(0107190)(京ICP040090)
如果有一天,算力可以像水和电一样,只要打开水龙头、插上插座,就可以随时得到,它会给我们带来怎样的生活?在“为国担当、勇领战士”先进事迹报告(技术专场)中,无文核穹联合创始人兼CEO夏立学博士分享了从“理想”到“实现”的历程。成立两年多以来,无问芯已经成为我国人工智能行业算力基础设施领域最具代表性的新兴科技公司之一。夏立雪告诉大家,未来,人工智能绝对不仅仅是某些人的高端安排,而是为所有人提供公共服务的基础设施。 “架起桥梁”,打通国内算力上限无文芯穹成立于2023年5月,创始团队来自清华大学电子工程系。夏立雪本人从本科毕业起就一直从事芯片架构科学研究。三年前,当“缩放定律”被证明时,人们发现更强的计算能力、更大的参数和更多的数据可以带来更好的模型。夏立雪有一种难以抗拒的创业冲动。 “搞创业不仅来自技术人的梦想,也来自中国人的愿景——世纪工业革命在西方;而现在,中国在人工智能算法和数据方面有着明显的优势。如果算力上限能够进一步打开,中国将有机会第一次站在产业技术创新浪潮的顶峰,引领革命。”hanges,Core Dome这家成立仅两年半的初创公司能做什么?众所周知,人工智能的未来很大程度上取决于计算能力。然而如今,算力发展面临重重阻碍——芯片方面,由于先进制造工艺的限制,中国与世界领先水平仍有两到三代的差距;反观而言,无论是芯片还是算力都离不开尖端软件的合作,但国外软件巨头也形成了壁垒和垄断;从行业来看,国内计算资源分散、分散。不同芯片的适配不足,造成了“小院高墙”的碎片化局面,导致重要的计算资源分散在孤岛上……夏立雪表示,无文核心穹顶的工作就像是在搭建一座桥梁——为全球的算力搭建一座立交桥。不同地区、不同行业,基于不同的芯片、不同的集群,使得不同地区、不同行业,基于不同的网络、不同的集群,可以不同,属于整个网络和不同的集群,从而可以分离,成为整个网络的一部分。如今,无文核穹已成功将异构芯片的混合效率提升至97.6%,从根本上弥补了国际先进芯片与国产芯片之间的硬件代差,让国产算力真正用于大规模模型训练。夏立雪遇到过很多这样的顾客。他们一开始有点担心:国产算力能行吗?然而他们很快发现,依靠无文新琼的技术支持,算力就像水龙头一样。打开水龙头即可使用,无需担心水从哪里来。年轻人争先恐后伊夫的突破。记者了解到,除了在智能计算和云领域的布局外,这家上海公司还在探索如何帮助终端在本地算力有限的情况下提高推理效率、降低能耗。夏立学团队与上海创智院合作推出“天权2.0大模型”,采用21B级别的智能配合3B计算量和7B内存使用,实现了近一个数量级的资源节省。无文新琼还推出了“开研2.0推理引擎”,终端侧智能水平提升18%,推理性能提升100%以上。该推理引擎为联想AI笔记本电脑提供动力,实现首字延迟延迟179%、dec速度节点提升208%、显存减少38%、操作内存使用量和能耗降低40%。夏立雪夸言联想将把吴文新琼的pro1000 万台笔记本电脑上的管道。还是同样的问题,一家才两年半的初创公司,为什么? “我们是一家年轻的公司,员工平均年龄只有32岁,可以说,所有的技术突破都是由一线的年轻人完成的。”夏立雪透露。成立之初,团队就取得了成功的成果——将AI算法在硬件上的计算效率提升了三倍。这一结果的第一作者是一位24岁的女实习生——夏立雪坚信,良好的企业文化和组织架构可以让年轻人更多地释放能量。 AI时代呼唤“新兴组织” 夏立雪告诉大家,正如AI模型具有强大的涌现能力一样,AI时代的科技公司也必须成为“新兴组织”。每个人都有很强的个人能力,有共同的价值观,可以独立推动和合作自发地进行,从而爆发集体变革的火花。 “中国是下一代AGI基础设施最合适的试验场和发源地。”他有力地表示,现在,中国的技术人才将有机会再次成为全球下一次工业革命的重要基础。从夏立雪的身上,人们仿佛看到了许多无论东方还是西方,勇敢挺身而出的年轻人。因为他知道,国家和上海为创新企业创造了良好的成长环境,让企业在面临挑战时能够快速凝聚战略共识和创新资源;因为他知道中国拥有全球最丰富的应用场景和最强的市场潜力。只要把场景跑在中国,就可以开发出可以在全球复制的最佳实践模式!记者 高阳