Graphcore 是一家英国半导体公司,总部位于英格兰布里斯托尔,开发用于人工智能和机器学习的加速器。该公司成立于2016年,由Simon Knowles和Nigel Toon创立,以其智能处理单元(IPU)而闻名,这是一种大规模并行处理器,旨在将整个机器学习模型存储在片上内存中。2024年7月,Graphcore被软银集团以约5亿美元收购,此前该公司在由Nvidia和其他老牌企业主导的市场中面临商业挑战。
历史
Graphcore由Simon Knowles和Nigel Toon于2016年创立,两人均为半导体行业资深人士。Knowles此前曾共同创立ARM Holdings的衍生公司Element 14和芯片设计公司Icera,而Toon曾领导XMOS并在Altera担任高级职务。该公司旨在创造一种专为AI工作负载设计的新型处理器,与当时占主导地位的GPU路线有所不同。
2016年秋,Graphcore完成了首轮融资,由罗伯特·博世风险投资公司领投,三星电子、Amadeus Capital Partners、C4 Ventures、Draper Esprit、Foundation Capital和Pitango参投。这笔早期资金使公司得以扩大工程团队并加速IPU架构的开发。
2017年7月,Graphcore完成了由Atomico领投的B轮融资,数月后又获得了红杉资本5000万美元的追加投资。这笔资金使公司估值超过3亿美元,并为其首款芯片的流片提供了资金。
2018年12月,Graphcore完成了2亿美元的D轮融资,公司估值达到17亿美元,成为独角兽企业。该轮融资的投资方包括微软、三星电子和戴尔科技。这笔资金支持了其首批产品的商业发布和软件生态系统的扩展。
2019年11月13日,Graphcore宣布其C2 IPU卡可在微软Azure上预览,这标志着其在云部署方面的重要里程碑。与微软的合作使早期客户能够使用IPU驱动的实例进行AI研发。
2023年初,Meta Platforms收购了Graphcore的AI网络技术团队,多名工程师加入Meta的基础设施部门。此次收购是Meta构建自研数据中心芯片更广泛努力的一部分,但Graphcore保留了其核心IPU业务和剩余员工。
2024年7月,软银集团同意收购Graphcore,交易金额约为5亿美元。该交易需经过英国政府投资安全部门的审查,标志着Graphcore独立性的终结。软银的收购被视为其扩展AI芯片投资组合的战略举措,其投资组合中已包括ARM Holdings和Nvidia的股份。
产品
Graphcore的主要产品线是智能处理单元(IPU),这是一款为AI和机器学习工作负载从头设计的处理器。与针对图形优化后用于AI的传统GPU不同,IPU架构优先考虑并行处理和片上内存带宽。
2016年,Graphcore发布了Poplar软件栈,这是首个专为其IPU设计的基于图的工具链。Poplar使开发人员能够将机器学习模型映射到IPU的众多核心上,抽象化了并行编程的复杂性。
2017年7月,Graphcore推出了其首款芯片Colossus GC2,这是一款采用16纳米工艺的处理器,拥有1,216个核心,每个核心配备256 KB的处理器内内存。GC2封装在一款名为Graphcore C2的PCI Express卡上,该卡包含两颗GC2芯片,总共提供2,432个核心和512 MB的片上内存。C2卡设计用于插入标准服务器,与GPU类似,并支持TensorFlow和PyTorch等主流机器学习框架。
2020年7月,Graphcore推出了第二代处理器Colossus GC200,采用台积电的7纳米工艺制造。GC200拥有1,472个核心、900 MB的处理器内内存和590亿个晶体管,使其成为当时最大的芯片之一。GC200用于Mk2 IPU-POD系统,该系统可从单卡扩展到包含数千个IPU的大型集群。
2022年,Graphcore与台积电合作推出了Bow IPU,这是一款3D封装的GC200版本,将电源传输芯片与处理器芯片键合在一起。这种先进封装技术允许更高的时钟频率,同时降低功耗,从而提高了整体能效。
GC2和GC200均支持每个核心6线程,使GC2能够同时运行7,296个线程,GC200能够运行8,832个线程。IPU架构基于MIMD(多指令多数据)并行性,每个核心独立执行指令。与依赖共享内存层次结构的GPU不同,IPU使用分布式本地内存,每个核心拥有独立的内存块。这种设计消除了对单独缓存层次结构的需求,因为所有数据都驻留在片上内存中,从而降低了延迟和功耗。
IPU支持IEEE 754半精度(FP16)浮点运算,并采用随机舍入,这特别适合AI训练。它还以较低性能支持单精度(FP32)运算,以满足需要更高数值精度的应用。该处理器设计用于在片上内存中执行整个机器学习模型,避免了传统架构中频繁的片外数据传输瓶颈。
Graphcore的软件栈包括Poplar和PopART库,提供模型编译、优化和执行功能。公司还开发了PopDist(分布式训练框架)和PopSparse(稀疏矩阵运算库)。这些工具旨在帮助开发人员轻松地将现有模型移植到IPU上,并利用其独特的功能。
另见
参考文献
- "Graphcore - 关于我们". Graphcore. 检索于2025-01-01.
- "Graphcore以17亿美元估值融资2亿美元". TechCrunch. 2018-12-18.
- "Meta收购Graphcore的AI网络技术团队". The Register. 2023-03-10.
- "软银收购Graphcore". 金融时报. 2024-07-11.
- "Graphcore发布Colossus GC200". AnandTech. 2020-07-15.
- "Graphcore与台积电合作推出Bow IPU". Graphcore新闻稿. 2022-05-25.