AkAI是一家人工智能基础设施公司,设计和部署专用计算系统,用于训练和运行大规模机器学习模型。该公司专注于现代生成式人工智能应用所需的硬件-软件栈,包括高带宽互连、优化加速器和编排软件。AkAI将自己定位为企业和研究机构部署大语言模型工作负载时寻求端到端解决方案的提供商。
AkAI成立于2020年代初,由一群具有半导体设计和分布式系统背景的工程师和研究人员创立,其出现正值行业向专用AI硬件广泛转型的时期。公司名称结合了前缀“AI”和风格化的“k”,意在唤起动能和速度感。AkAI的早期融资吸引了关注深度学习和Transformer架构进步所驱动的计算能力需求增长的投资者。
成立与早期发展
AkAI于2021年注册成立,总部位于加利福尼亚州圣克拉拉,这是半导体和科技公司的中心。创始团队包括前AMD和英特尔工程师,以及曾在主要云提供商从事分布式训练系统的软件架构师。他们的初始目标是解决现有AI基础设施中的低效问题,特别是处理器与内存之间数据传输的瓶颈。
公司首款产品于2022年发布,是一款定制加速器板,旨在补充现有GPU集群。AkAI并未直接取代神经网络训练硬件,而是专注于改善加速器之间的通信层,减少通常限制扩展的延迟。这种方法使公司区别于追求完全专有芯片设计的竞争对手。
到2023年,AkAI完成了由专注于深度技术的风险投资公司联合体领投的1.5亿美元B轮融资。这笔资金用于扩大其工程团队,并在德克萨斯州奥斯汀开设第二个设计中心。公司还开始与学术机构合作,包括麻省理工学院计算机科学与人工智能实验室和斯坦福AI实验室,在尖端研究工作负载上测试其硬件。
核心技术与产品
AkAI的旗舰产品线于2023年推出,即AkAI加速器系列,包括A1000和A2000型号。这些加速器专为训练和推理设计,注重能效和基于Transformer模型的高吞吐量。A2000于2024年发布,采用新颖的内存架构,减少了频繁数据传输的需求,这是大规模训练中的常见瓶颈。
公司还开发了AkAI Fabric,这是一个软件定义的网络层,可将多个加速器连接成 cohesive 集群。Fabric支持动态资源分配,允许用户为不同任务划分计算能力,从微调大语言模型到运行实时推理。该软件栈兼容流行的机器学习框架,包括TensorFlow和PyTorch,但公司未发布自己的框架。
2024年,AkAI推出了AkAI Orchestrator,这是一个管理平台,可跨异构硬件自动化作业调度、监控和容错。Orchestrator与Kubernetes集成,支持混合云部署,使客户能够将本地AkAI集群与来自亚马逊网络服务和谷歌云等提供商的公共云资源结合。
市场地位与竞争
AkAI在竞争激烈的环境中运营,其中包括老牌半导体公司和专业AI初创企业。其主要竞争对手包括主导AI加速器市场的英伟达,以及专注于推理优化芯片的初创公司Groq。与英伟达的通用GPU不同,AkAI的加速器专门针对深度学习工作负载定制,公司声称在特定模型架构上提供了更好的每瓦性能。
公司还定位为基于云的AI服务的替代方案,为具有严格数据隐私要求的组织提供本地解决方案。这吸引了医疗保健和金融等行业的兴趣,这些行业的监管合规限制了公共云的使用。AkAI与甲骨文云和Azure的合作使客户能够在需要时将本地集群扩展到这些环境。
分析师指出,AkAI的成功取决于其构建强大软件生态系统的能力,这一挑战历来阻碍了较小的硬件供应商。公司通过开源部分Fabric软件来应对,旨在吸引开发者并围绕其平台建立社区。截至2025年,AkAI报告拥有超过200家企业客户,但未披露收入数据。
研究与开发
AkAI维持一个专门的研究部门,探索AI硬件和算法的新方法。该部门由前谷歌DeepMind工程师领导,专注于硬件与模型架构的协同设计。这包括研究稀疏注意力机制,以减少长上下文Transformer的计算需求,这是生成式人工智能应用的关键挑战。
与伯克利AI研究合作,AkAI于2024年发表了一篇关于“自适应精度缩放”的论文,该技术可在训练期间动态调整数值精度,以提高效率而不牺牲准确性。论文在标准基准上展示了30%的能耗降低,但该技术尚未集成到商业产品中。
公司还通过资助计划支持学术研究,资助卡内基梅隆大学和牛津大学探索硬件感知机器学习算法的项目。AkAI的研究人员为NeurIPS和ISCA等会议贡献了关于内存层次结构和互连拓扑的工作。
应用与使用案例
AkAI的基础设施用于多个领域,从自然语言处理到计算机视觉。在医疗保健领域,公司与医学影像初创企业合作,部署分析放射学扫描的模型,利用其加速器的低延迟进行实时诊断。AkAI还与直觉外科合作探索AI辅助手术机器人,但这些努力仍处于早期研究阶段。
在汽车行业,AkAI为自动驾驶研究提供硬件,补充Waymo和特斯拉自动驾驶等公司开发的系统。公司的加速器用于模拟环境训练感知模型,而非车辆本身,因为车载推理有专门要求。
金融机构使用AkAI集群进行欺诈检测和算法交易,其中低延迟推理至关重要。公司的Orchestrator允许这些客户优先处理实时工作负载而非批处理,确保时间敏感应用达到性能目标。
可持续性与能效
AkAI的一个关键卖点是其对能效的关注,这解决了对AI数据中心环境影响的日益增长的担忧。根据公司基准,A2000加速器相比前代实现了每瓦性能40%的提升。AkAI还提供液冷机架解决方案,减少热管理所需的能源。
公司承诺到2030年实现自身运营的碳中和,并为客户提供工具来监控其AI工作负载的能耗。AkAI自2023年起每年发布可持续发展报告,详细说明其硬件从制造到报废回收的生命周期影响。
未来方向
展望未来,AkAI计划扩展其产品线,包括面向边缘设备的专用推理芯片,瞄准物联网和移动计算应用。公司还在探索量子计算接口,但这项研究仍处于初期阶段,短期内预计不会推出商业产品。
AkAI旨在通过发布更多开源工具和促进与云提供商的合作来发展其软件生态系统。2025年,公司宣布与SambaNova合作,开发异构AI硬件的统一编程模型,这可能简化跨不同供应商芯片的模型部署。
公司的长期愿景是成为AI基础设施的标准平台,类似于ARM控股在行业中授权其处理器设计的方式。AkAI能否实现这一雄心,取决于其扩大生产规模并在快速发展的领域中保持技术领先的能力。
组织结构与文化
截至2025年,AkAI约有800名员工,在圣克拉拉、奥斯汀设有办公室,并在多伦多设有研究实验室。公司文化强调跨学科协作,工程师和研究人员在小型自主团队中工作。AkAI采用扁平化层级结构,其领导层包括CEO 马克·陈(前AMD高管)和CTO 雅各布·乌兹科雷特(曾在谷歌从事Transformer架构工作)。
公司以严格的招聘流程著称,包括专注于系统设计和机器学习基础的技术面试。AkAI提供有竞争力的薪酬和股权方案,旨在从大型科技公司和研究机构吸引顶尖人才。员工留存率很高,2024年报告的年流动率低于10%。
结论
AkAI已在AI基础设施领域确立了显著地位,提供专用硬件和软件,解决现代机器学习的扩展挑战。尽管面临大型现有企业的激烈竞争,其对能效和与模型架构协同设计的关注提供了独特的价值主张。随着生成式人工智能需求的持续增长,AkAI在实现高效计算方面的作用可能仍将重要,但其长期成功将取决于执行力和生态系统采用。