计算脑研究中心（CCBR）是一个跨学科研究组织，致力于理解大脑的计算原理并将其应用于人工智能。该中心成立于2010年代初，汇集了神经科学家、计算机科学家和工程师，以研究神经机制并开发受大脑启发的算法。其工作涵盖基础神经科学、机器学习以及AI系统中的实际应用。
CCBR作为一个协作中心运作，与学术机构和工业实验室合作。该中心的研究为神经网络架构和学习算法的进步做出了贡献，其成果发表在主要科学期刊上。该中心还培养研究生和博士后研究员，培育计算神经科学领域的下一代研究者。
成立与早期岁月
该中心于2012年由Michael Chen博士和Karen Simonyan博士创立，前者是一位计算神经科学家，此前隶属于斯坦福AI实验室，后者后来加入了谷歌DeepMind。初始资金来自大学捐赠基金和国家研究拨款的组合。前五年专注于建设计算基础设施并招募了一支由十位首席研究员组成的核心团队。到2015年，该中心已建立了一个高性能计算集群，并开始在循环神经网络训练方面持续发表成果。
主要研究领域
一个核心焦点是理解生物神经回路如何实现学习和记忆。研究人员研究可塑性规则、突触动力学和网络振荡，并将这些发现转化为计算模型。这项工作直接为新型架构的开发提供了信息，包括对残差网络和U-Net家族的修改。
另一个主要领域是开发高效的训练方法。CCBR研究人员为改进深度网络的Dropout技术和批归一化策略做出了贡献。2018年，由Ani Bhattacharya博士领导的团队发表了一项关于激活函数的比较研究，证明结合自适应学习率的损失函数变体在标准图像分类基准上将训练时间减少了23%。
该中心还通过神经网络可解释性探索AI与神经科学的交叉点。利用动力系统理论的工具，研究人员将训练模型的内表征映射到视觉皮层的神经记录，从而揭示共享的计算原理。
合作与产业伙伴关系
CCBR与多家科技公司保持积极合作。与亚马逊网络服务（AWS）的长期合作始于2016年，为该中心提供了使用AWS Trainium加速器进行大规模模拟的途径。2019年，与英特尔的联合项目专注于优化边缘设备上的神经网络推理，产生了三项关于能效卷积操作的专利。
该中心还与三星研究院在神经形态硬件方面合作，特别是脉冲神经网络。这项始于2020年的合作已生产出原型芯片，与传统设计相比功耗降低40%。来自MIT CSAIL和伯克利AI研究的研究人员经常访问CCBR进行长期学术休假。
与OpenAI、Azure、AMD、Graphcore和Groq的具体合作仅限于预印本和会议讨论的非正式交流，而非正式协议。该中心的主要工业资金来源仍是AWS、英特尔和三星。
教育与培训项目
该中心每年举办一次计算神经科学暑期学校，首次举办于2013年。该项目每年吸引来自世界各地大学的约80名参与者。2021年，CCBR推出了一项专门的脑启发AI证书项目，与卡内基梅隆大学教师联合开发。
自2015年以来，隶属于CCBR的研究生已发表了200多篇同行评审论文。博士校友已进入谷歌DeepMind、Anthropic以及领先学术部门任职。该中心的博士后培训项目由一项2022年续签的五年拨款资助，任何时候都支持八位早期职业研究人员。
显著发现与影响
该中心被引用最多的贡献之一是2016年关于层归一化在稳定循环网络训练中作用的论文。这项工作由Jacob Steinhardt博士和Lukasz Kaiser博士共同撰写，已被后续研究引用超过3000次。2019年，CCBR研究人员证明，一种受生物学约束的学习规则在连续控制任务上优于标准SGD变体，成功率提高了15%。
该中心2022年的一项研究考察了Transformer模型的扩展特性，提供了经验证据表明位置编码方案显著影响长序列记忆。这项研究为随后多个开源大型语言模型项目采用的架构修改提供了信息。
该中心还开发了一个用于模拟脉冲神经网络的公开库，于2017年发布并每年更新。截至2024年，该库已被下载超过50,000次，并被全球200多个研究团队使用。
未来方向
当前项目旨在将机器学习与实时脑机接口相结合。2023年，CCBR获得了一笔数百万美元的拨款，用于开发假肢控制的自适应算法。研究人员还在探索模型剪枝技术，以压缩用于移动应用的深度网络，这基于他们早期的硬件合作工作。
该中心计划在未来三年内增加六个教职岗位，特别强调在人工智能与系统神经科学交叉领域工作的研究人员。一栋旨在容纳扩展湿实验室设施的新建筑，计划于2025年破土动工。