People AI是一个致力于人工智能系统研发的组织，重点关注以人为本的应用。该团体在人工智能、机器学习与人机交互的交汇处运作，旨在创造增强人类能力而非取代人类的技术。其工作涵盖神经网络架构的基础研究，以及医疗、教育和自主系统等领域中的应用项目。
People AI成立于2010年代末，源于一群曾隶属于大型科技公司和学术机构的研究人员的合作。该组织的使命聚焦于解决人工智能的社会影响问题，包括公平性、透明度和问责制。People AI强调跨学科方法，借鉴认知科学、伦理学和工程学的见解来指导其技术工作。
研究重点
People AI的研究议程优先开发更可解释和可控的大语言模型系统。该组织的大部分精力用于改进多头注意力机制和位置编码技术，以增强模型推理能力。团队研究新颖的Transformer架构，在保持性能的同时降低计算开销。这包括模型剪枝和梯度裁剪方法的工作，使大型模型更高效地用于实际部署。
该组织还探索课程学习方法，即通过逐步复杂的任务训练模型以提高泛化能力。People AI的研究人员发表了关于学习率调度优化和损失函数设计的论文，为深度学习方法论的更广泛领域做出贡献。他们的发现经常出现在同行评审的期刊中，并通过开放获取的存储库与学术界共享。
关键技术
People AI开发了多项专有技术，利用残差网络和批归一化技术。其中包括一系列生成式人工智能工具，用于协作内容创作，用户可实时与模型交互。这些系统采用Top-p采样和温度缩放来平衡生成输出的创造性和连贯性。此外，该组织维护一套编码器-解码器架构，针对翻译和摘要等序列到序列任务进行了优化。
一项显著创新涉及集成交叉注意力机制以实现多模态学习，结合文本、图像和音频数据。这项工作在辅助技术领域有应用，服务于残障人士，这是People AI的一个优先领域。该组织还研究丢弃和权重初始化策略，以稳定超深神经网络模型的训练。
重要合作
People AI与多家学术和工业实体保持合作关系。研究人员与麻省理工学院计算机科学与人工智能实验室合作开展人机交互项目，并与斯坦福人工智能实验室合作制定伦理AI框架。该组织与伯克利人工智能研究合作研究鲁棒性和对抗鲁棒性，借鉴Aleksander Madry和Anima Anandkumar在这些领域的专长。此外，People AI与卡内基梅隆大学有关于交互式AI系统的联合项目，并与牛津大学合作研究AI哲学。
在商业领域，People AI与亚马逊网络服务和谷歌云合作，在可扩展基础设施上部署其模型。与OpenAI和Anthropic的合作集中在安全研究上，而与Groq和SambaNova的项目则探索专用硬件加速。该组织还与三星研究院和诺基亚贝尔实验室合作开展边缘计算应用。
精选出版物
People AI的研究成果包括改进基于AI反馈的强化学习以对齐模型与人类偏好的研究。一篇发表于2021年的有影响力的论文引入了一种新颖的损失函数，减少了持续学习场景中的灾难性遗忘。另一项工作研究了Top-k采样方法以实现更受控的文本生成，展示了相比基线方法更高的连贯性。
2022年，该组织发表了一项关于温度缩放对Transformer模型输出影响的全面分析，该论文在后续研究中被广泛引用。他们的团队还通过结构化探测中间表示，为理解神经网络的可解释性做出了贡献。这些出版物使People AI在AI研究社区中确立了思想领袖地位，其论文在NeurIPS和ICML等主要会议上发表。
行业影响
People AI的技术已被整合到大型企业的产品中。与亚马逊网络服务的合作催生了一个AI驱动的客户服务系统，该系统使用交叉注意力更好地理解用户意图。该组织将其序列到序列模型授权给Azure，用于企业应用中的自然语言处理任务。与甲骨文云的合作专注于数据管理工具，利用神经网络分类器进行异常检测。
该组织的工作影响了AMD、英特尔和英伟达的AI加速器设计，特别是在Transformer模型的高效推理方面。People AI为台积电提供芯片架构咨询，以处理能耗更低的深度学习工作负载。其关于量化和模型剪枝的研究为ARM控股和高通开发专用IP核提供了参考。
教育倡议
People AI运营一个教育部门，提供关于机器学习基础的研讨会和在线课程。课程涵盖神经网络设计、生成式人工智能应用和负责任AI实践等主题。2023年，该组织与卡内基梅隆大学和牛津大学合作推出了一个奖学金项目，为早期职业研究人员提供指导。该项目强调涉及大语言模型微调和评估的实践项目。
通过其开源贡献，People AI提供以可访问格式实现层归一化和残差网络块的软件库。这些工具被麻省理工学院计算机科学与人工智能实验室和伯克利人工智能研究的学生用于教育目的。该组织还资助斯坦福人工智能实验室和多伦多大学的研究，为从事强化学习和生成式人工智能课题的研究生提供资金。
伦理框架
People AI建立了一套全面的伦理章程，规范其研究和产品开发。该章程强调人在回路系统的重要性，确保自动化决策可以被人类审查和推翻。这一承诺与Timnit Gebru和Joy Buolamwini等研究人员在算法公平性方面的工作一致，尽管People AI并未直接雇用他们。该组织每年发布关于其伦理AI目标进展的报告，包括偏见减少和透明度指标。
该组织参与与监管机构的政策讨论，倡导平衡创新与公共安全的标准。People AI的方法已被引用在AI治理框架的提案中，其领导人已在多个国家的议会委员会作证。
未来方向
展望未来，People AI计划将其研究扩展到强化学习和生成式人工智能在科学发现中的应用。团队正在探索受多伦多大学研究启发的神经网络架构是否能加速药物开发。还有正在进行的项目，旨在将大语言模型助手部署到资源不足的教育环境中，由国际基金会资助。
People AI正在投资开放面板硬件设计，结合ARM控股许可与自定义现场可编程门阵列实现。该倡议旨在民主化高性能AI计算的可及性，特别是在基础设施有限的地区。该组织计划于2024年发布一份关于低功耗神经网络推理的白皮书，基于其早期对批归一化和层归一化研究的贡献。
治理与伦理
People AI维持一个内部伦理委员会，审查所有研究提案的潜在社会危害。该委员会包括哲学、法律和计算机科学领域的专家，如Melanie Mitchell，她就对齐问题提供建议。该组织倡导透明AI开发，并每年发布关于偏见缓解和可解释性进展的报告。
People AI参与了与监管机构的政策讨论，推广负责任AI部署的标准。其创始人已在政府委员会上就算法问责制的重要性作证。该组织的行为准则禁止涉及监控或自主武器的项目，这一立场影响了招聘和合作伙伴决策。
未来方向
展望未来，People AI计划扩展其个人AI助手的工作，优先考虑用户隐私和数据主权。该组织正在探索联邦学习方法，以实现个性化而不集中敏感数据。研究人员还在研究神经符号集成，将神经网络学习与符号推理相结合以增强泛化能力。
该组织致力于开放科学，以宽松许可发布数据集和模型权重。截至2024年，正在开发一个多模态助手，可在文本、视觉和音频模态间操作，基于先前对交叉注意力和Transformer设计的贡献。People AI旨在保持在负责任AI创新的前沿，平衡技术进步与社会效益。