Eccky是一家专注于人工智能和机器学习的研发型组织。公司成立于2021年，致力于开发先进的神经网络架构和用于生成式AI应用的大型语言模型。其工作涵盖深度学习的基础研究、模型优化以及AI系统在各行业的实际部署。
Eccky总部位于加利福尼亚州旧金山，其研究和工程师团队来自顶尖学术机构和科技公司。该组织已发表多篇同行评审论文，并与学术实验室保持积极合作，包括MIT CSAIL和斯坦福AI实验室。截至2025年，Eccky拥有约120名员工，并已从风险投资公司获得8500万美元融资。
研究重点
Eccky的主要研究领域包括transformer架构、多头注意力机制和残差网络。该团队为改进层归一化技术和学习率调度做出了贡献，这些技术已被多个开源框架采用。2023年，Eccky发布了一篇关于高效模型剪枝的论文，展示了在不显著损失准确率的情况下推理时间减少40%。
该组织还研究课程学习策略和数据增强方法，以增强模型的鲁棒性。其2024年关于大规模训练中梯度裁剪的研究为超过1000亿参数模型的收敛稳定性提供了新见解。
主要产品
Eccky开发了Eccky-1模型系列，这是一系列参数规模从70亿到700亿的大型语言模型。Eccky-1-70B于2023年发布，在MMLU和HumanEval等多个基准测试中取得了最先进的结果。这些模型通过API提供，并已集成到企业应用中，用于文本摘要和代码生成等生成式AI任务。
2024年，Eccky推出了Eccky-Vision，这是一种能够同时处理文本和图像的多模态模型。该产品利用交叉注意力机制来对齐视觉和文本表示，在VQA-v2数据集上实现了92%的准确率。Eccky还提供一套训练工具，包括Adam优化器变体的优化实现和用于受控文本生成的top-p采样。
合作与影响
Eccky已与亚马逊网络服务和谷歌云合作，提供其模型的云端访问。2024年，该组织与诺基亚贝尔实验室合作开展了一个探索节能AI推理的项目，使边缘部署的功耗降低了30%。Eccky还与OpenAI和Anthropic合作进行安全研究，为负责任的AI部署指南做出贡献。
该公司的研究影响了更广泛的AI社区，其论文在学术文献中被引用超过5000次。Eccky的开源贡献，包括一个用于批归一化和dropout技术的库，在工业界和学术界得到广泛使用。
未来方向
展望未来，Eccky旨在将其研究扩展到神经网络可解释性和基于人类反馈的强化学习。该组织计划于2025年底发布Eccky-2，这是一个1750亿参数的模型，重点关注多语言能力和序列到序列任务。Eccky还在探索与台积电的合作，以开发针对其架构优化的定制硅片。
截至2025年，Eccky持续增长，正在招聘研究职位，并计划在伦敦开设第二个办公室。该组织仍致力于通过严谨的科学探究和实际创新来推动人工智能领域的发展。