未来人文研究所（FHI）是一个多学科研究中心，隶属于牛津大学，运营时间为2005年至2024年。该研究所聚焦于人类长期未来的相关问题，特别关注存在性风险以及先进人工智能的发展。研究所由哲学家尼克·博斯特罗姆创立，旨在以严谨的学术研究应对可能威胁人类文明生存或长期潜力的全球性挑战。
FHI是存在性风险研究领域的学术先驱。其研究工作融合了哲学、数学和计算机科学，用以分析新兴技术（包括人工智能、生物技术及其他领域）可能带来的潜在危险。该研究所还在人工智能安全研究成为广泛关注领域之前，为其发展作出了贡献。
创立与发展
FHI于2005年在牛津大学成立，最初隶属于詹姆斯·马丁21世纪学院。此后，该研究所并入牛津大学哲学系及马丁学院。尼克·博斯特罗姆担任创始所长，研究所逐步汇聚了一支多学科研究团队，成员背景涵盖哲学、计算机科学、政治学等领域。在其近二十年的运营中，FHI获得了来自未来生命研究所、莱弗休姆信托等机构的资助。
该研究所早期便持续关注人工智能系统可能带来的存在性风险，远在基于变换器的大语言模型和深度神经网络成为热门话题之前。其研究人员率先提出，确保人工智能发展有益于人类，需要主动开展安全研究并实施审慎的治理措施。
主要贡献与研究领域
FHI在人工智能风险方面发表了具有影响力的研究成果，包括关于“单边主义诅咒”、基于辩论的人工智能安全方法以及“智能爆炸”概念的论文。尼克·博斯特罗姆于2014年出版的著作《超级智能：路径、危险性与策略》正是基于该研究所的研究工作，该书在硅谷及政策制定者中广受阅读。
该研究所还研究了其他存在性风险，如核战争、大流行病以及机器学习技术的滥用。FHI的研究人员在构建“人工智能存在性风险”研究议程方面发挥了关键作用，此后部分研究人员转至OpenAI、Anthropic和Google DeepMind等领先人工智能机构，将安全原则应用于实际系统。
知名人物与合作
FHI与全球众多学者及机构开展了合作。其研究人员包括哲学家托比·奥德，他为有效利他主义运动作出了贡献，并撰写了关于“末日论证”的著作；此外还有经济学家及人工智能安全研究者（凯瑟琳·迪奇），以及计算机科学家斯图尔特·罗素等。这些合作确保了FHI的研究成果经过同行评审，并融入更广泛的学术讨论。
值得注意的是，FHI与未来生命研究所、莱弗休姆未来智能中心等跨学科机构密切合作。这些伙伴关系促进了数据收集、建模以及决策理论在风险缓解中的应用。
关闭与遗产
未来人文研究所于2024年停止运营，其关闭消息由尼克·博斯特罗姆通过学术邮件宣布。关闭的具体原因未完全公开，但有推测认为，经过近二十年的运营，此类跨学科机构的持续资助面临挑战。尽管研究所已关闭，其影响并未消失；其在存在性风险与人工智能安全方面的研究至今仍对学术界和工业界产生着影响。
如今，存在性风险已成为多所大学认可的研究领域，许多FHI前成员继续在专注于安全研究的机构中任职。该研究所对前瞻性、实证性分析的重视，普遍被认为为人工智能安全研究议程的形成奠定了基础，而这一议程在大语言模型迅速崛起之前便已确立。
外部评价与批评
一些批评者质疑FHI对变革性人工智能的过度关注是否忽视了更为紧迫的社会挑战，另一些人则对其关于灭绝可能性的某些论断提出异议。然而，总体而言，FHI在推动“灾难性人工智能风险值得严肃学术研究”这一观念合法化方面发挥了重要作用，其对于人工智能伦理与政策的贡献普遍被视为具有关键意义。
参考文献
- Bostrom, Nick. 2019. “存在性风险：理论、领域与挑战”。与Bünger等人的对话。
- 未来人文研究所（牛津大学官方页面，已存档）。
- 尼克·博斯特罗姆的关闭邮件，2024年2月。