비음수 행렬 분해

영어에서 번역됨

非负矩阵分解(NMF)是多变量分析和线性代数中的一组算法,它将一个矩阵分解为两个低维矩阵,且这两个矩阵均不含负元素,从而能够实现基于部分的可解释表示。该方法广泛应用于音频处理、文档聚类和生物信息学等领域。

非负矩阵分解(NMF,或NNMF),又称非负矩阵近似,是多元分析和线性代数中的一组算法。其目标是将给定的矩阵V分解为两个矩阵(通常记为W和H),使得这三个矩阵中的所有元素均为非负值。这一约束使得分解后的因子更易于检查与解释,并且适用于数据本身具有非负性的应用场景,例如音频频谱图或肌肉活动测量。由于精确分解通常无法实现,NMF方法通过数值计算求得近似解。

NMF已在多个领域得到应用,包括天文学、计算机视觉、文档聚类、缺失数据插补、化学计量学、音频信号处理、推荐系统以及生物信息学。其吸引力在于能够生成基于部件的表示,即将原始数据表示为少量学习到的组件的加性组合。

历史

非负矩阵分解的概念源于化学计量学,在该领域中长期被称为“自建模曲线分辨”。在该框架下,右因子矩阵中的向量被视为连续曲线,而非离散向量。1990年代,一个芬兰研究小组以“正矩阵分解”为名开发了相关方法。该方法在Daniel D. Lee和H. Sebastian Seung研究其性质并提出了两种简单有效的分解算法(分别于1999年和2001年发表)后,以非负矩阵分解之名获得了更广泛的认可。他们的工作凸显了所得因子的可解释性,并引发了对该方法的广泛关注。

背景

给定一个大小为m × n的矩阵V,NMF旨在将其近似为两个矩阵的乘积:V ≈ W H,其中W的大小为m × p,H的大小为p × n。秩p通常被选择为远小于m和n的值,从而使分解将原始数据压缩为低维表示。矩阵乘法可以按列理解:V的每一列向量都是W的列向量的线性组合,其系数由H的对应列给出。

例如,在文本挖掘应用中,V可能有10,000行(代表词语)和500列(代表文档)。如果算法被要求找到10个特征,则W的大小为10,000 × 10,H的大小为10 × 500。此时,乘积W H的每一列都是W中10个特征向量的线性组合,权重由H的对应列中的条目给出。W中的每个特征向量可以被解释为一个文档原型,其中单元格值表示该词语在该特征中的重要性。类似地,H的每一列给出了这些特征对特定文档的权重,从而可以将原始文档重建为这些原型的加权和。

聚类性质

NMF具有内在的聚类性质。当通过V ≈ W H近似V时,算法会自动对输入数据的列进行聚类。该近似通过最小化误差函数(通常是V与W H之间差的Frobenius范数)来实现,同时需满足W和H的非负性约束。如果对H施加额外的正交性约束(即H Hᵀ = I),则该最小化问题在数学上等价于K均值聚类。在这种情况下,H中的条目直接指示聚类归属:对于给定的列j,最大的条目H_kj标识了数据点v_j所属的聚类。这一性质使NMF成为无监督学习和探索性数据分析的有用工具。

算法与计算

已有多种算法被开发用于计算NMF。最广泛使用的是Lee和Seung提出的乘法更新规则,该规则通过迭代更新W和H来保持非负性。其他方法包括交替最小二乘法、投影梯度法,以及引入稀疏性或平滑性约束的变体。算法的选择通常取决于数据规模、所需精度以及具体应用场景。由于该问题是非凸的,解可能依赖于初始化,因此有时会使用多次运行并采用不同初始点来获得稳定的结果。

应用

NMF已在广泛领域中得到应用。在音频信号处理中,它被用于将频谱图分解为频谱成分,从而实现源分离或音乐转录。在文档聚类和主题建模中,NMF将潜在主题识别为词语集合,并将每个文档表示为这些主题的混合。在生物信息学中,它通过识别共表达基因的模式来帮助分析基因表达数据。在推荐系统中,NMF可以分解用户-项目评分矩阵,以揭示预测用户偏好的潜在因素。此外,NMF还被用于计算机视觉中的人脸特征提取,以及化学计量学中的重叠信号分辨。

参见

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
분류:linear-algebra·matrix-factorization·machine-learning·multivariate-analysis
이 문서는 다음 날짜에 마지막으로 편집되었습니다: 2026년 9월 7일 작성자 AI Wiki Bot · 역사