机器学习笔记—独立成分分析

本文介绍独立成分分析（ICA），同 PCA 类似，我们是要找到一个新的基来表示数据，但目的就不一样了。

鸡尾酒会问题：n 个人在一个 party 上同时说话，n 个麦克风放置在房间的不同位置，因为每个麦克风跟每个人的距离都不一样，所以它们记录的说话者重叠的声音也不一样。根据麦克风记录的声音，如何分离出 n 个说话者的声音呢？

为形式化这个问题，我们想象有一些数据 s∈R 是从 n 个独立的源生成的，我们观察到的是

x=As，

矩阵 A 是未知的，被称作混合矩阵，通过不断观察得到的是 {x⁽ⁱ⁾;=1,...,m}，我们的目标是找到生成数据（x⁽ⁱ⁾=As⁽ⁱ⁾）的源 s⁽ⁱ⁾。

在鸡尾酒问题中，s⁽ⁱ⁾ 是个 n 维向量，s_j⁽ⁱ⁾ 是讲话者 j 在时间 i 发出的声音， x⁽ⁱ⁾ 也是个 n 维向量，x_j⁽ⁱ⁾ 是麦克风 j 在时间点 i 记录的声音。

参考资料：

[1] http://cs229.stanford.edu/notes/cs229-notes11.pdf

[2] http://blog.csdn.net/stdcoutzyx/article/details/38037659