Deep ADMM-Net for Compressive Sensing MRI
NIPS 2016
摘要：压缩感知（CS）是一种有效的方法进行 快速磁性核磁共振成像（fast Magnetic Resonance Imaging MRI）。目标是从k-space少量未采样的数据重构出 MR 图像，加速了MRI的数据获取。为了改善当前MRI系统的重构精度和计算速度，我们提出了新颖的深度结构，称为：ADMM-Net。ADMM-Net 通过数据流图（a data flow graph）进行定义，从ADMM算法的迭代过程中得到，来优化一个 CS-based MRI model。在训练阶段，网络的所有参数，即：image transforms，shrinkage functions等等，利用L-BFGS算法进行端到端的训练。在测试阶段，利用网络学习到的参数（从CS-based 重构任务上得到的数据）。实验验证了本文方法的有效性。
为了优化 CS-MRI model，ADMM 已经被证明是一种有效的变量分离的方法，并且有收敛性的保证。给定一个CS-MRI模型，考虑到增广拉格朗日函数，将变量分离为几个subgroups，通过分别优化各个子问题的方法进行求解。尽管ADMM这种方法看起来很有效，但是很难确定最优的参数（例如：update rates，penalty parameters），这就大大的影响了最终CS-MRI的性能。
在这个工作当中，我们的目标是设计一种快速但是精准的方法从under-sampled k-space data中进行重构高质量的MR image。我们提出一种新的深度结构，成为：ADMM-Net，受到ADMM迭代过程的启发。这种网络结构是由多个阶段构成的，每一个阶段对应了ADMM算法的每一个iteration。更具体的来说，我们设计了一种深度结构是由 a data flow graph 表示的。ADMM的每一个操作表示为一个graph nodes，ADMM过程中的两个操作的data flow 表示为直接的边。所以，ADMM迭代的过程自然的通过数据流图来决定深度的结构。给定 under-sampled data in k-space，其流过graph并且产生一个重建的图像。所有的深度结构中的参数，可以从under-sampled data in k-space 得到，reconstructed image using fully sampled data backpropagation over the data flow graph.
我们的实验证明了所提出方法的有效性，在重构的精度和速度上。
文章的贡献点可以总结如下：
1. 提出了一种新颖的ADMM-Net，通过将ADMM算法结合到深度网络中，进行CS-MRI。
--- This is achieved by designing a data flow graph for ADMM to effectively build and train the ADMM-Net.
2. ADMM-Net 得到了非常搞得季度，并且速度和很快。
3. 这是第一次将判别性参数学习的方法已经被应用到稀疏编码和MRF当中。
2. Deep ADMM-Net for Fast MRI
2.1 Compressive Sensing MRI Model and ADMM Algorithm
General CS-MRI Model: 假设 x 是一张 MRI image 需要被重建，y是under-sampled k-space data，根据CS理论，重构的图像可以通过下面的优化算法进行预测：
ADMM solver:
上述问题可以通过ADMM算法有效的进行求解。通过引入额外的变量，上述公式可以转换为：
其增广拉格朗日函数是：
然后，ADMM算法就可以迭代的求解下面的三个子问题：
然后就可以得到对应的三个solutions：
2.2 Data Flow Graph for the ADMM Algorithm
为了设计我们的 deep ADMM-Net，我们首先将公式5中的ADMM迭代的过程映射成 a data flow graph。像图1所示的那样，该图的node是由ADMM当中不同的操作构成的，directed edges 对应了操作之间的data flow。在这种情况下，ADMM算法的第n次迭代对应了the data flow graph的第n个阶段。在graph的第n个阶段，有四种类型的节点映射自四种类型的操作，即：reconstruction operation，convolution Operation， nonlinear transform operation 以及multiplier update operation in Equ. 5. 整个数据流图是一个上述阶段的多次重复，对应了ADMM的连续的迭代。给定一个under-sampled data in k-space，其通过graph流过，然后最终产生一个重建的图像。利用这种方式，我们将ADMM迭代映射成一个 data flow graph，这对定义和训练我们的deep ADMM-Net 来说是非常有用的。
2.3 Deep ADMM-Net
我们的 deep ADMM-Net是通过data flow graph进行定义的。其保持了图的结构，但是对四种类型的操作对应成网络layers 来学习参数。这些操作被对应为：reconstruction layer，convolution layer，non-linear transform layer，以及 multiplier update layer。
Reconstruction layer (X（n）):
Convolution layer，
Non-linear transform layer，
Multiplier update layer
Network Parameters:
3. Network Training:
We take the reconstructed MR image using fully sampled data in k-space as the ground-truth MR image xgt, and under-sampled data y in k-space as the input. 然后，训练集合T 有这两部分的数据构成。所以，网络的损失函数可以定义为：
3.1 Initialization
3.2 Gradient Computation by Backpropagation over Data Flow Graph