论文地址
channel pruning是指给定一个CNN模型，去掉卷积层的某几个输入channel以及相应的卷积核，
并最小化裁剪channel后与原始输出的误差。
可以分两步来解决：
- channel selection
利用LASSO回归裁剪掉多余的channel，求出每个channel的权重，如果为0即是被裁减。 - feature map reconstruction
利用剩下的channel重建输出，直接使用最小平方误差来拟合原始卷积层的输出，求出新的卷积核W。
二、优化目标
2.1 定义优化目标
输入c个channel，输出n个channel，卷积核W的大小是
我们对输入做了采样，假设对每个输入，对channel采样出来N个大小为块
为了把输入channel从c个剪裁到c’个，我们定义最优化的目标为
其中是每个channel的权重向量，如果是0，意味着裁剪当前channel，相应的也被裁减。
2.2 求最优目标
为了最优化目标，分为如下两步
2.2.1 固定W，求
其中，大小是，
这里之所以加上关于的L1正则项，是为了避免所有的都为1，而是让它们趋于0。
2.2.2 固定，求W
利用剩下的channel重建输出，直接求最小平方误差
其中，大小为，
W’也被reshape为。
2.2.3 多分支的情况
论文只考虑了常见的残差网络，设residual分支的输出为，shortcut 分支的输出为。
这里首先在residual分支的第一层前做了channel采样，从而减少计算量（训练过程中做的，即filter layer）。
设为原始的上一层的输出，
那么channel pruning中，residual分支的输出拟合，其中是上一层裁减后的shortcut。
三、实现
实现的时候，不是按照不断迭代第一步和第二步，因为比较耗时。
而是先不断的迭代第一步，直到裁剪剩下的channel个数为c’，然后执行第二步求出最终的W。
3.1 第一步Channel Selection
如何得到LASSO回归的输入：
（1）首先把输入做转置
# (N, c, hw) --> (c, N, hw)
inputs = np.transpose(inputs, [1, 0, 2])
（2）把weigh做转置
# (n, c, hw) --> (c, hw, n)
weights = np.transpose(weights, [1, 2, 0]))
（3）最后两维做矩阵乘法
# (c, N, n), matmul apply dot on the last two dim
outputs = np.matmul(inputs, weights)
（4）把输出做reshape和转置
# (Nn, c)
outputs = np.transpose(outputs.reshape(outputs.shape[0], -1))
LASSO回归的目标值即是对应的Y，大小为
的大小影响了最终为0的个数，为了找出合适的，需要尝试不同的值，直到裁剪剩下的channel个数为为止。
为了找到合适的可以使用二分查找，
或者不断增大直到裁剪剩下的channel个数，然后降序排序取前，剩下的为0。
while True:
coef = solve(alpha)
if sum(coef != 0) < rank:
break
last_alpha = alpha
last_coef = coef
alpha = 4 * alpha + math.log(coef.shape[0])
if not fast:
# binary search until compression ratio is satisfied
left = last_alpha
right = alpha
while True:
alpha = (left + right) / 2
coef = solve(alpha)
if sum(coef != 0) < rank:
right = alpha
elif sum(coef != 0) > rank:
left = alpha
else:
break
else:
last_coef = np.abs(last_coef)
sorted_coef = sorted(last_coef, reverse=True)
rank_max = sorted_coef[rank - 1]
coef = np.array([c if c >= rank_max else 0 for c in last_coef])
3.2 第二步Feature Map Reconstruction
直接利用最小平方误差，求出最终的卷积核。
from sklearn import linear_model
def LinearRegression(input, output):
clf = linear_model.LinearRegression()
clf.fit(input, output)
return clf.coef_, clf.intercept_
pruned_weights, pruned_bias = LinearRegression(input=inputs, output=real_outputs)
3.3 一些细节
- 将Relu层和卷积层分离
因为Relu一般会使用inplace操作来节省内存／显存，如果不分离开，那么得到的卷积层的输出是经过了Relu激活函数计算后的结果。 - 每次裁减完一个卷积层后，需要对该层的bottom和top层的输入或输出大小作相应的改变。
- 第一步求出后，若为0，则说明要裁减对应的channel，否则置为1，表示保留channel。
参考链接
https://github.com/yihui-he/channel-pruning
原文地址：https://www.cnblogs.com/lijianming180/p/12360888.html