Computational Network Toolkit (CNTK) 是微软出品的开源深度学习工具包

用 CNTK 搞深度学习 （一） 入门

Computational Network Toolkit (CNTK) 是微软出品的开源深度学习工具包。本文介绍CNTK的基本内容，如何写CNTK的网络定义语言，以及跑通一个简单的例子。

根据微软开发者的描述，CNTK的性能比Caffe，Theano， TensoFlow等主流工具都要强。它支持CPU和GPU模式，所以没有GPU，或者神经网络比较小的实验，直接用CPU版的CNTK跑就行了。 其开源主页在 https://github.com/Microsoft/CNTK  它把神经网络描述成一个有向图的结构，叶子节点代表输入或者网络参数，其他节点计算步骤。 它支持卷积神经网络和递归神经网络。 由于CNTK刚推出不久，大众教程估计不多，而且bug估计也不少。我学习的时候，主要参考三个资料：

1 官方入门教程  https://github.com/Microsoft/CNTK/wiki/Tutorial  本文也主要以这里的教程为例

2 官方论坛 https://github.com/Microsoft/CNTK/issues

3 官方论文 http://research.microsoft.com/pubs/226641/CNTKBook-20160217..pdf  这个有150页，我是当作字典来用，遇到问题的时候就在里面搜

安装CNTK： https://github.com/Microsoft/CNTK/wiki/CNTK-Binary-Download-and-Configuration  去这个页面找符合自己系统的版本。 我是Windows用户，CNTK有编译好的CPU和GPU版本。由于本人的显卡不是英伟达的，所以无奈只能用CPU版凑合用用。已经编译好的包最方便了，解压，然后把目录（类似%...%、CNTK-2016-02-08-Windows-64bit-CPU-Only\cntk\cntk）添加到PATH变量中就行了。  有条件的人也可以自己编译源代码，稍微麻烦一些，各种依赖关系，好处是源码更新的比较快，CNTK一大特点就是目前各种小bug比较多，比如我现在用的编译好的包还是两个月前发布的，已经自己填了好多坑了。

安装好CNTK之后，运行一个程序，就是一个简单的命令行：  CNTK configFile=your_config_file ， 其中，your_config_file 是网络的定义文件，大概长这样：

command=Train:Test
Train=[
        action="train"

        NDLNetworkBuilder = [
        ...
        ]

        SGD = [
        ...
        ]

        reader = [
        ...　　　　]

]
 Test=[ ... ]

运行的入口就是command命令，command后面接需要依次运行的模块，用冒号分开。 每个模块里面需要定义的事情比较类似，主要是定义输入的格式，网络结构，学习算法（目前只有SGD）和参数。 在定义网络结构的时候，会指明哪些节点是优化目标，哪些是评价指标，以及哪些是输出的点。

众所周知，把神经网络的隐藏层去掉之后，输入直接连到输出层，这样就行成了一个logistics regression分类器。所以https://github.com/Microsoft/CNTK/wiki/Tutorial 这个教程就指导大家如何构建一个LR。 我这里稍微变一下，学习一下如何构建带有一层隐藏层的neural network，如下图：

定义网络结构

CNTK用网络描述语言（network description language, NDL）描述一个神经网络。 简单的说，我们要描述输入的feature，输入的label，一些参数，参数和输入之间的计算关系，以及目标节点是什么。

NDLNetworkBuilder=[

    run=ndlLR

    ndlLR=[
      # sample and label dimensions
      SDim=$dimension$
      LDim=1

      features=Input(SDim, 1)
      labels=Input(LDim, 1)

      # parameters to learn
      B0 = Parameter(4)
      W0 = Parameter(4, SDim)

      B = Parameter(LDim)
      W = Parameter(LDim, 4)

      # operations
      t0 = Times(W0, features)
      z0 = Plus(t0, B0)
      s0 = Sigmoid(z0)   

      t = Times(W, s0)
      z = Plus(t, B)
      s = Sigmoid(z)    

      LR = Logistic(labels, s)
      EP = SquareError(labels, s)

      # root nodes
      FeatureNodes=(features)
      LabelNodes=(labels)
      CriteriaNodes=(LR)
      EvalNodes=(EP)
      OutputNodes=(s,t,z,s0,W0)
    ]
  ]

features=Input(SDim, 1)     labels=Input(LDim, 1) 和 B0 = Parameter(4)  等可以想象成是在定义变量。 输入是列向量，CNTK里面的运算全是矩阵运算，所以就把输入当做只有一列的矩阵。  t0 = Times(W0, features) 是做矩阵乘法，t0把输入和权重相乘，z0 是在t0上面加了一个bias，s0表示经过一个激活函数。 B0,W0,t0,z0,s0构成了隐层的操作，这里定义的隐层有4个节点。 t,z,s是输出层的操作，s就是输出节点的值。 框架定义好之后，还需要指定一些根节点，用来指定特殊的任务，例如 FeatureNodes=(features)  和LabelNodes=(labels)分别规定了输入和输出节点，CriteriaNodes 是训练的时候优化的目标，EvalNodes 是在做评测的时候输出的参考值。OutputNodes 指定了需要输出到文件的节点。

设置训练算法

SGD = [
        epochSize=0     #  每轮迭代使用的样例数，  =0 表示使用整个训练集
        minibatchSize=25  # 训练25个样本就更新一次参数
        learningRatesPerMB=0.1                # learning rates per MB
        maxEpochs=50    #迭代50次
    ]

目前只有SGD（以及在SGD上的各种变种），可以在里面设置各种参数。

设置输入格式

reader = [
        #customDelimiter = " "
        readerType = "UCIFastReader"
        file = "Train.txt"
        miniBatchMode = "partial"
        verbosity = 1
        randomize = "none"

        features=[
            dim = $dimension$
            start = 0
        ]

        labels=[
            start = $dimension$              # skip $dimension$ elements before reading the label (i.e. the first two dimensions so we have "x1 x2 y" basically)
            dim = 1                          # label has 1 dimension
            labelType=regression
            labelMappingFile = "SimpleMapping.txt"
        ]
    ]

这也是CNTK的一个特点（吐槽点）, 指定用什么方式读取数据文件。 readerType = "UCIFastReader" 指定用普通的扁平化表格的格式（一行一个样例，同一行内用空格隔开不同的数值），还有别的格式类型，例如图像格式，文本语料格式等。UCIFastReader 是将被弃用的，而且在目前最新的binary包中是有bug的 （所以说，有条件的同学尽量自己编译最新的源码）。  用官方教程里的设置直接跑回出bug，以上是我修改过的代码。 输入格式主要描述了feature是哪几列，维度是多少，label是哪几列， label的类型等等。

 

综上，Train这个模块就是定义了这几件事情：输入格式，网络内容，训练模式。 运行的时候也是这个步骤： 读取数据-> SGD 训练.

其他

除了Train之外的模块的流程比较类似，它们不需要再定义网络结构和训练模式，但是输入格式还是要指定的。 例如Test模块的流程是：  读取数据->计算网络->得到预测值->评估.    评估针对的是在网络结构中被定义为EvalNodes 的节点。 SquareError 只是其中的一种评估指标。如果想用别的误差函数，可以去查字典http://research.microsoft.com/pubs/226641/CNTKBook-20160217..pdf 

Test=[
    action="test"
    reader=[
        readerType="UCIFastReader"
        file="Test.txt"
        features=[
            dim=2
            start=0
        ]
        labels=[
            start=$dimension$
            dim=1
            labelDim=2
        ]
    ]
]

Output模块和Test的流程基本一样，只不过最后一个不是评估，而是把属于OutputNodes的值给输出到文件。 Output模块会指定一个输出目录 outputPath = "LR.txt" ， 输出的文件以“LR.txt”为前缀，再加上变量命作为文件名。例如"LR.txt.W0"。

# output the results
Output=[
    action="write"
    reader=[
        readerType="UCIFastReader"
        file="Test.txt"
        features=[
            dim=$dimension$
            start=0
        ]
        labels=[
            start=2
            dim=1
            labelType=regression
        ]
    ]
    outputPath = "LR.txt"       # dump the output as text
]

dumpNodeInfo  用来输出参数的值。这在调试中很有用，例如去看看网络的参数是如何变化的：

dumpNodeInfo=[
        action=dumpnode
        printValues=true
    ]

####################################################################
B=LearnableParameter [1,1]   NeedGradient=true
 -6.67130613
 ####################################################################
EP=SquareError ( labels , s )
features=InputValue [ 2 x 1 {1,2} ]
labels=InputValue [ 1 x 1 {1,1} ]
LR=Logistic ( labels , s )
s=Sigmoid ( z )
t=Times ( W , features )
W=LearnableParameter [1,2]   NeedGradient=true
 1.23924482 1.59913719
 ####################################################################
z=Plus ( t , B )

全部的代码如下。 train文件 https://github.com/Microsoft/CNTK/wiki/Tutorial/Train-3Classes.txt  test 文件 https://github.com/Microsoft/CNTK/wiki/Tutorial/Test-3Classes.txt。 数据是2维的：

# Copyright (c) Microsoft. All rights reserved.
# Licensed under the MIT license. See LICENSE file in the project root for full license information.

# logistic regression cntk script -- Network Description Language

# which commands to run
command=Train:Output:dumpNodeInfo:Test

#required...
modelPath="Models/LR_reg.dnn"        # where to write the model to
deviceId=-1                                # CPU
dimension=2                 # input data dimensions

# training config
Train=[
    action="train"
    traceLevel = 1
    NDLNetworkBuilder=[

    run=ndlLR

    ndlLR=[
      # sample and label dimensions
      SDim=$dimension$
      LDim=1

      features=Input(SDim, 1)
      labels=Input(LDim, 1)

      # parameters to learn
      B0 = Parameter(4)
      W0 = Parameter(4, SDim)

      B = Parameter(LDim)
      W = Parameter(LDim, 4)

      # operations
      t0 = Times(W0, features)
      z0 = Plus(t0, B0)
      s0 = Sigmoid(z0)   

      t = Times(W, s0)
      z = Plus(t, B)
      s = Sigmoid(z)    

      LR = Logistic(labels, s)
      EP = SquareError(labels, s)

      # root nodes
      FeatureNodes=(features)
      LabelNodes=(labels)
      CriteriaNodes=(LR)
      EvalNodes=(EP)
      OutputNodes=(s,t,z,s0,W0)
    ]
  ]

    SGD = [
        epochSize=0                              # =0 means size of the training set
        minibatchSize=25
        learningRatesPerMB=0.1                # learning rates per MB
        maxEpochs=50
    ]

    # parameter values for the reader
    reader = [
        #customDelimiter = " "
        readerType = "UCIFastReader"
        file = "Train.txt"
        miniBatchMode = "partial"
        verbosity = 1
        randomize = "none"

        features=[
            dim = $dimension$
            start = 0
        ]

        labels=[
            start = $dimension$              # skip $dimension$ elements before reading the label (i.e. the first two dimensions so we have "x1 x2 y" basically)
            dim = 1                          # label has 1 dimension
            labelType=regression
            labelMappingFile = "SimpleMapping.txt"
        ]
    ]
]

# test
Test=[
    action="test"
    reader=[
        readerType="UCIFastReader"
        randomize = "none"
        file="Test.txt"
        features=[
            dim=$dimension$
            start=0
        ]
        labels=[
            start = $dimension$              # skip $dimension$ elements before reading the label (i.e. the first two dimensions so we have "x1 x2 y" basically)
            dim = 1                          # label has 1 dimension
            labelType=regression
            labelMappingFile = "SimpleMapping.txt"
        ]
    ]
]

# output the results
Output=[
    action="write"
    reader=[
        readerType="UCIFastReader"
        file="Test.txt"
        randomize = "none"
        features=[
            dim=$dimension$
            start=0
        ]

        labels=[
            start = $dimension$              # skip $dimension$ elements before reading the label (i.e. the first two dimensions so we have "x1 x2 y" basically)
            dim = 1                          # label has 1 dimension
            labelType=regression
            labelMappingFile = "SimpleMapping.txt"
        ]
    ]
    outputPath = "LR.txt"        # dump the output as text
]

dumpNodeInfo=[
  action=dumpnode
  printValues=false
]

后一篇：

用CNTK搞深度学习 （二） 训练基于RNN的自然语言模型 ( language model )

http://www.cnblogs.com/sylvanas2012/p/5419477.html

原创博客，未经允许，请勿转载。




分类: data mining


标签: CNTK, 深度学习, 神经网络
				


				
时间： 2024-08-01 17:44:44 

		


		


	

	
	

		


		
Computational Network Toolkit (CNTK) 是微软出品的开源深度学习工具包的相关文章


								

		

			

                用 CNTK 搞深度学习 （一） 入门
			

		

		

									

				Computational Network Toolkit (CNTK) 是微软出品的开源深度学习工具包.本文介绍CNTK的基本内容,如何写CNTK的网络定义语言,以及跑通一个简单的例子. 根据微软开发者的描述,CNTK的性能比Caffe,Theano, TensoFlow等主流工具都要强.它支持CPU和GPU模式,所以没有GPU,或者神经网络比较小的实验,直接用CPU版的CNTK跑就行了. 其开源主页在 https://github.com/Microsoft/CNTK  它把神经网络描述成一			

		

	

				

		

			

                微软的深度学习框架cntk ，我目前见过 安装方式最简单的一个框架，2.0之后开始支持C# 咯
			

		

		

									

				wiki:https://github.com/Microsoft/CNTK/wiki 嗨,你也是我这种手残党么?之前试着安装着mxnet和tensorflow,但是因为时间比较短所以往往来不及安装完就失去兴趣,今天看到微软的cntk可以用了,一次性安装好了,并且测试通过 本人环境: Windows 7 X64 8G内存 下载链接 官方安装说明:https://github.com/Microsoft/CNTK/wiki/Setup-Windows-Binary-Script 用以上链接下载了安			

		

	

				

		

			

                由微软打造的深度学习开放联盟ONNX成立
			

		

		

									

				导读 如今的微软已经一跃成为全球市值最高的高科技公司之一.2018年11月底,微软公司市值曾两次超越了苹果,成为全球市值最高的公司,之后也一直处于与苹果胶着的状态.市场惊叹微软是一家有能力改造自己并取得成功的公司!自微软CEO萨堤亚·纳德拉于2014年2月上任以来,微软就处于稳定复苏的状态中,而纳德拉上任之后最震惊业界的举动之一就是对外宣布微软爱Linux.如今,继Linux之后,微软更爱下一个"操作系统":ONNX. ONNX(Open Neural Network Exchange			

		

	

				

		

			

                用CNTK搞深度学习 （二） 训练基于RNN的自然语言模型 ( language model )
			

		

		

									

				前一篇文章  用 CNTK 搞深度学习 (一) 入门    介绍了用CNTK构建简单前向神经网络的例子.现在假设读者已经懂得了使用CNTK的基本方法.现在我们做一个稍微复杂一点,也是自然语言挖掘中很火的一个模型: 用递归神经网络构建一个语言模型. 递归神经网络 (RNN),用图形化的表示则是隐层连接到自己的神经网络(当然只是RNN中的一种): 不同于普通的神经网络,RNN假设样例之间并不是独立的.例如要预测“上”这个字的下一个字是什么,那么在“上”之前出现过的字就很重要,如果之前出现过“工作”,			

		

	

				

		

			

                5款替代微软Visio的开源免费软件（转）
			

		

		

									

				5款替代微软Visio的开源免费软件 提到流程图和图表设计,自然会想到微软出品的Office Visio,它是一款强大的流程图设计工具.Visio并不在Office标准套装中,需要额外付费购买,这可能会带来某些不便.一方面,并不是所有人都 负担得起,另外,如果是应急之需,临时购买恐怕也来不及了. 今天我们介绍几款免费的Visio替代软件,也许你对某些软件的名字感到陌生,现在我们逐一简要了解一下. 1.DIA Diagram Editor Dia主界面 Dia被我们列在头一名,不仅是因为它功能强大			

		

	

				

		

			

                5款替代微软Visio的开源免费软件
			

		

		

									

				提到流程图和图表设计,自然会想到微软出品的Office Visio,它是一款强大的流程图设计工具.Visio并不在Office标准套装中,需要额外付费购买,这可能会带来某些不便.一方面,并不是所有人都负担得起,另外,如果是应急之需,临时购买恐怕也来不及了. 今天我们介绍几款免费的Visio替代软件,也许你对某些软件的名字感到陌生,现在我们逐一简要了解一下. 1.DIA Diagram Editor Dia主界面 Dia被我们列在头一名,不仅是因为它功能强大和跨平台特性,也源于它原生支持简体中文界			

		

	

				

		

			

                Spark MLlib Deep Learning Convolution Neural Network (深度学习-卷积神经网络)3.1
			

		

		

									

				3.Spark MLlib Deep Learning Convolution Neural Network (深度学习-卷积神经网络)3.1 http://blog.csdn.net/sunbow0 Spark MLlib Deep Learning工具箱,是根据现有深度学习教程<UFLDL教程>中的算法,在SparkMLlib中的实现.具体Spark MLlib Deep Learning(深度学习)目录结构: 第一章Neural Net(NN) 1.源码 2.源码解析 3.实例 第二章D			

		

	

				

		

			

                Spark MLlib Deep Learning Convolution Neural Network (深度学习-卷积神经网络)3.2
			

		

		

									

				3.Spark MLlib Deep Learning Convolution Neural Network(深度学习-卷积神经网络)3.2 http://blog.csdn.net/sunbow0 第三章Convolution Neural Network (卷积神经网络) 2基础及源码解析 2.1 Convolution Neural Network卷积神经网络基础知识 1)基础知识: 自行google,百度,基础方面的非常多,随便看看就可以,只是很多没有把细节说得清楚和明白: 能把细节说清			

		

	

				

		

			

                Spark MLlib Deep Learning Convolution Neural Network (深度学习-卷积神经网络)3.3
			

		

		

									

				3.Spark MLlib Deep Learning Convolution Neural Network(深度学习-卷积神经网络)3.3 http://blog.csdn.net/sunbow0 第三章Convolution Neural Network (卷积神经网络) 3实例 3.1 测试数据 按照上例数据,或者新建图片识别数据. 3.2 CNN实例 //2 测试数据 Logger.getRootLogger.setLevel(Level.WARN) valdata_path="/use