1. Mini batch梯度下降法 介绍 假设我们的数据量非常多，达到了500万以上，那么此时如果按照传统的梯度下降算法，那么训练模型所花费的时间将非常巨大，所以我们对数据做如下处理： 如图所示，我们以1000为单位，将数据进行划分，令$x^{\{1\}}=\{x^{(1)},x^{(2)}……x
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825921
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825896
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825877
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825857
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825837
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825816
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825796
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825778
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825756
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825733
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825712
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825687
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825657
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825611
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825586
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825563
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825536
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825450
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825425
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825398
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=825368
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824592
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824558
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824532
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824503
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824367
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824341
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824318
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824295
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824271
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824242
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824224
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824195
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824178
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824160
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824142
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824124
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824108
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824079
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=824000
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823973
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823948
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823906
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823873
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823851
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823835
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823819
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823799
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823782
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823764
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823740
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823713
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823697
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823676
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823652
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823635
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823630
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823537
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823471
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823448
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823116
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823078
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823054
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823035
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=823015
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822992
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822963
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822939
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822911
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822890
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822860
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822827
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822803
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822780
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822758
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822717
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822687
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822658
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822639
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822609
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822582
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822548
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822523
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822504
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822481
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822454
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822426
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822401
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822366
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822341
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822309
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822273
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822238
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822213
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822195
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822177
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822153
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822128
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822109
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822085
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822057
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=822038
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821991
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821970
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821807
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821789
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821759
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821744
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821703
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821676
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821644
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821614
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821594
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821564
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821536
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821512
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821486
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821463
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821438
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821414
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821393
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821374
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821358
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821342
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821315
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821299
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821282
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821267
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821251
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821234
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821152
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821126
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821101
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821077
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821044
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=821012
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=820988
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=820959
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=820932
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=820900
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=820862
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=820172
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=820126
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=820088
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=820049
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=820013
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819987
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819950
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819914
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819889
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819859
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819831
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819802
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819775
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819746
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819719
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819698
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819677
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819651
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819625
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819600
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819581
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819568
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=819548
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815753
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815665
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815627
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815583
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815545
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815505
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815470
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815431
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815389
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815341
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815302
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815270
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815228
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815186
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815160
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815114
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=815053
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=814941
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=814878
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=814848
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=814807
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=814779
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829347
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829331
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829306
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829282
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829255
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829234
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829212
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829123
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829099
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829079
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829055
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829033
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=829007
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828980
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828928
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828909
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828890
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828874
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828853
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828832
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828817
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828801
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828780
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828763
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828747
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828729
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828710
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828686
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828662
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828647
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828630
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828607
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828590
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828571
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828564
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828542
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828520
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828487
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828463
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828446
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828429
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828414
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828397
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828385
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828366
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828354
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828345
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828303
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828287
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828268
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828260
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828239
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828227
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828215
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828193
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828183
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828169
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828152
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828135
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828119
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828106
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828090
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828076
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=828059
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827908
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827871
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827860
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827849
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827833
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827817
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827799
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827786
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827777
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827767
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827750
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827732
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827719
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827708
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827695
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827677
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827665
http://pic.cnhubei.com/space.php?uid=1132&do=album&id=827651