算法踩坑小记

经过前面研究图像算法和近阶段研究视频和音频算法的经历经验.

在2019年快要来临的时候,写下这篇小记.

目的很简单,总结过往,展望未来.

这里列举一些本人在算法上踩过的坑和出坑思路.

主要是数据标准化问题.

1.临界值问题  (最大值,最小值,阈值,无穷小,无穷大)

最早做一键修图的时候,在这个坑上踩了太多次.

简单描述就是,

(示例伪代码例子仅供理解思考参考,不具有实际意义)

1.1 梯度消失

如果一个算法在计算过程中,存在最小值(无穷小,一般为0或接近0的数),

那就很可能出现"梯度消失"的问题.

例如:

float weight = 0f; // (或 趋近于0)

float num = 255.0f;

float taget = num/weight;

这种问题最简单的解法就是归一化取值范围,

原来取值范围是 0-255,归一化为 1-256

或转换到对数空间计算然后再转回来.

1.2 梯度爆炸

反之,结果为最大值或者接近无穷大的数,甚至溢出有效范围,那就可能出现"梯度爆炸"的问题.

例如:

int num1 = 255;int num2 = 256;
unsigned char taget = num1-num2;clamp 虽搓,但是简单有效,这个解决思路基本跟梯度消失是一个逻辑,归一化.

1.3 阈值人为主义,非黑即白

采用阈值的做法,除非你清楚的知道你后续计算,

只有两种明确情况,否则不要轻易使用阀值.

int threshold = 127;

if ( num>threshold)

taget = 0;

else

taget = 1;

其实,这三个临界值问题,熟悉深度学习的朋友,

可以类比一下激活函数.

深度学习现有的激活函数,其实并没有很好解决临界值问题,

只是采用规避的策略,降低临界值事件的发生概率.

这里不打算展开讨论,流言止于智者.

2.信息信号属性问题

多维空间与时序序列 的困局

2.1 多维空间

一般多维空间的问题在图像领域比较常见,当然音频领域也有.

例如:

灰度,彩色,YUV空间等.

多维数据绝大多数情况是为了 "信息互补","信息压缩".

也就是预计通过多个维度的信息,互相补充作用,最终合成最佳的信号.

这里最常见的坑就是,多维数据的归一化问题.

因为很有可能,RGB三个通道的颜色分布并不完全一致,

这个时候你要融合RGB三个通道的信息,

就必须考虑将数据归一化到三个通道都适宜的取值范围.

否则,最后合入时,就会出现上面提到的 临界值问题.

基本上只要做好 临界值的处理 就可以规避掉了.

例如图像领域做梯度金字塔融合时候,出现的晕轮效应或强边缘溢色.

当然,还有一种特例,就是评估策略.

当你碰到一个问题,对一张彩色图片,你只能用一个值来表达这张图片的全局情况.

一定要谨记,这个值的得出,必须所有数据参与计算.

不然就会犯多维数据的 阈值人为主义,非黑即白.

这个问题,当年设计一键修图算法的时候,就碰到过.

你怎么判断一张图片的是否需要去雾.

局部有雾或者全局有雾,去雾系数的确认就是这种问题.

2.2 时序序列

时序序列除了 多维空间碰到的问题,它还有更加恼人的问题.

主要是音频数据和文字语义数据的问题.

时序信号最最最严重的问题就是时长和叠加.

也就是一句话的长短,一句话中重叠数据的多少,都有可能推翻所有.

例如:

在一起,好不好.

在一起,不好.

在一起,好.

时序问题绝大多数,数据中某个孤立的数据,反而是决定性因子.

这就有点像,

中国政府某年颁布了什么什么条例.

某某行业消亡了.

时序信号问题,真的就有点大海里去捞针.

由于近期一直在做音频降噪算法,

我就碰到这么一根针.

音频处理算法三大问题,自动增益,噪声抑制,回声消除.

大家想一个问题,

如果一个数据连续出现,例如一段音乐.

你说,太小声,我放大它,

结果你发现,这时不需要啊,有些音乐就是要渐隐渐现.

这个时候你会想说,好吧,那么设定一个时长,超过就处理,不超过就不处理.

参见 临界值问题,这种非黑即白,会死得很惨烈.

而噪声和回声,就刚才那几句:

在一起,好不好.

在一起,不好.

在一起,好.

我就问一个问题,"好"出现了两次,有没有可能其中一个"好"是回声.

第二个问题,第一个"好"是回声,还是第二个"好"是回声.

第三个问题,如果两个"好"不是回声,那它有没有可能是噪声.

这就是时序最让人恼火的问题,因为 时序的长度是"模糊"的.

你说一句话停半秒,他说一句话停一秒.

这个问题可以称之为,多维空间叠加的数据标准化困局.

更可怕的是,几乎没有任何标准和直接规律可言.

3.常识与自然规律

这个我要重点说一下,之前与不少科班出身的同事共事.

发现他们经常犯一些常识性错误.

举个例子:

A 是有限集合

B 是数学向量

C 是 A+B 的理论结果.

根据向量的定义,C应该也算是向量的一种表达.

好的问题来了,C的置信度有多少?

我相信大多数人都会发现问题,不在B和C而在A.

因为A是有限集合,它是确认的.

那么C的置信度只能在A的区间范围内,而不在它之外.

那么,把上面这问题的变量稍微改动一下,

A是空间数据集合.

B是时序数据集合.

请简述C的置信度?

我就只能说,你没有常识.

两种不同维度的数据集合,在我有限的理解范围内,

我只能将其定义为"噪"动不安.

也许这个时候,有某位大神跳出来,不对,

你们都不对,是你们数据量太小了.数据量大了,

就不会存在这个问题.

负分滚粗!

我就问,什么量级的空间数据和什么量级的时序数据,进行什么量级的什么计算,

可以达到相对平衡的稳态,或者说符合什么样的自然规律.

这个时候,又一个大神跳出来,广义相对论和狭义相对论.

时间和空间的问题,就是时空的问题.

等你超越了时间和空间也就是所谓的超时空,一切问题都不复存在了.

大神,请收下我的膝盖,带我装逼带我飞向超时空.

当然还有各种各样的其他问题,当以不变应万变.

以上仅仅为个人的心得体会,

若有出入,不要太过较真.

路漫漫其修远兮.

以上,权当抛砖引玉.

关于本人自研的语音增强算法的试用接口已经开放出来,

地址是http://47.98.140.120/

拖放wav 和 mp3即可试听降噪前后的效果.

可能存在特定的wav和mp3由于解码失败问题导致失败.

我会逐步完善的.

算法现在是实时处理,

用在什么硬件环境都毫无压力.

效果还是不能到达我自己对它的要求.

主要还是没能很好的解决时序叠加的问题,还有不少的坑要填.

2019年预计会陆续将以前做的一些图像算法逐步梳理开源.

最后,祝大家新的一年,心想事成,美梦成真,好事成双.

本人主要专注 音频,图像,视频算法方向.

若有其他相关问题或者需求也可以邮件联系俺探讨。

邮箱地址是: 
[email protected]

原文地址:https://www.cnblogs.com/cpuimage/p/10202414.html

时间: 2024-10-03 08:43:56

算法踩坑小记的相关文章

kafka与zookeeper管理之kafka-manager踩坑小记

在elk集群搭建过程中,为了极大程度的利用服务器资源,kafka.zookeeper.logstash规划混跑在了同一组服务器上.随着业务量的增加,要频繁增加调整kafka的topic,出现问题时还要去服务器敲命令查看kafka和zookeeper的相关信息,效率低而且不方便,于是就考虑到用kafka的管理工具kafka-manager,安装配好后,整个集群的状态一目了然,而且可以方便的进行topic的操作.消费情况的查询.broker各种状态指标的查询等,非常方便,各种信息一目了然,安装配置过

Ubuntu 16.04 安装Mysql 5.7 踩坑小记

title:Ubuntu 16.04 安装Mysql 5.7 踩坑小记 date: 2018.02.03 安装mysql sudo apt-get install mysql-server mysql-client 测试是否安装成功 sudo netstat -tap | grep mysql 相关操作 登录 mysql -uroot -p 检查MySQL服务器占用端口 netstat -nlt|grep 3306 检查MySQL服务器系统进程 ps -aux|grep mysql 查看数据库的

async语法升级踩坑小记

从今年过完年回来,三月份开始,就一直在做重构相关的事情. 就在今天刚刚上线了最新一次的重构代码,希望高峰期安好,接近半年的Node.js代码重构. 包含从callback+async.waterfall到generator+co,统统升级为了async,还顺带推动了TypeScript在我司的使用. 这些日子也踩了不少坑,也总结了一些小小的优化方案,进行精简后将一些比较关键的点,拿出来分享给大家,希望有同样在做重构的小伙伴们可以绕过这些. 为什么要升级 首先还是要谈谈改代码的理由,毕竟重构肯定是

Guava Lists.transform踩坑小记<转>

1.问题提出 1.前段时间在项目中用到Lists.transform返回的List,在对该list修改后发现修改并没有反映在结果里,研究源码后发现问题还挺大.下面通过单步调试的结果来查看Guava Lists.transform使用过程中需要注意的地方. a.对原有的list列表修改会影响Lists.transform已经生成列表 由上图可以看出,对原数据集personDbs的修改会直接影响到Lists.transform方法返回的结果personVos,这是很危险的,如果在使用的过程中不注意的

HTTP访问控制(CORS)踩坑小记

前几天在帮后端排查一个cors的问题的时候发现的一些小坑特此记录 ** cors的本质是出于安全原因,浏览器限制从脚本内发起的跨源HTTP请求. 例如,XMLHttpRequest和FetchAPI遵循同源策略. 这意味着使用这些API的Web应用程序只能从加载应用程序的同一个域请求HTTP资源,除非使用CORS头文件.跨域并非一定是浏览器限制了跨站请求,也有可能是跨站请求可以正常发起,但是返回结果被浏览器拦截了.最好的例子是 CSRF跨站攻击原理,请求是发送到了后端服务器无论是否跨域!注意:有

Laravel踩坑小记

背景:使用laravel项目的命令行惊现错误php artisan companyCustomerStatisticsCommand In Connection.php line 664: could not find driver (SQL: select max(`customer_id`) as aggregate from `statistic_customer`) 排查:1.浏览器直接访问项目,数据库均能正常访问2.浏览器查看phpinfo(), 获取到php版本信息 PHP Vers

【转】GO语言map类型interface{}转换踩坑小记

原文:https://www.az1314.cn/art/69 ------------------------------------------ mapA := make([string]interface{}) mapB := make([string]interface{}) mapA["name"] = "小文" mapA["age"]  = 25 mapB["mapA"] = mapA for k, v := ra

基于Python技术栈的算法落地踩坑

背景介绍 在一些业务场景,我们需要把离线训练好的模型以微服务部署线上,如果是简单的使用sklearn pipeline,可以保存为XML格式的pmml供Java调用,在配置为4 core,8G内存的docker环境可以提供8K左右的高并发,并且这种docker可以快速大规模部署到PaaS云平台,优势相当明显,实际情况是算法人员会基于Python自定义lambda处理数据,而自定义的lambda是很难保存到pmml中的,并且很多公司的算法团队也是要求基于Python技术栈是 落地的. 踩坑过程 算

AI相关 TensorFlow -卷积神经网络 踩坑日记之一

上次写完粗浅的BP算法 介绍 本来应该继续把 卷积神经网络算法写一下的 但是最近一直在踩 TensorFlow的坑.所以就先跳过算法介绍直接来应用场景,原谅我吧. TensorFlow 介绍 TF是google开源出来的人工智能库,由python语言写的 官网地址:http://www.tensorflow.org/   请用科学上网访问 中文地址:http://www.tensorfly.cn/ 当然还有其他AI库,不过大多数都是由python 写的 .net 的AI库叫 Accord.net