挑战：技术视角
调整：技能视角
机器人会因为程序出错“发疯”吗？
机器人会不会和主人有一样的脾气？
能用人类的伦理道德约束机器人吗？
挑战：技术视角
挑战之一是能否保证人工智能的应用开发被用于正确的目标，如果用于错误的目标，由于人工智能的强大能力，其产生的负面效果可能是快速而大规模的。
挑战之二即使人工智能是为了合理的目标开发，但只能系统开发时存在严重的缺陷，会产生不可预测的后果。
在深度学习的算法中，人无法知道机器思考的具体过程，而且机器学习的数据来源和质量可能存在问题，人工智能可能会被教坏。
挑战之三是人工智能设计者在制作机器人时，当然会将自己的想法加入到机器人的思维系统中，从而使得很多人工智能应用没法同时使所有用户满意。
人工智能研发者的多元化有助于满足不同人群的需求。
挑战之四是人工智能毫无疑问具有强大的能力，但终端用户不一定具有充分地使用该应用的知识和能力。
挑战之五是让机器人和人一样的伦理道德。
我们能否在技术上融入伦理道德
可以吧人类的道德准则通过算法转化为人工智能的行为准则，让系统做出人类认为正确的。
总结
人工智能系统当然会出错，会出现单一化难操控难预测等各种问题，这些都需要我不断解决优化创造一个更加智能的时代。
挑战：人文视角
对人的认知的冲击
随着人工智能的发展，人们对自身的理解越来越物化和去意义化，人和机器的边界越来越模糊，我们应该如何对待机器和自身的关系，人和机器是否应该整合？如何定义新的整合体？人有超越机器的东西吗？
对人类思维的调整
机器人真的能模仿人思维的方式去理解人的意图吗？
深度学习可使机器高度模拟人的思维方式，不断学习
AlphaGo深度学习两年打败围棋世界冠军
人工智能，正让人类渐渐失去学习的热情。
对人类社会结构的冲击
人工智能一方面可以解决贫困与不平等问题提供方案，另一方面也会让一些人排除在社会壁垒之外。
对人类心理的冲击
机器人越来越聪明，我们有朝一日会被人工智能取代吗？
人工智能可以推动进一步的专业分化和创造新的工作机会，但并非所有人都有能力迈过技术性和社会性的壁垒。
未来社会可能出现“无用阶级”，人对技术进步和快速社会转型所产生的无用感有很大的冲击和挑战
对隐私保护的冲击
随着人工智能的发展，即使合法地获取和利用数据也会对隐私参生威胁，大数据技术揭示人的行为规律。
对经济市场的冲击
迄今为止的经济学理论都是为物化的商品准备的，在人工智能介入知识经济时代后，经济规律该如何改写？
人类应该如何看待人工智能的发展？
一方面给我们带来了便捷，另一方面又给我们带来许多焦虑
技术的革新无法阻挡，与其逃避，不如面对。
总结：
机遇与挑战并存，我们要做好的是克服恐惧，勇往直前！
伦理规范：社会层面
人工智能成为社会发展的加速器，如果人类想要利用好因此带来的无线机遇，最好在这辆“快车”冲进未知之门前给它装上刹车。
这个刹车就是伦理和规范！
人工智能开发应用的道德原则
透明和负责是其他四项原则的基石
伦理规范：社会层面
人类会因人工智能的到来失业吗？
科学家预测在未来的五年内，预计有500万人因人工智能而失业。
前三次工业革命是机器代替人的体力劳动，正在到来的人工智能革命将开始代替脑力劳动，这将导致劳动市场大变革。
因此造成的大量失业现象是否可能威胁到社会安定？
安全问题
最大的危险是人类对它失去控制，或者是新技术落入非人之手。
实例
2015年7月2日，在德国大众工厂，一名22岁的技术工人被他安装的机器人杀死。
一方面 人工智能得益于互联网的大数据发展资源优势；
另一方面互联网人为因素的黑客、病毒又能对人工智能的安全构成巨大的威胁。
责任与业务问题
医疗领域，机器人引发的外科事故应该由谁承担。
人工智能引起的金融诈骗，应该如何去解决。
目前这些问题没有答案，这些问题必须通过明法来解决。
如何应对？
高校和研究机构开展前瞻性的科技伦理、人文和哲学研究。
在人工智能领域开展广泛对话和持续合作。
鼓励企业和行业协会设立科技伦理部门或委员会、
风险投资机构和资本市场应该鼓励和引导企业进行产品的责任和开发。
总结：
人工智能能给我们带来很多难以解决的问题，需要我们一同努力，共同创造美好的未来。
伦理规范：公共政治层面看待伦理规范的问题。
国家在人工智能方面颁布了什么政策？
安全问题在政策层面下如何解决？
如何普及人工智能的教育。
中国正一步步进入人工智能时代
明确人工智能开发和应用的政策准则
加大人工智能领域的研究投入
成立人工智能研发及维护的专业协会
加强对人工智能开发利用的伦理和法律监管
促进充分隐私保护和安全前提下的数据共享合作
人工智能的安全评估和管理
普及人工智能的教育
总结
公共政策的制定能够促进人工智能的健康发展，制度层面的监管能保证社会和谐发展，政府和大众需要共同的努力
科幻作品中的人工智能
终结者
黑客帝国
人工智能
我，机器人
她
超验骇客
原文地址：https://www.cnblogs.com/liugangjiayou/p/11992847.html