南京苹果XSMax换电池价格_提升数据安全，让人工智能更可信
2021-07-18 22:55:09 
AI智能 京东开发研究院院长陶大程曾做过一个实验：南京苹果XSMax换电池价格在路牌上贴一个小广告，结果无人驾驶系统出现误判，“因为缺乏可解释性，也限制了人工智能在应用和应用上的更广泛。”
它是“双端”人工智能的一个切面：一方面，利用机器学习等人工智能技术，可以实现数据识别保护、数据安全溯源等功能，提高了数据安全防护能力;但另一方面，人工智能也会带来新的安全问题，如过度采集数据，甚至产生算法歧视、“投毒”等。
又一次的科技安全话题，如何让人工智能更加可信?最近在上海召开的人工智能世界大会上，许多专家、学者纷纷对此提出了疑问，并指出人工智能在数据和网络安全方面的作用不容忽视。
不能忽视新的安全问题。
虽然我国已跻身于世界人工智能第一方阵，但在人工智能的发展和安全方面，仍然面临严峻的考验。
人民代表大会社会和法制委员会副主任陈智敏指出，数字信息的过度采集和非法使用，会侵犯公民的权利和隐私权;算法的偏爱会加剧社会的偏见或歧视，并威胁到公平正义。
偷窃、偷窃等行为可能引发更严重的刑事罪。他引用了一组数据：目前我国电信诈骗处于高发期，在某些地区已占全部刑事案件的一半以上，超过了传统的盗窃案件。
他说：“机器深度学习很难理解人性的道德，比如做出明智的决定，比如无人驾驶汽车紧急避险，就会威胁到特定人群的生命。
计算能力、算法、数据是人工智能的三要素，人工智能也引发了新的数据安全问题。全国工业信息安全发展研究中心副主任何小龙指出，人工智能的算法对数据有很强的依赖性，可能给数据安全带来新的挑战，如数据投毒。
我们所说的数据投毒，是指在训练数据中加入伪装数据或恶意样本，破坏数据完整性，导致算法模型错误。例如，最初，微软的聊天机器人Tay因发布歧视性和冒犯性言论而被关闭，其主要原因是因为在对话数据集内添加了不适当的数据。
第二，样本偏差问题。由于基础数据集的多样性和代表性不足，会造成人工智能算法对特定的社会价值倾向或偏见，产生不公平的结果。
日益增多的开放源码框架也带来了新的风险，例如，在一项针对主流开源架构的安全测试中，我们在短短的时间内发现了24个安全问题，其中包括2个严重漏洞和8个高危漏洞。
实际上，人工智能的应用带来了许多风险，包括算力本身，算法带来的脆弱性，以及人工智能在应用中的鲁棒性(在异常和危险情况下系统的生存能力)、可解释性、公平问题。这种新技术如果与原有业务相结合，就有可能给原业务或系统带来巨大的系统性风险。”上海市委网信办主任杨海军表示。
怎样“定责”人工智能
他说：“当人们将思考、控制甚至决策外包给算法时，南京苹果XSMax换电池价格人工智能首先要做的就是证明自己是可信赖的。”值得信赖的人工智能已经成为全球的共识，中国信通院云计算和大数据研究所主任何宝宏说。
所以，哪种人工智能是值得信赖的?各机构对此有不同的理解，根据IEEE(电气与电子工程师协会)提出“透明性”，以正确的方式使用技术，明确以人为本，造福人类;欧盟则提出了鲁棒性、安全性、监督和干预人类、明确责任等。2016年末，何积丰院士在香山科学大会上首次提出了“可信人工智能”的概念。
当前，可信人工智能正受到世界各国的广泛关注。据陶大程介绍，它有四大特点，从四个方面来衡量这一可信度，一是稳定性，即人工智能系统能抵抗恶意攻击或环境噪音，并能作出正确决定;二是可解释性，就是人工智能系统做决策时，需要用人方能够理解的方式解释是怎么做这些事情的;三是隐私保护，即人工智能系统不会将个人的隐私信息或群体的隐私信息对外泄露;四是公平性，即系统需要公平公正地对待所有用户，无论是对大众用户还是小众用户，男人还是女人。
而且对于复杂的自动驾驶事故事件，也可以不断按照这样的逻辑进行拆解：系统出现了问题，需要知道为什么，谁要负责，如何承担责任等等，这些都需要有衡量可靠人工智能的明确指标。
上海交通大学约翰霍普克罗夫特计算机科学中心副教授张拳石介绍，如果自动驾驶汽车发生碰撞事件，首先要了解系统的真正原因，大概有20%的原因是为了躲避另外两个人，还有10%的原因可能涉及到时间检测算法模块的错误，对内在的机理进行界定，然后再给法官判断。
蚁群副总裁、首席AI科学家漆远谈到人工智能的公正性在很多方面都有体现，比如一个非常重要的社会问题涉及普惠性，也就是技术包容、服务平等。他举了一个例子：验证码旨在提高安全性，但它本身会使视障者无法使用，于是，支付宝开发出了空中手势;用人工智能技术对旧物进行分类回收，能够识别出哪一类旧衣服哪一类被回收得多，给用户更多的能量，蚂蚁集团也承诺在2030年实现净排放。
强化AI可信技术攻关。
面对人工智能安全的挑战，各国正在积极采取行动。从我国顶层设计上看，新颁布的《数据安全法》，将于9月1日正式实施，为规范数据处理活动，保障数据安全提供法律依据。
另外，针对人工智能的重要领域，相关部门也提出了具体的管理规定和管理框架，并对数据进行有针对性的管理。
比如今年三月，中国人民银行发布了《人工智能算法金融应用评估规范》;2021年4月，工业和信息化部《智能网联汽车生产企业及产品准入管理指南(试行)》，对各个领域的人工智能安全保护提出相关要求。
当前，可信AI技术已经在反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护等多个风控场景下落地。
何小龙建议，推动研究可信人工智能前沿算法，围绕人工智能在不同的场景应用，制定相关行业规范和技术标准。
以数据安全为中心的数据安全领域，出现了众多的隐私计算服务企业，如微众银行、深圳星云Clustar、洞见科技等。通过赋予可信的AI，如隐私计算等技术，可以促进数据价值的可信流动。”高恩科技董事长兼CTO王爽说。
值得信任的AI不是永远的。南京苹果XSMax换电池价格陶大程就提到，一开始大家都认为手机是个方便的工具，后来却发现手机占用了我们太多的时间。同样，可信技术也会随着时空的变化而改变。
