周鸿祎-当下AI技术并不完善 存四大“冰点”
新浪科技讯 1月21日晚间消息,中国人工智能学会“人工智能与安全专委会”昨日在京成立,360集团董事长兼CEO周鸿祎当选首任专委会主任。他表示,智能音箱变身窃听器并不是科幻电影里的场景。
周鸿祎称,360与浙大合作发现了一种“海豚音攻击”,该攻击人耳无法听见,但通过超声波信号可以劫持智能设备的语音控制系统,再利用麦克风的硬件漏洞,就可以悄悄开启语音助手,把智能音箱变成窃听器,窃取用户隐私。此外,“海豚音攻击”还可用于攻击多种拥有语音助手的智能设备,包括智能手机、智能手表、智能汽车等。
周鸿祎还指出,人工智能是个热词,也是未来的大势所趋。但当下的人工智能技术并不完善,存在四大冰点:
第一、前端传感器可以被干扰。人工智能广泛依赖音视频采集、红外感应、激光雷达等各类传感器。但这些传感器自身并不安全,能够被干扰,造成人工智能识别和决策失误。“海豚音攻击”就是干扰语音传感器的方式之一。
第二、人工智能的数据样本可以被污染。目前人工智能采用深度学习模型,黑客可以构建畸形输入或者污染训练数据集,进行“数据投毒”,导致人工智能出错。比如,通过给智能汽车输入“污染”过的训练样本,就可以把“禁止通行”的交通标志牌识别为“可以通行”,从而造成交通事故。
第三、内部算法可以被欺骗。人工智能本质上是一种用大量数据训练出来的概率判断系统,其内部复杂的计算逻辑和决策过程还不透明,可以被欺骗或绕过。周鸿祎表示,人工智能也许可以有99.99%的概率保证识别是正确的,但是对于安全来讲,它只要出现一次识别错误,就会造成严重后果。
第四、实现平台有漏洞。周鸿祎介绍,当下的人工智能系统都依赖开源的深度学习框架,存在大量漏洞,当前360研究人员已经发现了40多个深度学习框架的软件漏洞。
“人工智能无疑是下一轮技术革命的焦点,在技术高速发展的同时,如何保持这个技术更安全是重中之重”,周鸿祎建议,解决人工智能时代的安全问题,能够防范的唯一方法就是利用基于大数据的人工智能,“希望通过开放数据、技术、能力和平台,与产学研各界通力合作,真正把360安全大脑的产业生态做起来,在未来的国家安全、城市安全中发挥重要作用”。(韩大鹏)
转自新浪科技
相关文章:
- [亚博体育]亚博罗本和里贝里在10年间塑造了德甲和拜仁
- [亚博体育]亚博体育斯特林可能在欧国联半决赛中担负英格兰队长
- [亚博体育]亚博体育疯狂德甲收官战!药厂进欧冠,狼堡8球年夜胜奥堡霍村崩盘
- [亚博体育]亚博体育但愿球队高层听取波帅定见,知足他提出的要求
- [亚博体育]亚博体育我收到良多约请,除德甲还其他两个联赛
- [亚博体育]亚博体育德赫亚是不是留队,或取决在曼联门将锻练的续约环境
- [亚博体育]亚博体育假如恩里克没法继续执教,阿拉维斯主帅将入主国度队
- [亚博体育]亚博门兴记分牌将有选择性播报拜仁法兰克福比分
- [亚博体育]亚博特尔施特根因伤退出练习,可能赛季报销
- [亚博体育]亚博体育对梅西很好奇,我会给他多多喂球的
相关推荐:
- [中超]本赛季足协杯决赛将在温州奥体中心举行
- [CBA]辽宁队官宣训练!赵继伟归队 杨鸣张镇麟缺席
- [意甲]贝尔戈米:国米的中场球员身体素质有所欠缺;很欣赏阿切尔比
- [西甲]姆巴佩伤缺,皇马1-1被十人马竞绝平!5连胜遭终结,落后巴萨3分
- [英超]10人曼联0-3惨败热刺!近5轮输3场,跌至英超第12,B费首次染红
- [欧冠]安布罗西尼:当初为欧冠在意甲保留了太多精力,我仍记得欧冠首秀
- [NBA]勇士官宣训练营20人名单:库里追梦领衔 10位后卫名列其中
- [中超]中超-法比奥3射1传林良铭曹永竞建功 北京国安8-1大胜长春亚泰
- [CBA]真挚的祝福!新疆男篮中锋吴冠希30岁生日快乐
- [意甲]意甲-国米3-2乌迪内斯 弗拉泰西45s闪击劳塔罗双响
网友评论: