当前位置:主页 > 科技 > 文章内容

舟山 必游景点:人工智能有了“杀毒软件”可在线测评算法模子安全性

日期:2020-04-10 浏览:

  人民网(行情603000,诊股)北京4月9日电(赵竹青)大局限的网络进攻曾经倒逼了杀毒软件的降生,应用日渐遍及的人工智能,又该如何抵制“病毒”的进攻?记者从清华人工智能研究院获悉,该院RealAI(瑞莱伶俐)创业团队8日推出针对算法模子自己安全的检测平台,意味着人工智能也有了“杀毒软件”。

  人工智能成长的天然“软肋”

  作为引领新一轮科技革命和产业厘革的颠覆性技能,人工智能今朝正在渗透到了社会糊口的方方面面。跟着数据泄漏、算法成见、算法裂痕等一系列问题的袒露,其安全需求和伦理影响也逐渐显现,给国度经济和社会安全带来诸多风险和挑战。

  RealAI团队CEO田天先容,现阶段,由于人工智能技能不成熟以及恶意应用所导致的安全风险,本质上属于人工智能的“技能短板”,好比模子缺陷、算法不能表明性、数据强依赖性等,是限制人工智能成长最明明的“软肋”。

  算法打破,是人工智能行业成长的基石和热点。中国信息通信研究院2018年宣布的《人工智能安全白皮书》指出,“算法安全”是人工智能六大安全风险之一。同时,白皮书认为“反抗样本进攻诱使算法识别呈现误判漏判”这一算法模子缺陷是算法安全的重要风险项。

  “病毒”入侵或让AI“精力错杂”

  “反抗样本原本是呆板进修模子的一个有趣现象。”田天表明,它是通过在源数据上增加一些细微改变,人类感官很难辨识,但足以让呆板进修模子接管并做堕落误的分类抉择,从而把一座山峰识别为一只狗,可能把C罗识别为梅西。

  也就是说,这些反抗样本的进攻,会像病毒一样入侵人工智能系统的“意识”中,让它呈现“精力错杂”而无法事情。

  跟着人工智能的普及,这些例子不绝地在现实中上演:在路面上粘贴反抗样本贴纸仿照归并条带,误导自动驾驶汽车拐进逆行车道;佩带反抗样本生成的眼镜,等闲破解手机面部解锁;胸前张贴反抗样本贴纸即可实现隐身……

  尤其是在人脸识别、自动驾驶等特定规模,这种“AI病毒”大概造成难以挽回的人员和财富损失。

  “杀毒软件”晋升AI系统靠得住性

  “今朝,人工智能安全照旧一个新兴规模,存在较高的技能壁垒。”田天汇报记者,跟着攻防彼此的成长,反抗样本等进攻手段变得愈发巨大,尤其在开源社区、东西包的加持下,高级巨大进攻要领快速增长,可是相关防止手段的进级却难以跟上。

  作为清华人学人工智能研究院的官方团队,RealAI曾率先提出多项攻防算法,被主流开源软件FoolBox等收录为尺度,与清华连系构成的战队曾斩获多项人工智能国际大赛冠军。

  团队开拓的RealSafe人工智能安全平台,可以或许提供从测评到防止的完整办理方案,快速缓解反抗样本进攻威胁。相较于今朝常见的开源东西需要自行陈设、编写代码,该平台支持零编码在线测评,用户只需提供相应的数据即可在线完成评估,极大低落了算法评测的技能难度。同时,平台回收可量化的形式对安全性举办评估,评分越高则模子安全性越高。针对检测出来的裂痕,平台还可提供符合的防止方案,晋升模子安全性。

  “推出安全检测平台是规避风险的路径之一,将来还需要连系各界气力配合敦促人工智能安全相关的国度尺度、行业尺度、同盟尺度的拟定,为人工智能产物安全评估评测提供统一参考。”田天说。