环球
首页  >  环球  >  深度聚焦

推动实现安全且有保障的人工智能

2019-02-11  来源:国际电联  作者:

随着人工智能(AI)逐渐融入为企业、社会和生活提供服务的信息通信技术(ICT),监管机构正担负着尽量减少威胁、增加福祉的艰巨任务。

为大范围执行各类任务,人工智能设备具有筛选并解释各种来源的大量数据的能力。

人工智能的兴起产生了若干矛盾——风险与机遇、人类与机器、限制与支持。监管机构必须解决这些问题并消除不确定性,为人工智能的发展建立安全有保障的基础设施。

“人工智能的实用性令人难以置信。它几乎无处不在。无论您是专业医务人员还是从事制造业甚至是务农,均必须面对人工智能应用。”1AU-Ventures首席执行官Anastassia Lauterbach称。

风险与机遇

此前举行的国际电联全球监管机构专题研讨会(GSR-18)在探讨人工智能时认为,此项技术造成的潜在网络安全威胁是实施监管的主要原因。

“人工智能可成为真正的游戏规则改变者,但亦会造成巨大震动并产生潜在的问题。”国际电联基础设施有利环境和电子应用部主任Kemal Huseinovic说。鉴于人工智能可能给全球变革造成的潜在影响并不完全明确,Huseinovic提倡实施谨慎监管并开展监管尽职调查。

“人工智能无法区分信息的真伪。”AVA执行主席兼共同发起人Aleksander Stojanovic称。他介绍了黑客在系统上发布虚假交通拥塞信息的案例,该案例中造成延迟的系统使用的就是众包信息。其他与会代表提出,缓解人工智能风险的解决方案可能就蕴藏在问题内部。

IBM发明大师兼IBM沃森集团全球业务拓展负责人Neil Sahota指出,人工智能自身便可作为网络攻击的防卫者。“随着人工智能技术的日渐强大,其预测人类未知攻击的能力将不断提升。”

重要的是开发可利用人工智能主动预防网络攻击的产品和服务,全球网络联盟(Global Cyber Alliance)首席执行官Philip R. Reitinger提出:“我们必须提供内设网络安全机制的服务。人工智能的巨大潜力在于以更加安全的方式提供底层服务。”

人类与机器

众多与会代表亦提出人工智能的进步是否会给人类造成负面影响。人们对此达成了何种共识?欧洲网络安全组织(ECSO)秘书长Luigi Rebuff认为:“人的因素将永远比技术重要”。

“我并不真正担心机器会取代人类。”计算机应急响应团队(CERT)副总裁和事件响应及安全小组论坛(FIRST)董事会主席Serge Droz说,“我担忧的是人类被不完美的机器淹没。”

工程师在设计包容、安全、有效的算法方面将继续发挥关键作用。“有些人认为人工智能可以完全取代人类。”高科技桥公司首席执行官Ilia Kolochenko说,“其实并非如此,人工智能技术不会超越设计者的水平。”

这便会产生对技术专家的需求,NEC公司监管研究办公室和网络安全战略部经理Miho Naganuma称:“人类需要做出最终决策。”

人工智能并非要取代人类,而是通过承担繁重或寻常的工作使我们能够突破“人类的极限”,同时帮助人类“超越自己的想象力”,Dark Trace公司的客户经理Benedict Matthey称。

监管必须支持“以人为本的人工智能”,微软公司行业保障和政策宣传主管Aaron Kleiner 认为:“不是要人工智能取代人类,而是使人类能做更多的事情。”

限制与支持

许多与人工智能相关的讨论亦涉及在推动创新与确保安全信任之间达成监管平衡的必要性。

“确保信息的可信度将成为提供值得信赖的人工智能和服务的主要支柱。”Droz指出。

“任何有意参与竞争的人工智能将必须确保使用恰当的数据并以有益的方式对数据加以筛选。”Stojanovic补充道。

挪威注册发展(NRD)公司治理与国际发展部主任Giedre Balcytyte强调为确保安全制定框架的重要性。

“技术终将能够解决这些问题,但却无法凭借自身的力量解决。”她说,“如果我们没有建立相关组织,未曾拥有相应的能力,则根本无从谈及应对新的技术挑战。”

人工智能开发者和监管机构还必须考虑到道德问题,包括算法的包容性将达到何种程度,Lauterbach称:“设备自动提供的服务与人类服务之间如何建立统一的目标既属于设计问题、编码问题,同时也是如何将相关原则转化为当今和未来商业模式的问题。”

继续采用最有效、安全的人工智能监管,Lauterbach进一步谈到,要求政策制定者、私营部门和监管机构提高对GSR18两大焦点领域——技术及协调方法——的认识。

阿富汗电信管理局(ATRA)主席Mohammad N. Azizi亦强调协调的重要性。他认为,鉴于人工智能和物联网网络安全在若干领域的重要性逐渐增加,特别是在数字卫生、数字基础设施、安全和交通系统领域,“重要的是执法机构和监管机构不应各自为战,而是要团结起来并肩奋斗。”

关键词:

相关新闻