<acronym id="kiwyy"></acronym>
<acronym id="kiwyy"></acronym>
<tr id="kiwyy"><optgroup id="kiwyy"></optgroup></tr>
<rt id="kiwyy"><optgroup id="kiwyy"></optgroup></rt>
<acronym id="kiwyy"></acronym>
<rt id="kiwyy"><optgroup id="kiwyy"></optgroup></rt><rt id="kiwyy"></rt>
<rt id="kiwyy"><optgroup id="kiwyy"></optgroup></rt>
<rt id="kiwyy"></rt>

全纪录!与IBM大牛对话:AI的风险在哪里?

读芯术 2019/03/25 20:22

AI前沿 人工智能视点


全文共 4201 字,预计学习时长 8 分钟

相较于其他创新领域,人工智能经历了一系列的循环:过度膨胀、失望悲观、资金削减……但 IBM新兴技术合作伙伴关系副总裁Sophie Vandebroek 认为,如今已经有大量的数据和足够的计算能力可用于训练神经网络,人工智能已经熬过了寒冬。 Darktrace的CEO Nicole Eagan 则认为,检测异常的机器活动必须要同步跟上。

今天推荐的这篇文章中,Vandebroek通过对一系列问题的回答,分享了从图像识别到聊天机器人这一转变所带来的实?#35270;?#29992;案例。她认为,专注于核心技术的进步,有望使AI更加实用可靠,包括在医疗保健、金融和安保领域。Nicole Eagan则展示了AI和机器学习的进步如何为我们提供一套防御黑客和网络罪犯的新方法。

以下为答问干货。

Q: 很多人都认为,AI正处于转型的边缘,那么AI会不会在某?#26234;?#20917;下消失呢?

Sophie: 人工智能这个词大约是在70年前创造出来的。这几十年里到底发生了?#35009;矗?#20026;?#35009;?#36807;去它不真实,而现在却真实?主要有两个规律的原因。

第一个规律是摩尔定律。基础晶体管是在50年代发明的。1975年,在一厘米见方的芯片上能有1000个晶体管。而今天,IBM在开发的厘米大小芯片上有100亿个晶体管,这种计算能力产生了我们口袋里的移动设备。所以,我们拥有了海量的计算能力,这对AI真实的实?#31181;?#20851;重要。

第二个规律是梅特卡夫(Metcalfe)定律。Bob Metcalfe发明了以太网和以太网连接,网络的值与n的比例为2:n,即网络上的设备数量。因此,它被称为梅特卡夫定律,其不仅涉及以太网,而且涉及万维网、社交网络,创造了许多有价值的公司。

网络上的数据以及许多企?#30340;?#21069;拥有结构化数字数据,一些企业已经开始将工作流程数字化,包括所有来自物联网传感器、无处不在的摄像头的数据。这些数据是海量的。实际上,数据在过去很长时间内都是呈指数?#23545;?#38271;的,所以“AI的冬天”来临了,因为的?#35775;?#26377;足够的计算能力,?#35009;?#26377;数据来训练这些神经网络。

而今天,我们拥有了计算能力和数据。在过去的五年中,神经网络已经取得了巨大的进步。事实上,在一些如图像识别等有限领域中,人工智能已经具有了超常的性能和超高的速度。因此,由于这些原因以及这两个规律,AI是真实的。

实际上,我认为人工智能正处于指数曲线的开端,我们正在以指数?#23545;?#38271;的速度进行创新。无论你在哪个行业,个人都可以做出快速、实时的决策。同样,它可以加速生命科学的?#33455;亢头?#23637;,所以AI具有影响多个领域的能力。

Q: 所以,AI可以让企业实现十年前很难甚至不可能做到的?#34385;椋?#26159;吗?

Sophie: 从盈利的角度来看,AI提高了企业的效率,同时也使企?#30340;?#22815;创造全新商?#30340;?#24335;和新的收入机遇。

关于商?#30340;?#24335;,举个例子,作为客户服务器的一部分,我们熟知并与之交互的虚拟代理或聊天机器人在十年前就不存在了,一切都是由呼叫中心代理利用大数据库完成的,比如提供问题答案等?#21462;?#22914;今,有些虚拟代理还可以快速评估你的性格是外向还是内向,并根据你的风格调整语言。

还有自动化。如果你驾车通过收费站,车牌完全可以被自动识别。读取车牌后,在后端程序中实际上你就已经交过费了,但在过去,这些过程大多数都是人工完成的,需要大量的人力:对车牌拍照,将照片发?#25509;?#24230;?#21364;?#22788;理,?#32531;?#25226;你的车牌输入系统,之后你才支付费用。所有这些常规、狭窄、具体的交易流程,如今都实现了自动化。

Q: 我们是否需要考虑基于技术的机器学习风险呢?

Sophie: 是的,绝对存在风险。许多企业比如IBM的任务之一就?#21069;?#21161;企业应对风险。这?#37096;?#22987;成为公司董事会和董事们的头等大事,以解决部署企业中与人工智能相关的风险。

我简单介绍几点。第一,强调算法,AI算法和结果是公平的——AI协助人类做出决策,决策是公平的、道德的,没有偏见。所以我们带头并开放?#21019;?#30721;,每个人都可以帮助我们改进它,因此IBM?#33455;?#24320;发了AI Fairness 360 Toolkit,你可以从中提取算法,?#32531;?#26816;查所有类型的偏见,比如性别偏见、年龄偏见、种族偏见、编码偏见?#21462;?

偏见的部分原因是被训练后数据集中的?#38382;?#29305;别是在企业中——比如公司、医院、学校或企业拥有的数据量有限,无法训练算法,因此数据集中的数据可能没有足够的多样性和包含量,因此,算法很可能变得有失偏颇。

举个例子,人力资源部门开始使用人工智能来帮助新员工。因此,如果软件开发人员利用你的数据进行AI算法的培训,那么该算法将了解到大多数软件开发人员都是男性,因为这是你雇用的记录。因此,风险在于,查看了所有简历后,算法会推荐下次雇佣的人,他们可能会按比例推荐出更多男性而非女性从事软件工程工作,但我们都知道性别与软件工程师无关。而事?#30331;?#24688;相反,历史数据存在偏差。因此,工具包将建议你使用更多样化的数据集。

还有一些其他的风险。今天的算法,特别是深度学习和神经网络,就像黑盒子一样。算法会给你一个答案。答案是肯定的话,你就得到了贷款,答案是否定的话,你就没有贷款。或者询?#36866;?#21542;?#21152;?#30382;肤癌,它给的答案是肯定的话,你可能真的得了皮肤癌。AI比人类更能识别,但它无法解释为?#35009;?#25110;是如何得到答案的,所以,可解释性非常重要。

这确实是一种风险,在你的业务中,你将无法解释某些答案是如?#38382;?#29616;的。事实上,在?#35775;耍珿DPR(通用数据保护条例)是一项要求,如果公司无法解释,公司甚至无法使用AI。

Q: 我们该如何?#21019;?#21306;块链呢?

Sophie: 当我们在IBM谈论区块链时,实际上在实验室?#33455;?#24050;经对区块链进行了很多?#33455;俊?#22823;约在两年半以前,IBM创建了一个区块链业务部门。区块链如今已在三个领域中使用,或?#24230;?#21040;样机实验。

第一类就是像比特币这样的加密货币。这就是大多数人了解的区块链,他们会想到比特币,但它是指加密货币的整个领域。在IBM,我们不会重视加密货币,因为我们的客户对加密货币不感兴趣,我们对底层区块链的平台感兴趣。事实上,许多底层平台都是在Linux Foundation运行的Hyperledger上开源的。

第二类是区块?#30784;?#36825;种投放至价值链中的底层平台,是为了从源头到使用端全线跟踪有价值的商品或有价值的数字商品。

有价值的第三类,是围绕数字身份,特别是在金融服务业。企业感兴趣的是能够在合作伙伴间建立可信赖的交易关系,这些合作伙伴本身可能彼此不了解,如小型企业,大型企业,分销商或农民。

所以,要以分布式的方式建立信任。因此,我们与客户一起创建的区块链网络是?#25509;型?#32476;,并非他们每个人都愿意加入,这是私人的,是仅限许可的网络。

第一例是几年前我们开始与沃尔玛共同建立的?#31216;?#23433;全区块链网络,现在正在运作。沃尔玛是?#20204;?#22359;链网络的支柱成?#20445;?#35768;多沃尔玛供应商都在网络上,它们正在追踪从农场到餐桌的食物。目的在于,以防爆发像大肠?#21496;?#25110;任何其他的?#31216;?#23433;全问题。

比如,我们知道爆发地是加利福尼亚的某个地方,但在马萨诸塞州种植的所有东西,包括生菜,都会立刻?#24405;堋?#36825;就是今天会发生的?#34385;欏?#36861;踪爆发地点需要很长时间,但如果你在两分钟或更快的时间内通过区块链跟踪所有货物,你就可以快速跟踪到这些生菜的来?#30784;H缓?#20320;仍然需要看看,究竟是农场到商店的链条中的哪个点,使大肠?#21496;?#27745;染了食物。这比第一时间弄清楚它来自哪里容易多了。

Q: 为?#35009;?#20320;把网络安全比作人体免疫系统?

Nicole: 如今安全行业正在试图全力阻?#22815;?#20154;。很多时候,攻击者会进入他们想要进入的任何网络。因此我们决定以相反的方式解决问题,假设坏人就在里面或者能够进入内部,这让我们意识到人工智能技术其实是以人体免疫系统的原理为基础的。

你想一想人体的免疫系统,它会有一种与生俱来的自我感,让它知道?#35009;?#19981;是自我内部的,会具有非常精确和快速的反应。这正是我们人工智能的工作方式。它?#24230;?#22312;我们每个客户的公司内部,它只是学习一种自我?#33455;酰?#23398;习?#35009;?#26159;正常的。连接到该网络的每个用户和设备,我们称之为“生活模式”。这使我们能够找到与众不同的东西,从?#32622;?#19978;阻?#26500;?#20987;或在它们的路径中消除它们。

Q: 宏观上来说,你怎么?#21019;?#22914;今网络攻击的变化?

Nicole: 一位商业公司的首席安全官曾说:“想一想,世界上其他地?#25509;?#19968;个团队,那个团队的全职工作就是考虑如何窃取你的知识产权或以某种方式从你那里获取信息。”而这正是公司所反抗的,这是一场网络军备竞赛。我们过去习惯了政府与政府间斗争,但现在有了一个全新的层面,就是公司?#37096;?#33021;会被攻击。这意味着数字战场已经发生了变化。 大多数公司不得不去防范过去没有必要防范的?#34385;欏?

Q: Darktrace用人工智能是为了检测攻击还是防御攻击,或者两者兼有?

Nicole: 在某些情况下,一些公司只是简单地使用人工智能将人类过程自动化。例如,?#32771;?#20844;司通常?#21152;?#19968;个安全运营中心,配备威胁分析师和?#24405;?#24212;对人?#20445;?#36825;的确可以为企业提升一点效率。但实际上它存在根本性的缺陷,那就是因为攻击的变化太快了。因此,我们使用了大量不同类型的无人监督和深度学习,不仅能?#29615;?#29616;攻击,还可以知道如何调查攻击,而且最重要的是如何采取行动。这非常罕见,实际上没有其他公司使用了AI来采取行动。

我们真的使用了AI来检测、调查和采取行动。

实际上,其对攻击的反应平均不到两秒钟。当这些攻击以机器的速度移动时,这绝对是危急的。但是从实际的角度来看,安全组织中的人确实需要时间,也许这是他们第一?#38382;?#29992;人工智能的辅助,需要一些时间真正建立这?#20013;?#20219;。

因此,我们已经创造了一种能够提出建议的全新功能。假设人工智能建议了采取的行动,再让人确认。只要人确认了,AI?#30475;?#32473;出的建议都是正确的。那么他们就建立了信任,并投身其中,我们称之为主动模式。因此我认为,在过去五年中已经近2,500家公司做到了这一点,我们已经非常了解建立信任关系需要?#35009;矗?#24182;且我们的算法已经变?#26757;?#24120;强大,能非常聪明、即时的应对攻击。

Q: 那有没有可能AI反过头来,去反击AI组织的网络防御呢?

Nicole: 完全有可能。人工智能可能会从你的风格和使用的通信模式,比如说一封电子?#22987;?#20013;学会行为攻击。在这个阶段中是一种类似的机器学习。但我们完全相信会有一种全新的攻击类别叫攻击性AI,这意味着攻击者将开始使用各?#20013;问?#30340;机器学习、人工智能以及深度学习,这些都会成为攻击的一部分。这将在一夜之间改变整个行业。总的来说,我认为许多企业还尚未考虑过这一点。

Q: 除了网络安全,AI是否可以帮助处理其他类型的?#34385;椋?#27604;如监管合规,风险管理等?#21462;?

Nicole: ?#27604;弧?#38500;了监管和风险管理方面,人工智能模型和独特的数据集还可以有更多的作用。我认为一个非常有趣的用例,就是兼并和?#23637;骸?#26377;一些公司在尽职调查阶段通过我们进行并?#28023;允?#38469;了解目标资产的环?#22330;?#32780;今天,他们正通过这些来观察网络中是否?#33455;?#20105;者或其他国家视图窃取知识产权。

除此之外,还可以将其用于更广泛的并购调查。虽然今天我们只是?#22836;?#20102;数据集的功能和用于网络安全的AI模型,但将来还可以帮助客户,提供额外的价值。

编译组:姚宇歌、狄思云

相关链接:

https://www.technologyreview.com/s/613018/ai-is-real-now-a-conversation-with-sophie-vandebroek/

如需转载,请后台留言,遵守转载规范


本文来自新知号自媒体,不代表商业新知观点和立场。

若有侵权嫌疑,请联系商业新知平台管理员。
联系方式:[email protected]

读芯术
收藏 | 微信分享 微博分享 QQ分享 | 返回顶部
北京十一选五预测