面部识别技术走到十字路口?

2019-02-11

向左走,还是向右走?

近日,面部识别技术又遭遇“突发事件”。本周二,由90个倡议团体组成的小组给三巨头AAM(亚马逊、谷歌、微软)写信,要求三家公司承诺不向政府出售面部识别技术。其中,这些团体中包括了美国公民自由联盟ACLU、难民移民教育和法律服务中心RAICES、电子前沿基金会EFF等重要组织。

这封信一经公布,给予三家巨头公司非常大的社会舆论压力。三家公司都是面部识别技术系统领域的佼佼者,在该领域倾注了大量精力与努力。参见雷锋网此前报道

人脸识别哪家强?亚马逊、微软、谷歌等大公司技术对比分析

。美国加利福尼亚州公民自由联盟ACLU主任Nicole Ozer说,“我们正在用人脸识别技术监控交通路口,这些公司现在所作出的选择,将会决定我们的下一代时时生活在政府的监控之中。比如,是否参加了游行抗议活动,监控礼拜场所,甚至日常生活。”

1月18日早间,据彭博社消息,亚马逊公司激进派股东,就亚马逊向政府机构兜售面部识别软件这一问题提交决议,建议停止销售行为,直到该项技术被认定不会对公民权益产生威胁。该项决议将在2019年晚些时候,在亚马逊年度大会上进行表决。非盈利机构Open MIC董事Michael Connor表示,亚马逊向政府出售Rekognition,将自身和股东置于风险境地而不顾。ACLU则认为,面部识别技术很容易将深色皮肤的人种进行误判。

十字路口

事实上,这绝对不是ACLU等团体的“小题大做”,2018年12月,美国特工处公布了一项关于在白宫周围部署面部识别监控测试系统的计划,其目的在于确定可能对总统构成威胁的“目标嫌疑人”。据雷锋网了解,该文件于2018年11月底公布,文件显示,面部识别系统将会对在白宫公共区域录制的闭路视频片段与图像数据库进行对比,以监控、跟踪员工为特色。

该测试已于2018年11月19日启动,于2019年8月30日结束。系统运行时,面部匹配的镜头图像将会被保存,然后由人工审核人员确认并进行删除工作。该文件承认对于不知情的访客,运行此面部识别技术时可能具有侵略性。同时,它指出整个白宫已经成为一个“高度监控化的区域”,平民可以选择回避该敏感区域。当时,ACLU公开表示,虽然白宫区域的监控,看似应用范围狭窄,但它打开了一个潘多拉盒子。即在公共场所对普通平民大众进行毫无理由的审查,跨越了隐私保护的边界线。

目前,美国国土安全部门(美国特工处在其中参与)已经将面部识别技术用于扫描国内、国际航班上的乘客。该计划可能将在未来几年覆盖到美国境内更多的机场。与此同时,美国一部分公安机构利用亚马逊的面部识别工具Rekognition,实时地扫描视频镜头中的图像。例如,华盛顿警务室,奥兰多市作为试点,近期进行了Rekognition第二次测试。

今年1月3日,Nextgov披露美国联邦调查局正在试用亚马逊面部匹配软件Rekognition,用于反恐调查。有消息称,2018年夏天,亚马逊就向移民和海关执法人员提供了Rekognition软件。亚马逊现为美国政府最重要的云技术AWS提供商,中央情报局、国防部都是其客户。但其面部识别软件在政府以及社会公共部门使用的详细情况并不被外界所知。

面部识别技术受到了来自民间团体、社会舆论,以及监管、立法机构的激烈反应,美国立法委员多次致信亚马逊,要求提供关于亚马逊Rekognition的更多信息。信中提到,“非常担忧,该产品存在严重的准确性问题,给有色人种带来打破平衡的精神负担,并扼杀美国人在公众场合行使第一修正法案中的权利。”一方面,面部识别技术巨头加紧布局、侵入社会各个领域的应用、机构中。另一方面,巨头内部、巨头之间对面部识别技术的态度,也颇为犹豫、暧昧,矛盾重重。

近期,谷歌、微软承认涉及面部识别服务存在的风险,以及被别有用心者滥用和监视的可能性。特别是,去年12月,谷歌宣布在该技术漏洞不能被有效制止之前,将不会对外出售Vision API。微软总裁布拉德·史密斯Brad Smith提出了一些保护性措施,以防止其被滥用。包括国会通过法律限制技术被滥用,具体而言,例如,减少偏见,必须通过法院的允许才可以进行个人跟踪。

去年年底,微软总裁布拉德·史密斯Brad Smith在布鲁金斯学会的演讲中表示了担忧:

我们认为,2019年政府必须开始通过法律来规范这项技术。面部识别技术已经从充满邪恶的盒子中出现。除非我们采取行动,否则五年之后,当我们觉醒过来。将会发现面部识别服务加剧了社会负面问题的传播,到那时,这些挑战将会变得更加困难。

我们并不认为企业可以通过商业竞争,更好地服务于世界。科技公司被迫在社会责任与市场成功之间作出选择。防止恶性竞争的唯一方法是建立一个有效健康的市场责任制平台。坚实地要求企业确保该项技术开发和使用受到法律的制约。

相比之下,微软CEO萨提·亚纳德拉Satya Nadella表达地更为直接,“一些技术一旦遭到滥用,将对社会造成很大的危害,政府应该对其进行监管”,“面部识别技术太可怕了,绝对是一场彻头彻尾的不良竞争”,“以竞争的名义,做任何没有界限的交易,对行业或者整个社会都不会带来好的结果。”这番话语既指向了自身,也对准了其竞争对手亚马逊,表达了对Rekognition的强烈不满。

微信图片_20190211113054.webp 

事出有因

人脸识别为何引起如此大的争议?首先,涉及准确率的问题,面部识别系统可能出现重大的错误。去年的一次测试中,系统错误地将28名国会议员与数据库中的抢劫犯匹配成功。尽管后期被人工纠正,但当工具范围扩大,在一定程度上,导致一些人在短期内被当作通缉犯。

特别是,辨别有色人种时,容易产生较大的误差。背后的原因在于,不同人种采用的数据模型、算法是不同的,需要分开部署。《纽约时报》曾经报道,麻省理工学院媒体实验室对微软、IBM、旷视科技人脸识别系统的试验研究。结果显示在有色人种中,三者辨别非白种人的错误率高达20%-30%。从而进一步加剧社会种族歧视和偏见等问题。

其次,从隐私的角度看,面部识别技术涉嫌侵犯个人隐私权。这种技术的危害在于,很容易在未经许可的情况下,被广泛的滥用而不被普通人所察觉,个人隐私无所遁形。更为重要的是,一旦面部识别技术被用于军事,将会带给社会带来毁灭性的打击。

2018年4月,谷歌与军方合作的Maven杀人机器人项目持续发酵,3千多名谷歌员工抗议,数十名员工请辞。国际机器人武器控制委员会ICRAC向谷歌CEO桑达尔·皮查伊Sundar Pichai、总裁拉里·佩奇Lawrence Edward Page、黛安·格林Diane Greene、李飞飞呼吁停止该项目,要求谷歌承诺不把该项技术用于军事武器。

2017年,网络流传一段关于微型杀人机器人的视频,机器人体型只有手掌1/2大小,可以轻易逃避人类的捕捉。通过自身视觉系统定位目标,发射弹药或者有毒化学物质,杀害无辜的平民。基于人工智能的面部识别技术,同时集合快速定位、无人智能集群技术、灵敏传感器、信息网络等多种高端科技技术。当时这段“模拟”的视频已经成为现实,早在2016年美国就将机器人用于警方制服犯罪分子,而俄罗斯也被传出一直秘密地研发杀人机器人,用于监控和侦测,并集成爆炸系统用以军事防御。

除了以上技术、伦理、政治正确等原因,面部识别技术在GDPR准则下,如何保证有效的数据库,更好地演进技术,也将成为面部识别公司们面临的巨大挑战。有趣的是,相同的事物在不同的地区,受到了截然不同的对待。近年,中国一直努力地推行复杂的面部识别技术,相关技术在安防、金融、日常C端产品中大量落地。相关数据显示,国内目前监控摄像头安装数量已突破两亿,是美国的四倍之多。

西安软件开发、西安APP开发、西安软件外包、西安软件开发、西安网站建设、电商软件开发、社交软件开发、直播软件开发、西安网站制作、西安区块链开发

雷锋网认为,正是由于国内对“新鲜事物”的包容心态,以及普通民众对安全性的高需求,使得面部识别技术得以顺利迅速地落地、推广。就像国内在移动支付领域的“后发优势”,既有其特殊的历史背景,又有民众乐于尝试先进科技的好奇心所驱动。

撇开泡沫与炒作,区块链已初显峥嵘

2019-02-11

2018年11月下旬,刚刚迎来10周岁生日的比特币突然开启暴跌模式,盘中一度跌破3500美元,与2017年年底逼近2万美元的高位相比,跌幅超过80%。

比特币的暴跌缘于投机者过度炒作后的泡沫破灭,其疯狂行情一度对区块链技术起到巨大的推动作用,但两者不能混为一谈。作为比特币的底层技术,区块链具备相当大和广泛的应用空间。特别在市场出清后,更需要投资者冷静思考区块链的应用方向。

微信图片_20190211112144.webp

-------------------------------

区块链革命已近在眼前。

在很长的一段时间里,区块链这项技术一直与比特币联系在一起。但现在,区块链技术正在与贸易融资、电子游戏、旅游保险、钻石开采以及其他多种多样的行业产生交集,提升这些行业的效率与安全性。

但与此同时,即便真会有这么一场革命,区块链革命也仍然离我们很远。

区块链的迷人前景

以区块链为卖点的合作项目与计划似乎每天都在大吹大擂,但真正能解决现实问题的项目少之又少。高德纳咨询公司(Gartner)今年调查了3160位企业的首席信息官,结果发现只有1%的企业开始在实际工作中使用区块链技术。

以澳大利亚矿业巨头必和必拓(BHP Billiton,BHP)为例。2016年该公司宣布要使用区块链技术进行供应链跟踪,譬如追踪矿石与油气的样本。但一位必和必拓高管2018年8月表示,经过试验项目的测试,“这项技术的成熟度还未到达可供我们使用的程度”。

如高德纳公司所言,区块链技术已达到“过高期望值的顶点”。此时此刻,企业管理层与投资者都需要学会正确地评估这项技术哪些是言过其实的炒作,而哪些是真正的潜力所在。

企业若是还没有考虑如何用区块链重构业务(尤其是金融与物流业务),就有可能在软件层面——甚至在商业模式层面——被时代抛弃。

“我们真的认为区块链与改变人类沟通的互联网一样,是革命性的事物。”IBM区块链部门总经理Marie Wieck表示。目前IBM的区块链部门已有超过1500名员工。

那么,区块链究竟是什么,为何能让该技术的倡导者无比兴奋?区块链是一个数据库,由专门的软件运行并处理信息,使用加密技术保护数据安全,而数据本身存储在区块链用户的计算机上。区块链类似于一个分类账簿,让用户间的交易互动不再需要中心权威的参与。最终,交易的速度将提升,其成本将下降。

超级账本(Hyperledger)执行总监Brian Behlendorf认为,去中介是区块链发挥潜能的关键所在。超级账本是非盈利机构Linux基金会的分支项目,而Linux基金会现已是区块链开发这个舞台上的中心角色。

Behlendorf说:“作为一种技术方案,区块链所针对的不是技术问题,而是政治问题——商业世界的政治问题。你不愿让PayPal、eBay、Uber、Facebook等公司占有各类市场中心权威的角色,因为这类公司将由此拥有无限大的权力,甚至比当年位居电话市场中心的AT&T权势更盛。”

不过,没有中心权威也会造成问题。企业往往倾向于使用“需授权的区块链”——用户需要验明身份才能加入这类区块链网络;同时根据不同用户的需求,这类区块链会给用户设定不同的数据访问权限。要让不同标准的区块链网络竞争者们实现彼此间兼容,将颇有难度。

各类行业标准组织在很大程度上是当代信息技术的基础,因为共同的标准能够让各公司一起分摊软件开发成本,并确保各家公司所搭建的软件系统能够互相兼容。区块链未来也能发挥类似的作用:将目前依然大量依赖纸质文件、使用过时技术的商业流程标准化,同时为一些受信用问题困扰的行业提供支持,弥合信用鸿沟。

前摩根大通高管、现担任数字资产控股公司(Digital Asset Holdings)CEO的 Blythe Masters认为,当代商业的交易与记账效率低下,这对区块链来说是一个巨大的机会。

“十五年前如果有人和你说,无人车上街这件事会早于T+2结算(交易发生后两天完成结算)实现,如果有人和你说当你从一间医生办公室走到另一间时,医疗记录会先于你到达,那你一定觉得这个人疯了,是吧?”Masters说。

“正是这样的延迟和巨大的低效,困扰着金融服务和医疗等其他行业的大公司。你能看到大科技行业以极快的速度进行技术革命,但其他行业的企业没有多少动静。这就是区块链的前景所在——有如此广阔的应用空间,实在是令人着迷。”

高德纳公司估计,2018年区块链技术所产生的商业价值将达到50亿美元。这个数字会在近些年平稳地增长,到十来年后再迎来爆发,到2030年增长到3.1万亿美元——高于当下英国的年度经济产出值。

微信图片_20190211112155.webp

我们向区块链行业的高管们展示了这个数字,其中有些看到后报以尴尬一笑。有一位沉默片刻,然后开玩笑说她会把这个数字放进投资者宣讲会里。

其他人则更愿意相信这个数字。

“3万亿美元对我来说算不上疯狂。” Masters说。她的公司拿下了一份合同,要使用区块链技术为澳大利亚证券交易所重构清算与结算流程。“当你想到潜在的、有处可寻的市场,就会觉得这个数字一点都不疯狂。”

大公司在区块链下重注

对投资者来说,对区块链进行直接投资的渠道并不多。市场上已经出现了一些交易所交易基金(ETFs),其中有Amplify Transformational Data Sharing(BLOK)、Reality Shares Nasdaq NexGen Economy(BLCN),以及Innovation Shares NextGen Protocol(KOIN),但这些基金对于区块链技术的实际收入敞口其实很小,毕竟这项技术目前还没有创造多少收入。

大公司在区块链发展上下了重注,尤其是IBM与微软。但这两家公司都没有在公开的财务报告中披露区块链业务的营收情况,也没有与《巴伦》共享相关数据。位于马萨诸塞州的温特格林研究公司致力于追踪科技发展趋势,据该公司估计,IBM与微软两家公司控制了区块链行业51%的市场,去年总计创造了7.06亿美元的营收。

“我相信我们公司现在一马当先。”IBM的Wieck表示。与IBM有业务往来的客户已有500多家。

不过,区块链先行者并非都是科技巨头。

法国保险公司AXA正在应用区块链技术,为航空保险行业带来变革。购买该公司的新产品Fizzy后,无论出于任何理由,只要航班延误超过2小时,旅客就能立即得到赔付。

Fizzy的创始人Laurent Benichou告诉《巴伦》:“区块链很有用,因为现在我就可以告诉客户:从前你不得不相信保险公司在数据使用上的单方面说辞,但现在你的保单都写在了区块链上。只要符合条件,AXA就将在区块链上公开兑付你的赔偿。因为智能合约会根据条件自动执行赔偿,所以客户就知道公司在数据使用上是诚实的。万一有偏执的客户坚持认为我们在欺诈,我们就可以说,其实现在AXA本身已不是交易方,赔偿与否也不再由AXA决定,而是智能合约。”

到目前,Fizzy项目上已有大约1.1万笔交易。2017年AXA的营收规模为986亿欧元(约1125亿美元),而Fizzy项目对AXA的近期财务表现不会有多少影响。不过Benichou预计,未来几年航空公司将开始为更多旅客提供这种服务,“只要他们开始,市场就会变得很大”。

另外,他还认为很多其他领域都可以用上Fizzy这种模式,借此防范各类风险。“可以有天气预报版的Fizzy,环境污染也可以用上Fizzy。只要我们有该领域的公开数据组,那我们就有能力在该领域再造一个Fizzy。”

在其他为信用问题所拖累的市场,区块链技术也被证明能为交易带来积极效果。

印度的各类小公司一直在寻找让未付票据更快得到兑付的办法。但在之前,金融机构一直不太敢为这类交易提供融资。部分原因是害怕重复兑付,即企业用同一笔交易在多家银行套取融资。

不过纽约的MonetaGo公司设计了一套区块链软件,能够将票据记录在区块链上,并且持续追踪各类已经获得融资的交易。区块链能够记录下交易,却不会泄露交易的细节,这样就不会妨碍这些公司的市场竞争。MonetaGo的CEO Jesse Chenard表示,该项目从2018年3月起就开始运行了,用户数量在持续增长。他预计在印度的业务每年能给公司带来2000万美元的营收。

印度的许多行业大公司也接受了这套系统。Chenard说:“我们为金融机构提供了一种能力,让其能够安全地共享那些之前从不会共享的数据。若是在以前,共享数据就意味着票据的细节会被公开。各方彼此间互不信任,认为对方会偷看竞争对手的相关信息”。他补充道,而雇佣第三方机构来管理所有的票据,“在成本上是不可行的”。

“当我们进入印度市场时,我们所使用的开场白是‘我们是一家区块链公司,我们能用区块链做任何事’。但这种的开场白的坏处是,客户会让我们与企业内部的技术创新团队沟通。这是与IT部门一样的成本中心啊。”

“现在我们的开场白完全不一样了。我们要求与贸易融资业务的负责人沟通,然后说:‘你想减少账款融资业务中的欺诈行为吗?’收到的答案几乎都是肯定的。”

区块链威胁利润率

成本因素制约了区块链的普及。未来如果大家都开始使用区块链,那行业中现有的玩家可能将不得不接受更低的利润率。从这个角度看,区块链是机会,也同样是威胁。

超级账本的Behlendorf认为:“这项技术会威胁到各行各业的利润率。”

据国际数据公司(International Data Corporation)估计,全球公司2018年在区块链上的总投入将达15亿美元,是2017年的两倍。但即使是相信区块链技术前景的公司也不愿意投入太多,因为它们不能保证这项技术的回报率。

高德纳公司的Rajesh Kandaswamy说:“区块链与其说是增强你的业务,还不如说是挑战你的业务。像移动互联网这样的技术有增强能力的效果。对银行来说,移动互联网做的是加法。但区块链这项技术本身会让你重新思考自己的商业流程,甚至是商业模式。需要花费人们几年的时间来消化。”

在区块链项目上投入最多的,往往是那些处于行业中心地位的公司——不少公司看来正是区块链技术未来要消灭的中间人。

Broadridge金融解决方案公司是代理投票行业的主要玩家。该公司CEO Rich Daly表示,他们已经在区块链上投入了1.5亿美元,并已成功在区块链上为桑坦德银行年度股东大会进行了代理投票。他们的区块链系统还有其他的应用,包括帮助纳斯达克交易所完成私人公司股票转让。

2017年底,澳大利亚证券交易所决定用区块链技术重构股权清算系统,这一举措可能会引起其他交易所的效仿。澳大利亚证券交易所表示,到2020年或2021年区块链系统就将启动,到时候交易的结算速度就会少于现在的两天。

在美国,另一家处于中央中介地位的公司也以类似的方式升级软件系统,其区块链系统的启动时间甚至将早于澳大利亚证券交易所。存管信托和清算公司(Depository Trust & Clearing Corp.,DTCC)是一家控股公司,旗下控制的公司负责美国绝大部分金融交易的结算与清算。该公司正在建设一套区块链系统,用来记录其每年所要处理的1500万笔信用衍生品交易。这套系统目前运行在DTCC拥有的相对昂贵的大型机上,计划到明年上半年就能启动其区块链项目的第一阶段。

DTCC金融科技部门的联席主管Jennifer Peve说:“业内认为分布式账本的价值在于可审计性,以及用户几近能实时同步共享数据的能力。”区块链最终将在网络上为用户提供“单一可信数据源”,让交易对账变得更简单。

尽管如此,Peve认为这项技术还是有各种局限。比方说,DTCC现有的清算与结算系统每天要处理1亿笔左右的交易,而区块链系统目前做不到处理这么大量的交易。“还需要一些时间。”她说。

摩根大通则在公有链以太坊的基础上开发了自己区块链软件,名为Quorum,设计目的是减少金融交易中的文书工作量,降低交易延迟时间。人们目前可以从其网站下载这款软件。这款软件在某种意义上对这家银行非比寻常,它的CEO Jamie Dimon曾公开将比特币称为“诈骗”。不过Dimon自此之后已经承认“区块链是真的”,而且很明显它正在为摩根大通开拓一个利基市场。

这些区块链项目彼此间该如何协同工作?至今还没有人知道。哥伦比亚大学金融科技项目执行总监R.A. Farrokhnia说,区块链界还需要“自己的思科”。毕竟是思科公司建立起了当代互联网相互通信的基础设施(思科公司事实上也在投入区块链领域,但似乎并不会成为区块链时代的那个“思科”)。

IBM想要在这类区块链合作组织中扮演中心角色。在银行领域,IBM最雄心勃勃的项目是在欧洲发起的贸易融资区块链合作组织we.trade。2018年6月上线的项目,在五天内完成了七笔区块链上交易,该项目由德意志银行、汇丰银行以及其他七家银行共同领导。

贸易融资业务——银行向跨国贸易企业出借资金——的文书工作异常繁琐,往往需要一周甚至更多的时间才能完成交易的清算。而在we.trade项目上,只要交易满足设定的条件,就能实时完成结算。但在这个领域,没有任何人能保证哪个平台一定能成为主导者。汇丰银行同时也在Corda区块链上也完成了贸易融资项目,而巴克莱银行与另一家创业公司合作,也做了同样的事。

最大机会在供应链管理

区块链世界的大新闻绝大多数源自金融行业,但是长期来看最大的机会可能是在供应链管理领域——目前多数供应链管理还在使用纸质文件、excel表格以及不兼容的计算机系统。航运巨头丹麦马士基集团(Moller-Maersk)正与IBM合作,通过一个名为TradeLens的项目将运输的文件数据化、标准化,并且存储到区块链数据库里。

现代货箱码头公司(Modern Terminals)在中国香港与大陆经营航运码头,并且已经加入了TradeLens项目。公司CEO Peter Levesque说:“这个行业到处都是各种各样的文件。”他表示,有些航运交易依然在使用传真机。TradeLens将公司所需处理的、不同格式的数据收集在一起,“把所有东西归到一个地方”。

他说:“区块链不会改变我们的运营方式,但能提高我们的运营效率,因为我们能够在更短的时间里拿到更多数据,所以我们就能更好地计划货运与货船的停泊。”

对区块链创业者来说,食物供应链管理同样是一片大有可为的天地。现阶段,追查食物产品的源头——如受污染的莴苣——可能要花费数天的时间。

沃尔玛、雀巢、都乐食品以及其他公司正与IBM共同建设一个名为Food Trust的区块链平台,能够将从农场到超市的整个供应链都纳入区块链管理,能够在数秒之内就查清产品的轨迹。目前该平台能够追踪约50种产品,虽远少于整个超市的产品数,但已能验证该区块链项目的可行性。

这个平台可不仅仅是追踪一颗运输途中的生菜那么简单,而是能完成一些更有挑战性的任务,譬如对金宝公司生产的甜味土豆苹果南瓜泥婴儿食品罐头中所有原材料进行追踪。

虽然IBM这类公司做了不少工作,但如果说单单几个科技巨头就能独领区块链行业,那也未免有失偏颇。区块链和加密货币可能是两码事,但是驱动数字加密货币发展背后的那种创业精神同样出现在了区块链行业。

非营利的企业以太坊联盟(Enterprise Ethereum Alliance)是区块链技术标准制定方面最重要的组织之一,其执行总监Ron Resnick表示,希望让更多的小玩家参与到区块链行业中。与所有现代技术平台一样,终端用户手中的App的可用性,最终决定了区块链这项技术有多少价值。

小公司“擅长这些”,Resnick说,“它们比大公司的行动更迅捷。”

以太坊联友中既有皇家壳牌石油这类厌恶风险的大公司,也有来自数字加密货币领域的成员。石油巨头暂时不会选择发行数字货币,但这个组织能够让巨头公司与各类专注于开发公共开源程序的软件开发者建立联系。

数字加密货币领域同样会对区块链的开发产生影响。比方说,AXA在研究数字加密货币能否进一步提高Fizzy的速度,而DTCC的Peve希望开源社区能够提高区块链的数据处理能力。

Amber Baldet,说:“永远不要低估那些自发行动的孩子。”她之前是摩根大通区块链部门的负责人,2018年早些时候她辞职并创办了自己的区块链公司Clovyr。“区块链的发展可不仅仅是各类现有的组织机构所提出的要求,不仅仅是现在的企业将已有的商业模式过渡到新的技术平台上。事实上做区块链是与一些真正的颠覆者一起工作,让真正的创新来临。”

西安软件开发、西安APP开发、西安软件外包、西安软件开发、西安网站建设、电商软件开发、社交软件开发、直播软件开发、西安网站制作、西安区块链开发

Baldet补充道:“有些创新是ICO(首次代币发行)骗局,有些是短浅想法的短期产品,但或许在某个地方,就会诞生完全革命性的商业模式,以及全新的产品。”


面部识别系统存在哪些“偏见”困境?

2019-01-30

AI 算法偏见(性别、人种……)如今在海外早已不是新鲜议题,不久前,推特上的一条视频就引发了大众对此大规模的探讨。一名年轻的微软研究人员就此话题在个人推特上展开了对面部识别系统模型所存在偏见的探讨,引发了包括 Jeff Dean 等大牛在内的共鸣。她究竟说了些什么?

微信图片_20190130103031.webp

事情起源于推特上的一个视频,在视频中,社会党众议员 Alexandria Ocasio-Cortez 声称由数学驱动的算法本质上都是拥有种族主义倾向的。这条帖子很快获得了大众的响应,其中就包括一位名叫 Anna S. Roth 的研究人员。

微信图片_20190130103037.webp

原帖转发量截止目前为止已经达到了 2.8k,拥有超过 7.2k 的留言。

据个人主页介绍, Anna S. Roth 是微软技术与研究部门的一名研究人员,专职于微软的 Project Oxford 项目——这是一个混合了 APIs 与 SDKs,使开发人员能够轻松利用 Microsoft Research 和 Bing 的计算机视觉、语音检测和语言理解前沿工作进行再创造的项目。此外,她还曾经入选 Business Insider 杂志「30 位 30 岁以下具有影响力的科技女性」榜单。

 

微信图片_20190130103040.webp

她在个人推特上接连发表多达 29 条的短评,简单概括了面部识别系统模型产生偏见的原因,以及相应的解决方案和现存困境。由于内容浅显易懂且直中要害,谷歌大脑领导人 Jeff Dean 也忍不住在推特上进行推荐。

接下来一起看看 Anna S. Roth 分别说了些什么吧。

微信图片_20190130103047.webp

关于数据偏差问题

Alexandria Ocasio-Cortez 说的完全在理。我曾经从事面部识别的商业开发工作(当时的方向有点偏,开发的是存在偏见的模型),我认为人们最终会找到一些具体可信的例子搞清 AI 系统是如何产生偏见的。推特上的专家们解释了,面部识别系统之所以产生偏见,是因为数据有所偏差。

所以我准备和大家谈谈:

1)那些(有偏差的)数据来自哪里。

2)偏差测量标准的选择同样事关紧要。

(需要强调一点是,我只是针对行业所发生的一些事情进行泛泛而谈,并非专指本人雇主的某个具体事例。简单来说,这些都只是我的个人意见,不代表雇主的立场。)

最前沿的面部识别系统都需要在「非常庞大」的数据集上进行训练。为达到最佳训练效果,你需要获取同一个人的多张相片。比如当下最大的发布数据集之一——来自 UW 的 MF2,就拥有 672K 的人员信息和 4.7M 的相片。

这些数据主要来源于网络,比如 MF2 数据集的数据就出自 Flickr;另一个数据集 MS-Celeb-1M(

https://www.msceleb.org

)的 1000 万张图像则是从网上「爬」下来的。需要强调的是,「在公共互联网上流传的照片」并不能够完全代表「世界上的所有人类」。

然而全球的互联网访问量并非均匀分布的。连研究人员也一样。你可能抓取的还是那些以英语作为媒介语的网络资源/视频(记住,您需要获取同一个人的多张照片。)那么我想请问的是,使用 Flickr 的都是哪一些人?在微软名人数据集 MS Celeb 的论文中,说明了数据集中的 100 万个名人有超过 3/4 是女性——所以在判断哪个性别的人群在网上更有名气时,是否就会陷入 Alexandria Ocasio-Cortez 所谓的「自动化假设」陷阱?对此,负责构建数据集的人员一般会通过多种手段进行调整。

一个非常「烧钱」的选择是走进「现实世界」中,通过付费的方式进行数据收集。然而想把这件事情做得「正确」(比如收集数据的地点)、做得「符合伦理道德」(比如是否获得对方同意、公平补偿等),可一点都不简单。然而这些细节却会导致结果存在「巨大」差异。

当然我们还可以拥有其他的数据来源。比如有些人就想到使用嫌疑人照片(呀!又是一个根深蒂固的社会偏见影响数据集+注释的例子)。据我所知,一个处在非美国监控州的国内公司可以访问那些大型政府数据集。(很显然如果你是 FB,还可以访问那些具有更好分布的数据。)

数据集不仅仅是你保存数据 + 进行标注的地方。很多数据集需要人类进一步手动进行注释,一般会通过众包的形式(即通过在线平台零碎地给众包人员支付费用,而且往往金额较小)。众包形式存在太多来自人类的干扰因素。比如众包人员的文化背景?他们是不是被问到实际上属于主观的问题?(年龄、情绪等)

关于数据偏差测量

如今我们达成的一个共识是,有偏差的数据输入将导致有偏见的模型。实际上,我们已经拥有许多很酷的技术方法可以解决训练数据的分布问题。

一般要想评估模型的偏差情况和表现性能,你需要找到方法来进行测量。否则你无法得知模型的偏差原因和偏差程度。打个比方,您也许需要创建一个包含具有各种特征的人员的标签数据集,以便你在组与子组上测试模型的运行情况。

偏差测量需要综合这些人的角度和观点——在哪些问题是重要的以及社会科学层面上可能受到模型影响的人群。打个比方,「如果你戴眼镜,将导致模型表现变得不够准确」要比「如果你是有色人种,将导致模型表现变得糟糕」的危害更小,这是有一定社会原因的。

决定哪些内容需要进行测量、构建测量数据集、发布相关标准,是你构建相关系统时的「明智」选择。因此,当 Alexandria Ocasio-Cortez 说「种族不公被模型传递出来,是因为算法仍由人类掌控」时,她是完全正确的。

从过去到现在,对于这么做可能导致的严重后果,人们已经一次又一次进行记录。详见:http://gendershades.org/。它为致力于解决这些问题的不同人群提供了强而有力的论据。(注:这也意味着国际化与多样性。比如计算机视觉领域的大部分工作都是在中国完成创建和消费。因此这些主题都具有国际化视角。)

相关解决方案

回到 Alexandria Ocasio-Cortez 引发的议论。她给到我们的一点启发是,AI 伦理学并非单纯的「减少偏见的技术方法」或者「应用伦理学」。而是偏见渗入到模型当中、或者模型以不适合的方式被使用、或者循环反馈机制加强偏见,因为这些原因交织而成的新问题。

我经常回想《大西洋》杂志一篇关于德国执法部门调查庇护申请的报道中所出现的这句话。当最终采用这些概率系统的用户将系统的性能归结为「天赐」的,而非人类,将会发生什么事情?

微信图片_20190130103346.webp

BAMF 的面部识别软件以及由它所绘制的庞大数据库,现在看来像是「天赐的」,一位职员带有敬意地表示道。「我从来从来没见它出过错。」

我试图给出一些实际例子,说明涉及面部的识别能力可能导致什么样的严重后果,以帮助大家理解这个视频的大背景。然而,这些想法实际上都来自学界和公众的倡导。「当下」这个领域正在产生「如此之多」的学术研究,这些都是那些有见识的想法的来源。我们很幸运能够向 @timnitGebru、 @jovialjoy,、@hannawallach,、@mathbabedotorg,、@jennwvaughan 这样的专家们学习。

我就以这些话作为本次意见发表的收尾吧。作为一名过去经常投入在面部识别相关研究工作的人,我非常感谢这个领域的专家们,他们的功劳包括发现了我当时所研究系统的严重问题(以及创造性的修复方法)。

1:所有帖子均不代表本人雇主意见。

2:我希望看到除了 @ AOC 和 @RonWyden 以外,有更多立法者能够为长期被严重忽视的技术政策问题提供复杂却有效的解决方案。

3:本周有一篇由 Inioluwa Deborah Raji 和 Joy Buolamwini 共同撰写关于 Gender Shades(用于检验商业 AI 模型是否存在性别与人种偏见的算法)测试结果的新论文。这里预祝你们阅读愉快。

附:雷锋网 AI 科技评论摘录了《 AI Now Report 2018 》针对 AI 问责制的 10 条建议,以供参考

政府需要扩大特定部门机构的权力来监管、审计和监控特定领域的技术,以便更好对人工智能技术进行监管。

我们需要通过严格的法规对人脸识别与情感识别的使用进行监管,以保护公众的利益。

人工智能领域迫切需要新的治理方法,正如这份报告所示,大多科技公司的内部治理结构尚未能很好地对人工智能系统产生的结果进行问责。

人工智能公司应该为了公众利益放弃那些妨碍进行问责的商业秘密与法律主张。

技术公司应该为良心拒服兵役者、员工组织以及道德检举者提供必要的保护。

消费者权益机构应该对人工智能产品与服务实施「广告真实」法。

人工智能公司需要超越「流水线模式」,致力于解决工作场所出现的排挤与歧视行为。

西安软件开发、西安APP开发、西安软件外包、西安软件开发、西安网站建设、电商软件开发、社交软件开发、直播软件开发、西安网站制作、西安区块链开发

我们需要对人工智能系统「全栈供应链」进行详细梳理,以保障公平性、问责制与透明度在人工智能领域的落实。

我们需要意识到在人工智能问责制度的建设问题中,诉讼、劳工组织以及社区需要更多来自资金和其他方面的支持。

大学里的人工智能项目应该将研究视野扩大至计算机科学与工程学科以外的内容。

资本寒冬来袭的大背景下,区块链的新王朝正在建构

2019-01-30

如果现在你说区块链将会颠覆当下的发展逻辑,或许并不会有太多的人相信。因为当资本开始退潮之后,区块链的发展正在遭遇一场前所未有的危机。对于很多区块链项目来讲,缺钱已经成为一种常态。当区块链缺钱的时候,人们总是会选择一种比较方便快捷的方式来实现变现,对现有的区块链项目进行发币或者ICO便成为一种潮流。

微信图片_20190130102818.webp

这种略带饮鸩止渴和急功近利的方式显然无法真正推动区块链行业的良性发展,对于一种处于发展早期的技术来讲,区块链行业需要更多的技术积累和应用试验才能真正承担起未来更多的发展重任。一味地主打概念,一味地去变现,而忽略了区块链本身的技术属性,原本能够带给我们巨大想象力的区块链行业必将面临新的困境和挑战。

对于区块链来讲,当下正在经历的资本寒冬无疑能够让它回归到一种理性的状态,并且将会一个全新的发展时代。习惯了以资本为主要驱动力的发展模式,当资本远离我们的时候,我们的发展或许才具有更加本真的现实意义。那么,面对正在经历的资本寒冬,区块链的从业者们应当如何过冬呢?未来的区块链发展又将会带给我们怎样的想象呢?

1、回归区块链本身,资本寒冬下的发展新方向

上半场的区块链市场主要是以资本为最终驱动力的,区块链本身并没有任何新的改变,更多的时候扮演的是一种类似于互联网的角色。这其实是人们习惯了互联网式的发展逻辑所导致的。作为一种试图颠覆互联网式的发展模式的全新技术,区块链的发展模式如果落地了互联网模式的俗套,它的发展必然无法具有自己鲜明的特性。

从这个角度来看,当下区块链市场正在经历的这场资本寒冬,能够让区块链的发展更加回归到行业本身,而非仅仅只是概念的创新。当区块链的发展告别资本,开始逐步回归到区块链本身的时候,区块链行业的发展开始出现新的发展方向。

区块链逐渐回归应用层,并以此开启新的发展模式。上半场的区块链发展模式主要是以概念和模式创新为主的,区块链真正落地到真实应用层面的项目很少。正是由于这种情况的存在,我们才看到了区块链如同雨后春笋般的出现。虽然这个阶段区块链行业的发展表面上比较繁荣,但是,其内在的发展依然是相当初级和原始。

我们之所以会看到如此多的区块链项目出现,其中一个很重要的原因就在于资本利益的驱使下,最终让很多的区块链项目开始出现,由于资本在项目的早期并不关注项目落地和应用,再加上资本驱动的发展模式仅仅只是关注流量和平台为代表的互联网式的发展模式,最终导航了很多的区块链项目穷尽其能,不断用所谓的概念和模式来吸引用户,随后再借助流量、平台和模式来融资。

仅仅只是基于区块链的概念,而非区块链技术的发展只会带来区块链表面上的发展,无法真正改变区块链本身,只有将区块链落地到具体应用上,它的发展才能有更多的发展可能性。通过将区块链应用到具体行业当中,我们能够对传统行业的发展逻辑进行重新建构,从而开启新的发展时代。

当区块链的发展开始归于应用层,区块链的发展模式开始呈现如下几种发展状态:第一,对传统行业的运行逻辑进行重新建构,通过这种重新建构带来行业更多的发展可能性。比如,区块链技术在食品溯源当中的应用能够让我们对于传统的食品监管有一个全新的认识,从而开启一个全新的发展阶段。另外,区块链通过激发传统行业的内在元素的升级与活力,从而开始一个完全区别于平台的发展新模式。第二,对区块链技术的丰富与发展带来的行业的再度进化。其实,作为一种新技术来讲,区块链的技术尚未真正丰富与发展,只有不断丰富区块链技术,才能让区块链行业的发展不断获得原生动力。第三,不断建构区块链应用的生态系统,由此开启一个区块链发展的新时代。回顾互联网的发展,我们可以看出,互联网技术之所以会对人们的生活产生真正意义上的改变,移动互联网时代的来临之后才出现的。区块链的发展同样如此,只有真正将区块链技术的应用不断的丰富与完善,它才能够实现一定的规模效应,并且能够开启一个真正意义上的区块链时代。

区块链逐步回归技术本身,并开始了技术的精耕与爆发。不管区块链能够给我们的生活带来多么大的变化,我们始终都不能忘记了区块链是一种技术的现实。当资本退潮,区块链的发展开始回归本身的时候,它的技术才真正开始了新一轮的精耕与爆发。从当下的情况来看,无论是加密技术、算力还是区块,有关区块链的技术都在开始一个全新的发展时代。

或许正是因为如此,我们看到那些真正专注区块链技术的研发和探索的公司开始不断受到资本的青睐。这个时候,资本才能真正发挥自己的作用,而非仅仅只是一味地去看概念和模式,而忽略了真正这些项目和模式是不是有承载的技术。随着区块链开始逐步回归到技术本身,我们开始用技术的视角去看待区块链项目,从而将区块链的发展真正带入到了一个以技术驱动为主的全新时代。

当区块链行业的发展开始逐步回归到技术本身的时候,它的发展才能从一种浮于表面的发展,下沉到具体的行业上,这样的发展才能避免有泡沫的产生,真正回归到一种相对理性的发展状态。以技术为驱动的发展模式,才是真正能够给区块链行业带来长久发展的模式。这种发展模式同样是在资本寒冬期才出现的,这样的发展才是区块链真正的发展正道。

区块链开始了自我更新,虚假的区块链项目开始被淘汰。对于那些真正专心区块链的人来讲,当下真正经历的这场寒冬其实是非常必要的。因为这些人原本就不需要资本的支撑,他们对于区块链有自身的认识,而且他们做区块链技术有传统行业的支持。对于这些人来讲,当下正在经历的区块链的寒冬更像是一种自我调整,那些虚假的区块链项目被淘汰出局,并且开始让区块链项目回归理性。

我们看到那些假借区块链项目割韭菜的投机者开始逐渐远离区块链,这对于区块链行业来讲非常关键。因为区块链的自我更新能够让这个行业真正回归到理性,对于区块链来讲,正在经历的这场资本寒冬,更像是一个熔炉。通过这个熔炉,那些虚假的区块链项目被淘汰,那些专注区块链的项目开始实现逆袭,并且开始了新的发展。

当区块链开始回归本身,它的发展开始了一个以技术为根本的新阶段。以应用为突破口,以技术为推动力,以自我更新为特征,区块链行业的发展开始进入到了资本寒冬下的新周期。在这个阶段,我们应当如何抓住机会,如何实现寒冬下的新逆袭呢?或许这是很多人都非常关心的重要问题。

2、新方向已然开启,区块链行业的突破口在哪?

当区块链行业的新方向开启,找到这个行业的突破口或许能够实现事半功倍的效果。找到了区块链行业的发展突破口,我们能够少走一些弯路,并且真正能够把区块链行业的发展带入到了一个全新的阶段。在资本寒冬依然成为定局的时候,区块链行业发展的突破口必然不在资本身上,而是在那些资本时代并不被关注的点上。

突破口一:区块链技术。区块链始终都是一种技术,找寻区块链发展的突破口必然在技术上。尽管我们已经意识到了区块链发展的关键在技术,但是区块链的技术尚未实现真正意义上的突破。我们现在看到的技术依然停留在数字货币上衍生而来的技术,如果我们依然是依靠这些技术想要实现突破的话,显然是有些无力的。

未来,随着人们开始将发展的目光转移到区块链技术上,未来将会有可能出现突破性的区块链技术。由此,我们将会真正告别以数字货币为代表的发展模式,将区块链行业的发展带入到一个全新的发展时代。

突破口二:区块链生态。现在的区块链行业之所以没有形成突破,其中一个很重要的原因就在于区块链的生态尚未真正形成。未来,区块链行业的发展突破口在于如何打造生态以及由这个生态所引发的发展新方向。当区块链的发展逐渐形成生态的时候,我们才能从不同的角度不断汲取力量,并且真正开启区块链非资本驱动的全新时代。

对标互联网的发展,我们可以看出,当下的区块链之所以会一味地依赖资本,主要是因为区块链技术尚未真正形成规模。因此,我们必然需要寻找一种较为快速的发展模式,迅速突破当下区块链行业的发展瓶颈。从这个角度来看,打造区块链生态,才是未来实现突破性发展的关键。

西安软件开发、西安APP开发、西安软件外包、西安软件开发、西安网站建设、电商软件开发、社交软件开发、直播软件开发、西安网站制作、西安区块链开发

当资本寒冬来临之际,区块链的发展开始进入到一个全新的发展阶段。建构一个区块链的生态体系,不断找到区块链之外的变现可能性,区块链行业的发展才能真正进入到一个正确的发展轨道。当区块链打开全新发展天窗,一个光怪陆离的新时代由此开启,它颠覆着传统而来,它在建构着属于自己的王朝。