- 删数据,还要删AI模型:美国科技公司遭遇最严厉隐私泄露处罚
- 来源:机器之心
机器之心报道编辑:张倩、泽南「想象一下 Facebook 或 Google 这样的公司被要求删除其类似算法会是什么结果。可能最后删得核心模型都不剩了。」近日,美国联邦贸易委员会(Federal Trade Commission ,FTC)公布了一项特殊的处罚决定:勒令一家名为「Everalbum」的公司删除其从客户手中收集的照片,以及利用这些数据训练出的所有算法。
公告链接:
https://www.ftc.gov/enforcement/cases-proceedings/1923172/everalbum-inc-matter
勒令删除用户隐私数据倒不是什么新鲜事儿,但强制删除 AI 算法模型的案例我们还没怎么听说过。
「存储空间无限的云相册,AI 帮你整理照片」
Everalbum 成立于 2013 年,主要产品是一款名为「Ever」的相册软件。这一软件允许用户将移动设备、电脑上或社交媒体账户中的照片和视频上传到云端存储,声称可以帮助用户节省手机空间,但却未告知用户其真正的盈利模式。
能给用户提供免费且无限的照片存储空间,Everalbum 看起来「名副其实」,但天下哪有免费的午餐。
2017 年 2 月,Ever 应用中上线了一个名为「Friends」的功能,其使用面部识别技术将用户的照片按照内容自动分组,并允许用户自行标记照片中的人名。据称, Everalbum 在启动「好友」功能时在默认情况下为所有用户启用了面部识别,且无法手动关闭。
「整理好了,你的手机现在看起来是否轻盈了一些?」
2019 年,NBC News 等媒体曝出:「Ever」利用其收集的用户照片训练人脸识别算法,而且未在其隐私条款中写明,严重侵犯了用户的隐私权。此外,他们还将训练出的算法卖给了执法机关和军方。
这一信息的披露给 Ever 造成了很大的负面影响,不仅迫使其修订了隐私条款,公司的名称也改为「Paravision」,以远离纷争。
2020 年 8 月 31 日,「Paravision」宣布关闭 Ever,但对外公布的原因是「与谷歌和苹果默认服务之间日益加剧的竞争」。所有用户存储在云端的照片和视频都在当天被删除了, Ever 只持续了 7 年时间。
在应用关闭之前的一个月,Paravision 还在推销自己的产品,声称其开发的口罩人脸识别算法在美国国家标准技术研究所(NIST)的人脸识别算法测试(FRVT)中获得了准确率第二的好成绩。
除了人脸识别解决方案,该公司还提供一系列活动识别工具。知名科技媒体 techcrunch 曾表示,「虽然面向消费者的应用已经关闭,但公司的业务似乎还在继续」。而且,这部分业务还相当成功。Crunchbase 数据库的资料显示,Paravision 成立至今已经进行了 5 论融资,融资额高达 2900 万美元。
媒体的曝光也引起了 FTC 的关注。经过一段时间的审查,FTC 公布了对于 Everalbum 的最终处理结果。
在 FTC 与 Paravision 达成的协议中,联邦贸易委员会指出,该创业公司的照片存储应用涉嫌欺骗消费者,违反了联邦贸易委员会法案(Federal Trade Commission Act)第 5a 条中禁止不公平或欺骗性行为和惯例的规定,开发商 Everalbum 同意对内容进行删除规制,作为拟议和解的一部分。
FTC 在公告中写道:「FTC 要求 Everalbum 放弃其通过欺骗手段得到的成果。具体来说,该公司必须删除其借助非法所得照片训练出的人脸识别技术。委员们此前曾投票允许这些违反数据保护法的人保留其借助非法所得数据构建的算法和技术,此次命令是一次重要的路线修正。」
这项决定可能会对 Paravision 的业务带来一些麻烦。据《连线》报道,该公司最近刚刚与美国空军签署了一项价值 200 万美元的合同。FTC 这项命令颁布之后,Paravision 之前开发的人脸识别算法将无法用于该合同,之后的其他业务也可能受到影响。
那些科技巨头怎么办?
这项决定得到了法律人士的支持。乔治城大学法律中心的 Lindsey Barrett 表示,「这是一种有意义的补救措施,可以让滥用公众隐私的业务成为一门有风险的业务,而不是像原来那样安全、有利可图」。
这一决定也可能对几家科技巨头产生重要影响。奥巴马前科技顾问 Ashkan Soltani 发文写道:「想象一下 Facebook 或 Google 这样的公司被要求删除其类似算法会是什么结果。可能最后删得核心模型都不剩了。」
在 FTC 发布这项命令之际,Facebook、Google 等科技巨头正面临严格的反垄断调查。它们的部分收益来自免费产品,而后者产生了大量的数据。这些数据的获取是否合法将决定其产品的去留。
目前看来,这些公司可能难逃指控。2019 年,谷歌因未经家长允许收集儿童信息被罚 1.7 亿美元。但当时,谷歌只被勒令删除了数据,算法和从数据中提取的信息得以保留。
此次命令的发布可能会改写类似诉讼的结局。Soltani 表示,「FTC 经常利用类似的小案件来确立规范和政策,以便日后在针对大公司的案件中使用。」
也有人指出,这个命令执行起来是很困难的。因为你很难知道对方有没有真的将算法删除。「万一有个员工用 U 盘将算法拷回家,回头重新开个公司怎么办」。
看来,这项命令的颁布可能只是个开始,要想真正产生效果还有很多工作要做。
免费的数据,新的「石油」
Everalbum 虽然可能有点小众,但其免费使用、AI 自动分类的形式在今天看起来一点都不陌生,收集数据则更是所有 app 的常规动作。今年 1 月 8 日,Facebook 旗下 WhatsApp 推出的新隐私政策引起了用户们的关注,其中提到 app 收集到的数据已与第三方应用共享。
虽然新的条款中提到「WhatsApp 已不再与 Facebook 分享联系人信息」,但这是否意味着他们之间已不分享任何数据?当人们在不阅读用户条款直接点确定时,全部打钩分享了什么数据,部分同意又共享了哪些信息,我们还不甚清楚。
目前我们能够知道的是,尽管 WhatsApp 明确表示其无法阅读个人信息及语音通话内容,但它仍会收集另外一些数据,如在 WhatsApp 上进行互动的时间和频次,用户所属小组的名称等等。
免费的就是最贵的。
众所周知,在深度学习等 AI 技术大规模应用的今天,大量用户数据被科技公司仔细收集、分析和处理用于各种目的。大体量的数据也是Facebook、亚马逊、谷歌等科技巨头领先业界实力的一部分。英国数学家 Clive Humby 曾说道:「世界上最有价值的资源已不再是石油,而是数据。」
我们拥有的智能设备归自己所有,但其中生成的信息却归企业所有。每个应用程序都拥有对敏感数据的完全访问权限,因为我们已经同意它们的条款和条件,允许其收集数据。
如果为科技公司为收购你的数据开出了价格,你会选择出售吗?应该不会。但是现在,你正在免费这样做。
参考链接:https://onezero.medium.com/the-ftc-forced-a-misbehaving-a-i-company-to-delete-its-algorithm-124d9f7e0307https://www.nbcnews.com/tech/security/millions-people-uploaded-photos-ever-app-then-company-used-them-n1003371https://www.natlawreview.com/article/ftc-settles-allegations-deceptive-practices-photo-storage-app-provider
AAAI 2021线上分享 | BERT模型蒸馏技术,阿里云有新方法在阿里巴巴等机构合作、被AAAI 2021接收的论文《Learning to Augment for Data-Scarce Domain BERT Knowledge Distillation 》中,研究者们提出了一种跨域自动数据增强方法来为数据稀缺领域进行扩充,并在多个不同的任务上显著优于最新的基准。
1月27日20:00,论文共同一作、阿里云高级算法专家邱明辉为大家详细解读此研究。添加机器之心小助手(syncedai5),备注「AAAI」,进群一起看直播。 © THE END 转载请联系本公众号获得授权投稿或寻求报道:content@jiqizhixin.com
公告链接:
https://www.ftc.gov/enforcement/cases-proceedings/1923172/everalbum-inc-matter
勒令删除用户隐私数据倒不是什么新鲜事儿,但强制删除 AI 算法模型的案例我们还没怎么听说过。
「存储空间无限的云相册,AI 帮你整理照片」
Everalbum 成立于 2013 年,主要产品是一款名为「Ever」的相册软件。这一软件允许用户将移动设备、电脑上或社交媒体账户中的照片和视频上传到云端存储,声称可以帮助用户节省手机空间,但却未告知用户其真正的盈利模式。
2017 年 2 月,Ever 应用中上线了一个名为「Friends」的功能,其使用面部识别技术将用户的照片按照内容自动分组,并允许用户自行标记照片中的人名。据称, Everalbum 在启动「好友」功能时在默认情况下为所有用户启用了面部识别,且无法手动关闭。
2019 年,NBC News 等媒体曝出:「Ever」利用其收集的用户照片训练人脸识别算法,而且未在其隐私条款中写明,严重侵犯了用户的隐私权。此外,他们还将训练出的算法卖给了执法机关和军方。
这一信息的披露给 Ever 造成了很大的负面影响,不仅迫使其修订了隐私条款,公司的名称也改为「Paravision」,以远离纷争。
2020 年 8 月 31 日,「Paravision」宣布关闭 Ever,但对外公布的原因是「与谷歌和苹果默认服务之间日益加剧的竞争」。所有用户存储在云端的照片和视频都在当天被删除了, Ever 只持续了 7 年时间。
在应用关闭之前的一个月,Paravision 还在推销自己的产品,声称其开发的口罩人脸识别算法在美国国家标准技术研究所(NIST)的人脸识别算法测试(FRVT)中获得了准确率第二的好成绩。
除了人脸识别解决方案,该公司还提供一系列活动识别工具。知名科技媒体 techcrunch 曾表示,「虽然面向消费者的应用已经关闭,但公司的业务似乎还在继续」。而且,这部分业务还相当成功。Crunchbase 数据库的资料显示,Paravision 成立至今已经进行了 5 论融资,融资额高达 2900 万美元。
媒体的曝光也引起了 FTC 的关注。经过一段时间的审查,FTC 公布了对于 Everalbum 的最终处理结果。
在 FTC 与 Paravision 达成的协议中,联邦贸易委员会指出,该创业公司的照片存储应用涉嫌欺骗消费者,违反了联邦贸易委员会法案(Federal Trade Commission Act)第 5a 条中禁止不公平或欺骗性行为和惯例的规定,开发商 Everalbum 同意对内容进行删除规制,作为拟议和解的一部分。
FTC 在公告中写道:「FTC 要求 Everalbum 放弃其通过欺骗手段得到的成果。具体来说,该公司必须删除其借助非法所得照片训练出的人脸识别技术。委员们此前曾投票允许这些违反数据保护法的人保留其借助非法所得数据构建的算法和技术,此次命令是一次重要的路线修正。」
这项决定可能会对 Paravision 的业务带来一些麻烦。据《连线》报道,该公司最近刚刚与美国空军签署了一项价值 200 万美元的合同。FTC 这项命令颁布之后,Paravision 之前开发的人脸识别算法将无法用于该合同,之后的其他业务也可能受到影响。
那些科技巨头怎么办?
这项决定得到了法律人士的支持。乔治城大学法律中心的 Lindsey Barrett 表示,「这是一种有意义的补救措施,可以让滥用公众隐私的业务成为一门有风险的业务,而不是像原来那样安全、有利可图」。
这一决定也可能对几家科技巨头产生重要影响。奥巴马前科技顾问 Ashkan Soltani 发文写道:「想象一下 Facebook 或 Google 这样的公司被要求删除其类似算法会是什么结果。可能最后删得核心模型都不剩了。」
在 FTC 发布这项命令之际,Facebook、Google 等科技巨头正面临严格的反垄断调查。它们的部分收益来自免费产品,而后者产生了大量的数据。这些数据的获取是否合法将决定其产品的去留。
目前看来,这些公司可能难逃指控。2019 年,谷歌因未经家长允许收集儿童信息被罚 1.7 亿美元。但当时,谷歌只被勒令删除了数据,算法和从数据中提取的信息得以保留。
此次命令的发布可能会改写类似诉讼的结局。Soltani 表示,「FTC 经常利用类似的小案件来确立规范和政策,以便日后在针对大公司的案件中使用。」
也有人指出,这个命令执行起来是很困难的。因为你很难知道对方有没有真的将算法删除。「万一有个员工用 U 盘将算法拷回家,回头重新开个公司怎么办」。
看来,这项命令的颁布可能只是个开始,要想真正产生效果还有很多工作要做。
免费的数据,新的「石油」
Everalbum 虽然可能有点小众,但其免费使用、AI 自动分类的形式在今天看起来一点都不陌生,收集数据则更是所有 app 的常规动作。今年 1 月 8 日,Facebook 旗下 WhatsApp 推出的新隐私政策引起了用户们的关注,其中提到 app 收集到的数据已与第三方应用共享。
虽然新的条款中提到「WhatsApp 已不再与 Facebook 分享联系人信息」,但这是否意味着他们之间已不分享任何数据?当人们在不阅读用户条款直接点确定时,全部打钩分享了什么数据,部分同意又共享了哪些信息,我们还不甚清楚。
目前我们能够知道的是,尽管 WhatsApp 明确表示其无法阅读个人信息及语音通话内容,但它仍会收集另外一些数据,如在 WhatsApp 上进行互动的时间和频次,用户所属小组的名称等等。
众所周知,在深度学习等 AI 技术大规模应用的今天,大量用户数据被科技公司仔细收集、分析和处理用于各种目的。大体量的数据也是Facebook、亚马逊、谷歌等科技巨头领先业界实力的一部分。英国数学家 Clive Humby 曾说道:「世界上最有价值的资源已不再是石油,而是数据。」
我们拥有的智能设备归自己所有,但其中生成的信息却归企业所有。每个应用程序都拥有对敏感数据的完全访问权限,因为我们已经同意它们的条款和条件,允许其收集数据。
如果为科技公司为收购你的数据开出了价格,你会选择出售吗?应该不会。但是现在,你正在免费这样做。
参考链接:https://onezero.medium.com/the-ftc-forced-a-misbehaving-a-i-company-to-delete-its-algorithm-124d9f7e0307https://www.nbcnews.com/tech/security/millions-people-uploaded-photos-ever-app-then-company-used-them-n1003371https://www.natlawreview.com/article/ftc-settles-allegations-deceptive-practices-photo-storage-app-provider
AAAI 2021线上分享 | BERT模型蒸馏技术,阿里云有新方法在阿里巴巴等机构合作、被AAAI 2021接收的论文《Learning to Augment for Data-Scarce Domain BERT Knowledge Distillation 》中,研究者们提出了一种跨域自动数据增强方法来为数据稀缺领域进行扩充,并在多个不同的任务上显著优于最新的基准。
1月27日20:00,论文共同一作、阿里云高级算法专家邱明辉为大家详细解读此研究。添加机器之心小助手(syncedai5),备注「AAAI」,进群一起看直播。
科技
-
-
- 线下展会,市民畅享科技大餐
- 5月28日,是2021中国国际大数据产业博览会线下展最后一天,也是免费向市民开放的公众日。趁此机会,记者继续带您探秘国际综合馆(W1馆)、数字应用馆(W2馆)、前沿技术馆(E1馆)、智慧产业馆(E2馆)4...
- 贵阳晚报
-
-
-
- 为何新药研发、基因测序、卫星遥感的发展提速都需要它?
- 人类第一次完整全基因组的测序花了13年,在新技术的加持下,这个时间已经降低到1天以内;没有这项新技术加持,电影《阿凡达》的渲染可能需要上万年;这项新技术还让新药的研发周期大幅缩短,让卫星遥感定位精度...
- 华为
-
-
-
- 大型金属3D打印厂商钢研极光亮相TCT,展示强大的生产服务能力
- 2021亚洲3D打印、增材制造展览会 (TCT Asia)于2021年5月26日-28日在国家会展中心(上海)7.1馆隆重举办。作为官方战略合作媒体,南极熊将会全程现场报道(地址https://www.nanjixiong.com/foru
- 南极熊3D打印
-
-
-
- 美国国家情报委员会《全球趋势2040——竞争更激烈的世界》报告摘译
- 2021年3月,美国国家情报委员会(NIC)发布了每四年一度的全球趋势预测报告《全球趋势2040——竞争更激烈的世界》。NIC是美国最高层级的战略情报机构,该委员会的成员均为来自政府、学术界和私营部门的高级专家...
- 全球技术地图
-
-
-
- 数字让监管更加智慧 上交所成功举办首届全行业技术大会
- 5月28日,上交所成功举办主题为“数字赋能,守正创新”的首届全行业技术大会。中国证监会副主席赵争平出席大会并致辞指出,证监会高度重视资本市场科技化转型与发展,确定了“数字让监管更加智慧”的愿景。...
- 上海证券报
-
-
-
- 湾区智行||中科创达赵鸿飞:汽车“新物种”需要共通的操作系统|中国汽车报
- “我是谁?我来自哪里?我要到哪里去?”这是哲学史上永恒的三大命题,同样也是我们甚至是企业需要不断思考的问题。此次采访对象——中科创达软件股份有限公司就是一家勤于思考、擅于思考的企业。这家企业在不断...
- 中国汽车报
-
-
-
- 广电总局表彰虚拟现实视频、超高清视频等5类96个优秀项目!
- 广电总局共评选出互动视频、沉浸式视频、虚拟现实视频、云游戏、超高清视频等5类96个优秀项目,分获一、二、三等奖和优秀奖,包括《中央广播电视总台5G+VR融合制播系统——春节联欢晚会 (2017- 2021)节目VR制作...
- 广电头条
-
-
-
- 占据市场最新赛道,“中国制造”机器人迎来爆发期
- 【环球时报记者 邢晓婧 杨沙沙】配餐机器人、迎宾机器人、扫地机器人……不知不觉间,中国老百姓对出现在餐馆、医院、火车站、养老院等场景的机器人逐渐习以为常,甚至家中也出现扫地、娱乐等家用机器人。有统计...
- 环球网
-
-
-
- 最受关注展项出炉,2021年北京科技周闭幕不落幕!
- 5月28日下午,2021年北京科技周闭幕式在中关村国家自主创新示范区展示中心举行。北京市科委、中关村管委会相关负责人介绍了本届北京科技周举办情况以及最受关注的展项。市科委、中关村管委会二级巡视员王建新出...
- 科普北京
-
-
-
- 魔高一尺,道高一丈:上交所VPN攻防札记
- 本文选自《交易技术前沿》总第四十二期文章(2020年12月)谢毅 / 上海证券交易所 yxie@sse.com.cn相晓辉 / 上海证券交易所 xhxiang@sse.com.cn虚拟专用网络(以下简称“VPN”)系统、互联网业务系统、外网
- Android编程精选
-
-
-
- 绿色召集令——聚力创赢,共赴绿色能源新征程!
- 申耀的科技观察读懂科技,赢取未来!申耀的科技观察,由科技与汽车跨界自媒体人申斯基创办,18年企业级科技媒体工作经验,专注企业数字化、产业智能化、智慧城市、汽车科技内容的观察和思考。
- 申耀的科技观察
-
-
-
- 汉朔科技和微软(中国)联合推动 IoT+AI 赋能全球零售
- (本文阅读时间:4分钟)2021年5月20日,全球领先的零售数字化解决方案供应商汉朔与微软(中国)在北京举行战略合作备忘录签约仪式,以进一步推动其在零售行业的全球布局和数字化战略。根据战略合作备忘录,汉朔...
- 微软科技
-
-
-
- 关于安全访问服务边缘(SASE),你需要知道的事情
- 在企业纷纷拥抱数字业务的过程中,由于边缘计算、云服务、混合网络的逐渐兴起,使得本就漏洞百出的传统网络安全架构更加岌岌可危,而且远远无法满足企业数字业务的需要。为了应对这种情况,一个全新的模型——安...
- FreeBuf
-
-
-
- [报告]2021年中国新能源汽车行业洞察(附44页PDF文件下载)
- 新能源车大势将至,造车新势力差异化突围。以下为报告节选:......文│Mob研究院本报告共计:44页。如欲获取完整版PDF文件,请扫描下方二维码加入“车友圈”获取。#重磅推荐#需要批量下载和及时更新最新汽车行业...
- 汽车之地
-