- 机器人觉醒了,我们呢?
- 来源:半月谈
“我让语音助手把灯关了,结果它不仅把灯开个不停,还发出冷笑。”
3年前,全球各地不少人被亚马逊智能音箱接到指令后发出的冷笑吓得够呛。今天,又有不少人拍下家里两台智能音箱煞有介事互相聊天的视频,加上“笑哭”配乐发到社交网站。
如果再有人惊恐提出这是机器的觉醒,可能会被不以为然、嗤之以鼻——我们自认已经非常熟悉人工智能的运作原理。
我们对AI的未来,真这么胸有成竹吗?
(一)
在最近热播的电视剧《你好,安怡》中,2035年,与人类极为相似但并不具备自主意识的“芯机人”走入千家万户,绝对服从人类的他们变成了保姆、服务员和工人。同时,几个“芯机人”异类也开始出现在人类社会,他们拥有和人类一样的情感、意识与思考能力,一系列机器人与人类家庭、社会的复杂纠葛随之而来。
与宫斗、穿越、职场斗争等戏码不同,《你好,安怡》将目光放在类人机器人与人类共存的伦理问题上:机器人自我意识觉醒后的一系列挑战,机器人与人类之间的情感摩擦,比人类更加专业、智慧的机器人一旦具备了破坏性我们该如何应对……
在古装、言情、家庭剧占据电视剧主流的今天,讨论科技伦理似乎并不讨巧。提起中国的科幻影视作品,人们津津乐道的似乎只有《流浪地球》《疯狂的外星人》等寥寥几部。尽管有几部国产科幻大片正在路上,但科幻题材的电视剧“出圈”作品则少之又少。这似乎与中国突飞猛进的科技发展水平并不相称。
不提拍摄手法、创作水准等见仁见智的评价,可以肯定的是,《你好,安怡》对鼓励中国观众接触并思考科技伦理颇有益处。以往人们熟知的科技伦理大片总以西方社会为背景,通过欧美的话语体系与思维方式展开,如《西部世界》《黑镜》《苍穹浩瀚》等。对于中国观众来说,当故事背景转向熟悉的人群与生活,无疑会有更强的代入感,对机器人伦理问题也会有更深的危机感和探究动力。
(二)
放眼互联网世界,关于科技伦理的讨论,正以一种更有趣的方式走进人们视野。
前不久,一条关于人工智能奇妙“脑回路”的微博曾吸引数万网友转发关注。
这位网友分享了在开发游戏AI中的一件趣事:技术人员在一个“狼抓羊”游戏中设定的逻辑是,如果狼抓到了羊就奖励10分,撞到障碍物就扣1分,而为了保证尽快完成任务,每秒钟狼都会被扣0.1分,结束时得分越高奖励越多。
听上去合理的训练规则,却收获了越来越差的训练结果。工程师们仔细检查后才明白,原来扮演狼角色的AI发现,狼在大部分情况下都很难抓住羊,而追逐的时间越久扣分就越多,因此AI分析后,决定在游戏一开始便一头撞死自己,这样反而能获得最高分。
虽然不少网友指出了算法设计中的问题,但这也暴露了人类为AI设定“终极目标”时极易出现的漏洞:我们往往忽视了一些人性中默认的最高准则。
尽管有人认为阿西莫夫的“机器人三定律”或类似法则可以解决这一问题,认为只要设定机器人不得伤害人类,在这一前提下保护自身,就能有效避免机器冷酷无情达到目的时可能带来的风险。
然而,仅以自动驾驶为例,就可以发现最高准则不一定能解决复杂的伦理困境。
各国在制定自动驾驶伦理法则时,就曾面临经典的“电车难题”:假如车辆的终极任务是保证人员安全,那么当街角出现一群小学生,在没有更多选择的情况下,是应该撞上去保全驾驶员,还是不顾驾驶员安危避让以保护更多行人?如果仅以伤害人数多少来决策,那么人的年龄、职业、社会地位和亲属关系是否就应完全不加考虑?
退一步说,即使AI能完美实现人的最高目标与偏好,但人类社会的价值体系本身就存在阴暗面。
从人工智能的实际应用来看,歧视、逐利、低俗等人性弱点,都逐渐在算法运行过程中一一显露。线上聊天机器人变成说脏话、种族歧视的不良少女;应用于招聘、保险、司法审判等领域的算法可能存在职业、性别、种族歧视;人脸识别技术也不断被曝出应用于售楼处、卫浴门店等,收集顾客信息用于牟利。
技术本身无善恶,但写在人性中的贪婪、欲望,让我们无法保证每名开发者、每个商业主体都能善用技术。而技术愈精进壮大,其身后的阴影也会随之扩张蔓延。
这并非杞人忧天。事实上,在技术不断创新试错的今天,大部分人对智能科技滥用的警惕性还远远不够。 (三)
一个人类与强智能机器共存的未来似乎无可避免,而只有把AI伦理议题以平易近人、深入浅出的方式丰富呈现,放到社会舆论场中央,才能讨论得更全面、更透彻,我们也才能越来越接近一个完善的人工智能体系,才能公平给予社会成员全面参与、自主抉择的权利。
关注AI伦理的不再只是AI工程师们,哲学、伦理学、法学等各学科力量都在被吸引进来。这一关系每个人未来命运的话题,无疑还需要社会公众提升参与意识,积极讨论和监督。
与此同时,除了描绘人类与智能机器共舞的未来,大众传媒也应积极引入更多伦理议题,提升人们的警惕性和辨别技术风险的能力。
这并非鼓励人们抗拒技术、因噎废食,而是一份邀约,邀请每个人知情、参与,共同完善技术体系。在机器人觉醒之前,我们本身应当觉醒。
半月谈 “中华第一刊”《半月谈》官微,每天帮你分析政治、经济、商业大事,解读社会发展,品味人生百态,您的政经顾问,学习良师,生活益友。 3195篇原创内容 公众号 交易担保 半月谈微订阅 点击订阅吧 小程序 来源:《半月谈内部版》2021年第4期作者:何曦悦 | 编辑:郑雪婧责编:郭艳慧
校对:秦黛新
识别上图二维码,接力 火种计划
3年前,全球各地不少人被亚马逊智能音箱接到指令后发出的冷笑吓得够呛。今天,又有不少人拍下家里两台智能音箱煞有介事互相聊天的视频,加上“笑哭”配乐发到社交网站。
如果再有人惊恐提出这是机器的觉醒,可能会被不以为然、嗤之以鼻——我们自认已经非常熟悉人工智能的运作原理。
我们对AI的未来,真这么胸有成竹吗?
(一)
在最近热播的电视剧《你好,安怡》中,2035年,与人类极为相似但并不具备自主意识的“芯机人”走入千家万户,绝对服从人类的他们变成了保姆、服务员和工人。同时,几个“芯机人”异类也开始出现在人类社会,他们拥有和人类一样的情感、意识与思考能力,一系列机器人与人类家庭、社会的复杂纠葛随之而来。
与宫斗、穿越、职场斗争等戏码不同,《你好,安怡》将目光放在类人机器人与人类共存的伦理问题上:机器人自我意识觉醒后的一系列挑战,机器人与人类之间的情感摩擦,比人类更加专业、智慧的机器人一旦具备了破坏性我们该如何应对……
在古装、言情、家庭剧占据电视剧主流的今天,讨论科技伦理似乎并不讨巧。提起中国的科幻影视作品,人们津津乐道的似乎只有《流浪地球》《疯狂的外星人》等寥寥几部。尽管有几部国产科幻大片正在路上,但科幻题材的电视剧“出圈”作品则少之又少。这似乎与中国突飞猛进的科技发展水平并不相称。
不提拍摄手法、创作水准等见仁见智的评价,可以肯定的是,《你好,安怡》对鼓励中国观众接触并思考科技伦理颇有益处。以往人们熟知的科技伦理大片总以西方社会为背景,通过欧美的话语体系与思维方式展开,如《西部世界》《黑镜》《苍穹浩瀚》等。对于中国观众来说,当故事背景转向熟悉的人群与生活,无疑会有更强的代入感,对机器人伦理问题也会有更深的危机感和探究动力。
(二)
放眼互联网世界,关于科技伦理的讨论,正以一种更有趣的方式走进人们视野。
前不久,一条关于人工智能奇妙“脑回路”的微博曾吸引数万网友转发关注。
这位网友分享了在开发游戏AI中的一件趣事:技术人员在一个“狼抓羊”游戏中设定的逻辑是,如果狼抓到了羊就奖励10分,撞到障碍物就扣1分,而为了保证尽快完成任务,每秒钟狼都会被扣0.1分,结束时得分越高奖励越多。
听上去合理的训练规则,却收获了越来越差的训练结果。工程师们仔细检查后才明白,原来扮演狼角色的AI发现,狼在大部分情况下都很难抓住羊,而追逐的时间越久扣分就越多,因此AI分析后,决定在游戏一开始便一头撞死自己,这样反而能获得最高分。
虽然不少网友指出了算法设计中的问题,但这也暴露了人类为AI设定“终极目标”时极易出现的漏洞:我们往往忽视了一些人性中默认的最高准则。
尽管有人认为阿西莫夫的“机器人三定律”或类似法则可以解决这一问题,认为只要设定机器人不得伤害人类,在这一前提下保护自身,就能有效避免机器冷酷无情达到目的时可能带来的风险。
然而,仅以自动驾驶为例,就可以发现最高准则不一定能解决复杂的伦理困境。
各国在制定自动驾驶伦理法则时,就曾面临经典的“电车难题”:假如车辆的终极任务是保证人员安全,那么当街角出现一群小学生,在没有更多选择的情况下,是应该撞上去保全驾驶员,还是不顾驾驶员安危避让以保护更多行人?如果仅以伤害人数多少来决策,那么人的年龄、职业、社会地位和亲属关系是否就应完全不加考虑?
退一步说,即使AI能完美实现人的最高目标与偏好,但人类社会的价值体系本身就存在阴暗面。
从人工智能的实际应用来看,歧视、逐利、低俗等人性弱点,都逐渐在算法运行过程中一一显露。线上聊天机器人变成说脏话、种族歧视的不良少女;应用于招聘、保险、司法审判等领域的算法可能存在职业、性别、种族歧视;人脸识别技术也不断被曝出应用于售楼处、卫浴门店等,收集顾客信息用于牟利。
技术本身无善恶,但写在人性中的贪婪、欲望,让我们无法保证每名开发者、每个商业主体都能善用技术。而技术愈精进壮大,其身后的阴影也会随之扩张蔓延。
这并非杞人忧天。事实上,在技术不断创新试错的今天,大部分人对智能科技滥用的警惕性还远远不够。 (三)
一个人类与强智能机器共存的未来似乎无可避免,而只有把AI伦理议题以平易近人、深入浅出的方式丰富呈现,放到社会舆论场中央,才能讨论得更全面、更透彻,我们也才能越来越接近一个完善的人工智能体系,才能公平给予社会成员全面参与、自主抉择的权利。
关注AI伦理的不再只是AI工程师们,哲学、伦理学、法学等各学科力量都在被吸引进来。这一关系每个人未来命运的话题,无疑还需要社会公众提升参与意识,积极讨论和监督。
与此同时,除了描绘人类与智能机器共舞的未来,大众传媒也应积极引入更多伦理议题,提升人们的警惕性和辨别技术风险的能力。
这并非鼓励人们抗拒技术、因噎废食,而是一份邀约,邀请每个人知情、参与,共同完善技术体系。在机器人觉醒之前,我们本身应当觉醒。
校对:秦黛新
科技
-
-
- 线下展会,市民畅享科技大餐
- 5月28日,是2021中国国际大数据产业博览会线下展最后一天,也是免费向市民开放的公众日。趁此机会,记者继续带您探秘国际综合馆(W1馆)、数字应用馆(W2馆)、前沿技术馆(E1馆)、智慧产业馆(E2馆)4...
- 贵阳晚报
-
-
-
- 为何新药研发、基因测序、卫星遥感的发展提速都需要它?
- 人类第一次完整全基因组的测序花了13年,在新技术的加持下,这个时间已经降低到1天以内;没有这项新技术加持,电影《阿凡达》的渲染可能需要上万年;这项新技术还让新药的研发周期大幅缩短,让卫星遥感定位精度...
- 华为
-
-
-
- 大型金属3D打印厂商钢研极光亮相TCT,展示强大的生产服务能力
- 2021亚洲3D打印、增材制造展览会 (TCT Asia)于2021年5月26日-28日在国家会展中心(上海)7.1馆隆重举办。作为官方战略合作媒体,南极熊将会全程现场报道(地址https://www.nanjixiong.com/foru
- 南极熊3D打印
-
-
-
- 美国国家情报委员会《全球趋势2040——竞争更激烈的世界》报告摘译
- 2021年3月,美国国家情报委员会(NIC)发布了每四年一度的全球趋势预测报告《全球趋势2040——竞争更激烈的世界》。NIC是美国最高层级的战略情报机构,该委员会的成员均为来自政府、学术界和私营部门的高级专家...
- 全球技术地图
-
-
-
- 数字让监管更加智慧 上交所成功举办首届全行业技术大会
- 5月28日,上交所成功举办主题为“数字赋能,守正创新”的首届全行业技术大会。中国证监会副主席赵争平出席大会并致辞指出,证监会高度重视资本市场科技化转型与发展,确定了“数字让监管更加智慧”的愿景。...
- 上海证券报
-
-
-
- 湾区智行||中科创达赵鸿飞:汽车“新物种”需要共通的操作系统|中国汽车报
- “我是谁?我来自哪里?我要到哪里去?”这是哲学史上永恒的三大命题,同样也是我们甚至是企业需要不断思考的问题。此次采访对象——中科创达软件股份有限公司就是一家勤于思考、擅于思考的企业。这家企业在不断...
- 中国汽车报
-
-
-
- 广电总局表彰虚拟现实视频、超高清视频等5类96个优秀项目!
- 广电总局共评选出互动视频、沉浸式视频、虚拟现实视频、云游戏、超高清视频等5类96个优秀项目,分获一、二、三等奖和优秀奖,包括《中央广播电视总台5G+VR融合制播系统——春节联欢晚会 (2017- 2021)节目VR制作...
- 广电头条
-
-
-
- 占据市场最新赛道,“中国制造”机器人迎来爆发期
- 【环球时报记者 邢晓婧 杨沙沙】配餐机器人、迎宾机器人、扫地机器人……不知不觉间,中国老百姓对出现在餐馆、医院、火车站、养老院等场景的机器人逐渐习以为常,甚至家中也出现扫地、娱乐等家用机器人。有统计...
- 环球网
-
-
-
- 最受关注展项出炉,2021年北京科技周闭幕不落幕!
- 5月28日下午,2021年北京科技周闭幕式在中关村国家自主创新示范区展示中心举行。北京市科委、中关村管委会相关负责人介绍了本届北京科技周举办情况以及最受关注的展项。市科委、中关村管委会二级巡视员王建新出...
- 科普北京
-
-
-
- 魔高一尺,道高一丈:上交所VPN攻防札记
- 本文选自《交易技术前沿》总第四十二期文章(2020年12月)谢毅 / 上海证券交易所 yxie@sse.com.cn相晓辉 / 上海证券交易所 xhxiang@sse.com.cn虚拟专用网络(以下简称“VPN”)系统、互联网业务系统、外网
- Android编程精选
-
-
-
- 绿色召集令——聚力创赢,共赴绿色能源新征程!
- 申耀的科技观察读懂科技,赢取未来!申耀的科技观察,由科技与汽车跨界自媒体人申斯基创办,18年企业级科技媒体工作经验,专注企业数字化、产业智能化、智慧城市、汽车科技内容的观察和思考。
- 申耀的科技观察
-
-
-
- 汉朔科技和微软(中国)联合推动 IoT+AI 赋能全球零售
- (本文阅读时间:4分钟)2021年5月20日,全球领先的零售数字化解决方案供应商汉朔与微软(中国)在北京举行战略合作备忘录签约仪式,以进一步推动其在零售行业的全球布局和数字化战略。根据战略合作备忘录,汉朔...
- 微软科技
-
-
-
- 关于安全访问服务边缘(SASE),你需要知道的事情
- 在企业纷纷拥抱数字业务的过程中,由于边缘计算、云服务、混合网络的逐渐兴起,使得本就漏洞百出的传统网络安全架构更加岌岌可危,而且远远无法满足企业数字业务的需要。为了应对这种情况,一个全新的模型——安...
- FreeBuf
-
-
-
- [报告]2021年中国新能源汽车行业洞察(附44页PDF文件下载)
- 新能源车大势将至,造车新势力差异化突围。以下为报告节选:......文│Mob研究院本报告共计:44页。如欲获取完整版PDF文件,请扫描下方二维码加入“车友圈”获取。#重磅推荐#需要批量下载和及时更新最新汽车行业...
- 汽车之地
-