一
一声冷汗！科技的进步总是出乎我们意料。近日，一张视频监控图像在网上疯传。图片显示的，是某大学在部分教室“试水”的人脸识别系统：两位学生正身处教室，而人工智能系统早已在一旁标注出她们在课堂上睡觉、举手、趴桌子和阅读的次数。据梨视频报道，上述旷视人脸识别系统早已落地应用在中国药科大学，该校两间教室“试水”安装人脸识别系统。这一系统在学生进教室后，即能自动识别个人信息，学生是否认真听讲，课堂上是否抬头低头，抬头低头了几次，抬头低头了多长时间，低头是否在玩手机，是否闭眼打瞌睡，都能被人脸识别系统实时监控。随之，网上又爆出，上海中医药大学附属闵行蔷薇小学正在构建智能课堂行为分析系统，运用如姿态评估、表情识别、语言识别、教师轨迹热力分析等技术，探索对课堂教学过程的定量分析。消息曝光后，网上一片哗然。很多人纷纷吐槽：学生首先是一个人，又不是学校的私有物品，学校无权进行如此监控。网络舆论如此之大，让教育部也坐不住了。今天，教育部有关负责人表示，人脸识别进校园，既有数据安全也有个人隐私问题，要加以限制和管理，希望学校非常慎重地使用这些技术软件。的确，教育本该建立在人与人、人与世界的沟通和互动中。如果运用人脸识别这种人工智能来监控学生，将来，学生和老师的心灵交流将形同虚设，教育二字荡然无存，只剩机械的控制。技术发展，已经掀起了排空巨浪，福耶祸耶，只有靠我们自己把握了！二
其实，人脸识别，还仅仅是人工智能运用的冰山一角。仅仅是一个脸，人工智能就可以作很多文章。
比如，AI换脸技术！从上周末开始，一个名为“ZAO”的AI换脸App忽然火爆全网，用这款App制作的换脸视频在微博、朋友圈随处可见。只要一张照片，想附体谁就附体谁！▼ZAO最大的噱头是和明星“换脸”，并且嵌入短视频中，可下载后传播，用于社交娱乐。
这一技术，其实背后用的是“deepfakes”直接开源的AI换脸项目代码。在deepfakes代码开源后，AI换脸技术一下子如星星之火，一瞬间烧遍了整个世界。AI换脸的威力极为强大，只需几张图片，就能还原3D人脸动态，逼真到人鬼莫辨。比如，这些奥巴马里，哪个是真的？其实，他们都是假的。AI换脸的应用后果，也是相当可怕的。比如，它可以把情色电影里的女主角换成了盖尔·加朵等好莱坞明星。实际上，这类“换脸”的受害者除了盖尔·加朵，还包括黛茜·雷德利、娜塔莉·波特曼等一众好莱坞女星。国内当红的女星们也纷纷中招。你想想，只需要一个身材诱人的身体，就能P出任何一个女明星来，这是多大的钱景？好莱坞女星斯嘉丽·约翰逊在华盛顿邮报的采访中表示：“让任何一个人成为这项技术的攻击目标只是时间问题。”
最可怕的，是按照ZAO的服务协议，当你选择使用这个app以后，根据协议内容，该app除了可免费使用并修改你的肖像，还可以将它任意授权给自己想授权的第三方，当做信息进行贩卖。
换句话说，你今天在网上换脸，当你觉得很开心的时候，其实，你的脸，已经不再只属于你自己，它也归ZAO，及它想授权的所有人。往远处想，这种无缝替换人脸的技术，还可以被犯罪分子利用，玩出无数的花样。比如，使用这项技术无缝把老人子女的脸融入视频中，不管是生病要钱，还是绑架，还是转账，都很容易骗到老人。细思恐极！大家不能低估了人性的恶。在这种技术面前，每个人都可能成为潜在的受害者。三
当然，最让人担心的还是，人工智能被利用来进行战争和杀戮。在日内瓦举办的、有超过七十个国家代表出席的联合国武器公约会议上，一段可怕的视频公诸于众，一时间引起世界恐慌！
为啥如此吓人？因为它曝光了人类史上一个恐怖武器——杀手机器人！这个杀手机器人，其实是一架体型很小的智能无人机，就跟蜜蜂一样大，但它的处理器比人类快100倍，可以躲避人类各种追踪。然而，蜜蜂虽小，五脏俱全，尤其是它全身的黑科技：广角摄像头、传感器、面部识别，应有尽有。只要把目标图像信息输入它身上，它就能手术刀般精准找到打击对象，戴口罩、伪装统统没用，它的识别率高达99.99！ 

再次，每个杀手机器人配有3克浓缩炸药，确定目标后，一次撞击可以毫无压力爆头，摧毁整个大脑。而且它还能穿透建筑物、汽车、火车，躲避人类子弹，应对几乎所有防御手段。总之，这个杀手机器人目前是bug般的存在！
如果把一个造价仅2500万美元的杀人机器蜂群释放出去，就可以杀死半个城市的人。只要你把敌人挑出来，定义每一个人的面部信息，蜂群就能发起针对性打击了！试想，如果人工智能杀手，再运用上基因武器，就会把战争冲突升级至前所未有的规模，而且人类将很难控制住局面。
更可怕的是，如果有科学家因为私心在代码里面加了一行毁灭人类的指令，或者人工智能突然变异成反人类的品种，整个人类或将被机器人的基因武器横扫，甚至灭亡！的确，未来，人工智能会发展成什么样，给我们的生活造成什么影响，它究竟是普罗米修斯的火种还是潘多拉的魔盒。我们目前不得而知。四未来已来！从今天起，一只命运的蝴蝶，已经张开了它颠覆之翅！这次看似不太起眼的翅膀扇动，注定将在不远的将来，引起山呼海啸般的巨震！从今天起，人工智能不再是科幻小说，不再是阅读理解，不再是新闻标题，不再是试管中荡漾的液体和双螺旋体中孱弱的灵魂，而是实实在在的宿命。人类历史上，每一次重大的技术革命，都会引发对人类自身乃至整个社会的冲击。脑机接口也一样，对人类社会来说，这或是一场充满不确定性的大海啸！
铁器的发明，传统农业社会的出现，引发了一场冷兵器时代的战争。在中国，这场战争从春秋战国时期，一直打到了汉代，才告终结。

电力的发明，工业社会的出现，引发第一次世界大战和世界大战，让整个二十世纪上半叶，染上了血色。

现在，随着人工智能等技术等推进，在带来科技福利的同时，也将引发一场新的社会变革的风暴。《天龙八部》里的扫地僧说，少林七十二绝技每练一技都需要相应的佛法才能化解，而要把七十二绝技学成于一身需要极高深的心法修为，萧峰和慕容复的老爸都因为偷学绝技但心法没跟上而深受其害。
技术发展日新月异，对人性的反噬潜移默化，人的修为跟得上AI吗？我们能不能有相应的思想和制度制约，来化解AI这项绝顶武功带来的毒素？写到这里，不知道为什么，我突然想起了小说狄更斯 《双城记》开篇的那段话：
这是一个最好的时代，这是一个最坏的时代； 这是一个智慧的年代，这是一个愚蠢的年代；这是一个信仰的时期，这是一个怀疑的时期；这是一个光明的季节，这是一个黑暗的季节；这是希望之春，这是失望之冬；人们面前应有尽有，人们面前一无所有；人们正踏上天堂之路，人们正走向地狱之门。水可载舟，亦可覆舟，技术也是如此！善良的人们啊，你们要更审慎！另：大量读者还有没养成点赞的习惯，希望大家阅读后顺手点“在看”并转发，以示鼓励！长期坚持原创真的很不容易，多次想放弃。坚持是一种信仰，专注是一种态度。推荐四个不错的微信公众号：
正商纵横（ID：zszh88）证商透视（ID：zstszsts）政经瞭望（ID：qtzl3721）
财经要情（ID：caijingyaoqing）










要参君




扫一扫下载订阅号助手，用手机发文章

赞赏



长按二维码向我转账


受苹果公司新规定影响，微信 iOS 版的赞赏功能被关闭，可通过二维码转账支持公众号。

















已同步到看一看



取消
发送


我知道了








朋友会在“发现-看一看”看到你“在看”的内容
确定













已同步到看一看写下你的想法



最多200字，当前共字
发送







已发送







朋友将在看一看看到
确定



写下你的想法...









取消
发布到看一看
确定




最多200字，当前共字








发送中













微信扫一扫
使用小程序










取消
允许











取消
允许














知道了








确定