—— 青亭网
- AR中面部追踪的基础浅析
- 来源:青亭网
hi188|编辑
此前我们报道大量苹果、微软等相关专利,从中我们或多或少了解一些产品信息,但关于AR眼镜(消费级)的未来仍然没有一个明确答案,而这个过程,可能会比VR(2014年Oculus首个VR产品走向大众,到2020年VR有大众化的普及趋势)更久。
今天,我们就从其中一点来看,那就是AR中的人脸识别,本文作者是BivásBiswas,他是可视化公司Zoic Labs的高级工程师,他在文章中提出了几个观点:
LiDAR开启AR交互大门;
Reality Composer有望成为下一个iMovie;
AR中的锚点和真实物体相互依存。
1,为什么说LiDAR开启AR交互体验大门
苹果已经在2020年为iOS设备引入LiDAR传感器,虽然目前仅仅集中在Pro系列设备中,但是这依然让我们看到了AR交互的潜力。
LiDAR自身优势很广泛,在iPhone、iPad这类小型化设备上,做到了5米测距,意味着以中心为直径的10米的圆形内都可以被检测到,这满足了大多数室内场景。
BivásBiswas表示:LiDAR已经广泛应用到机器人等领域,它可以让机器人“了解”现实世界的环境,以及相对空间中的位置和方向等等。而你的手机可以看作是一个“没有机器臂的机器人”,但是它有核心处理能力,内置了一些传感器,而LiDAR就是最新型的传感器之一。
我们知道。人类通过双目视差的方式获取深度信息。而基于计算机双目视觉的、实时帧率计算方案成本则非常昂贵。LiDAR的出现,让我们可以通过LiDAR+单目视觉实现这些功能。
和以往只能拍摄2D照片不同,结合LiDAR后可以识别深度信息,甚至完成3D扫描工作,这已经是移动设备上很大的进步。因此,基于LiDAR就可以实现更复杂、更全面的AR内容。
当然,这里就需要一套更人性化的框架,它需要降低操作复杂性,抛开底层技术原理,可以方便地让开发者、设计师、艺术创作者等完成创作,降低开发难度和周期,提高开发效率。
2,Reality Composer有望成为下一个iMovie
iMovie是苹果公司官方的视频编辑应用,它的特点是可以更快、更轻松的完成视频剪辑工作,同时支持iOS、macos等平台。
回到iOS系统,它也应该拥有和iMovie相对应的AR编程框架,即ARKit、RealityKit。ARKit是整个AR平台的底层基础,用于处理IMU、LiDAR、视觉等数据信息,而RealityKit则是基于ARKit平台的内容创作框架。
在RealityKit中(Reality Composer,伴随iOS 13.1系统发布一同上线),你可以进行各种各样的创作,它的特点就是让你通过你通过拖拽、点击等简单的操作即可构建可互动的AR场景,同时内置大量3D内容数据库,还可与Xcode和iOS应用配合使用,这样就能实现AR场景快速预览并进行微调,大幅提升效率。
Reality Composer不仅仅具备极佳的阴影、照明、环境反射效果,而且还深度打通USDZ,实现苹果整套开发工作的闭环,无疑不是让苹果在AR创作中更轻松。
当然,很多人也知道例如Unreal虚幻引擎、Unity、3DSMax、Maya等工具也可以完成这些创作,而且可以导出为USDZ格式进行交互。而苹果还在不遗余力地推动3D内容创作平台Reality Composer等等工作,BivásBiswas推测这可能是为自家Mac生态系统提供端到端的AR内容创作方案。
谈到Reality Composer的使用也非常轻松,它支持iOS和macOS双平台,在手机上你可以通过触屏缩放,拖拽进行轻量化的AR内容创作,而在Mac上则可以完成更复杂的场景和交互。
而在Mac开发需要实时调试,尤其是对于AR开发工作而言,这就凸显出了Reality Composer的重要性。因为基于强大的iCloud系统,可以让USDZ文件快速的在iPhone进行预览。
同时,苹果还在Safari浏览器中提供AR快速预览功能,只要是USDZ格式的文件,都可以在Safari浏览器进行快速预览,这也是苹果在AR生态构件中的重要一环。
3,AR中锚点和实物互相依存
我们知道,AR交互的重要工作是虚拟对象和真实世界像交互,而不是像谷歌眼镜中那样虚拟图像会跟随头的方向转来转去,这其中的关键技术就是锚点固定。
也就是说,计算机生成的CG虚拟图像,需要实时锚定在显示物体之中,为此AR系统后台不得不实时追踪摄像头数据,并且对每帧数据进行锚点更新。这其中涉及到ARFrame,它包含了摄像头、锚点、场景、追踪、映射状态、地址位置等信息。
实际上,任何的虚拟物体(3D模型)都可以和锚点绑定,大到宇宙飞船,小到一个玻璃球。将虚拟物体锚定后,AR系统将对其进行深度追踪,即便你继续前后左右的移动,虚拟物体将保持固定在那里,就像是真实世界中的物体一般。
当ARKit检测到人脸后,它会将锚点放置于鼻子后方(这是一个人眼不可见的区域),该锚点称为ARFaceAnchor,也经常用于前置摄像头用于人脸检测。
ARFaceAnchor可以完成:眼睛追踪、眼球追踪、眉毛、颌骨等面部信息的追踪,从而实现更好的面部AR交互效果,而这就是ARFaceGeometry属性。
ARFaceGeometry的出现让3D虚拟物体的面部互动成为可能,例如苹果Animoji。而基于此,还可以完成AR美妆、甚至虚拟太阳镜等等交互,和Snapchat的玩法差不多,只不过Snap应用了自己的开发平台,而不是ARKit。
由此可知,在AR中实现追踪并不是一件易事,一方面需要拥有更为强大的传感器,另一方面还需要设备有足够的算力。就现阶段而言,移动AR体验过程中,锚点不可避免地会有偏移,不仅仅是ARKit系统、就连HoloLens、Magic Leap也是如此,不同的设备偏移差也有所不同,但拥有完善的SLAM能力的AR头显效果相对更好一些。
无论如何,在移动设备上引入LiDAR是一个大的飞跃,它可以获取环境3D信息,对虚拟对象实现更好的锚定和追踪等。Reality Composer同样具有极大潜力,综合所有追踪、锚点等技术,希望这些技术能够成为开发出优质AR应用的好工具。
参考:
https://bivasb.medium.com/anchors-and-facetracking-in-ar-for-dummies-7a297ffbf7fe
( END)
—— 青亭网
科技
-
-
- 观展指南|小编带你看看今年超高清交易展长啥样?
- 展览介绍由工业和信息化部、国家广播电视总局、中央广播电视总台、广东省人民政府主办的2021世界超高清视频(4K/8K)产业发展大会将于2021年5月8日-10日在广州举办,同期举行超高清视频产业创新产品技术交易展。...
- 中国电子报
-
-
-
- 2021扫地机器人白皮书:从“瞎撞墙”到“真解放双手”还有多远?[附下载]|智东
- “乱撞”、“不智能”、“扫不干净”,扫地机器人如何洗白自己?编辑 | 智东西内参扫地机器人在我国于2010年前后开始兴起。起步阶段, 由于产品价格偏高,大部分消费者难以接受,而且受生活习惯和消费理念的影响...
- 智东西
-
-
-
- 重磅!中国电信成立新公司,竟然要布局..
- 近日有传言称,中国电信集团将成立新的公司,并且将进入OTT行业正面与家电企业竞争。对此,根据中国电信集团内部人士透露,中国电信确实也将成立一个致力于智慧家庭的分公司,并且该公司属于一级部门,该公司将...
- 通信圈
-
-
-
- 2030年全球金属3D打印市场将超过300亿美元
- 2021年5月,南极熊获悉,国外的3dpbm研究团队发布了一份最新的3D打印市场报告,重点关注金属3D打印领域。经过2020年第四季度和2021年第一季度的广泛数据收集和分析,这份报告对活跃在金属增材制造市场的3D打印公...
- 南极熊3D打印
-
-
-
- 人工智能核心技术产业白皮书!资本降温,白热化竞争来临
- 来源: 智东西编辑:智东西内参在过去一年中,人工智能的新算法不断涌现,深度学习仍是这一时期发展主线,尝试解决更为复杂的应用任务。人工智能的产业格局与生态体系更为明晰,开源开发框架格局逐步确立,以科...
- 人工智能学家
-
-
-
- 与Oculus合推开源手势交互工具,开发者讲述如何优化手势
- Esther|编辑自从Quest一体机开始支持手势识别以来,出现了《The Curious Tale of the Stolen Pets》、《Cubism》、《Waltz of the Wizard》等多款支持手势交互的有趣VR游戏。除此
- 青亭网
-
-
-
- 40亿元大单!中国移动启动集中网络云资源池三期集采
- 中国移动日前发布集中网络云资源池三期工程采购招标公告,具体包括:数据中心交换机及高端路由器、计算型服务器、硬件集成服务、分布式块存储、硬件防火墙和汇聚分流设备六项采购内容。项目实施地域为保定、南京...
- C114通信网
-
-
-
- JavaScript 开发者数量暴涨、C#超越 PHP,揭晓全球开发最新趋势!
- 整理 | 苏宓出品 | CSDN(ID:CSDNnews)近日,知名分析公司 SlashData 在调研了全球 155 个国家/地区的 19000 多名开发者后,重磅发布了 2021 第一季度的《开发者报告》(第 20 版)。在本次报告中,
- 程序人生
-
-
-
- [南极熊3D打印]手机APP照常更新
- 喜讯:【南极熊3D打印】手机APP来了,功能很强大,内容很专业△安装了【南极熊3D打印】手机APP的用户,已经可以直接在手机状态栏接收到南极熊的实时推送,第一时间知道行业的重大消息【南极熊3D打印】APP已经上...
- 南极熊3D打印
-
-
-
- 宇航员返回,SpaceX 首次商业载人飞行成功;微软开发《曼达洛人》游戏;苹果面
- 马斯克脑机接口公司合伙人辞职:曾称建造侏罗纪公园外媒报道,马克斯·霍达克作为 Neuralink 公司的联合创始人之一,一度还担任过该公司的总裁,不过,这位公司元老级人物宣布已经辞职离开了该公司。霍达克在社...
- 极客公园
-
-
-
- 综合研读与判定:华为距离下场亲自造车还有多远
- 2021年上海车展期间,ARCFOX发布了S HI版搭载华为提供的3颗96线车规级激光雷达,与6个毫米波雷达、12个摄像头和13个超声波雷达构成了高级别无人驾驶技术方案。赛力斯发布SF5华为智选版,搭载华为提供的后置“3合...
- 换个角度看车市
-
-
-
- AR中面部追踪的基础浅析
- hi188|编辑此前我们报道大量苹果、微软等相关专利,从中我们或多或少了解一些产品信息,但关于AR眼镜(消费级)的未来仍然没有一个明确答案,而这个过程,可能会比VR(2014年Oculus首个VR产品走向大众,到2020...
- 青亭网
-
-
-
- 用户的隐私怎么办?从iOS 14.5隐私条款说起
- 4月底,苹果正式更新了iOS 14.5操作系统,在众多更新的内容中,一条有关隐私保护的条款再度引起了业内关注。根据这条隐私条款,应用程序提供商需在征得iPhone手机用户的授权之后才能使其APP追踪用户的手机在线行...
- 天极网
-
-
-
- 手机厂商集体转行造车,华米ov你会买谁?
- 前言其实早在3月的时候,小7就想说说手机厂商造车的事。因为那时候小米已经宣布造车了,华为、OPPO、vivo等厂商也早有自己的汽车计划,对手机厂商来说,今年仿佛是集体转型的一年。华为首先是华为,华为应该是手...
- 手机评测团
-