本公开总体上涉及多个设备之间的无线通信,包括但不限于发送(signaling)用于全息通信的信息的系统和方法。
背景技术:
1、增强现实(augmented reality,ar)、虚拟现实(virtual reality,vr)和混合现实(mixed reality,mr)正变得越来越普遍,这些技术在更广泛的平台和设备上得到支持。某些设备可以被配置用于视频或音频通话和/或视频或音频会议。
技术实现思路
1、本公开的各个方面涉及用于发送用于全息通信的信息的系统、方法和计算机可读介质。
2、根据本公开的第一方面,提供了一种方法,该方法包括:由一个或多个服务器维持与第一用户的第一设备的第一会话以及与一个或多个第二用户的一个或多个第二设备的一个或多个第二会话;由一个或多个服务器经由第一会话接收来自第一设备的第一用户的音频/视频(audio/video,a/v)数据和第一用户的标度数据;由一个或多个服务器根据该标度数据修改在该a/v数据的视频数据中表示的第一用户的标度(scale);以及由一个或多个服务器经由一个或多个第二会话向一个或多个第二设备发送第一用户的经修改的a/v数据,以用于向一个或多个第二用户渲染。
3、在一些实施例中,该方法还可以包括:由一个或多个服务器根据对第一设备与一个或多个第二设备之间的三维(three-dimensional,3d)通信会话的请求来建立第一会话和一个或多个第二会话。
4、在一些实施例中,该方法还可以包括:由一个或多个服务器经由一个或多个第二会话接收来自一个或多个第二设备的一个或多个第二用户的第二a/v数据和一个或多个第二用户的第二标度数据;由一个或多个服务器根据第二标度数据修改在第二a/v数据的第二视频数据中表示的一个或多个第二用户的标度;以及由一个或多个服务器经由第一会话向第一设备发送一个或多个第二用户的经修改的第二a/v数据,以用于向第一设备的第一用户渲染。
5、在一些实施例中,修改第一视频数据的标度可以包括:由一个或多个服务器根据第一标度数据和第二标度数据修改在第一视频数据中表示的用户的标度,并且其中,修改在第二视频数据中表示的一个或多个第二用户的标度包括:由一个或多个服务器根据第一标度数据和第二标度数据修改在第二视频数据中表示的一个或多个第二用户的标度。
6、在一些实施例中,修改标度可以包括:根据第一标度数据和第二标度数据修改在第一视频数据中表示的第一用户的标度,以匹配在第二视频数据中表示的一个或多个第二用户的标度。
7、在一些实施例中,a/v数据可以包括三维(3d)视频数据和空间(spatial)音频数据。
8、在一些实施例中,该方法还可以包括:由一个或多个服务器接收指示第一用户的视场(field-of-view,fov)的数据。
9、在一些实施例中,指示该(fov)的数据可以是由第一设备根据接收自可通信地耦合到第一设备的第三设备的数据来确定的。
10、在一些实施例中,该方法还可以包括:由一个或多个服务器为第一设备的第一用户以及至少为第二设备的第二用户和第三设备的第三用户维护第一用户、第二用户和第三用户中的每一者在定位图中的相对位置;以及由一个或多个服务器根据方向数据和第一用户在定位图中的相对位置确定第一用户的fov。
11、在一些实施例中,该方法还可以包括:由一个或多个服务器根据指示第一用户的fov的数据,经由第一会话以第一比特率向第一设备发送第二用户的第二a/v数据;以及由一个或多个服务器根据指示第一用户的fov的数据,经由第一会话以第二比特率向第一设备发送第三用户的第三a/v数据。
12、根据本公开的另一方面,提供了一个或多个服务器。该一个或多个服务器可以维持与第一用户的第一设备的第一会话以及与一个或多个第二用户的一个或多个第二设备的一个或多个第二会话。一个或多个服务器可以经由第一会话接收来自第一设备的第一用户的音频/视频(a/v)数据和第一用户的标度数据。一个或多个服务器可以根据该标度数据修改在该a/v数据的视频数据中表示的第一用户的标度。一个或多个服务器可以经由一个或多个第二会话向一个或多个第二设备发送第一用户的经修改的a/v数据,以用于向一个或多个第二用户渲染。
13、在一些实施例中,一个或多个服务器可以根据对第一设备与一个或多个第二设备之间的三维(3d)通信会话的请求来建立第一会话和一个或多个第二会话。在一些实施例中,一个或多个服务器可以经由一个或多个第二会话接收来自一个或多个第二设备的一个或多个第二用户的第二a/v数据和一个或多个第二用户的第二标度数据。一个或多个服务器可以根据第二标度数据修改在第二a/v数据的第二视频数据中表示的一个或多个第二用户的标度。一个或多个服务器可以经由第一会话向第一设备发送一个或多个第二用户的经修改的第二a/v数据,以用于向第一设备的第一用户渲染。在一些实施例中,一个或多个服务器可以根据第一标度数据和第二标度数据(例如通过修改在第一视频数据中表示的用户的标度)修改第一视频数据的标度,并且可以根据第一标度数据和第二标度数据(例如通过修改在第二视频数据中表示的一个或多个第二用户的标度)修改第二视频数据的标度。在一些实施例中,一个或多个服务器可以根据第一标度数据和第二标度数据来修改第一视频数据的标度(例如在第一视频数据中表示的第一用户的标度)以匹配第二视频数据的标度(例如在第二视频数据中表示的一个或多个第二用户的标度)。
14、在一些实施例中,a/v数据包括三维(3d)视频数据和空间音频数据。在一些实施例中,一个或多个服务器可以接收指示第一用户的视场(fov)的数据。在一些实施例中,指示该(fov)的数据由第一设备根据接收自可通信地耦合到第一设备的第三设备的数据来确定的。在一些实施例中,一个或多个服务器可以为第一设备的第一用户以及至少为第二设备的第二用户和第三设备的第三用户维护第一用户、第二用户和第三用户中的每一者在定位图中的相对位置。一个或多个服务器可以根据方向数据和第一用户在定位图中的相对位置来确定第一用户的fov。在一些实施例中,一个或多个服务器可以根据指示第一用户的fov的数据,经由第一会话以第一比特率向第一设备发送第二用户的第二a/v数据。一个或多个服务器可以根据指示第一用户的fov的数据,经由第一会话以第二比特率向第一设备发送第三用户的第三a/v数据。
15、根据本公开的另一方面,提供了一种设备,该设备包括:一个或多个摄像头;以及一个或多个处理器,该一个或多个处理器被配置为:根据经由第一设备的该一个或多个摄像头采集的图像数据来确定第一设备的用户的标度数据;接收用户的音频/视频(a/v)数据;以及向一个或多个服务器发送该用户的a/v数据和标度数据,以使该一个或多个服务器根据该标度数据修改该用户的a/v数据,并且向一个或多个第二设备发送用户的经修改的a/v数据。
16、将理解的是,在本文中描述为适合于结合到本公开的一个或多个方面或实施例中的任何特征旨在可推广到本公开的任何和全部方面和实施例。根据本公开的说明书、权利要求书和附图,本领域技术人员可以理解本公开的其它方面。前述总体性描述和以下详细描述仅是示例性和说明性的,而不是对权利要求的限制。
1.一种方法,包括:
2.根据权利要求1所述的方法,还包括:由所述一个或多个服务器根据对所述第一设备与所述一个或多个第二设备之间的三维(3d)通信会话的请求来建立所述第一会话和所述一个或多个第二会话。
3.根据权利要求1或权利要求2所述的方法,还包括:
4.根据权利要求3所述的方法,其中,修改所述第一视频数据的标度包括:由所述一个或多个服务器根据所述第一标度数据和所述第二标度数据修改在所述第一视频数据中表示的用户的标度,并且其中,修改在所述第二视频数据中表示的所述一个或多个第二用户的所述标度包括:由所述一个或多个服务器根据所述第一标度数据和所述第二标度数据修改在所述第二视频数据中表示的所述一个或多个第二用户的标度。
5.根据权利要求3或权利要求4所述的方法,其中,修改所述标度包括:根据所述第一标度数据和所述第二标度数据修改在所述第一视频数据中表示的所述第一用户的所述标度,以匹配在所述第二视频数据中表示的一个或多个第二用户的所述标度。
6.根据前述权利要求中任一项所述的方法,其中,所述a/v数据包括三维(3d)视频数据和空间音频数据。
7.根据前述权利要求中任一项所述的方法,还包括:
8.根据权利要求7所述的方法,其中,指示所述(fov)的所述数据是由所述第一设备根据接收自可通信地耦合到所述第一设备的第三设备的数据来确定的。
9.根据权利要求7或权利要求8所述的方法,还包括:
10.一种或多种服务器,包括:
11.根据权利要求10所述的一个或多个服务器,其中,所述一个或多个处理器被配置为:根据对所述第一设备与所述一个或多个第二设备之间的三维(3d)通信会话的请求来建立所述第一会话和所述一个或多个第二会话。
12.根据权利要求10或权利要求11所述的一个或多个服务器,其中,所述一个或多个处理器被配置为:
13.根据权利要求10、权利要求11或权利要求12所述的一个或多个服务器,其中,所述a/v数据包括三维(3d)视频数据和空间音频数据。
14.根据权利要求10至权利要求13中任一项所述的一个或多个服务器,其中,所述一个或多个处理器被配置为:
15.一种设备,包括:
