一种图像处理方法、装置、设备及存储介质与流程

专利2023-10-12  88



1.本发明涉及计算机技术领域,尤其涉及一种图像处理方法、装置、设备及存储介质。


背景技术:

2.随着科技的发展,人们对多媒体数据的质量有了更高的要求。例如,在一些安防场景中,图像采集设备的性能越来越高,在数据传输过程中往往传输的是超高分辨率的图像数据。
3.在对高分辨率的图像数据进行传输时,常常采用分块传输的方式,即将一幅图像分割成多块,在同一码流中传输。显示终端需要对接收到的码流进行解码和渲染等操作才能进行图像显示。对高分辨率码流进行解码和渲染对显示终端的显卡、中央处理器(central processing unit,cpu)以及内存等要求较高,并且分块传输时,还需要显示终端创建更多的解码器,从而对显示终端的显卡、cpu以及内存等要求更高。


技术实现要素:

4.本发明提供了一种图像处理方法、装置、设备及存储介质,可以降低图像显示设备的性能需求。
5.根据本发明的一方面,提供了一种图像处理方法,其特征在于,包括:
6.从图像采集终端获取分块码流;所述分块码流包括由原始图像分割得到图像块的编码数据,以及所述原始图像的分块信息;
7.获取与所述图像采集终端关联的码流处理信息;所述码流处理信息依据图像显示终端的性能确定;
8.依据所述码流处理信息和所述分块信息,对所述编码数据进行处理。
9.根据本发明的另一方面,提供了一种图像处理装置,其特征在于,包括:
10.分块码流获取模块,用于从图像采集终端获取分块码流;所述分块码流包括由原始图像分割得到图像块的编码数据,以及所述原始图像的分块信息;
11.处理信息获取模块,用于获取与所述图像采集终端关联的码流处理信息;所述码流处理信息依据图像显示终端的性能确定;
12.图像处理模块,用于依据所述码流处理信息和所述分块信息,对所述编码数据进行处理。
13.根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:
14.至少一个处理器;以及
15.与所述至少一个处理器通信连接的存储器;其中,
16.所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的图像处理方法。
17.根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的图像处理方法。
18.本发明实施例的技术方案,从图像采集终端获取分块码流,进而获取与图像采集终端关联的码流处理信息,其中,码流处理信息依据图像显示终端的性能确定,最终依据码流处理信息和分块码流的分块信息,对编码数据进行处理,可以依据图像显示终端的性能来对编码数据进行处理,降低图像显示终端的需求。
19.应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
20.为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
21.图1a是根据本发明实施例一提供的一种图像处理方法的流程图;
22.图1b是根据本发明实施例一提供的分块码流排列示意图;
23.图2是根据本发明实施例二提供的一种图像处理方法的流程图;
24.图3是根据本发明实施例三提供的一种图像处理方法的流程图;
25.图4是根据本发明实施例四提供的一种图像处理装置的结构示意图;
26.图5是实现本发明实施例的图像处理方法的电子设备的结构示意图。
具体实施方式
27.为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
28.需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
29.实施例一
30.图1a为本发明实施例一提供了一种图像处理方法的流程图,本实施例可适用于依据图像显示终端的性能来确定分块码流处理信息的情况,该方法可以由图像处理装置来执行,该图像处理装置可以采用硬件和/或软件的形式实现,该图像处理装置可配置于各种通
用计算设备中。如图1a所示,该方法包括:
31.s110、从图像采集终端获取分块码流;分块码流包括由原始图像分割得到图像块的编码数据,以及原始图像的分块信息。
32.图像采集终端用于进行图像采集和图像编码,并将编码后的图像数据发送至图像显示终端。示例性的,图像采集终端可以是摄像头或者带有拍摄功能的手机、平板电脑等设备。
33.在公安、交通、学校以及机场等要求高清画质的大型监控场所中,一般采用高清摄像头作为图像采集终端进行图像采集,因此,常常需要传输高分辨率的图像数据,例如,传输分辨率在4k-8k的监控视频。在对高分辨率的图像进行传输时,常常会采用分块传输的方式,将一块图像分割成多个图像块,并针对图像块进行编码,在同一码流中进行传输,后续将多个图像块对应的码流称为分块码流。通过分块传输的方式,图像块之间互不干扰,其中一个图像块丢失,其他图像块也可正常传输,具有较高的容错性。
34.分块码流中包括由原始图像分割得到图像块的编码数据,以及存储在h.256或h.264的补充增强信息(supplemental enhancement information,sei)中的原始图像的分块信息。其中,分块信息具体可以包括将原始图像划分得到的图像块数量、每一个图像块的分辨率、每一个图像块在分块码流中的位置偏移、每一个图像块的序号以及每一个图像块在显示时的位置。
35.本发明实施例中,图像采集终端在采集到原始图像后,将原始图像分割成多个图像块,并将多个图像块进行编码后通过同一码流传输至图像显示终端。图像显示终端获取图像采集终端发送的与原始图像对应的分块码流,以及存储在分块码流h.256或h.264的sei中的原始图像的分块信息。
36.在一个具体的例子中,图像显示终端获取的分块码流排列如图1b所示,包括由原图像分割得到的8个图像块的编码数据,分别为i1、i2、i3、i4、p1、p2、p3和p4。除此之外,上述分块码流还包括存储在h.256或h.264的sei中的原始图像的分块信息。例如,包括原始图像划分得到的图像块数量为8、以及每个图像块的初始分辨率为1920*1080,每一个图像块在分块码流中的位置偏移(相对于第一个编码数据i1的偏移)、每一个图像块的序号(图像块的唯一标识)以及每一个图像块在显示时的位置。
37.s120、获取与图像采集终端关联的码流处理信息;码流处理信息依据图像显示终端的性能确定。
38.码流处理信息是对分块码流中编码数据进行处理的依据,码流处理信息可以包括分块码流中各图像块对应编码数据的解码方式、渲染方式,以及是否需要压缩,以及压缩的目标分辨率等。
39.码流处理信息可通过二维数据表或者可扩展标记语言(extensible markup language,xml)的形式进行存储,不同图像采集设备对应的码流处理信息不同,也就是说每个图像采集设备可以对应一个二维数据表或者一个xml文件。其中,二维数据表或xml文件中每一行表示一个图像块对应编码数据的处理信息,包括该图像块对应编码的解码方式、渲染方式和是否需要压缩等信息。值得注意的是,码流处理信息与图像显示终端的性能相关,也就是说,码流处理信息是依据图像显示终端处理分块码流时的性能来确定的。
40.本发明实施例中,在图像显示终端在获取到分块码流后,进一步获取与图像采集
终端关联的码流处理信息。具体的,可以依据当前发送分块码流的图像采集终端的标识,查找本地是否存储有与图像采集终端匹配的码流处理信息表。若是,则可以直接从码流处理信息表中提取码流处理信息,若否,则可以根据图像显示终端的性能来确定码流处理信息,具体的可以通过图像显示终端对上述分块码流进行预处理,并记录预处理过程中图像显示终端的性能参数,例如,cpu占用量、内存占用量以及显存占用量来确定具体的处理方式。其中,处理方式可以包括解码方式、渲染方式以及是否需要对图像进行分辨率压缩等。
41.在一个具体的例子中,在图像显示终端存储有多组xml格式的码流处理信息,每一组码流处理信息与不同图像采集终端关联。图像显示终端在接收到分块码流后,首先可以获取发送当前分块码流的图像采集终端,进而根据图像采集终端的标识查找与其对应的码流处理信息。例如,获取到的码流处理信息包括将原始图像进行分割得到的图像块数量为2,2个图像块对应编码的解码方式分别是软件解码和硬件解码,对应渲染方式分别是cpu渲染和显卡渲染。
42.s130、依据码流处理信息和分块信息,对编码数据进行处理。
43.本发明实施例中,在获取到与图像采集终端关联的码流处理信息后,基于码流处理信息中包含的解码方式,以及分块信息中包含的图像块的原始分辨率,建立解码器,对分块码流中的编码数据进行解码。进一步的,依据码流处理信息中包含的渲染方式,以及分块信息中包含的图像块的原始分辨率,建立渲染器,对分块码流中关联的各图像块进行渲染。最终,依据分块信息中包含的各图像块的显示位置,将渲染得到的各图像块在对应位置进行显示,以将分块码流中包含的多个图像块拼接,得到完整的原始图像。
44.值得注意的是,在进行图像块的渲染过程中,可能会出现渲染超时或者渲染失败的情况,此时可以对解码后的图像块进行分辨率压缩后再进行渲染,并将压缩后的分辨率存储至码流处理信息中,以便于候选对该图像采集终端发送的分块码流进行处理时,直接对图像块进行压缩,避免再次出现渲染失败的情况。例如,在渲染失败或超时的情况下,首先将图像块的分辨率压缩为原始分辨率的80%,再进行渲染,若渲染成功则直接将压缩后的分辨率存储至码流处理信息中供下次使用。若渲染再次失败或超时,可以在压缩的基础上,再次将图像块的分辨率进行比例压缩,直至渲染成功,并将最终渲染成功的分辨率存储至码流处理信息中。
45.本发明实施例的技术方案,从图像采集终端获取分块码流,进而获取与图像采集终端关联的码流处理信息,其中,码流处理信息依据图像显示终端的性能确定,最终依据码流处理信息和分块码流的分块信息,对编码数据进行处理,可以依据图像显示终端的性能来对编码数据进行处理,降低图像显示终端的性能要求。
46.实施例二
47.图2为本发明实施例二提供的一种图像处理方法的流程图,本实施例与在上述实施例的基础上进一步细化,提供了获取与图像采集终端关联的码流处理信息的具体步骤。如图2所示,该方法包括:
48.s210、从图像采集终端获取分块码流;分块码流包括由原始图像分割得到图像块的编码数据,以及原始图像的分块信息。
49.s220、依据图像采集终端的标识,判断是否存储有与图像采集终端关联的码流处理信息。
50.本发明实施例中,图像显示终端在获取图像采集终端发送的分块码流后,首先该依据图像采集终端的标识,在本地查找是否存储有与图像采集终端关联的码流处理信息。如果本地存储有与图像采集终端关联的码流处理信息,则后续可以直接根据查找到的码流处理信息来处理该图像采集终端后续发送的分块码流。由于码流处理信息是依据图像显示终端的性能来确定的,可以达到在图像显示终端性能相对较低的情况下配置解码高分辨率图像的效果。
51.s230、在未存储与图像采集终端关联的码流处理信息的情况下,依据图像显示终端在处理分块码流时的性能参数,确定码流处理信息。
52.本发明实施例中,如果图像显示终端未存储与图像采集终端关联的码流处理信息的情况下,依据图像显示终端在处理当前分块码流时的性能参数来确定码流处理信息。具体的,可以通过多种处理方式,对图像采集终端发送的分块码流进行预处理,并根据预处理过程中图像显示终端的性能参数,确定与当前图像采集终端适配的码流处理方式。其中,性能参数可以包括cpu占用量、内存占用量或者显存占用量中至少一项。
53.值得注意的是,分块码流中各图像块关联的编码数据所对应的解码方式可以不同。例如,分块码流中包括3个图像块的编码数据,则对3个图像块的编码数据可以采用不同的解码方式和渲染方式。也就是说,每个图像块的处理过程相对独立,可以提高图像显示终端中资源的利用率,降低对于图像显示终端的性能要求。示例性的,若分块码流中每个图像块均采用软件解码方式,则需要每个图像块建立解码器进行独立解码,此时对于图像显示终端cpu的性能要求很高。若分块码流中图像块一部分采用硬件解码方式,另一部分采用软件解码方式,则可以将一部分图像块的解码工作分配至图形处理器(graphics processing unit,gpu),从而降低cpu的工作负荷,提高图像显示终端中资源的利用率,降低对于图像显示终端的cpu性能要求。
54.在一个具体的例子中,如果图像显示终端未存储与图像采集终端关联的码流处理信息,则可以通过多种解码方式分别对图像显示终端进行预解码,并记录图像显示终端在通过各种解码方式进行解码时的cpu占用量和内存占用量。进一步的,依据cpu占用量对多种解码方式进行排序,并选择cpu占用量最低的解码方式作为与该图像采集终端关联的解码方式。若依据cpu占用量无法确定唯一的解码方式,例如,cpu占用量最低的解码方式有2种,此时,可以进一步依据内存占用量在上述2中解码方式中选择唯一的解码方式作为与该图像采集终端关联的解码方式。在确定解码方式后,进一步依据解码方式确定与解码方式对应的渲染方式。例如,若解码方式为硬件解码,则对应渲染方式为显卡渲染,若解码方式为软件解码,则对应渲染方式为cpu渲染。
55.可选的,依据图像显示终端在处理分块码流时的性能参数,确定码流处理信息,包括:
56.基于分块信息中的分块数量,将至少两种候选解码方式进行组合,确定针对分块码流的候选解码方式组合;候选解码方式组合中包括分块码流中各图像块的编码对应的解码方式;
57.依据候选解码方式组合对分块码流进行预解码,确定预解码耗时以及预解码过程中图像显示终端的至少一项性能参数;
58.依据性能参数,在预解码耗时满足显示需求的候选解码方式组合中,确定目标解
码方式组合;
59.依据目标解码方式组合关联的解码组件,确定各图像块的渲染方式,构成目标渲染方式组合,并由目标解码方式组合和目标渲染方式组合构成码流处理信息。
60.本可选的实施例中,提供一种依据图像显示终端在处理分块码流时的性能参数,确定码流处理信息的具体方式:首先,基于分块信息中的分块数量,将图像显示终端支持的至少两种候选解码方式进行组合,得到针对分块码流的候选解码方式组合,其中,每个候选解码方式组合中包含了分块码流中各图像块的编码对应的解码方式。例如,分块码流中包括3个图像块的编码,候选解码方式包括软件解码和硬件解码2种解码方式,则可以获取到全部的候选解码方式组合包括如下4组:3个图像块编码均采用软件解码,2个图像块编码采用软件解码以及1个图像块编码采用硬件编码,1个图像块编码采用软件解码以及2个图像块编码采用硬件解码,3个图像块编码均采用硬件编码。
61.在确定全部的候选解码方式组合后,进一步采用每个候选解码方式组合中的解码方式对分块码流中各图像块的编码进行预解码,并记录预解码耗时以及在预解码过程中图像显示终端的至少一项性能参数。其中,预解码耗时是分块码流中全部图像块的编码均完成解码的时长。性能参数可以是预解码过程中的cpu占用量以及内存占用量等。
62.进一步的,可以依据图像显示终端通过各候选解码方式组合进行预解码时的解码耗时,在多个候选解码方式组合中,确定预解码耗时满足显示所需帧率需求的至少一个候选解码方式组合。进而依据各候选解码方式组合进行预解码时的性能参数,在上述满足帧率需求的候选解码方式组合中确定唯一的目标解码方式组合。示例性的,可以获取预解码时的cpu占用量,选取对应cpu占用量最低的解码方式组合作为目标解码方式组合。当然,也可以根据优先级综合考虑cpu占用量、内存占用量以及显存占用量,从而确定目标解码方式组合。
63.最终依据目标解码方式组合,确定与其对应的目标渲染方式组合。具体的,分别依据目标解码方式组合中包含的解码方式,确定与解码方式关联的解码组件,最终根据解码组件确定对应的渲染方式。在一个具体的例子中,分块码流中包括图像块a、b和c的编码,解码方式组合中包括关于图像块a的解码方式为硬件解码,解码组件为硬件,图像块b和c的解码方式为软件解码,解码组件为cpu。则可以依据各图像块关联的解码方式,确定各解码块关联的渲染方式,包括图像块a的渲染方式为显卡渲染,图像块b和c对应的渲染方式为cpu渲染。
64.可选的,依据性能参数,在预解码耗时满足显示需求的候选解码方式组合中,确定目标解码方式组合,包括:
65.依据性能参数中的cpu占用量,在预解码耗时满足显示需求的候选解码方式组合中,筛选目标解码方式组合;
66.在依据cpu占用量的筛选结果不唯一的情况下,在基于cpu占用量筛选的结果中,依据内存占用量,确定目标解码方式组合。
67.本可选的实施例中,提供了依据性能参数,在预解码耗时满足显示需求的候选解码方式组合中,确定目标解码方式组合的具体方式:首先依据性能参数中的cpu占用量,在预解码耗时满足显示需求的候选解码方式组合中,筛选目标解码方式组合。进一步的,如果依据cpu占用量无法确定唯一的目标解码方式组合时,可以依据内存占用量,在基于cpu占
用量筛选的结果中继续筛选出唯一的目标解码方式组合。
68.在一个具体的例子中,候选解码方式组合有3个,在预解码过程中的cpu占用量分别是75%、45%和45%,内存占用量分别是35%、45%和25%。若依据cpu占用量来筛选,会选到2个cpu占用量为45%的两个候选解码方式组合,显然无法确定唯一的目标解码方式组合。因此,需要继续依据内存占用量,在两个cpu占用量为45%的候选解码方式组合中确定内存占用量为25%的作为目标解码方式组合。
69.s240、将码流处理信息与图像采集终端的标识进行对应存储。
70.本发明实施例中,通过上述步骤计算得到针对当前分块码流的码流处理信息后,将码流处理信息与发送当前分块码流的图像采集终端的标识进行对应存储。当再次接收到该图像采集终端发送的分块码流时,可以直接依据图像采集终端的标识查找对应的码流处理信息,并直接依据查找的码流处理信息对分块码流进行解码、渲染以及压缩等处理。此时无需再次进行解码方式的分析,可以优化起流速度。
71.s250、依据码流处理信息和分块信息,对编码数据进行处理。
72.本发明实施例的技术方案,从图像采集终端获取分块码流,进而依据图像采集终端的标识,判断是否存储有与图像采集终端关联的码流处理信息,并在未存储与图像采集终端关联的码流处理信息的情况下,依据图像显示终端在处理分块码流时的性能参数,确定码流处理信息,最终将码流处理信息与图像采集终端的标识进行对应存储,并依据码流处理信息和分块信息,对编码数据进行处理,针对一个图像采集终端,在终端配置不发生变化的情况下,仅进行一次码流处理的分析,避免了每次起流重复分析,提高了起流速度。
73.实施例三
74.图3为本发明实施例三提供的一种图像处理方法的流程图,本实施例与在上述实施例的基础上进一步细化,提供了依据码流处理信息和分块信息,对编码数据进行处理的具体步骤。如图3所示,该方法包括:
75.s310、从图像采集终端获取分块码流;分块码流包括由原始图像分割得到图像块的编码数据,以及原始图像的分块信息。
76.s320、获取与图像采集终端关联的码流处理信息;码流处理信息依据图像显示终端的性能确定。
77.s330、依据分块信息中图像块的初始分辨率,以及码流处理信息中的目标解码方式组合,对编码数据进行解码,得到图像块数据。
78.本发明实施例中,在获取到与图像采集终端关联的码流处理信息后,可以依据分块信息中图像块的初始分辨率以及码流处理信息中目标解码方式组合,对编码数据进行解码,得到图像块数据。具体的,针对分块码流中每一图像块的编码,在分块信息中获取该图像块的初始分辨率,并在目标解码方式组合中获取该图像块对应的解码方式。依据初始分辨率和解码方式,构建针对这一图像块的解码器,最终得到图像块数据。
79.s340、依据初始分辨率,以及码流处理信息中的目标渲染方式组合,对图像块数据进行渲染。
80.本发明实施例中,在对编码数据解码完成后,继续依据分块码流中各图像块的初始分辨率以及码流处理信息中的目标渲染方式组合,构建渲染器,对图像块数据进行渲染。具体的,针对分块码流中每一图像块,依据该图像块的初始分辨率,以及该图像块关联的渲
染方式,构建针对这一图像块的渲染器,对图像块数据进行渲染。
81.可选的,依据初始分辨率,以及码流处理信息中的目标渲染方式组合,对图像块数据进行渲染,包括:
82.依据初始分辨率,以及码流处理信息中的目标渲染方式组合,对图像块数据进行渲染;
83.在渲染耗时不满足显示需求的情况下,对图像块数据进行至少一轮分辨率压缩,直至渲染耗时满足显示需求;
84.将压缩后的分辨率加入至与图像采集终端关联的码流处理信息中。
85.本可选的实施例中,提供一种依据初始分辨率,以及码流处理信息中的目标渲染方式组合,对图像块数据进行渲染的具体方式:首先,依据图像块对应的初始分辨率以及图像块对应的渲染方式进行图像数据的渲染。如果渲染耗时不满足显示需求,则按照设定比例对图像块数据的分辨率进行压缩,并在压缩后再次进行渲染,若渲染成功则可以直接进行显示,并将压缩后的分辨率加入至码流处理信息中;若压缩后仍然渲染失败,则再次按照设定比例进行分辨率压缩,直至渲染成功。最终,将最后一次压缩得到的分辨率加入至图像采集终端关联的码流处理信息中,以便于下一次接收到该图像采集终端发送的分块码流时也进行相应压缩,可以避免多次渲染失败导致的显示延迟。其中,压缩方式可以是最邻近插值方式、双线性插值方式或者双三次插值方式等。
86.本发明实施例的技术方案,从图像采集终端获取分块码流,并获取与图像采集终端关联的码流处理信息,进而依据分块信息中图像块的初始分辨率,以及码流处理信息中的目标解码方式组合,对编码数据进行解码,得到图像块数据,并依据初始分辨率,以及码流处理信息中的目标渲染方式组合,对图像块数据进行渲染,可以降低对于图像显示终端的性能要求。
87.实施例四
88.图4为本发明实施例四提供的一种图像处理装置的结构示意图。如图4所示,该装置包括:
89.分块码流获取模块410,用于从图像采集终端获取分块码流;所述分块码流包括由原始图像分割得到图像块的编码数据,以及所述原始图像的分块信息;
90.处理信息获取模块420,用于获取与所述图像采集终端关联的码流处理信息;所述码流处理信息依据图像显示终端的性能确定;
91.图像处理模块430,用于依据所述码流处理信息和所述分块信息,对所述编码数据进行处理。
92.本发明实施例的技术方案,从图像采集终端获取分块码流,进而获取与图像采集终端关联的码流处理信息,其中,码流处理信息依据图像显示终端的性能确定,最终依据码流处理信息和分块码流的分块信息,对编码数据进行处理,可以依据图像显示终端的性能来对编码数据进行处理,降低图像显示终端的需求。
93.可选的,处理信息获取模块420包括:
94.处理信息判断单元,用于依据图像采集终端的标识,判断是否存储有与所述图像采集终端关联的码流处理信息;
95.处理信息确定单元,用于在未存储与所述图像采集终端关联的码流处理信息的情
况下,依据图像显示终端在处理所述分块码流时的性能参数,确定码流处理信息。
96.可选的,处理信息确定单元,包括:
97.组合确定子单元,用于基于所述分块信息中的分块数量,将至少两种候选解码方式进行组合,确定针对所述分块码流的候选解码方式组合;所述候选解码方式组合中包括分块码流中各图像块的编码对应的解码方式;
98.性能参数获取子单元,用于依据候选解码方式组合对所述分块码流进行预解码,确定预解码耗时以及预解码过程中图像显示终端的至少一项性能参数;
99.解码方式确定子单元,用于依据所述性能参数,在预解码耗时满足显示需求的候选解码方式组合中,确定目标解码方式组合;
100.渲染方式确定子单元,用于依据目标解码方式组合关联的解码组件,确定各图像块的渲染方式,构成目标渲染方式组合,并由所述目标解码方式组合和目标渲染方式组合构成码流处理信息。
101.可选的,解码方式确定子单元,具体用于:
102.依据性能参数中的cpu占用量,在预解码耗时满足显示需求的候选解码方式组合中,筛选目标解码方式组合;
103.在依据所述cpu占用量的筛选结果不唯一的情况下,在基于cpu占用量筛选的结果中,依据内存占用量,确定目标解码方式组合。
104.可选的,图像处理装置,还包括:
105.处理信息存储模块,用于将所述码流处理信息与所述图像采集终端的标识进行对应存储。
106.可选的,图像处理模块430,包括:
107.解码单元,用于依据所述分块信息中图像块的初始分辨率,以及所述码流处理信息中的目标解码方式组合,对所述编码数据进行解码,得到图像块数据;
108.渲染单元,用于依据所述初始分辨率,以及所述码流处理信息中的目标渲染方式组合,对所述图像块数据进行渲染。
109.可选的,渲染单元,具体用于:
110.依据所述初始分辨率,以及所述码流处理信息中的目标渲染方式组合,对所述图像块数据进行渲染;
111.在渲染耗时不满足显示需求的情况下,对所述图像块数据进行至少一轮分辨率压缩,直至渲染耗时满足显示需求;
112.将压缩后的分辨率加入至与所述图像采集终端关联的码流处理信息中。
113.本发明实施例所提供的图像处理装置可执行本发明任意实施例所提供的图像处理方法,具备执行方法相应的功能模块和有益效果。
114.实施例五
115.图5示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作
为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
116.如图5所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(rom)12、随机访问存储器(ram)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(rom)12中的计算机程序或者从存储单元18加载到随机访问存储器(ram)13中的计算机程序,来执行各种适当的动作和处理。在ram 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、rom 12以及ram 13通过总线14彼此相连。输入/输出(i/o)接口15也连接至总线14。
117.电子设备10中的多个部件连接至i/o接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
118.处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如图像处理方法。
119.在一些实施例中,图像处理方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由rom 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到ram 13并由处理器11执行时,可以执行上文描述的图像处理方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行图像处理方法。
120.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、复杂可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
121.用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
122.在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质
可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
123.为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,crt(阴极射线管)或者lcd(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
124.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(lan)、广域网(wan)、区块链网络和互联网。
125.计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与vps服务中,存在的管理难度大,业务扩展性弱的缺陷。
126.应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
127.上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

技术特征:
1.一种图像处理方法,其特征在于,包括:从图像采集终端获取分块码流;所述分块码流包括由原始图像分割得到图像块的编码数据,以及所述原始图像的分块信息;获取与所述图像采集终端关联的码流处理信息;所述码流处理信息依据图像显示终端的性能确定;依据所述码流处理信息和所述分块信息,对所述编码数据进行处理。2.根据权利要求1所述的方法,其特征在于,所述获取与所述图像采集终端关联的码流处理信息,包括:依据图像采集终端的标识,判断是否存储有与所述图像采集终端关联的码流处理信息;在未存储与所述图像采集终端关联的码流处理信息的情况下,依据图像显示终端在处理所述分块码流时的性能参数,确定码流处理信息。3.根据权利要求2所述的方法,其特征在于,所述依据图像显示终端在处理所述分块码流时的性能参数,确定码流处理信息,包括:基于所述分块信息中的分块数量,将至少两种候选解码方式进行组合,确定针对所述分块码流的候选解码方式组合;所述候选解码方式组合中包括分块码流中各图像块的编码对应的解码方式;依据候选解码方式组合对所述分块码流进行预解码,确定预解码耗时以及预解码过程中图像显示终端的至少一项性能参数;依据所述性能参数,在预解码耗时满足显示需求的候选解码方式组合中,确定目标解码方式组合;依据目标解码方式组合中关联的解码组件,确定各图像块的渲染方式,构成目标渲染方式组合,并由所述目标解码方式组合和目标渲染方式组合构成码流处理信息。4.根据权利要求3所述的方法,其特征在于,所述依据所述性能参数,在预解码耗时满足显示需求的候选解码方式组合中,确定目标解码方式组合,包括:依据性能参数中的cpu占用量,在预解码耗时满足显示需求的候选解码方式组合中,筛选目标解码方式组合;在依据所述cpu占用量的筛选结果不唯一的情况下,在基于cpu占用量筛选的结果中,依据内存占用量,确定目标解码方式组合。5.根据权利要求2所述的方法,其特征在于,在所述确定码流处理信息之后,还包括:将所述码流处理信息与所述图像采集终端的标识进行对应存储。6.根据权利要求1所述的方法,其特征在于,所述依据所述码流处理信息和所述分块信息,对所述编码数据进行处理,包括:依据所述分块信息中图像块的初始分辨率,以及所述码流处理信息中的目标解码方式组合,对所述编码数据进行解码,得到图像块数据;依据所述初始分辨率,以及所述码流处理信息中的目标渲染方式组合,对所述图像块数据进行渲染。7.根据权利要求6所述的方法,其特征在于,所述依据所述初始分辨率,以及所述码流处理信息中的目标渲染方式组合,对所述图像块数据进行渲染,包括:
依据所述初始分辨率,以及所述码流处理信息中的目标渲染方式组合,对所述图像块数据进行渲染;在渲染耗时不满足显示需求的情况下,对所述图像块数据进行至少一轮分辨率压缩,直至渲染耗时满足显示需求;将压缩后的分辨率加入至与所述图像采集终端关联的码流处理信息中。8.一种图像处理装置,其特征在于,包括:分块码流获取模块,用于从图像采集终端获取分块码流;所述分块码流包括由原始图像分割得到图像块的编码数据,以及所述原始图像的分块信息;处理信息获取模块,用于获取与所述图像采集终端关联的码流处理信息;所述码流处理信息依据图像显示终端的性能确定;图像处理模块,用于依据所述码流处理信息和所述分块信息,对所述编码数据进行处理。9.一种电子设备,其特征在于,所述电子设备包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的图像处理方法。10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的图像处理方法。

技术总结
本发明公开了一种图像处理方法、装置、设备及存储介质。该方法包括:从图像采集终端获取分块码流;分块码流包括由原始图像分割得到图像块的编码数据,以及原始图像的分块信息;获取与图像采集终端关联的码流处理信息;码流处理信息依据图像显示终端的性能确定;依据码流处理信息和分块信息,对编码数据进行处理。本发明实施例的技术方案,可以降低图像处理过程中对图像显示设备的性能要求。程中对图像显示设备的性能要求。程中对图像显示设备的性能要求。


技术研发人员:吴沙坤 陈滨君 徐存树 邱祯艳
受保护的技术使用者:杭州涂鸦信息技术有限公司
技术研发日:2022.07.05
技术公布日:2022/11/1
转载请注明原文地址: https://tieba.8miu.com/read-5654.html

最新回复(0)