本申请属于图像压缩,具体涉及一种特征图处理方法、装置及设备。
背景技术:
1、随着人工智能技术的蓬勃发展,在自动驾驶、智能工业、沉浸式娱乐等领域中,大部分视频流量由终端处理,由终端执行机器视觉任务。在进行机器视觉任务的过程中,需要对图像的特征图进行压缩,达到降低数据量的目的。
2、然而,相关的压缩方法是利用空间相关性和时间相关性对图像进行压缩,减少图像的时空像素级冗余,这种压缩方法并不能实现对特征图的有效压缩,进而降低了特征图压缩效率。
技术实现思路
1、本申请实施例提供一种特征图处理方法、装置及设备,能够解决现有方案并不能实现对特征图的有效压缩,进而降低了特征图压缩效率的问题。
2、第一方面,提供了一种特征图处理方法,包括:
3、编码端对原始特征图进行压缩处理,获得第一特征图;所述第一特征图的通道数小于所述原始特征图的通道数,和/或所述第一特征图的空间尺寸小于所述原始特征图的空间尺寸;
4、所述编码端编码所述第一特征图,获得第一码流和第二特征图;
5、所述编码端对所述第二特征图进行增强处理,确定第三特征图;所述第三特征图的通道数等于所述原始特征图的通道数,所述第三特征图的空间尺寸等于所述原始特征图的空间尺寸;
6、所述编码端编码残差特征图,获得第二码流;所述残差特征图基于所述原始特征图和所述第三特征图确定。
7、第二方面,提供一种特征图处理方法,包括:
8、解码端解码目标码流,获得第二特征图和残差特征图,所述目标码流包括第一码流和第二码流,所述第二特征图基于所述第一码流确定,所述残差特征图基于所述第二码流确定;
9、所述解码端对所述第二特征图进行增强处理,确定第三特征图;所述第三特征图的通道数大于所述第二特征图的通道数,和/或所述第三特征图的空间尺寸大于所述第二特征图的空间尺寸;
10、所述解码端基于所述第三特征图和所述残差特征图,确定重建特征图。
11、第三方面,提供了一种特征图处理装置,应用于编码端,所述装置包括:
12、第一处理???,用于对原始特征图进行压缩处理,获得第一特征图;所述第一特征图的通道数小于所述原始特征图的通道数,和/或所述第一特征图的空间尺寸小于所述原始特征图的空间尺寸;
13、第一编码???,用于编码所述第一特征图,获得第一码流和第二特征图;
14、第二处理???,用于对所述第二特征图进行增强处理,确定第三特征图;所述第三特征图的通道数等于所述原始特征图的通道数,所述第三特征图的空间尺寸等于所述原始特征图的空间尺寸;
15、第二编码???,用于编码残差特征图,获得第二码流;所述残差特征图基于所述原始特征图和所述第三特征图确定。
16、第四方面,提供了一种图像处理装置,应用于解码端,所述装置包括:
17、解码???,用于解码目标码流,获得第二特征图和残差特征图,所述目标码流包括第一码流和第二码流,所述第二特征图基于所述第一码流确定,所述残差特征图基于所述第二码流确定;
18、第三处理???,用于对所述第二特征图进行增强处理,确定第三特征图;所述第三特征图的通道数大于所述第二特征图的通道数,和/或所述第三特征图的空间尺寸大于所述第二特征图的空间尺寸;
19、确定???,用于基于所述第三特征图和所述残差特征图,确定重建特征图。
20、第五方面,提供了一种终端,该终端包括处理器和存储器,所述存储器存储可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如第一方面所述的方法的步骤,或者实现如第二方面所述的方法的步骤。
21、第六方面,提供了一种可读存储介质,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如第一方面所述的方法的步骤,或者实现如第二方面所述的方法的步骤。
22、第七方面,提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现如第一方面所述的方法,或者实现如第二方面所述的方法。
23、第八方面,提供了一种计算机程序/程序产品,所述计算机程序/程序产品被存储在存储介质中,所述计算机程序/程序产品被至少一个处理器执行以实现如第一方面所述的方法的步骤,或者实现如第二方面所述的方法的步骤。
24、第九方面,提供了一种系统,所述系统包括编码端和解码端,所述编码端执行如第一方面所述的方法的步骤,所述解码端执行如第二方面所述的方法的步骤。
25、本申请实施例中,对原始特征图进行压缩处理,获得第一特征图;编码第一特征图,获得第一码流和第二特征图;对第二特征图进行增强处理,确定第三特征图;编码残差特征图,获得第二码流。通过对原始特征图在压缩处理过程中产生的残差进行编码,得到第二码流,进而保证在后续的解码操作中,可以解码获得与原始特征图差异更小的重建特征图。本申请实施例中,通过对原始特征图进行压缩处理,得到通道数和/或空间尺寸更小的第一特征图,有效减少特征图的通道冗余和空间冗余,而并非像相关技术中那样减少图像的像素级冗余,以此实现对特征图的有效压缩,进而提高特征图压缩效率。
1.一种特征图处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述对原始特征图进行压缩处理,获得第一特征图包括:
3.根据权利要求1所述的方法,其特征在于,所述对所述第二特征图进行增强处理,确定第三特征图包括:
4.根据权利要求3所述的方法,其特征在于,所述对所述第二特征图进行增强处理,获得残差信息包括:
5.根据权利要求4所述的方法,其特征在于,对所述第二特征图的通道数进行上采样处理包括:
6.一种特征图处理方法,其特征在于,包括:
7.根据权利要求6所述的方法,其特征在于,所述对所述第二特征图进行增强处理,确定第三特征图包括:
8.根据权利要求7所述的方法,其特征在于,所述对所述第二特征图进行增强处理,获得残差信息包括:
9.一种特征图处理装置,其特征在于,应用于编码端,所述装置包括:
10.根据权利要求9所述的装置,其特征在于,所述第一处理???,具体用于:
11.根据权利要求9所述的装置,其特征在于,所述第二处理???,具体用于:
12.根据权利要求11所述的装置,其特征在于,所述第二处理???,还具体用于:
13.根据权利要求12所述的装置,其特征在于,所述第二处理???,还具体用于:
14.一种特征图处理装置,其特征在于,应用于解码端,所述装置包括:
15.根据权利要求14所述的装置,其特征在于,所述第三处理???,具体用于:
16.根据权利要求15所述的装置,其特征在于,所述第三处理???,还具体用于:
17.一种终端,其特征在于,包括处理器和存储器,所述存储器存储可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如权利要求1-5中任一项所述的特征图处理方法的步骤,或者实现如权利要求6-8中任一项所述的特征图处理方法的步骤。
18.一种可读存储介质,其特征在于,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如权利要求1-5中任一项所述的特征图处理方法的步骤,或者实现如权利要求6-8中任一项所述的特征图处理方法的步骤。