近期遇到很多与 神经网络模型相关的申请,发现神经网络模型简直 "无所不能",在交底书中见的最多的就是通过神经网络模型确定,现有技术中没有通过神经网络模型实现的。

对于这种情况,暂且认为具备新颖性,那么创造性当如何?作为代理师,自然希望撰写的每一个新申请都可以奔着授权而去(美好的愿景),那么关于神经网络模型的权利要求,应该怎么布局呢?

什么是 神经网络模型

生物的神经网络是通过神经元、细胞、触电等结构组成的一个大型网络结构,用来帮助生物进行思考和行动等,如下图所示:

995230a.jpg

类似于 神经元的结构,人工神经网络也是基于这样的神经元组成。通过较深的多个层次来模拟真实情况,从而构造出最能表达真实世界的模型,它的成本就是海量的训练数据和巨大的计算量,如图1所示:

995230b.jpg

图1

神经网络模型是以神经元的数学模型为基础来描述的,从神经网络的定义来看,可以将神经网络模型理解为拥有复杂的脑回路、学习能力超强的"黑盒子"。

假设将"黑盒子"类比为一个特殊的榨汁机,输入足够数量的"西瓜",对榨汁机进行训练,便可得到训练好的榨汁机,训练好的榨汁机的内部结构是专门针对"西瓜"训练出来的,之后将"西瓜"输入榨汁机便可得到西瓜汁。与输入足够数量的"橙子"训练得到的榨汁机的内部结构是不同的,故不能直接使用"西瓜"的榨汁机制作橙汁。

神经网络模型的应用

第一种场景,神经网络模型应用到具体领域以解决相应问题时,自己搭建新的神经网络模型。搭建新的网络,一般也是采用已有的网络模型,即在已有的网络模型基础上进行修改。

例如,现有神经网络模型为AlexNet,其结构如图2所示:

995230c.jpg

图2

在现有AlexNet的基础上,搭建了新的模型-ZFNet,其结构如图3所示:

995230d.jpg

图3

第二种场景,神经网络模型应用到具体领域以解决相应问题时,直接采用现有的神经网络模型。直接将现有的神经网络模型应用到一个新的场景或领域,正是本文开头提到的情况,暂且认为具备新颖性,那么为了尽可能的提高创造性,在撰写之前尽量引导发明人对现有神经网络模型的内部结构进行微调,即不要完全采用现有神经网络模型的内部结构,具体可以调整现有神经网络模型中卷积层、全连接层等的数量,也可以调整每层参数的权重等,具体调整方式视具体情况而定(由于决定神经网络模型的因素较多,在此就不一一列举了)。

例如,直接将AlexNet应用到图像分类,AlexNet包括5个卷积层与2个全连接层,对AlexNet进行微调之后,包括4个卷积层与2个全连接层(仅仅是举例说明,具体调整的方式需要与发明人沟通确定)。

权利要求的布局探索

对于上述第一种场景,在撰写权利要求时,只需将神经网络模型的应用场景和结构描述清楚,即按照正常撰写套路即可,在此不做过多说明。

对于上述第二种场景,例如,对比文件1为将目标图像输入到预先训练得到的预检测器中,得到目标图像中存在交通标志的置信度;将目标图像输入到预先训练得到的分类器中,得到图标图像对应标志类别的置信度;将存在交通标志的置信度与对应标志类别的置信度进行融合得到交通标志的识别结果。

本方案为基于神经网络模型,通过第一次识别是否包括目标,第二次识别具体为什么类型的目标,综合两次识别得到苹果识别结果。

若独权为:一种目标识别处理方法,其特征在于,包括:

将目标图像输入到预先训练好的第一目标神经网络模型中,得到所述目标图像中包括目标对象的第一置信度以及目标位置信息;

根据所述目标位置信息对所述目标图像进行抠图,得到所述目标对象;

将所述目标对象输入到预先训练好的第二目标神经网络模型中,得到所述目标对象的目标分类结果的第二置信度;

将第一置信度与第二置信度进行融合得到苹果识别结果。

(为了便于说明,此独权延用了对比文件1的撰写方式,每个人的撰写习惯或方式不同,表述也会不同,仅供参考)

可以看出,独权相对于对比文件1,现有是对交通标志进行识别,本方案是对苹果进行识别,还是比较相似的;不过本方案中还记载了通过第一目标神经网络模型还输出目标位置信息,根据目标位置信息对所述目标图像进行抠图,得到目标对象,对比文件1中没有公开。

不难想象,审查员应该会说:对于本领域普通技术人员而言,上述区别技术特征为惯用技术手段,或者提供对比文件2,公开根据位置信息进行抠图,两者的结合便能得到本方案。

虽然惯用技术手段可以进行争辩,但是很难得到认可(至于原因,作为代理师的你,懂的),即独权具备创造性的可能性较小。

为了在答复阶段,可以通过修改克服独权的不具备创造性,在撰写阶段,对于从权,可从以下三个方面进行布局:

第一方面,对独权中的第一目标神经网络模型与第二目标 神经网络模型的结构进行进一步限定。

例如,第一目标神经网络模型包括:三个特征提取层和一个全连接层,第二个目标神经网络模型虽采用现有AlexNet,但是对具体结构进行了微小调整,第二目标神经网络模型包括:4个卷积层与2个全连接层。

首先,在从权中具体限定,所述将目标图像输入到预先训练得到的第一目标神经网络模型中,得到所述目标图像中包括目标对象的第一置信度以及目标位置信息包括:将所述目标图像输入到所述第一目标神经网络模型中的三个特征提取层,得到输出的目标图像特征,将所述目标图像特征输入到所述第一目标神经网络模型的全连接层中,得到所述目标图像中包括所述目标对象的第一置信度以及所述目标位置信息。

在从权中具体限定,所述将目标对象输入到预先训练得到的第二目标神经网络模型中,得到所述目标对象的目标分类结果的第二置信度包括:分别将所述目标对象输入到所述第二目标神经网络模型中串联的4个卷积层,得到所述4个卷积层输出的图像特征,将所述4个卷积层输出的图像特征输入到2个全连接层中,得到所述目标对象的目标分类结果的第二置信度。

其次,还可以在从权中进一步限定4个卷积层的连接关系,即第一卷积层、第二卷积层、第三卷积层、第四卷积层的连接关系,第一全连接层与得第二全连接层的连接关系,和/或第四卷积层与第一全连接层的连接关系。

另外,还可以在从权中具体限定,第一目标神经网络模型和第二目标神经网络模型的训练过程,训练过程需包括具体的结构。

 

第二方面,由于本方案的目的是识别出是否有苹果,本方案中第一阶段为主识别,第二阶段为辅助识别,第一阶段通过神经网络模型识别,整图输入,输出目标的位置和置信度,精度高,仅存少量误报;在第二阶段辅助识别第一阶段的误报,具体限定第一置信度与第二置信度融合的权重,由于第一次识别应该占主导地位,而第二次识别的目的仅仅是辅助确定第一次识别的结果,故第一置信度的权重大于第二置信度的权重,为了得到更准确的识别结果,具体还可以设置对应的取值范围。

 

第三方面,为了进一步体现目标分类结果与对比文件1中的图标图像对应标志类别的不同,还可以在 从权中限定目标分类结果包括变形的苹果、被切掉部分的苹果、被抠取部分的苹果、腐烂的苹果或其他,从而区别于对比文件1中识别具体什么类型的交通标志。

 

当然,即使具体限定了神经网络模型的结构,也不能确保具有 创造性,仅仅是站在代理师的角度,为争取具备创造性做出更多的努力。

图片来源:

图1:https://www.xuebuyuan.com/1240914.html

图2:http://www.bubuko.com/infodetail-3231605.html

图3:http://www.bubuko.com/infodetail-3231605.html

The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.