一种模型管理的方法和通信装置与流程
未命名
09-09
阅读:122
评论:0
1.本技术涉及通信技术的领域,并且更具体地,涉及一种模型管理的方法和通信装置。
背景技术:
2.为了提高网络的智能化和自动化水平,推理模型,例如人工智能(artificial intelligence,ai)模型和机器学习(machine learning,ml)模型运用于越来越多的技术领域。目前模型提供商(例如厂商或运行商)提供的推理模型都可以发布到模型市场中。模型管理实体可以从模型市场中获取推理模型,并将该推理模型部署在设备提供商中,进而设备提供商可以运行所部署的推理模型。
3.但是,由于不同的提供商的私有数据、专家经验等不同,当某一个设备提供商运行来自其他提供商提供的推理模型时,可能无法正常运行。
技术实现要素:
4.本技术提供了一种模型管理的方法和通信装置,以提高推理模型运行的可靠性。
5.第一方面,提供了一种模型管理的方法,该方法可以由模型认证实体或模型认证实体中的芯片执行,该方法包括:模型认证实体从模型管理实体接收第一提供商信息,第一提供商信息指示推理模型由第一模型提供商提供;模型认证实体对第一模型提供商和模型推理实体的设备提供商进行对比,以生成对比结果,其中,模型推理实体为将运行推理模型的实体;模型认证实体基于对比结果向模型管理实体发送推理模型的认证结果,认证结果指示推理模型是否能够在模型推理实体中运行。
6.从而,在本技术中,模型管理实体可以将指示提供推理模型的第一模型提供商的第一提供商信息发送给模型认证实体,模型认证实体可以对第一模型提供商和设备提供商进行对比,并可以根据对比结果生成认证结果告知模型管理实体,进而模型管理实体可以基于不同的认证结果采取不同的处理,能够提高推理模型运行的可靠性。
7.结合第一方面,在第一方面的某些实现方式中,对比结果为第一模型提供商和设备提供商不一致,推理模型的准确度小于第一阈值,认证结果指示推理模型不能够在模型推理实体中运行;或者,对比结果为第一模型提供商和设备提供商不一致,推理模型的准确度大于或等于第一阈值,认证结果指示推理模型能够在模型推理实体中运行。
8.从而,在本技术中,如果模型认证网元判断推理模型的第一模型提供商和设备提供商不一致,那么可以进一步确定该推理模型的准确度,根据推理模型的准确度确定是否可以判定推理模型认证通过,能够提高系统的灵活性。
9.结合第一方面,在第一方面的某些实现方式中,模型认证实体对第一模型提供商和设备提供商进行对比之前,方法还包括:模型认证实体从模型管理实体接收推理模型;模型认证实体确定第一模型提供商是该推理模型的提供商。
10.从而,在本技术中,模型认证网元在判定第一模型提供商和设备提供商是否一致
之前,可以先判断是否由该第一模型提供商提供的推理模型,即判断第一提供商信息的真实性,能够提高模型运行的可靠性。
11.结合第一方面,在第一方面的某些实现方式中,模型认证实体确定第一模型提供商是所述推理模型的提供商,包括:模型认证实体确定第一格式和第二格式一致;或者,模型认证实体确定第二模型提供商和第一模型提供商一致;或者,模型认证实体确定第一格式和第二格式一致,以及第二模型提供商和第一模型提供商一致;其中,第一格式是推理模型的格式,第二格式是根据第一提供商信息确定的,第二模型提供商是根据推理模型确定的。
12.结合第一方面,在第一方面的某些实现方式中,方法还包括:模型认证实体向模型管理实体发送原因信息,原因信息指示得出该认证结果的原因。
13.从而,在本技术中,模型认证实体可以告知模型管理实体推理模型认证不通过的原因,进而模型管理实体可以基于不同的原因进行不同的处理,能够提高模型运行的可靠性。
14.结合第一方面,在第一方面的某些实现方式中,对比结果为第一模型提供商和设备提供商一致,认证结果指示推理模型能够在模型推理实体中运行。
15.从而,在本技术中,模型认证网元可以判断推理模型的第一模型提供商和模型推理实体的设备提供商是否一致,在一致的情况下,判定推理模型认证通过,进而模型管理实体可以将认证通过的推理模型部署在模型推理实体中,能够提高模型运行的可靠性。
16.结合第一方面,在第一方面的某些实现方式中,模型认证实体对第一模型提供商和设备提供商进行对比之前,方法还包括:模型认证实体从模型管理实体接收第二提供商信息,第二提供商信息指示设备提供商。
17.第二方面,提供了一种模型管理的方法,该方法可以由模型管理实体或模型管理实体中的芯片执行,该方法包括:模型管理实体向模型认证实体发送第一提供商信息,第一提供商信息指示第一推理模型由第一模型提供商提供;模型管理实体从模型认证实体接收第一推理模型的认证结果,认证结果指示第一推理模型是否能够在模型推理实体中运行。
18.从而,在本技术中,模型管理实体可以将指示提供推理模型的第一模型提供商的第一提供商信息发送给模型认证实体,模型认证实体可以对第一模型提供商和设备提供商进行对比,并可以根据对比结果生成认证结果告知模型管理实体,进而模型管理实体可以基于不同的认证结果采取不同的处理,能够提高推理模型运行的可靠性。
19.结合第二方面,在第二方面的某些实现方式中,第一模型提供商和模型推理实体的设备提供商不一致,第一推理模型的准确度小于第一阈值,认证结果指示第一推理模型不能够在模型推理实体中运行;或者,第一模型提供商和设备提供商不一致,第一推理模型的准确度大于或等于第一阈值,认证结果指示第一推理模型能够在模型推理实体中运行。
20.结合第二方面,在第二方面的某些实现方式中,方法还包括:模型管理实体向模型认证实体发送第一推理模型。
21.结合第二方面,在第二方面的某些实现方式中,第一模型提供商是推理模型的提供商,包括:第一格式和第二格式一致;或者,第二模型提供商和第一模型提供商一致;或者,第一格式和第二格式一致,和第二模型提供商和第一模型提供商一致;其中,第一格式是推理模型的格式,第二格式是根据第一提供商信息确定的,第二模型提供商是根据推理
模型确定的。
22.结合第二方面,在第二方面的某些实现方式中,方法还包括:模型管理实体从模型认证实体接收原因信息,原因信息指示得出该认证结果的原因。
23.结合第二方面,在第二方面的某些实现方式中,认证结果指示第一推理模型不能够在模型推理实体中运行,方法还包括:模型管理实体向模型训练实体发送以下信息中至少一项:认证结果,原因信息和第一调整信息,其中,原因信息指示得出认证结果的原因,第一调整信息指示模型训练实体对第一推理模型进行调整;模型管理实体从模型训练实体接收第二推理模型,该第二推理模型为基于该第一推理模型调整而得。
24.从而,在本技术中,当推理模型认证不通过时,模型训练实体可以通过重新获取或者对推理模型再训练,提高模型管理的灵活性。
25.结合第二方面,在第二方面的某些实现方式中,认证结果指示第一推理模型不能够在模型推理实体中运行,方法还包括:模型管理实体向模型推理实体发送第一推理模型和第二调整信息,第二调整信息用于指示模型训练实体对第一推理模型进行调整。
26.从而,在本技术中,当推理模型认证不通过时,模型推理实体可以在部署推理模型之前对推理模型进行再训练,提高模型管理的灵活性。
27.结合第二方面,在第二方面的某些实现方式中,第一模型提供商和模型推理实体的设备提供商一致,认证结果指示第一推理模型能够在模型推理实体中运行。
28.结合第二方面,在第二方面的某些实现方式中,在从模型认证实体接收第一推理模型的认证结果之前,方法还包括:模型管理实体向模型认证实体发送第二提供商信息,第二提供商信息指示设备提供商。
29.第三方面,提供了一种模型管理的通信装置,该装置包括收发模块和处理模块,收发模块,用于从模型管理实体接收第一提供商信息,第一提供商信息指示推理模型由第一模型提供商提供;处理模块,用于对第一模型提供商和模型推理实体的设备提供商进行对比,以生成对比结果,其中,模型推理实体为将运行推理模型的实体;收发模块,还用于基于对比结果向模型管理实体发送推理模型的认证结果,认证结果指示推理模型是否能够在模型推理实体中运行。
30.从而,在本技术中,模型管理实体可以将指示提供推理模型的第一模型提供商的第一提供商信息发送给模型认证实体,模型认证实体可以对第一模型提供商和设备提供商进行对比,并可以根据对比结果生成认证结果告知模型管理实体,进而模型管理实体可以基于不同的认证结果采取不同的处理,能够提高推理模型运行的可靠性。
31.结合第三方面,在第三方面的某些实现方式中,对比结果为第一模型提供商和设备提供商不一致,推理模型的准确度小于第一阈值,认证结果指示推理模型不能够在模型推理实体中运行;或者,对比结果为第一模型提供商和设备提供商不一致,推理模型的准确度大于或等于第一阈值,认证结果指示推理模型能够在模型推理实体中运行。
32.结合第三方面,在第三方面的某些实现方式中,收发模块还用于:从模型管理实体接收推理模型;处理模块还用于:确定第一模型提供商是该推理模型的提供商。
33.结合第三方面,在第三方面的某些实现方式中,处理模块具体用于:确定第一格式和第二格式一致;或者,确定第二模型提供商和第一模型提供商一致;或者,确定第一格式和第二格式一致,以及第二模型提供商和第一模型提供商一致;其中,第一格式是推理模型
的格式,第二格式是根据第一提供商信息确定的,第二模型提供商是根据推理模型确定的。
34.结合第三方面,在第三方面的某些实现方式中,收发模块还用于:向模型管理实体发送原因信息,原因信息指示得出认证结果的原因。
35.结合第三方面,在第三方面的某些实现方式中,对比结果指示第一模型提供商和设备提供商一致,认证结果指示推理模型能够在模型推理实体中运行。
36.结合第三方面,在第三方面的某些实现方式中,收发模块还用于:从模型管理实体接收第二提供商信息,第二提供商信息用于指示设备提供商。
37.第四方面,提供了一种模型管理的通信装置,该装置包括收发模块和处理模块,处理模块,用于生成第一提供商信息,第一提供商信息用于指示第一推理模型由第一模型提供商提供;收发模块,用于向模型认证实体发送第一提供商信息;收发模块,还用于从模型认证实体接收第一推理模型的认证结果,认证结果指示第一推理模型是否能够在模型推理实体中运行。
38.从而,在本技术中,模型管理实体可以将指示提供推理模型的第一模型提供商的第一提供商信息发送给模型认证实体,模型认证实体可以对第一模型提供商和设备提供商进行对比,并可以根据对比结果生成认证结果告知处理模块用于,进而模型管理实体可以基于不同的认证结果采取不同的处理,能够提高推理模型运行的可靠性。
39.结合第四方面,在第四方面的某些实现方式中,第一模型提供商和设备提供商不一致,第一推理模型的准确度小于第一阈值,认证结果指示第一推理模型不能够在模型推理实体中运行;或者,第一模型提供商和设备提供商不一致,第一推理模型的准确度大于或等于第一阈值,认证结果指示第一推理模型能够在模型推理实体中运行。
40.结合第四方面,在第四方面的某些实现方式中,收发模块还用于:向模型认证实体发送第一推理模型。
41.结合第四方面,在第四方面的某些实现方式中,第一模型提供商是第一推理模型的提供商,包括:第一格式和第二格式一致;或者,第二模型提供商和第一模型提供商一致;或者,第一格式和第二格式一致,和第二模型提供商和第一模型提供商一致;其中,第一格式是推理模型的格式,第二格式是根据第一提供商信息确定的,第二模型提供商是根据推理模型确定的。
42.结合第四方面,在第四方面的某些实现方式中,收发模块还用于:从模型认证实体接收原因信息,原因信息指示得出认证结果的原因。
43.结合第四方面,在第四方面的某些实现方式中,认证结果指示第一推理模型不能够在模型推理实体中运行,收发模块还用于:向模型训练实体发送以下信息中至少一项:认证结果,原因信息和第一调整信息,其中,原因信息指示得出认证结果的原因,第一调整信息指示模型训练实体对第一推理模型进行调整;从模型训练实体接收第二推理模型,第二推理模型为基于第一推理模型调整而得。
44.结合第四方面,在第四方面的某些实现方式中,认证结果指示推理模型不能够在模型推理实体中运行,收发模块还用于:向模型推理实体发送第一推理模型和第二调整信息,第二调整信息指示模型推理实体对第一推理模型进行调整。
45.结合第四方面,在第四方面的某些实现方式中,第一模型提供商和设备提供商一致,认证结果指示第一推理模型能够在模型推理实体中运行。
46.结合第四方面,在第四方面的某些实现方式中,收发模块还用于:向模型认证实体发送第二提供商信息,第二提供商信息指示模型推理实体的设备提供商。
47.第五方面,提供了一种通信装置,该装置可以包括处理模块、发送单元和接收单元。可选的,发送单元和接收单元还可以为收发模块。
48.当该装置是模型认证实体时,该处理模块可以是处理器,该发送单元和接收单元可以是收发器;该装置还可以包括存储单元,该存储单元可以是存储器;该存储单元用于存储指令,该处理模块执行该存储单元所存储的指令,以使该模型认证实体执行第一方面中的任一方法。当该装置是模型认证实体内的芯片时,该处理模块可以是处理器,该发送单元和接收单元可以是输入/输出接口、管脚或电路等;该处理模块执行存储单元所存储的指令,以使该芯片执行第一方面中的任一方法。该存储单元用于存储指令,该存储单元可以是该芯片内的存储单元(例如,寄存器、缓存等),也可以是该模型认证实体内的位于该芯片外部的存储单元(例如,只读存储器、随机存取存储器等)。
49.当该装置是模型管理实体时,该处理模块可以是处理器,该发送单元和接收单元可以是收发器;该装置还可以包括存储单元,该存储单元可以是存储器;该存储单元用于存储指令,该处理模块执行该存储单元所存储的指令,以使该模型管理实体执行第二方面中的任一方法。当该装置是模型管理实体内的芯片时,该处理模块可以是处理器,该发送单元和接收单元可以是输入/输出接口、管脚或电路等;该处理模块执行存储单元所存储的指令,以使该芯片执行第二方面中的任一方法。该存储单元用于存储指令,该存储单元可以是该芯片内的存储单元(例如,寄存器、缓存等),也可以是该模型管理实体内的位于该芯片外部的存储单元(例如,只读存储器、随机存取存储器等)。
50.第六方面,提供了一种通信装置,包括处理器和接口电路,接口电路用于接收来自该通信装置之外的其它通信装置的信号并传输至该处理器或将来自该处理器的信号发送给该通信装置之外的其它通信装置,该处理器通过逻辑电路或执行代码指令用于实现前述第一方面或第二方面中的任一方法。
51.第七方面,提供了一种计算机可读存储介质,该计算机可读存储介质中存储有计算机程序或指令,当该计算机程序或指令被执行时,实现前述第一方面或第二方面中的任一方法。
52.第八方面,提供了一种包含指令的计算机程序产品,当该指令被运行时,实现前述第一方面或第二方面中的任一方法。
53.第九方面,提供了一种计算机程序,该计算机程序包括代码或指令,当该代码或指令被运行时,实现前述第一方面或第二方面中的任一方法。
54.第十方面,提供一种芯片系统,该芯片系统包括处理器,还可以包括存储器,用于实现前述前述第一方面或第二方面中的任一方法。该芯片系统可以由芯片构成,也可以包含芯片和其他分立器件。
55.第十一方面,提供一种通信系统,该系统包括第三方面和第四方面中任一所述的装置。
附图说明
56.图1是适用本技术实施例提供的模型管理的系统的示意图。
57.图2是本技术实施例提供的一例模型管理方法的示意性流程图。
58.图3是本技术实施例提供的另一例意模型管理方法的示意性流程图。
59.图4是本技术实施例提供的再一例模型管理方法的示意性流程图。
60.图5和图6是本技术实施例提供的可能的通信装置的结构示意图。
具体实施方式
61.下面将结合附图,对本技术中的技术方案进行描述。
62.本技术实施例的方法可以应用于长期演进技术(long term evolution,lte)系统,长期演进高级技术(long term evolution-advanced,lte-a)系统,增强的长期演进技术(enhanced long term evolution-advanced,elte),第五代(the 5
th generation,5g)移动通信系统新空口(new radio,nr)系统,也可以扩展到类似的无线通信系统中,如无线保真(wireless-fidelity,wifi),全球微波互联接入(worldwide interoperability for microwave access,wimax),以及第三代合作伙伴计划(3
rd generation partnership project,3gpp)相关的蜂窝系统。
63.为了清楚,以下对本技术实施例中的部分术语进行解释。
64.推理模型(也可以简称为模型):从数据中学习到的,可以实现特定功能/映射的函数。模型可以基于人工智能(artificial intelligence,ai)或者机器学习(machine learning,ml)的技术得到,因此,也可以称为人工智能/ai模型、机器学习/ml模型等。常用的用于生成ai/ml模型的算法包括:监督学习、无监督学习、增强学习,对应的模型可以称为监督学习模型、无监督学习模型、增强学习模型。示例的,监督学习模型可以是分类模型、预测模型、回归模型等,无监督学习模型可以是聚类模型。此外,模型还可以基于神经网络(neural network,nn)技术得到,这种模型也可以称为神经网络模型、深度学习模型等。
65.模型训练:利用训练数据训练得到可用的模型。
66.模型推理:基于模型进行推理或预测,生成推理结果。另外,模型推理实体可以用于模型推理。
67.模型部署:将模型部署在模型推理实体中。
68.模型激活:激活部署在模型推理实体中的模型,使其开始运行。
69.模型评估:评估模型推理实体中运行的模型的性能是否满足要求。
70.模型认证:判定进行模型训练的实体和模型所部署的实体是否一致,以及当模型训练的实体和模型所部署的实体不一致时,判定模型部署后的运行性能是否能达到预期。
71.模型管理:在生命周期内对模型进行管理。例如,对模型部署、模型激活、模型评估、模型训练等进行管理。
72.为便于理解本技术实施例,首先结合图1详细说明本技术实施例的一个应用场景。
73.图1是本技术实施例适用的一种通信系统的示意性结构图。首先对该通信系统中可能涉及的装置进行说明。
74.1、模型管理实体110:用于在生命周期内对模型进行管理。例如,该模型管理实体110可以是网络管理系统(network management system,nms)。
75.在本技术实施例中,模型管理实体110可以部署于运营商设备中。
76.2、模型训练实体120:用于通过训练得到可用的模型。例如,该模型训练实体可以
是运营商平台或者厂商训练平台,或者是部署模型训练功能的其它实体。
77.在本技术实施例中,模型训练实体120可以将训练好的模型发布到模型市场中,模型管理实体110可以从该模型市场中获取模型,将模型部署到模型推理实体130中。其中,模型市场可以部署在模型管理实体110中,也可以部署在模型训练实体120中,也可以独立部署,本技术对此不作特别限定。
78.另外,在本技术实施例中,模型训练实体120的提供商可以称之为模型提供商。
79.3、模型推理实体130:用于基于模型进行推理或运算,生成推理结果。例如,该模型推理实体130可以是网元管理系统(element management system,ems)或者管理数据分析功能(management data analytics function,mdaf)、无线接入网(radio access network,ran)、或者5g系统中的网元(例如,网络数据分析功能(network data analytics function,nwdaf)网元)。
80.在本技术实施例中,模型推理实体120可以部署于厂商设备中,模型推理实体120的提供商可以称之为设备提供商。
81.在本技术实施例中,该通信系统还可以包括模型认证实体140:
82.4、模型认证实体140:该模型认证实体140可以用于对模型进行认证,例如,可以用于判定模型的运行性能是否能达到预期。
83.需要说明的是,本技术的方案可以应用于包含相应实体的其它系统中,本技术不作限定。可以理解的是,上述实体或者功能既可以是硬件设备中的网络元件,也可以是在专用硬件上运行软件功能,或者是平台(例如,云平台)上实例化的虚拟化功能。可选的,上述实体或者功能可以由一个设备实现,也可以由多个设备共同实现,还可以是一个设备内的一个功能模块,本技术实施例对此不作具体限定。例如,在本技术实施例中,模型管理实体110和模型训练实体120可以是一个设备内的不同的功能模型,模型推理实体130和模型认证实体140可以是一个设备内的不同的功能模块。
84.当模型推理实体运行不同提供商提供的模型时,可能无法正常运行该模型,因此,本技术实施例提供了一种模型管理的方法和通信装置,能够提高模型运行的可靠性,以下首先对模型管理的方法进行说明。其中,图2至图4所示的方法实施例之间可以相互结合,图2至图4所示的方法实施例中的步骤可以相互引用。例如,在本技术实施例中,图3和图4所示的方法实施例可以分别是实现图2所示的方法实施例的功能的一种实现方式。
85.图2是本技术实施例提供的一种模型管理的方法200的示意性流程图。
86.s201,模型管理实体向模型认证实体发送第一提供商信息,对应地,模型认证实体从模型管理实体接收该第一提供商信息。
87.该第一提供商信息指示推理模型(即第一推理模型)由第一模型提供商提供。或者说,该第一提供商信息指示第一第一推理模型由第一模型提供商训练生成。
88.该第一模型提供商可以是第一厂商或者第一供应商。第一推理模型由第一模型提供商提供可以是指:提供第一推理模型的设备属于该第一模型提供商,或者说,训练第一推理模型的设备属于该第一模型提供商,或者说,生成该第一推理模型的设备属于该第一模型提供商。
89.应理解,在本技术实施例中,第一模型提供商可以是基于该第一模型提供商的数据训练该第一推理模型,也可以是获取基于其他提供商的数据训练该第一推理模型,本申
请对此不作特别限定。
90.该第一提供商信息可以是第一模型提供商的名称或标识信息,例如,华为、中兴、爱立信等厂商,或者中国移动、中国电信等运营商。
91.s202,模型认证实体对第一模型提供商和模型推理实体的设备提供商进行对比,以生成对比结果,其中,该模型推理实体为将运行该第一推理模型的实体。
92.例如,模型认证实体判定第一模型提供商和用于提供模型推理实体的设备提供商是否一致。
93.该设备提供商可以为第二厂商或第二运营商。
94.该模型推理实体为将运行该第一推理模型的实体可以是指:第一推理模型的待接收方设备(也就是模型推理实体)是该设备提供商生产或提供的,或者,待运行该第一推理模型的设备是该设备提供商生产或提供的。
95.例如,当第一模型提供商和设备提供商为相同的厂商,或者第一模型提供商和设备提供商为相同的运营商时,模型认证实体可以确定第一模型提供商和设备提供商一致;当第一模型提供商和设备提供商为不同厂商、或者不同运营商、或者分别为厂商和运营商时,确定第一模型提供商和设备提供商不一致。
96.从而,在本技术实施例中,第一推理模型在被运行前,模型认证实体可以先判定训练该第一推理模型的提供商与运行该模型的提供商是否一致,以能够实现针对不同结果进行不同的处理,提高运行模型的可靠性。
97.可选地,当模型认证实体和模型推理实体部署于同一个设备中时,或者说,当模型认证实体和模型推理实体是同一个提供商提供的时,该设备提供商的信息可以记录在该模型认证实体中。
98.或者,可选地,当模型认证实体不是该设备提供商提供的时,方法200可以通过执行步骤s203获取该设备提供商的信息。
99.可选地,s203,模型管理实体向模型认证实体发送第二提供商信息,对应地,模型认证实体从模型管理实体接收该第二提供商信息。
100.该第二提供商信息指示该设备提供商。
101.其中,该第二提供商信息可以是设备提供商的名称或标识信息和/或模型推理实体的名称或标识信息。模型管理实体在发送第二提供商信息之前,可以确定需要将第一推理模型部署在设备提供商的模型推理实体中,进而向模型认证实体发送该第二提供商信息。
102.s204,模型认证实体基于对比结果向模型管理实体发送认证结果,对应地,模型管理实体从模型认证实体接收该认证结果。
103.该认证结果指示第一推理模型是否可以在该模型推理实体中运行。
104.例如,模型认证实体根据对比结果判定第一推理模型是否能够在该模型推理实体中运行,以生成认证结果。如果模型认证实体判定第一推理模型能够在该模型推理实体中运行,那么该第一推理模型认证通过。反之,如果模型认证实体判定第一推理模型不能够在该模型推理实体中运行,那么该第一推理模型认证不通过。
105.可选地,当对比结果为第一模型提供商和设备提供商一致时,认证结果指示第一推理模型能够在该模型推理实体中运行。或者,该认证结果指示第一模型提供商和设备提
供商一致。或者,该认证结果指示模型管理实体部署该第一推理模型。或者,该认证结果指示第一推理模型的认证状态为通过。
106.可选地,模型认证实体也可以向模型推理实体发送该认证结果,对应地,模型推理实体从模型认证实体接收该认证结果。
107.该认证结果还可以指示认证通过标识或认证通过口令,认证通过标识或认证通过口令可以用于模型推理实体确定该第一推理模型认证通过。例如,该认证结果包括表示通过的状态信息和认证通过标识或认证通过口令。
108.例如,模型认证实体可以根据第一推理模型的版本或第一推理模型的标识生成认证通过标识或认证通过口令,并将认证结果分别发送给模型管理实体和模型推理实体。模型管理实体在发送用于部署第一推理模型的模型部署消息中携带该认证结果,模型推理实体通过确定模型部署消息中携带的标识或口令与从模型认证实体接收到的认证结果指示的标识或口令是否一致获知该第一推理模型是否认证通过。
109.另外,该模型部署消息中还可以携带以下信息中的至少一项:第一推理模型的标识信息、第一推理模型的版本信息、第一推理模型、第一推理模型的使用信息。
110.其中,第一推理模型的使用信息可以用于指示第一推理模型的运行条件,例如该使用信息可以包括以下信息中的至少一项:第一推理模型的使用制式、第一推理模型的使用时间和第一推理模型的使用区域等信息。
111.可选地,当对比结果为第一模型提供商和设备提供商不一致时,方法200还可以执行步骤s205。
112.可选地,s205,模型认证实体根据对比结果和性能信息确定认证结果。
113.例如,模型认证实体根据性能信息判定第一推理模型是否认证通过,该性能信息用于指示第一推理模型的准确度。
114.对比结果为第一模型提供商和设备提供商不一致,第一推理模型的准确度小于第一阈值,认证结果指示第一推理模型认证不通过;或者,对比结果为第一模型提供商和设备提供商不一致,第一推理模型的准确度大于等于第一阈值,认证结果指示第一推理模型认证通过。
115.其中,根据性能信息确定第一推理模型认证通过可以是指:该第一推理模型部署于模型推理实体可以达到预期的性能;根据性能信息确定第一推理模型认证不通过可以是指:该第一推理模型部署于模型推理实体不能达到预期的性能。
116.在模型认证实体判定第一推理模型是否认证通过之前,模型认证实体可以获取该性能信息,例如,该模型认证实体可以通过测试该第一推理模型获得该性能信息。
117.作为示例而非限定,第一推理模型用于使用第一时间段内的第一数据预测第二时间段内的第二数据,该第一数据和第二数据为模型推理实体保存的历史数据,换句话说,第一数据和第二数据是两个时间段内的真实数据。模型认证实体将第一数据作为输入数据,运行第一推理模型获得预测的第二时间段内的预测数据。进而,模型认证实体可以通过确定第二数据和预测数据的匹配度确定第一推理模型的准确度,以生成性能信息。
118.可选地,模型认证实体根据该第一推理模型的使用信息向模型推理实体请求获取该第一数据和该第二数据。
119.其中,该第一阈值可以是预设置的,也可以是模型管理实体发送给模型认证实体
的模型性能信息指示的,该模型性能信息用于描述第一推理模型在使用信息指示的运行条件运行时可以达到的性能。
120.从而,即使第一模型提供商和设备提供商不一致时,如果第一推理模型的性能能够达到预期,那么也可以确定第一推理模型认证通过,模型管理实体可以将第一推理模型部署于模型推理实体。
121.可选地,认证结果指示第一推理模型不能够在该模型推理实体中运行(即第一模型提供商和设备提供商不一致,且第一推理模型的准确度小于第一阈值时)。或者,该认证结果指示第一推理模型认证不通过。或者,该认证结果指示该第一推理模型部署于该模型推理实体不能正常运行。或者,该认证结果指示该第一推理模型部署于该模型推理实体达不到预期的性能。
122.可选地,s206,模型认证实体向模型管理实体发送原因信息,对应地,模型管理实体从模型认证实体接收该原因信息。
123.该原因信息指示得出该认证结果的原因。
124.可选地,模型认证实体可以只在认证结果指示第一推理模型认证不通过的情况下向模型管理实体发送原因信息。
125.例如,该原因信息指示得出第一推理模型认证不通过的原因。例如,该原因信息可以指示第一推理模型的性能信息不能达到预期,还可以指示第一模型提供商和设备提供商不一致。
126.该原因信息可以包括第一推理模型的使用信息、准确度和用于表示第一模型提供商和设备提供商不一致的信息。其中,使用信息和准确度可以是指:第一推理模型根据该使用信息指示的方式运行测试预计能够达到的准确度。
127.模型管理实体接收到指示第一推理模型不可以在模型推理实体中运行的认证结果后,可以采用两种方式进行处理,以下分别对该两种方式进行介绍。
128.方式1:
129.方式1中,该方法200可以执行步骤s207至s208。
130.可选地,s207,模型管理实体向模型训练实体发送以下信息中至少一项:认证结果,原因信息和第一调整信息。
131.其中,该第一调整信息用于指示对第一推理模型进行调整。以生成调整后的推理模型(在本技术实施例中,用第二推理模型表示调整后的第一推理模型)。
132.该认证结果和原因信息可以与第一推理模型的标识信息对应,进而模型训练实体可以根据认证结果和/或原因信息重新生成第二推理模型,或者当接收到调整信息时,可以对第一推理模型进行调整以生成第二推理模型
133.其中,对第一推理模型进行调整可以是指:对第一推理模型进行再训练。
134.应理解,当模型管理实体向模型训练实体仅发送该原因信息时,该原因信息可以隐含的指示该第一推理模型认证不通过,以及该原因信息也可以隐含的指示对该第一推理模型进行调整。
135.模型管理实体还可以将用于指示设备提供商的信息、模型的标识信息、模型性能信息或模型的版本信息发送给模型训练实体,用于辅助模型训练实体确定第二推理模型。
136.可选地,s208,模型训练实体确定第二推理模型。
137.模型训练实体可以根据该认证结果、该原因信息或者第一调整信息确定第一推理模型认证不通过,进而可以生成第二推理模型,或者对第一推理模型进行调整以生成第二推理模型。
138.例如,模型训练实体可以获取该设备提供商训练生成的第二推理模型。
139.或者,再例如,模型训练实体可以提取设备提供商的数据集对第一推理模型进行再训练以生成第二推理模型。
140.可选地,模型训练实体向模型管理实体发送第二推理模型,对应地,模型管理实体从模型管理实体接收该第二推理模型。
141.进而模型管理实体可以对第二推理模型进行与步骤s201至s206类似的认证过程。
142.从而,在方式1中,当第一推理模型认证不通过时,模型训练实体可以通过重新获取或者对第一推理模型再训练生成第二推理模型。
143.方式2:
144.可选地,模型管理实体向模型推理实体发送第一推理模型和第二调整信息,对应地,模型推理实体从模型管理实体接收第一推理模型和第二调整信息。
145.该第二调整信息用于指示对该第一推理模型进行调整。
146.例如,模型管理实体可以向模型推理实体发送模型部署请求消息,该模型部署请求消息中携带该第一推理模型和该第二调整信息,进而,模型推理实体根据第二调整信息可以知道第一推理模型认证未通过,或者,该模型推理实体根据第二调整信息可以知道运行第一推理模型不能达到预期的性能,模型推理实体在运行第一推理模型之前可以对该第一推理模型进行再训练。
147.需要说明的是,当模型认证实体是与模型推理实体分开部署的模型认证实体时,模型管理实体还可以将第一推理模型的标识信息、版本信息、模型性能信息或使用信息发送给模型推理实体,用于辅助模型推理实体对第一推理模型进行再训练,使得再训练后的第一推理模型达到模型性能信息指示的性能。
148.应理解,在一种可能的实现方式中,当模型认证实体和模型推理实体部署于一个设备中时,模型认证实体和模型推理实体接收第一提供商信息,该第一提供商信息携带于模型部署请求消息中,即模型认证实体在判定第一推理模型是否认证通过之前已经获取了该第一推理模型,模型认证实体确定第一推理模型认证不通过时,可以通过内部接口通知模型推理实体该第一推理模型认证不通过,该模型推理实体可以对第一推理模型进行调整后再运行。在这种情况下,模型管理实体可以不需要向模型推理实体发送该调整信息。
149.从而,在方式2中,当第一推理模型认证不通过时,模型推理实体可以在部署第一推理模型之前对第一推理模型进行再训练。
150.在上述说明中,在第一推理模型运行之前,模型认证实体可以先判定第一提供商信息指示的提供第一推理模型的第一模型提供商与第一推理模型待部署于的设备提供商是否一致,当一致时,模型认证实体可以认为第一推理模型认证通过,当不一致时,模型认证实体可以进一步根据第一推理模型的性能信息判定第一推理模型是否认证通过。但是,模型管理实体发送的第一提供商信息有可能是不真实的,因此,在步骤s202之前,该方法200还可以执行步骤s209至s210以判定第一提供商信息是否真实,以下对此进行介绍。
151.可选地,s209,模型管理实体向模型认证实体发送第一推理模型,对应地,模型认
证实体从模型管理实体接收该第一推理模型。
152.该第一推理模型可以以模型文件或者模型文件地址的形式承载。其中,模型文件是指描述第一推理模型的信息,以文件格式记载,模型文件地址是指用于索引到该模型文件的地址信息。另外,应理解,该模型文件可以由多个子文件组成。
153.描述第一推理模型的信息可以包括如下信息中的至少一项:第一推理模型的名称、提供第一推理模型的第二模型提供商信息、第一推理模型的标识。
154.可选地,s210,模型认证实体第一推理模型确定该第一模型提供商提供是该第一推理模型的提供商。
155.例如,模型认证实体根据第一推理模型和第一提供商信息判定第一推理模型是否由该第一模型提供商提供或训练。
156.应理解,该第一提供商信息记载于模型文件之外,与第一推理模型中的第二模型提供商信息的不同处在于:第一推理模型中的第二模型提供商信息是原始记载于模型文件中的真实信息,模型文件之外的第一提供商信息是模型管理实体指定的可能会有错误的信息。
157.模型认证实体可以采用三种方式判定第一推理模型是否由该第一模型提供商训练,以下对该三种方式分别进行说明。
158.方式a:
159.当第二模型提供商和第一模型提供商一致时,模型认证实体确定第一推理模型是由第一模型提供商训提供。
160.当第二模型提供商和第一模型提供商不一致时,模型认证实体确定第一推理模型不是由第一模型提供商提供。
161.其中,第二模型提供商为第一推理模型指示的提供第一推理模型的提供商,或者说,该第二模型提供商时第一推理模型的模型文件中记载的提供商。
162.从而,在方式a中,模型认证实体可以根据第一提供商信息是否与第一推理模型中记载的第二模型提供商是否一致判定第一提供商信息是否真实。
163.方式b:
164.当第一格式和第二格式一致时,模型认证实体确定第一推理模型是由第一模型提供商提供;
165.当第一格式和第二格式不一致时,模型认证实体确定第一推理模型不是由第一模型提供商提供;
166.其中,第一格式为第一推理模型的格式,第二格式是根据第一提供商信息确定的。
167.第一推理模型的格式可以是指:第一推理模型的模型文件的格式,例如文件格式、语法等。
168.第二格式是根据第一提供商信息确定的可以是指:模型认证实体可以根据第一提供商信息指示的第一模型提供商确定该第一模型提供商训练的模型的第二格式。例如,模型认证实体可以记载多个供应商训练模型的格式,模型认证实体接收到第一提供商信息,可以确定该第一模型提供商对应的第一格式。
169.从而,在方式b中,模型认证实体可以根据第一模型提供商的格式和第一推理模型的格式是否一致判定第一提供商信息是否真实。
170.方式c:
171.当第二模型提供商和第一模型提供商一致,第一格式和第二格式一致时,模型认证实体确定第一推理模型是由第一模型提供商提供;
172.当第二模型提供商和第一模型提供商不一致,和/或,第一格式和第二格式不一致时,模型认证实体确定第一推理模型不是由第一模型提供商提供;
173.其中,第二模型提供商为第一推理模型指示的提供第一推理模型的供应商,第一格式为第一推理模型的格式,第二格式是根据第一提供商信息确定的。
174.从而,在方式c中,模型认证实体可以同时判定第一提供商信息与第一推理模型中记载的第二模型提供商是否一致,以及第一模型提供商的格式和第一推理模型的格式是否一致,在两个条件都是一致的情况下,确定第一提供商信息真实。
175.在上述三种方式中,当模型认证实体确定第一推理模型是由第一模型提供商提供时,该方法200可以执行步骤s202至步骤s209以判定第一模型提供商和设备提供商是否一致。当该模型认证实体确定第一推理模型不是由第一模型提供商训练时,模型认证实体可以认为第一推理模型认证不成功,该方法可以执行步骤s206至步骤s209第一推理模型认证不成功后的动作。在这种情况下,步骤s207中的原因信息还可以用于指示第一推理模型不是由第一模型提供商训练,或者指示第一提供商信息错误。
176.从而,在本技术中,模型管理实体可以将指示提供第一推理模型的第一模型提供商的第一提供商信息发送给模型认证实体,模型认证实体可以对第一模型提供商和设备提供商进行对比,并可以根据对比结果生成认证结果告知模型管理实体,进而模型管理实体可以基于不同的认证结果采取不同的处理,能够提高第一推理模型运行的可靠性。
177.当模型认证实体和模型推理实体部署在不同的设备上时,模型管理实体可以向模型认证实体请求对认证,并根据认证结果确定是否将第一推理模型不属于模型推理实体中。
178.图3是本技术实施例提供的一种模型管理的方法300的示意性流程图。
179.可选地,s301,模型管理实体获取第一推理模型。
180.例如,模型管理实体可以根据网络状态或者运行需求向模型市场发送模型查询请求消息,该模型查询请求消息用于请求获取第一推理模型。模型市场可以响应于该查询请求消息,向模型管理实体发送第一推理模型,或者,发送多个模型,由模型管理实体从多个模型中确定该第一推理模型。其中,模型市场中具有多个供应商训练的模型,该模型市场可以部署在图1所示的模型训练实体中。
181.或者,又例如,模型管理实体可以根据网络状态或者运行需求向模型训练实体发送模型训练请求消息,该模型训练请求消息用于请求模型训练实体进行训练以生成第一推理模型。模型训练实体根据模型训练请求消息进行模型训练以生成第一推理模型。模型训练实体响应于该模型训练请求消息,向模型管理实体发送该第一推理模型。
182.另外,模型管理实体与模型训练实体可以部署在同一个运营商平台。
183.s302,模型管理实体向模型认证实体发送第一提供商信息,对应地,模型认证实体从模型管理实体接收该第一提供商信息。
184.该第一提供商信息指示由第一模型提供商提供第一推理模型。有关第一提供商信息的描述可参见方法200中步骤s201对第一提供商信息的描述,为了简便,在此不再赘述。
185.例如,模型管理实体向模型认证实体发送模型认证请求消息,该模型认证请求消息用于请求对第一推理模型进行认证,该模型认证请求消息中携带该第一提供商信息。
186.可选地,s303,模型管理实体向模型认证实体发送第二提供商信息和第一推理模型,对应地,模型认证实体从模型管理实体接收该第二提供商信息和第一推理模型。
187.该第二提供商信息用于指示该设备提供商,该第一推理模型待部署于该设备提供商,设备提供商为第二厂商或第二运营商。有关设备提供商和第一推理模型的描述可参见方法200中步骤s202对设备提供商的描述,为了简便,在此不再赘述。
188.例如,模型管理实体向模型认证实体发送模型认证请求消息,该模型认证请求消息中携带该第二提供商信息和第一推理模型。
189.在一种可能的实现方式中,该模型认证请求消息还可以携带以下信息中的至少一项:第一推理模型的标识信息、第一推理模型的版本信息、第一推理模型的性能信息和第一推理模型的使用信息。有关上述信息的描述可参见方法200中的描述,为了简便,在此不再赘述。
190.可选地,s304,模型认证实体根据第一推理模型和第一提供商信息确定第一推理模型的是该第一推理模型的提供商。
191.有关模型认证实体确定第一推理模型是否由该第一模型提供商提供的描述可参见方法200中步骤s210中的描述,为了简便,在此不再赘述。
192.可选地,模型认证实体确定第一推理模型是由该第一模型提供商提供,方法300可以执行步骤s305至s313。
193.s305,模型认证实体对第一模型提供商和设备提供商进行对比,以生成对比结果。
194.例如,模型认证实体可以判定第一模型提供商和设备提供商是否一致。
195.有关模型认证实体进行对比以生成对比结果的方式可参见方法200中步骤s202的描述,为了简便,在此不再赘述。
196.可选地,当对比结果为第一模型提供商和设备提供商不一致时,方法300可以执行步骤s306。
197.可选地,s306,模型认证实体根据对比结果和性能信息确定认证结果。
198.例如,模型认证实体根据性能信息判定第一推理模型是否认证通过,该性能信息用于指示第一推理模型的准确度。
199.再例如,模型认证实体可以向模型推理实体发送评估数据请求消息,该评估数据请求消息用于请求第一数据和第二数据,该评估数据请求消息可以包括类型信息、条件信息。模型推理实体响应于评估数据请求消息,向模型认证实体发送评估数据响应消息,该评估数据响应消息携带该第一数据和第二数据。其中,类型信息可以是指第一数据和第二数据的数据类型,条件信息是指第一数据和第二数据需要满足的条件,例如,条件信息可以包括制式条件、时间条件和区域条件,模型推理实体将满足条件的第一数据和第二数据发送给模型认证实体。
200.模型认证实体根据第一数据和第二数据确定性能信息,以及根据性能信息判定第一推理模型是否认证通过的方式可以参见方法200中步骤s205的描述,为了简便,在此不再赘述。
201.s307,模型认证实体向模型管理实体发送认证结果,对应地,模型管理实体从模型
认证实体接收该认证结果。
202.该认证结果指示第一推理模型是否可以在该模型推理实体中运行。
203.例如,模型认证实体响应于模型认证请求消息,向模型管理实体发送模型认证响应消息,该模型认证响应消息携带该认证结果。有关该认证结果的描述可参见方法200中步骤s204的描述,为了简便,在此不再赘述。
204.可选地,s308,模型认证实体向模型推理实体发送认证结果,对应地,模型推理实体从模型认证实体接收该认证结果。
205.例如,该模型认证实体向模型推理实体发送模型认证通过通知消息,该模型认证通过通知消息携带该认证结果。
206.可选地,s309,模型认证实体向模型管理实体发送原因信息,对应地,模型管理实体从模型认证实体接收该原因信息。
207.该原因信息用于指示认证结果的原因。有关原因信息的描述可参见方法200中步骤s206的描述,为了简便,在此不再赘述。
208.例如,该模型认证响应消息携带该原因信息。
209.当认证结果指示第一推理模型认证通过时,该方法300可以执行步骤s310。
210.可选地,s310,模型管理实体向模型推理实体发送模型部署消息,对应地,模型推理实体从模型管理实体接收模型部署消息。
211.该模型部署消息用于部署第一推理模型。该模型部署消息可以携带以下信息中的至少一项:第一推理模型的标识信息、第一推理模型的版本信息、第一推理模型、第一推理模型的使用信息、该认证结果。
212.模型推理实体可以根据模型部署消息和模型认证通过通知消息中的认证结果一致确定该第一推理模型认证成功。例如,模型推理实体根据模型认证通过通知消息存储模型标识和/或模型版本与认证结果的对应关系,模型推理实体根据模型部署消息中的模型标识和/或版本确定存储的对应的认证结果与模型部署消息中的认证结果一致,即确定该第一推理模型认证成功。进而模型推理实体可以进行第一推理模型的部署。
213.可选地,模型推理实体响应于模型部署消息,向模型管理实体发送模型部署响应,该模型部署响应用于指示第一推理模型的部署状态。
214.模型管理实体可以采用两种方式对认证结果指示第一推理模型认证不通过的情况进行处理,以下分别对该两种方式进行说明。
215.方式a:
216.包括步骤s311至s312。
217.可选地,s311,模型管理实体向模型训练实体发送以下信息中的至少一项:认证结果、原因信息和第一调整信息。
218.有关的描述可参见方法200中步骤s207的描述,为了简便,在此不再赘述。
219.例如,模型管理实体向模型训练实体发送模型优化请求消息,该模型优化请求消息携带该以下信息中的至少一项:认证结果、原因信息和第一调整信息。
220.在一种可能的实现方式中,该模型优化请求消息还携带以下信息中的至少一项:设备提供商的信息、模型的标识信息、模型性能信息或模型的版本信息。
221.可选地,s312,模型训练实体确定第二推理模型。
222.有关模型训练实体确定第二推理模型的方式可参见方法200中步骤s208的描述,为了简便,在此不再赘述。
223.可选地,模型训练实体向模型管理实体发送第二推理模型,对应地,模型管理实体从模型管理实体接收该第二推理模型。
224.例如,模型训练实体响应于模型优化请求消息,向模型管理实体发送模型优化响应消息,该模型优化响应消息携带该第二推理模型。
225.在一种可能的实现方式中,该模型优化响应消息还携带第二推理模型的模型性能信息和第二推理模型的使用信息,该第二推理模型的使用信息可以用于指示第二推理模型的运行条件,模型性能信息用于描述第二推理模型在使用信息指示的运行条件运行时可以达到的性能。
226.方式b:
227.包括步骤s313。
228.s313,模型管理实体向模型推理实体发送第一推理模型和第二调整信息,对应地,模型推理实体从模型管理实体接收第一推理模型和第二调整信息。
229.该第二调整信息指示对该推理模型进行调整。
230.例如,模型管理实体可以向模型推理实体发送模型部署请求消息,该模型部署请求消息中携带该第一推理模型和该第二调整信息。
231.在一种可能的实现方式中,该模型部署请求消息还携带以下信息中的至少一项:第一推理模型的标识信息、版本信息、模型性能信息或使用信息。
232.应理解,模型推理实体对该第一推理模型进行调整或者再训练,可以是指模型推理实体中的模型训练功能模块对该推理模型进行调整或者再训练。
233.从而,在本技术中,模型管理实体可以将指示提供推理模型的第一模型提供商的第一提供商信息发送给模型认证实体,模型认证实体可以对第一模型提供商和设备提供商进行对比,并可以根据对比结果生成认证结果告知模型管理实体,进而模型管理实体可以基于不同的认证结果采取不同的处理,能够提高推理模型运行的可靠性。
234.当模型认证实体和模型推理实体为同一个设备上不同功能模块时,或者说模型认证实体集成了模型认证和运行的功能时,模型管理网元向模型认证实体发送模型部署消息,模型认证实体可以确定认证结果后根据认证结果确定是否可以运行推理模型。
235.图4是本技术实施例提供的一种模型管理的方法400的示意性流程图。
236.可选地,s401,模型管理实体获取推理模型。
237.模型管理实体获取推理模型的方式可参见方法300中步骤s301中的描述,为了简便,在此不再赘述。
238.s402,模型管理实体向模型认证实体发送第一提供商信息,对应地,模型认证实体从模型管理实体接收该第一提供商信息。
239.有关第一提供商信息的描述可参见方法200中步骤s201对第一提供商信息的描述,为了简便,在此不再赘述。
240.例如,模型管理实体向模型推理实体发送模型部署消息,该模型部署消息用于部署推理模型,该模型部署消息携带该第一提供商信息。
241.可选地,s403,模型管理实体向模型认证实体发送推理模型,对应地,模型认证实
体从模型管理实体接收该推理模型。
242.例如,该模型部署消息携带该推理模型。
243.在一种可能的实现方式中,该模型部署消息还可以携带以下信息中的至少一项:推理模型的标识信息、推理模型的版本信息、推理模型的模型性能信息、推理模型的使用信息。有关上述信息的描述可参见方法200中的描述,为了简便,在此不再赘述。
244.可选地,s404,模型认证实体根据推理模型和第一提供商信息确定第一模型提供商是推理模型的提供商。
245.有关模型认证实体判定推理模型是否由该第一模型提供商提供的描述可参见方法200中步骤s210中的描述,为了简便,在此不再赘述。
246.可选地,模型认证实体确定推理模型是由该第一模型提供商提供,方法400可以执行步骤s405至s408。
247.s405,模型认证实体对第一模型提供商和设备提供商进行对比,以生成对比结果。
248.例如,模型认证实体可以判定第一模型提供商和设备提供商是否一致。
249.有关模型认证实体进行对比以生成对比结果的方式可参见方法200中步骤s202的描述,为了简便,在此不再赘述。
250.可选地,当对比结果为第一模型提供商和设备提供商不一致时,方法400可以执行步骤s406。
251.可选地,s406,模型认证实体根据对比结果和性能信息确定认证结果。
252.例如,模型认证实体根据性能信息判定推理模型是否认证通过,该性能信息用于指示推理模型的准确度。
253.有关模型认证实体根据性能信息判定推理模型是否认证通过的方式可以参见方法200中步骤s205的描述,为了简便,在此不再赘述。
254.s407,模型认证实体向模型管理实体发送认证结果,对应地,模型管理实体从模型认证实体接收该认证结果。
255.该认证结果指示推理模型是否可以在该模型推理实体中运行。
256.例如,模型认证实体响应于模型部署请求消息,向模型管理实体发送模型部署响应消息,该模型部署响应消息携带该认证结果。有关该认证结果的描述可参见方法200中步骤s204的描述,为了简便,在此不再赘述。
257.可选地,s408,模型认证实体向模型管理实体发送原因信息,对应地,模型管理实体从模型认证实体接收该原因信息。
258.该原因信息用于指示认证结果的原因。有关原因信息的描述可参见方法200中步骤s206的描述,为了简便,在此不再赘述。
259.例如,该模型部署响应消息携带该原因信息。
260.进而,模型认证实体和模型管理实体可以根据认证结果对推理模型进行处理:
261.当该认证结果指示推理模型可以在该模型推理实体中运行时,模型认证实体可以通过内部接口通知模型推理实体运行该推理模型。
262.当该认证结果指示推理模型不可以在该模型推理实体中运行时,模型管理实体可以采用方法300中描述的方式a和方式b两种方式对推理模型认证不通过的情况进行处理,为了简便,在此不再赘述。
263.从而,在本技术中,模型管理实体可以将指示提供推理模型的第一模型提供商的第一提供商信息发送给模型认证实体,模型认证实体可以对第一模型提供商和设备提供商进行对比,并可以根据对比结果生成认证结果告知模型管理实体,进而模型管理实体可以基于不同的认证结果采取不同的处理,能够提高推理模型运行的可靠性。
264.图5和图6为本技术实施例提供的可能的通信装置的结构示意图。这些通信装置可以用于实现上述方法实施例中模型认证实体、模型管理实体的功能,因此也能实现上述方法实施例所具备的有益效果。在本技术的实施例中,该通信装置可以是模型认证实体、模型管理实体,还可以是应用于模型认证实体、模型管理实体中的模块(如芯片)。
265.如图5所示,通信装置500包括处理模块510和收发模块520。通信装置500用于实现上述图2中所示的方法实施例中模型认证实体、模型管理实体的功能。或者,通信装置500可以包括用于实现上述图2中所示的方法实施例中模型认证实体、模型管理实体的任一功能或操作的模块,该模块可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。
266.当通信装置500用于实现图2所示的方法实施例中模型认证实体的功能时,收发模块520用于从模型管理实体接收第一提供商信息,第一提供商信息指示推理模型由第一模型提供商提供;处理模块510用于对第一模型提供商和模型推理实体的设备提供商进行对比,以生成对比结果,其中,模型推理实体为将运行推理模型的实体;处理模块510用于基于对比结果向模型管理实体发送推理模型的认证结果,认证结果指示推理模型是否能够在模型推理实体中运行。
267.从而,在本技术中,模型管理实体可以将指示提供推理模型的第一模型提供商的第一提供商信息发送给模型认证实体,模型认证实体可以对第一模型提供商和设备提供商进行对比,并可以根据对比结果生成认证结果告知模型管理实体,进而模型管理实体可以基于不同的认证结果采取不同的处理,能够提高推理模型运行的可靠性。
268.有关上述处理模块510和收发模块520更详细的描述可以直接参考图2所示的方法实施例中相关描述直接得到,这里不加赘述。
269.当通信装置500用于实现图2所示的方法实施例中模型管理实体的功能时,收发模块520用于向模型认证实体发送第一提供商信息,第一提供商信息指示第一推理模型由第一模型提供商提供;收发模块520还用于从模型认证实体接收第一推理模型的认证结果,认证结果指示第一推理模型是否能够在模型推理实体中运行。
270.从而,在本技术中,模型管理实体可以将指示提供推理模型的第一模型提供商的第一提供商信息发送给模型认证实体,模型认证实体可以对第一模型提供商和设备提供商进行对比,并可以根据对比结果生成认证结果告知模型管理实体,进而模型管理实体可以基于不同的认证结果采取不同的处理,能够提高推理模型运行的可靠性。
271.有关上述处理模块510和收发模块520更详细的描述可以直接参考图2所示的方法实施例中相关描述直接得到,这里不加赘述。
272.如图6所示,通信装置600包括处理器610和接口电路620。处理器610和接口电路620之间相互耦合。可以理解的是,接口电路620可以为收发器或输入输出接口。可选的,通信装置600还可以包括存储器630,用于存储处理器610执行的指令或存储处理器610运行指令所需要的输入数据或存储处理器610运行指令后产生的数据。
273.当通信装置600用于实现图2或图4所示的方法时,处理器610用于实现上述处理模
块510的功能,接口电路620用于实现上述收发模块520的功能。
274.当通信装置600用于实现图2或图4所示的方法时,通信装置600包括处理器610和接口电路620。处理器610和接口电路620之间相互耦合。可以理解的是,接口电路620可以为收发器或输入输出接口。可选的,通信装置600还可以包括存储器630,用于存储处理器610执行的指令或存储处理器610运行指令所需要的输入数据或存储处理器610运行指令后产生的数据。
275.当通信装置600用于实现图2或图4所示的方法时,处理器610用于实现上述处理模块510的功能,接口电路620用于实现上述收发模块520的功能。
276.当上述通信装置为应用于模型认证实体的芯片时,该模型认证实体芯片实现上述方法实施例中模型认证实体的功能。该模型认证实体芯片从模型认证实体中的其它模块(如射频模块或天线)接收信息,该信息是模型管理实体发送给模型认证实体的;或者,该模型认证实体芯片向模型认证实体中的其它模块(如射频模块或天线)发送信息,该信息是模型认证实体发送给模型管理实体的。
277.当上述通信装置为应用于模型管理实体的芯片时,该模型管理实体芯片实现上述方法实施例中模型管理实体的功能。该模型管理实体芯片从模型管理实体中的其它模块(如射频模块或天线)接收信息,该信息是模型认证实体发送给模型管理实体的;或者,该模型管理实体向模型管理实体中的其它模块(如射频模块或天线)发送信息,该信息是模型管理实体发送给模型认证实体的。
278.可以理解的是,本技术的实施例中的处理器可以是中央处理模块(central processing unit,cpu),还可以是其它通用处理器、数字信号处理器(digital signal processor,dsp)、专用集成电路(application specific integrated circuit,asic)、现场可编程门阵列(field programmable gate array,fpga)或者其它可编程逻辑器件、晶体管逻辑器件,硬件部件或者其任意组合。通用处理器可以是微处理器,也可以是任何常规的处理器。
279.本技术的实施例中存储器可以是随机存取存储器(random access memory,ram)、闪存、只读存储器(read-only memory,rom)、可编程只读存储器(programmable rom,prom)、可擦除可编程只读存储器(erasable prom,eprom)、电可擦除可编程只读存储器(electrically eprom,eeprom)、寄存器、硬盘、移动硬盘、cd-rom或者本领域熟知的任何其它形式的存储介质中。一种示例性的存储介质耦合至处理器,从而使处理器能够从该存储介质读取信息,且可向该存储介质写入信息。当然,存储介质也可以是处理器的组成部分。处理器和存储介质可以位于asic中。另外,该asic可以位于网络设备或终端设备中。当然,处理器和存储介质也可以作为分立组件存在于网络设备或终端设备中。
280.在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机程序或指令。在计算机上加载和执行所述计算机程序或指令时,全部或部分地执行本技术实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、网络设备、终端设备、或者其它可编程装置。所述计算机程序或指令可以存储在计算机可读存储介质中,或者通过所述计算机可读存储介质进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是集成一个或多个可用介
质的服务器等数据存储设备。所述可用介质可以是磁性介质,例如,软盘、硬盘、磁带;也可以是光介质,例如,dvd;还可以是半导体介质,例如,固态硬盘(solid state disk,ssd)。
281.在本技术的各个实施例中,如果没有特殊说明以及逻辑冲突,不同的实施例之间的术语和/或描述具有一致性、且可以相互引用,不同的实施例中的技术特征根据其内在的逻辑关系可以组合形成新的实施例。
282.应理解,在本技术实施例中,编号“第一”、“第二
”…
仅仅为了区分不同的对象,比如为了区分不同的网络设备,并不对本技术实施例的范围构成限制,本技术实施例并不限于此。
283.还应理解,在本技术中,“当
…
时”、“若”以及“如果”均指在某种客观情况下实体会做出相应的处理,并非是限定时间,且也不要求实体实现时一定要有判断的动作,也不意味着存在其它限定。
284.还应理解,在本技术各实施例中,“a对应的b”表示b与a相关联,根据a可以确定b。但还应理解,根据a确定b并不意味着仅仅根据a确定b,还可以根据a和/或其它信息确定b。
285.还应理解,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
286.本技术中出现的类似于“项目包括如下中的一项或多项:a,b,以及c”表述的含义,如无特别说明,通常是指该项目可以为如下中任一个:a;b;c;a和b;a和c;b和c;a,b和c;a和a;a,a和a;a,a和b;a,a和c,a,b和b;a,c和c;b和b,b,b和b,b,b和c,c和c;c,c和c,以及其他a,b和c的组合。以上是以a,b和c共3个元素进行举例来说明该项目的可选用条目,当表达为“项目包括如下中至少一种:a,b,
……
,以及x”时,即表达中具有更多元素时,那么该项目可以适用的条目也可以按照前述规则获得。
287.可以理解的是,在本技术的实施例中涉及的各种数字编号仅为描述方便进行的区分,并不用来限制本技术的实施例的范围。上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定。
技术特征:
1.一种模型管理的方法,其特征在于,所述方法包括:模型认证实体从模型管理实体接收第一提供商信息,所述第一提供商信息指示推理模型由第一模型提供商提供;所述模型认证实体对所述第一模型提供商和模型推理实体的设备提供商进行对比,以生成对比结果,其中,所述模型推理实体为将运行所述推理模型的实体;所述模型认证实体基于所述对比结果向所述模型管理实体发送所述推理模型的认证结果,所述认证结果指示所述推理模型是否能够在所述模型推理实体中运行。2.如权利要求1所述的方法,其特征在于:所述对比结果为所述第模型提供商和所述设备提供商不一致,所述推理模型的准确度小于第一阈值,所述认证结果指示所述推理模型不能够在所述模型推理实体中运行;或者,所述对比结果为所述第一模型提供商和所述设备提供商不一致,所述推理模型的准确度大于或等于所述第一阈值,所述认证结果指示所述推理模型能够在所述模型推理实体中运行。3.如权利要求1或2所述的方法,其特征在于,所述模型认证实体对所述第一模型提供商和所述设备提供商进行对比之前,所述方法还包括:所述模型认证实体从所述模型管理实体接收所述推理模型;所述模型认证实体确定所述第一模型提供商是所述推理模型的提供商。4.如权利要求3所述的方法,其特征在于,所述模型认证实体确定所述第一模型提供商是所述推理模型的提供商,包括:所述模型认证实体确定第一格式和第二格式一致;或者,所述模型认证实体确定第二模型提供商和所述第一模型提供商一致;或者,所述模型认证实体确定所述第一格式和所述第二格式一致,以及所述第二模型提供商和所述第一模型提供商一致;其中,所述第一格式是所述推理模型的格式,所述第二格式是根据所述第一提供商信息确定的,所述第二模型提供商是根据所述推理模型确定的。5.如权利要求1至4中任一项所述的方法,其特征在于,所述方法还包括:所述模型认证实体向所述模型管理实体发送原因信息,所述原因信息指示得出所述认证结果的原因。6.如权利要求1所述的方法,其特征在于,所述对比结果为所述第一模型提供商和所述设备提供商一致,所述认证结果指示所述推理模型能够在所述模型推理实体中运行。7.如权利要求1至6中任一项所述的方法,其特征在于,所述模型认证实体对所述第一模型提供商和所述设备提供商进行对比之前,所述方法还包括:所述模型认证实体从所述模型管理实体接收第二提供商信息,所述第二提供商信息指示所述设备提供商。8.一种模型管理的方法,其特征在于,所述方法包括:模型管理实体向模型认证实体发送第一提供商信息,所述第一提供商信息指示第一推理模型由第一模型提供商提供;所述模型管理实体从所述模型认证实体接收所述第一推理模型的认证结果,所述认证结果指示所述第一推理模型是否能够在模型推理实体中运行。
9.如权利要求8所述的方法,其特征在于:所述第一模型提供商和所述模型推理实体的设备提供商不一致,所述第一推理模型的准确度小于第一阈值,所述认证结果指示所述第一推理模型不能够在所述模型推理实体中运行;或者,所述第一模型提供商和所述设备提供商不一致,所述第一推理模型的准确度大于或等于所述第一阈值,所述认证结果指示所述第一推理模型能够在所述模型推理实体中运行。10.如权利要求8或9所述的方法,其特征在于,所述方法还包括:所述模型管理实体向所述模型认证实体发送所述第一推理模型。11.如权利要求8至10中任一项所述的方法,其特征在于,所述方法还包括:所述模型管理实体从所述模型认证实体接收原因信息,所述原因信息指示得出所述认证结果的原因。12.如权利要求8至11中任一项至所述的方法,其特征在于,所述认证结果指示所述第一推理模型不能够在所述模型推理实体中运行,所述方法还包括:所述模型管理实体向模型训练实体发送以下信息中至少一项:所述认证结果,原因信息和第一调整信息,其中,所述原因信息指示得出所述认证结果的原因,所述第一调整信息指示所述模型训练实体对所述第一推理模型进行调整;所述模型管理实体从所述模型训练实体接收第二推理模型,所述第二推理模型为基于所述第一推理模型调整而得。13.如权利要求8至11中任一项所述的方法,其特征在于,所述认证结果指示所述第一推理模型不能够在所述模型推理实体中运行,所述方法还包括:所述模型管理实体向所述模型推理实体发送所述第一推理模型和第二调整信息,所述第二调整信息指示所述模型推理实体对所述第一推理模型进行调整。14.如权利要求8所述的方法,其特征在于,所述第一模型提供商和所述模型推理实体的设备提供商一致,所述认证结果指示所述第一推理模型能够在所述模型推理实体中运行。15.如权利要求8至14中任一项所述的方法,其特征在于,在从所述模型认证实体接收所述第一推理模型的认证结果之前,所述方法还包括:所述模型管理实体向所述模型认证实体发送第二提供商信息,所述第二提供商信息指示所述模型推理实体的设备提供商。16.一种模型管理的通信装置,其特征在于,包括:收发模块,用于从模型管理实体接收第一提供商信息,所述第一提供商信息指示推理模型由第一模型提供商提供;处理模块,用于对所述第一模型提供商和模型推理实体的设备提供商进行对比,以生成对比结果,其中,所述模型推理实体为将运行所述推理模型的实体;所述收发模块,还用于基于所述对比结果向所述模型管理实体发送所述推理模型的认证结果,所述认证结果指示所述推理模型是否能够在所述模型推理实体中运行。17.如权利要求16所述的通信装置,其特征在于:所述对比结果为所述第一模型提供商和所述设备提供商不一致,所述推理模型的准确度小于第一阈值,所述认证结果指示所述推理模型不能够在所述模型推理实体中运行;或
者,所述对比结果为所述第一模型提供商和所述设备提供商不一致,所述推理模型的准确度大于或等于所述第一阈值,所述认证结果指示所述推理模型能够在所述模型推理实体中运行。18.如权利要求16或17所述的通信装置,其特征在于,所述收发模块还用于:从所述模型管理实体接收所述推理模型;所述处理模块还用于:确定所述第一模型提供商是所述推理模型的提供商。19.如权利要求18所述的通信装置,其特征在于,所述处理模块具体用于:确定第一格式和第二格式一致;或者,确定第二模型提供商和所述第一模型提供商一致;或者,确定所述第一格式和所述第二格式一致,以及所述第二模型提供商和所述第一模型提供商一致;其中,所述第一格式是所述推理模型的格式,所述第二格式是根据所述第一提供商信息确定的,所述第二模型提供商是根据所述推理模型确定的。20.如权利要求16至19中任一项所述的通信装置,其特征在于,所述收发模块还用于:向所述模型管理实体发送原因信息,所述原因信息指示得出所述认证结果的原因。21.如权利要求16所述的通信装置,其特征在于,所述对比结果为所述第一模型提供商和所述设备提供商一致,所述认证结果指示所述推理模型能够在所述模型推理实体中运行。22.如权利要求16至21中任一项所述的通信装置,其特征在于,所述收发模块还用于:从所述模型管理实体接收第二提供商信息,所述第二提供商信息用于指示所述设备提供商。23.一种模型管理的通信装置,其特征在于,包括:处理模块,用于生成第一提供商信息,所述第一提供商信息用于指示第一推理模型由第一模型提供商提供;收发模块,用于向模型认证实体发送所述第一提供商信息;所述收发模块,还用于从所述模型认证实体接收所述第一推理模型的认证结果,所述认证结果指示所述第一推理模型是否能够在模型推理实体中运行。24.如权利要求23所述的通信装置,其特征在于,所述第一模型提供商和所述模型推理实体的设备提供商不一致,所述第一推理模型的准确度小于第一阈值,所述认证结果指示所述第一推理模型不能够在所述模型推理实体中运行;或者,所述第一模型提供商和所述设备提供商不一致,所述第一推理模型的准确度大于或等于所述第一阈值,所述认证结果指示所述第一推理模型能够在所述模型推理实体中运行。25.如权利要求23或24所述的通信装置,其特征在于,所述收发模块还用于:向所述模型认证实体发送所述第一推理模型。26.如权利要求23至25中任一项所述的通信装置,其特征在于,所述收发模块还用于:从所述模型认证实体接收原因信息,所述原因信息指示得出所述认证结果的原因。27.如权利要求23至26中任一项所述的通信装置,其特征在于,所述认证结果指示所述
第一推理模型不能够在所述模型推理实体中运行,所述收发模块还用于:向模型训练实体发送以下信息中至少一项:所述认证结果,原因信息和第一调整信息,其中,所述原因信息指示得出所述认证结果的原因,所述第一调整信息指示所述模型训练实体对所述第一推理模型进行调整;从所述模型训练实体接收第二推理模型,所述第二推理模型为基于所述第一推理模型调整而得。28.如权利要求23至27中任一项所述的通信装置,其特征在于,所述认证结果指示所述第一推理模型不能够在所述模型推理实体中运行,所述收发模块还用于:向模型推理实体发送所述第一推理模型和第二调整信息,所述第二调整信息指示所述模型推理实体对所述第一推理模型进行调整。29.如权利要求23所述的通信装置,其特征在于,所述第一模型提供商和所述模型推理实体的设备提供商一致,所述认证结果指示所述第一推理模型能够在所述模型推理实体中运行。30.如权利要求23至29中任一项所述的通信装置,其特征在于,所述收发模块还用于:向所述模型认证实体发送第二提供商信息,所述第二提供商信息指示所述模型推理实体的设备提供商。31.一种通信装置,其特征在于,包括至少一个处理器,所述至少一个处理器用于执行存储器中存储的计算机程序,以使得所述装置实现如权利要求1至7、或者权利要求8至15中任一项所述的方法。32.一种计算机可读存储介质,其特征在于,包括计算机程序,当所述计算机程序在计算机上运行时,使得所述计算机执行如权利要求1至7、或者权利要求8至15中任一项所述的方法。33.一种模型管理的通信系统,其特征在于,包括如权利要求16至22中任一项所述的通信装置以及权利要求23至30中任一项所述的通信装置。
技术总结
本申请提供了一种模型管理的方法和通信装置,该方法包括:模型认证实体从模型管理实体接收第一提供商信息,第一提供商信息用于指示推理模型由第一模型提供商提供;模型认证实体对该第一模型提供商和模型推理实体的设备提供商进行对比,以生成对比结果,其中,该模型推理实体为将运行推理模型的实体;模型认证实体基于该对比结果向模型管理实体发送推理模型的认证结果,该认证结果指示所述推理模型是否可以在该模型推理实体中运行,进而能够提高推理模型运行的可靠性。推理模型运行的可靠性。推理模型运行的可靠性。
技术研发人员:黄谢田 曹龙雨 于益俊
受保护的技术使用者:华为技术有限公司
技术研发日:2022.02.25
技术公布日:2023/9/7
版权声明
本文仅代表作者观点,不代表航空之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)
飞行汽车 https://www.autovtol.com/
上一篇:插入式断路器的制作方法 下一篇:幽门螺杆菌运送培养基及其制备方法和应用与流程
