一种模型部署及推理的方法和装置[发明专利]

来源：智榕旅游

专利内容由知识产权出版社提供

专利名称：一种模型部署及推理的方法和装置专利类型：发明专利发明人：柏嘉洛

申请号：CN202011330926.9申请日：20201124公开号：CN112329945A公开日：20210205

摘要：本申请公开了一种模型部署及推理的方法和装置，其中所述模型部署方法包括：接收目标代码数据，所述目标代码数据包括预先构建的通用部署框架，以及基于所述通用部署框架配置的、针对目标机器学习模型的配置参数和调用代码；根据所述配置参数生成部署脚本；根据所述调用代码生成第一容器镜像；获取所述目标机器学习模型的第二容器镜像；采用所述部署脚本将所述第一容器镜像与所述第二容器镜像部署到指定集群中，以此实现模型的快速上线部署，开发人员仅仅需要在通用部署框架的基础上进行开发，编写少量的代码就可以完成模型的上线部署，简化了原有流程，降低了开发人员部署的难度，提高了开发人员对模型上线部署的效率和降低了部署成本。

申请人：广州市网星信息技术有限公司

地址：510000 广东省广州市南沙区丰泽东路106号(自编1号楼)X1301-E6803(集群地址)

国籍：CN

代理机构：北京品源专利代理有限公司

代理人：孟金喆

更多信息请下载全文后查看

因篇幅问题不能全部显示，请点此查看更多更全内容

查看全文