(12)发明专利申请
(10)申请公布号 CN 111381957 A(43)申请公布日 2020.07.07
(21)申请号 201811639776.2(22)申请日 2018.12.29
(71)申请人 上海哔哩哔哩科技有限公司
地址 200092 上海市杨浦区四平路1945号
11室(72)发明人 黄仁智 涂中英 王炜煜 (74)专利代理机构 北京英特普罗知识产权代理
有限公司 11015
代理人 王勇(51)Int.Cl.
G06F 9/50(2006.01)G06F 9/455(2006.01)
权利要求书3页 说明书8页 附图2页
CN 111381957 A(54)发明名称
面向分布式平台的服务实例精细化调度方法及系统(57)摘要
本发明公开了一种面向分布式平台的服务实例精细化调度方法，包括：初始化资源信息，对于需要做描述的资源，采用降维编码的方式进行表示；根据服务实例需要的资源，筛选出所有资源类满足服务实例需要的节点，加入可调度节点列表；对于采用降维编码方式进行表示的资源，进行升维解码，以判断设备资源是否满足服务实例的要求；根据可调度节点列表优选节点，
作为服务实例得到服务实例与节点的映射关系，
的部署节点；根据资源选择策略选取部署节点中的特定资源设备分配给服务实例，并更新可用资源数。本发明还公开了一种面向分布式平台的服务实例精细化调度系统。本发明支撑更精细化的调度策略，可以让平台对资源的使用更合理，资源使用率更充分。
CN 111381957 A
权 利 要 求 书
1/3页
1.一种面向分布式平台的服务实例精细化调度方法，其特征在于包括：初始化资源信息，对于需要做描述的资源，采用降维编码的方式进行表示；根据服务实例需要的资源，筛选出所有资源类满足服务实例需要的节点，加入可调度节点列表；对于采用降维编码方式进行表示的资源，进行升维解码，以判断设备资源是否满足服务实例的要求；
根据可调度节点列表优选节点，得到服务实例与节点的映射关系，作为服务实例的部署节点；
根据资源选择策略选取部署节点中的特定资源设备分配给服务实例，并更新可用资源数。
2.根据权利要求1所述的面向分布式平台的服务实例精细化调度方法，其特征在于，所述降维编码包括：
采集特定资源类的各资源设备的配额使用量；降维编码得到各资源类的一维数值；同步各资源类的资源数值。
3.根据权利要求2所述的面向分布式平台的服务实例精细化调度方法，其特征在于，降维编码得到各资源类的一维数值，具体为：
采用位运算表达式Ns1<<(0*b)|Ns2<<(1*b)|...|NsNf<<((Nf-1)*b)计算出资源类的一维数值，式中Nf为资源类的一维资源数量，对应的二维资源数量为{Ns1,Ns2,...,NsNf}，b为能够表示二维资源数值上限的二进制数。
4.根据权利要求1所述的面向分布式平台的服务实例精细化调度方法，其特征在于，所述升维解码包括：
获取所有节点所有资源类的一维配额使用量；
升维解码得到所有节点所有资源类的配额使用量；遍历所有资源类，过滤不满足服务实例资源请求量的节点。
5.根据权利要求4所述的面向分布式平台的服务实例精细化调度方法，其特征在于，升维解码得到所有节点所有资源类的配额使用量，具体为：
采用位运算表达式(K>>((Nfi-1)*b))&(2^b-1)计算出Nfi的二维资源数值，式中，K为降维编码后得到的一维数值，Nf为资源类的一维资源数量，b为能够表示二维资源数值上限的二进制数。
6.根据权利要求1所述的面向分布式平台的服务实例精细化调度方法，其特征在于，所述根据服务实例需要的资源，筛选出所有资源类满足服务实例需要的节点，加入可调度节点列表，具体为：
根据服务实例的资源请求量和各节点的资源全貌进行比较，将能够满足服务实例资源要求的节点划分到可调度节点列表。
7.根据权利要求1所述的面向分布式平台的服务实例精细化调度方法，其特征在于，根据可调度节点列表优选节点，得到服务实例与节点的映射关系，作为服务实例的部署节点，具体为：
获取每种资源类资源请求量的平均值，选取其中请求量平均值最小的节点作为服务实例的部署节点；
2
CN 111381957 A
权 利 要 求 书
2/3页
或者，获取每种资源类资源请求量与平均值的方差，选取方差最小的节点作为服务实例的部署节点。
8.根据权利要求7所述的面向分布式平台的服务实例精细化调度方法，其特征在于：对于采用降维编码方式进行表示的资源，进行升维解码，计算出资源类的节点当前资源请求量和节点平均资源请求量。
9.根据权利要求1所述的面向分布式平台的服务实例精细化调度方法，其特征在于，根据资源选择策略选取部署节点中的特定资源设备分配给服务实例，具体为：
得到部署节点后，请求相应节点的部署执行模块部署服务实例；部署执行模块根据服务实例，向资源管理模块请求具体的资源设备；
资源管理模块根据资源选择策略在资源类中选取特定资源设备绑定给服务实例。10.根据权利要求9所述的面向分布式平台的服务实例精细化调度方法，其特征在于，资源选择策略具体为：
选取同类资源设备中资源配额使用最少的设备，或者选取同类资源设备中资源配额使用最多、并且能够满足服务实例资源请求数量的设备。
11.一种面向分布式平台的服务实例精细化调度系统，其特征在于包括：资源管理模块、任务调度模块和部署执行模块，其中，
资源管理模块，一方面初始化资源信息，对于需要做描述的资源，采用降维编码的方式进行表示，并将获取的资源总量和可用量同步至任务调度模块；另一方面，在接收到部署执行模块发送的请求后，根据资源选择策略在资源类中选取特定资源设备绑定给服务实例；
任务调度模块，根据服务实例需要的资源，筛选出所有资源类满足服务实例需要的节点，加入可调度节点列表；根据可调度节点列表优选节点，得到服务实例与节点的映射关系，作为服务实例的部署节点；请求相应节点的部署执行模块部署服务实例；
对于采用降维编码方式进行表示的资源，进行升维解码，以判断设备资源是否满足服务实例的要求；
部署执行模块，根据服务实例，向资源管理模块请求具体的资源设备。12.根据权利要求11所述的面向分布式平台的服务实例精细化调度系统，其特征在于，所述降维编码包括：
节点采集特定资源类的各资源设备的配额使用量；节点降维编码得到各资源类的一维数值；同步各资源类的资源数值。
13.根据权利要求12所述的面向分布式平台的服务实例精细化调度系统，其特征在于，降维编码得到各资源类的一维数值，具体为：
采用位运算表达式Ns1<<(0*b)|Ns2<<(1*b)|...|NsNf<<((Nf-1)*b)计算出资源类的一维数值，式中Nf为资源类的一维资源数量，对应的二维资源数量为{Ns1,Ns2,...,NsNf}，b为能够表示二维资源数值上限的二进制数。
14.根据权利要求11所述的面向分布式平台的服务实例精细化调度系统，其特征在于，所述升维解码包括：
任务调度模块获取所有节点所有资源类的一维配额使用量；
3
CN 111381957 A
权 利 要 求 书
3/3页
任务调度模块升维解码得到所有节点所有资源类的配额使用量；任务调度模块遍历所有资源类，过滤不满足服务实例资源请求量的节点。15.根据权利要求14所述的面向分布式平台的服务实例精细化调度系统，其特征在于，升维解码得到所有节点所有资源类的配额使用量，具体为：
采用位运算表达式(K>>((Nfi-1)*b))&(2^b-1)计算出Nfi的二维资源数值，式中，K为降维编码后得到的一维数值，Nf为资源类的一维资源数量，b为能够表示二维资源数值上限的二进制数。
16.根据权利要求11所述的面向分布式平台的服务实例精细化调度系统，其特征在于，根据可调度节点列表优选节点，得到服务实例与节点的映射关系，作为服务实例的部署节点，具体为：
获取每种资源类资源请求量的平均值，选取其中请求量平均值最小的节点作为服务实例的部署节点；
或者，获取每种资源类资源请求量与平均值的方差，选取方差最小的节点作为服务实例的部署节点。
17.根据权利要求16所述的面向分布式平台的服务实例精细化调度系统，其特征在于，对于采用降维编码方式进行表示的资源，进行升维解码，计算出资源类的节点当前资源请求量和节点平均资源请求量。
18.根据权利要求11所述的面向分布式平台的服务实例精细化调度系统，其特征在于，资源选择策略具体为：
选取同类资源设备中资源配额使用最少的设备，或者选取同类资源设备中资源配额使用最多、并且能够满足服务实例资源请求数量的设备。
19.根据权利要求18所述的面向分布式平台的服务实例精细化调度系统，其特征在于，所述根据服务实例需要的资源，筛选出所有资源类满足服务实例需要的节点，加入可调度节点列表，具体为：
根据服务实例的资源请求量和各节点的资源全貌进行比较，将能够满足服务实例资源要求的节点划分到可调度节点列表。
4
CN 111381957 A
说 明 书
面向分布式平台的服务实例精细化调度方法及系统
1/8页
技术领域
[0001]本发明涉及一种面向分布式平台的服务实例精细化调度方法及系统，主要应用于涉及互联网技术领域，特别涉及分布式服务部署平台的资源管理和服务实例调度技术领域。
背景技术
[0002]分布式服务部署平台是一种基于具体集群，按照服务拥有者提供的服务配置信息、可执行文件，将服务部署到集群上，并提供服务托管、服务监管等功能的平台。平台管理集群硬件设备和资源，将服务自动部署到最合适的节点上，大大降低服务部署的复杂度。[0003]集群是分布式服务部署平台的载体。集群由具体的机器(也称为节点)组成，通常包括服务器、个人计算机、虚拟机等。机器其实就是资源的组合，因此资源是分布式服务部署平台的核心，是支撑服务运行的实体，可以表述为数量和能力，通常承载于具体硬件设备，包括处理器、随机存取存储器、本地磁盘存储、图形处理器和网络资源等等。[0004]分布式平台对于资源的使用过程主要包括调度时和运行时。调度时是指需要把多实例的服务部署到集群的哪些节点上，决策输入就是集群中所有节点的资源描述。决策过程就是根据服务实例需要的资源数，淘汰不满足条件的节点，得到可调度的节点列表，然后再根据一定的算法计算出最优节点或节点列表。分布式服务部署平台重点关注调度时资源的表示和使用。
[0005]现有的分布式服务部署平台对于常用硬件资源类(如CPU&RAM)支持比较好，对于偏图形计算、磁盘IO高、网络通信量大的任务，现有平台支持不好。既有的资源表示方式，很难兼容所有资源类，更不用说要支撑资源的精细化调度。以GPU资源为例，常用的Kubernetes调度系统，继承已有的资源表述方式，只能支撑到GPU设备粒度的调度，意味着服务对于GPU卡是独占的，不可以将单GPU用于多个服务实例。[0006]服务实例调度算法考虑的资源类偏少，并且因为资源表示方式非常简单，不能支撑已有资源的更精细化的调度。
发明内容
[0007]本发明的目的在于克服上述存在的问题，提供一种面向分布式平台的服务实例精细化调度方法及系统，实现资源类的更精细化调度。[0008]本发明的目的是通过如下技术方案来完成的，[0009]面向分布式平台的服务实例精细化调度方法，包括：[0010]初始化资源信息，以获取资源类的最大值(此时可用值等于最大值)；对于需要做描述的资源，采用降维编码的方式进行表示；[0011]根据服务实例需要的资源，筛选出所有资源类满足服务实例需要的节点，加入可调度节点列表；对于采用降维编码方式进行表示的资源，进行升维解码，以判断设备资源是否满足服务实例的要求；
5
CN 111381957 A[0012]
说 明 书
2/8页
根据可调度节点列表优选节点，得到服务实例与节点的映射关系，作为服务实例
的部署节点；
[0013]根据资源选择策略选取部署节点中的特定资源设备分配给服务实例，并更新可用资源数。
[0014]作为优选，所述降维编码：[0015]对于某一类资源，如果一维资源数量为Nf，对应的二维资源数量为{Ns1,Ns2,...,NsNf}，假设b位二进制数可以表示二维资源数值的上限。二维资源数值为：Ns1<<(0*b)|Ns2<<(1*b)|...|NsNf<<((Nf-1)*b)。资源降维编码的具体步骤，包括：[0016]采集特定资源类的各资源设备的配额使用量；[0017]降维编码得到各资源类的一维数值，即采用上述位运算表达式计算出资源类的一维数值；
[0018]同步各资源类的资源数值。[0019]作为优选，所述升维解码：[0020]对于二维描述的资源类，假设表示数值为K，一维资源数量为Nf，同样b位二进制数表示二维资源数值的上限，对应Nfi的二维资源数值为：(K>>((Nfi-1)*b))&(2^b-1)。资源升维编码的具体步骤，包括：
[0021]获取所有节点所有资源类的一维配额使用量；
[0022]升维解码得到所有节点所有资源类的配额使用量(本发明中为二维配额使用量)，即采用上述位运算表达式计算出Nfi的二维资源数值；[0023]遍历所有资源类，过滤不满足服务实例资源请求量的节点。[0024]作为优选，所述根据服务实例需要的资源，筛选出所有资源类满足服务实例需要的节点，加入可调度节点列表，具体为：
[0025]根据服务实例的资源请求量和各节点的资源全貌进行比较，将能够满足服务实例资源要求的节点划分到可调度节点列表。进一步，对于服务实例需要的所有资源类，都做如下判断：如果节点的可用资源数小于需要资源数，则节点不满足条件，不可被调度。所有资源类都通过检查，则被列为可调度节点。常见资源类包括CPU、内存、磁盘、带宽和GPU等，任何一类资源不能满足服务实例请求数，该节点都不能视为可调度节点。[0026]作为优选，根据可调度节点列表优选节点，得到服务实例与节点的映射关系，作为服务实例的部署节点(节点优选算法)，具体为：[0027]获取每种资源类资源请求量的平均值，选取其中请求量平均值最小的节点作为服务实例的部署节点；[0028]或者，获取每种资源类资源请求量与平均值的方差，选取方差最小的节点作为服务实例的部署节点。
[0029]优选算法对于应用类型的依赖度比较高，通常应用都不需要关注所有的资源类，有的重CPU，有的重GPU，有的重RAM，有的重磁盘等。本发明不理解具体服务差异，采用的节点优选算法包括资源最少请求算法和资源最均衡算法。资源最少请求算法，得到每种资源类资源请求量的平均值，最少的即为最优的。资源最均衡算法，得到每种资源类资源请求量与平均值的方差，方差最小的即为最优的。进一步，对于采用降维编码方式进行表示的资源，进行升维解码，计算出资源类的节点当前资源请求量和节点平均资源请求量，以支撑资
6
CN 111381957 A
说 明 书
3/8页
源最少和资源最均衡算法的计算。[0030]作为优选，根据资源选择策略选取部署节点中的特定资源设备分配给服务实例，具体为：
[0031]得到部署节点后，请求相应节点的部署执行模块部署服务实例；[0032]部署执行模块根据服务实例，向资源管理模块请求具体的资源设备；
[0033]资源管理模块根据资源选择策略在资源类中选取特定资源设备绑定给服务实例。[0034]作为优选，资源选择策略具体为：
[0035]选取同类资源设备中资源配额使用最少的设备，或者选取同类资源设备中资源配额使用最多、并且能够满足服务实例资源请求数量的设备。最少使用的好处是保证各资源设备间的负载是均衡的，而最多使用的优势在保证更大资源请求量的服务上线时，有足够的资源可以使用。
[0036]一种面向分布式平台的服务实例精细化调度系统，包括：资源管理模块、任务调度模块和部署执行模块，其中，[0037]资源管理模块，一方面初始化资源信息，对于需要做描述的资源，采用降维编码的方式进行表示，并将获取的资源总量和可用量同步至任务调度模块；另一方面，在接收到部署执行模块发送的请求后，根据资源选择策略在资源类中选取特定资源设备绑定给服务实例；
[0038]任务调度模块，根据服务实例需要的资源，筛选出所有资源类满足服务实例需要的节点，加入可调度节点列表；根据可调度节点列表优选节点，得到服务实例与节点的映射关系，作为服务实例的部署节点；请求相应节点的部署执行模块部署服务实例；[0039]对于采用降维编码方式进行表示的资源，进行升维解码，以判断设备资源是否满足服务实例的要求；[0040]部署执行模块，根据服务实例，向资源管理模块请求具体的资源设备。[0041]作为优选，所述降维编码：[0042]对于某一类资源，如果一维资源数量为Nf，对应的二维资源数量为{Ns1,Ns2,...,NsNf}，假设b位二进制数可以表示二维资源数值的上限。二维资源数值为：Ns1<<(0*b)|Ns2<<(1*b)|...|NsNf<<((Nf-1)*b)。资源降维编码的具体步骤，包括：[0043]采集特定资源类的各资源设备的配额使用量；[0044]降维编码得到各资源类的一维数值，即采用上述位运算表达式计算出资源类的一维数值；
[0045]同步各资源类的资源数值。[0046]作为优选，所述升维解码：[0047]对于二维描述的资源类，假设表示数值为K，一维资源数量为Nf，同样b位二进制数表示二维资源数值的上限，对应Nfi的二维资源数值为：(K>>((Nfi-1)*b))&(2^b-1)。资源升维编码的具体步骤，包括：
[0048]获取所有节点所有资源类的一维配额使用量；
[0049]升维解码得到所有节点所有资源类的配额使用量(本发明中为二维配额使用量)，即采用上述位运算表达式计算出Nfi的二维资源数值；[0050]遍历所有资源类，过滤不满足服务实例资源请求量的节点。
7
CN 111381957 A[0051]
说 明 书
4/8页
作为优选，所述根据服务实例需要的资源，筛选出所有资源类满足服务实例需要
的节点，加入可调度节点列表，具体为：
[0052]根据服务实例的资源请求量和各节点的资源全貌进行比较，将能够满足服务实例资源要求的节点划分到可调度节点列表。进一步，对于服务实例需要的所有资源类，都做如下判断：如果节点的可用资源数小于需要资源数，则节点不满足条件，不可被调度。所有资源类都通过检查，则被列为可调度节点。常见资源类包括CPU、内存、磁盘、带宽和GPU等，任何一类资源不能满足服务实例请求数，该节点都不能视为可调度节点。[0053]作为优选，根据可调度节点列表优选节点，得到服务实例与节点的映射关系，作为服务实例的部署节点(节点优选算法)，具体为：[0054]获取每种资源类资源请求量的平均值，选取其中请求量平均值最小的节点作为服务实例的部署节点；[0055]或者，获取每种资源类资源请求量与平均值的方差，选取方差最小的节点作为服务实例的部署节点。
[0056]优选算法对于应用类型的依赖度比较高，通常应用都不需要关注所有的资源类，有的重CPU，有的重GPU，有的重RAM，有的重磁盘等。本发明不理解具体服务差异，采用的节点优选算法包括资源最少请求算法和资源最均衡算法。资源最少请求算法，得到每种资源类资源请求量的平均值，最少的即为最优的。资源最均衡算法，得到每种资源类资源请求量与平均值的方差，方差最小的即为最优的。进一步，对于采用降维编码方式进行表示的资源，进行升维解码，计算出资源类的节点当前资源请求量和节点平均资源请求量，以支撑资源最少和资源最均衡算法的计算。[0057]作为优选，资源选择策略具体为：
[0058]选取同类资源设备中资源配额使用最少的设备，或者选取同类资源设备中资源配额使用最多、并且能够满足服务实例资源请求数量的设备。最少使用的好处是保证各资源设备间的负载是均衡的，而最多使用的优势在保证更大资源请求量的服务上线时，有足够的资源可以使用。
[0059]本发明与现有技术相比有如下优点和效果：[0060]1、本发明引入资源的描述方式，并通过降维编码的方式将资源的描述方式通过一个数值来表示，支撑更精细化的调度策略，可以让平台对于资源的使用更为合理，资源使用率更充分。[0061]2、采用本发明，分布式服务调度平台可使用更多资源类作为调度决策，提升平台对于更多服务类型的支持度。
附图说明
[0062]图1是本发明降维编码方法流程图。[0063]图2是本发明升维解码方法流程图。[00]图3是本发明调度系统模块交互图。[0065]图4是本发明调度方法流程图。
8
CN 111381957 A
说 明 书
5/8页
具体实施方式
[0066]下面将结合附图对本发明做详细的介绍。[0067]资源通常可以分为硬件资源和软件资源，典型的硬件资源包括CPU/RAM/GPU/磁盘/网卡等，软件资源包括队列、IP池等。本发明把具有同类特征的资源称做一个资源类。GPU就是一个资源类。
[0068]对于资源类的描述，可以简单到一个数值，比如n块GPU卡，描述的是集群中一个节点拥有的GPU类资源的数量是n；也可以是更加具体的，比如n块GPU卡，每块上拥有的显存数为{20G,20G,…,20G}，描述了集群中一个节点拥有n块GPU卡，以及对应的显存数值。对于前一种资源描述方式，对应的表示方式只需要一个数值就能满足，这种方式可以称为资源的一维描述方式；对于后一种，需要一个二维数组或MAP才能描述，可称之为资源的二维描述方式。(当然，如果需要更多的信息来描述资源以支撑调度时执行，可以采用更的资源描述方式)。资源的二维描述方式，引入了资源的更详细的信息，可以支撑调度时更精细化的调度决策。
[0069]常用分布式服务部署平台对于资源的表示方式通常是固定的，拥有通用的资源描述结构，并且通常来说都是一维的表示方式。对于资源的二维描述方式，需要一种降维表示的方法，即将资源的二维描述方式通过一个数值来表示，支撑实现到具体平台。[0070]降维编码：
[0071]对于某一类资源，如果一维资源数量为Nf，对应的二维资源数量为{Ns1,Ns2,...,NsNf}，假设b位二进制数可以表示二维资源数值的上限。二维资源数值为：Ns1<<(0*b)|Ns2<<(1*b)|...|NsNf<<((Nf-1)*b)。如图1所示，资源降维编码的具体步骤，包括：[0072]采集特定资源类的各资源设备的配额使用量；[0073]降维编码得到各资源类的一维数值，即采用上述位运算表达式计算出资源类的一维数值；
[0074]同步各资源类的资源数值。[0075]升维解码：
[0076]对于二维描述的资源类，假设表示数值为K，一维资源数量为Nf，同样b位二进制数表示二维资源数值的上限，对应Nfi的二维资源数值为：(K>>((Nfi-1)*b))&(2^b-1)。如图2所示，资源升维编码的具体步骤，包括：
[0077]获取所有节点所有资源类的一维配额使用量；
[0078]升维解码得到所有节点所有资源类的二维配额使用量，即采用上述位运算表达式计算出Nfi的二维资源数值；[0079]遍历所有资源类，过滤不满足服务实例资源请求量的节点。[0080]一种面向分布式平台的服务实例精细化调度方法，分布式服务部署平台要把服务实例部署到集群，[0081]首先，初始化资源信息，以获取资源类的最大值(此时可用值等于最大值)；对于需要做描述的资源，采用降维编码的方式进行表示；[0082]其次，根据服务实例需要的资源数，利用节点筛选算法来筛选节点，得到可调度节点列表；只有所有资源类满足服务实例需要的节点，才能加入到可调度节点列表；[0083]然后，根据一定的节点优选算法，从可调度节点列表中优选节点，得到服务实例与
9
CN 111381957 A
说 明 书
6/8页
节点的映射关系，作为服务实例的部署节点；[0084]最后，部署执行模块拿到部署具体服务实例的任务后，要根据一定的策略(资源选择策略)选择资源类合适的资源设备，绑定到服务实例。[0085]节点筛选算法：对于服务实例需要的所有资源类，都做如下判断：如果节点的可用资源数小于需要资源数，则节点不满足条件，不可被调度。所有资源类都通过检查，则被列为可调度节点。常见资源类包括CPU、内存、磁盘、带宽和GPU等，任何一类资源不能满足服务实例请求数，该节点都不能视为可调度节点。对于采用降维编码方式进行表示的资源，节点筛选算法中要对可用资源进行升维解码，判断是否有足够的资源设备满足条件。[0086]节点优选算法：优选算法对于应用类型的依赖度比较高，通常应用都不需要关注所有的资源类，有的重CPU，有的重GPU，有的重RAM，有的重磁盘等。本发明不理解具体服务差异，采用的节点优选算法包括资源最少请求算法和资源最均衡算法。资源最少请求算法，得到每种资源类资源请求量的平均值，最少的即为最优的。资源最均衡算法，得到每种资源类资源请求量与平均值的方差，方差最小的即为最优的。对于采用降维编码方式进行表示的资源，节点优选算法要对可用资源进行升维解码，计算出资源类的节点当前资源请求量和节点平均资源请求量，以支撑资源最少和资源最均衡算法的计算。[0087]对于部署执行模块，拿到需要部署的服务实例后，需要给服务实例绑定具体的资源设备。本发明采用两种办法选取特定资源设备：一是最少使用，同类资源设备中资源配额使用最少的设备即为分配设备；二是最多使用，同类资源设备中资源配额使用最多并且能够满足请求数量的设备即为分配设备。最少使用的好处是保证各资源设备间的负载是均衡的，而最多使用的优势在保证更大资源请求量的服务上线时，有足够的资源可以使用。[0088]如图3所示，一种面向分布式平台的服务实例精细化调度系统，包括：资源管理模块、任务调度模块和部署执行模块，其中，[00]资源管理模块，一方面初始化资源信息，对于需要做描述的资源，采用降维编码的方式进行表示，并将获取的资源总量和可用量同步至任务调度模块；另一方面，在接收到部署执行模块发送的请求后，根据资源选择策略在资源类中选取特定资源设备绑定给服务实例；
[0090]任务调度模块，根据服务实例需要的资源，筛选出所有资源类满足服务实例需要的节点，加入可调度节点列表；根据可调度节点列表优选节点，得到服务实例与节点的映射关系，作为服务实例的部署节点；请求相应节点的部署执行模块部署服务实例；[0091]对于采用降维编码方式进行表示的资源，进行升维解码，以判断设备资源是否满足服务实例的要求；[0092]部署执行模块，根据服务实例，向资源管理模块请求具体的资源设备。[0093]作为优选，所述资源降维编码的具体步骤，包括：[0094]采集特定资源类的各资源设备的配额使用量；[0095]降维编码得到各资源类的一维数值；[0096]同步各资源类的资源数值。
[0097]降维编码得到各资源类的一维数值，具体为：
[0098]采用位运算表达式Ns1<<(0*b)|Ns2<<(1*b)|...|NsNf<<((Nf-1)*b)计算出资源类的一维数值，式中Nf为资源类的一维资源数量，对应的二维资源数量为{Ns1,Ns2,...,
10
CN 111381957 A
说 明 书
7/8页
NsNf}，b为能够表示二维资源数值上限的二进制数。[0099]作为优选，所述资源升维编码的具体步骤，包括：[0100]获取所有节点所有资源类的一维配额使用量；
[0101]升维解码得到所有节点所有资源类的配额使用量(本发明为二维配额使用量)；
[0102]遍历所有资源类，过滤不满足服务实例资源请求量的节点。[0103]升维解码得到所有节点所有资源类的二维配额使用量，具体为：
[0104]采用位运算表达式(K>>((Nfi-1)*b))&(2^b-1)计算出Nfi的二维资源数值，式中，K为降维编码后得到的一维数值，Nf为资源类的一维资源数量，b为能够表示二维资源数值上限的二进制数。[0105]作为优选，所述根据服务实例需要的资源，筛选出所有资源类满足服务实例需要的节点，加入可调度节点列表，具体为：
[0106]根据服务实例的资源请求量和各节点的资源全貌进行比较，将能够满足服务实例资源要求的节点划分到可调度节点列表。进一步，对于服务实例需要的所有资源类，都做如下判断：如果节点的可用资源数小于需要资源数，则节点不满足条件，不可被调度。所有资源类都通过检查，则被列为可调度节点。常见资源类包括CPU、内存、磁盘、带宽和GPU等，任何一类资源不能满足服务实例请求数，该节点都不能视为可调度节点。[0107]作为优选，根据可调度节点列表优选节点，得到服务实例与节点的映射关系，作为服务实例的部署节点(节点优选算法)，具体为：[0108]获取每种资源类资源请求量的平均值，选取其中请求量平均值最小的节点作为服务实例的部署节点；[0109]或者，获取每种资源类资源请求量与平均值的方差，选取方差最小的节点作为服务实例的部署节点。
[0110]优选算法对于应用类型的依赖度比较高，通常应用都不需要关注所有的资源类，有的重CPU，有的重GPU，有的重RAM，有的重磁盘等。本发明不理解具体服务差异，采用的节点优选算法包括资源最少请求算法和资源最均衡算法。资源最少请求算法，得到每种资源类资源请求量的平均值，最少的即为最优的。资源最均衡算法，得到每种资源类资源请求量与平均值的方差，方差最小的即为最优的。进一步，对于采用降维编码方式进行表示的资源，进行升维解码，计算出资源类的节点当前资源请求量和节点平均资源请求量，以支撑资源最少和资源最均衡算法的计算。[0111]作为优选，资源选择策略具体为：
[0112]选取同类资源设备中资源配额使用最少的设备，或者选取同类资源设备中资源配额使用最多、并且能够满足服务实例资源请求数量的设备。最少使用的好处是保证各资源设备间的负载是均衡的，而最多使用的优势在保证更大资源请求量的服务上线时，有足够的资源可以使用。
[0113]服务实例的精细化调度方法主要可应用于分布式服务部署平台的调度时，其依托资源的降维表示方式。对应的执行步骤包括以下几个部分：[0114]1.资源管理模块采集到具体资源类信息后，对于需要做二维描述的资源，采用降维编码的方法表示资源；并将当前节点经过降维编码后的资源总量和可用量定时同步给任
11
CN 111381957 A
说 明 书
8/8页
务调度模块；
[0115]2.任务调度模块收到服务实例部署任务后，根据服务实例对资源的需求以及节点当前的资源现状，采用前述节点筛选算法筛选可调度节点；[0116]3.任务调度模块得到可调度节点列表，采用节点优选算法，优选出合适部署的节点或节点列表；
[0117]4.得到部署节点后，请求相应节点的部署执行模块部署服务实例；[0118]5.部署执行模块根据服务实例，向资源管理模块请求具体的资源设备；[0119]6.资源管理模块根据前述资源选择策略，选取特定资源设备绑定给服务实例，并更新可用资源数。[0120]实施例1
[0121]如图4所示，本实施例采用资源降维表示方式和服务实例的精细化调度方法，基于GPU资源类来实现，包括如下具体步骤：
[0122]1.资源管理模块初始化资源信息，并且在部署实例变更后更新节点资源到任务调度模块。对于资源的二维信息，需要采用降维编码的方法表示。一个节点可以安插多块GPU设备，每个GPU设备包含一定数量的显存，显存就是GPU资源类中的二维信息，通过前述降维编码的方式得到节点的GPU资源类数值。初始化阶段，主要是获取资源类的最大值，此时可用值等于最大值。
[0123]2.任务调度模块收到服务实例部署请求时，根据服务实例的资源请求量和节点的资源全貌做比较，能满足服务实例资源要求的节点划分到可调度节点列表。对于做了二维描述的资源，需要升维解码资源数值，来判断具体的设备资源是否满足服务实例的要求。只有足够的GPU资源设备满足服务实例要求，才能将设备绑定给服务实例使用，因此对应节点才能算是可调度节点。
[0124]3.任务调度模块在可调度节点列表中优选节点(采用前述节点优选算法)，得到服务实例与节点的映射关系，即特定服务实例部署到的具体节点。[0125]4.得到部署节点后，请求相应节点的部署执行模块部署服务实例。[0126]5.部署执行模块拿到服务实例部署任务后，向资源管理模块请求具体的资源设备。
[0127]6.资源管理模块采用前述资源选择策略在资源类中优选资源设备，选择合适的资源设备绑定给服务实例。为保持GPU资源设备的使用均衡性，可将显存使用量最少的GPU资源设备绑定给服务实例。资源管理模块更新节点的可用资源，并同步到任务调度模块，以支撑后续任务的调度决策。
12
CN 111381957 A
说 明 书 附 图
1/2页
图1
图2
图3
13
CN 111381957 A
说 明 书 附 图
2/2页
图4
14
因篇幅问题不能全部显示，请点此查看更多更全内容