(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210546354.0 (22)申请日 2022.05.19 (71)申请人 北京百度网讯科技有限公司 地址 100085 北京市海淀区上地十街10号 百度大厦二层 (72)发明人 张政　牛丽玲　邢冯　刘益群　 蓝翔　 (74)专利代理 机构 北京清亦华知识产权代理事 务所(普通 合伙) 11201 专利代理师 罗岚 (51)Int.Cl. G06F 9/445(2018.01) G06F 9/48(2006.01) (54)发明名称 线程配置方法、 设备、 装置、 存储介质及程序 产品 (57)摘要 本公开提供了一种线程配置方法、 设备、 装 置、 存储介质及程序产品， 涉及大数据及人工智 能技术领域， 特别涉及深度学习技术领域。 在本 公开的一些实施例中， 线程配置方法包括获取输 入的第一维度和第二维度， 以及需要计算的中间 维度， 其中， 第二维度大于 所述第一维度； 根据第 一维度和 中间维度对线程块之中的线程进行配 置， 以生成线 程块在x方向上的第一线程数和在y 方向上的第二线程数； 根据第二维度以及所述线 程块在x方向上的第一线程数和在y方向上的第 二线程数对线程栅格之中的线程进行配置， 以生 成线程栅格在x方向上的第三线程数和在y方向 上的第四线程。 通过本公开的实施例对线程块之 中的线程进行配 置， 可以大幅提高访存效率。 权利要求书3页 说明书11页 附图2页 CN 114860341 A 2022.08.05 CN 114860341 A 1.一种线程配置方法， 包括： 获取输入的第 一维度和第 二维度， 以及需要计算的中间维度， 其中， 所述第 二维度大于 所述第一维度； 根据所述第 一维度和所述中间维度对线程块之中的线程进行配置， 以生成所述线程块 在x方向上的第一线程数和在y方向上的第二线程数； 根据所述第二维度以及所述线程块在x方向上的第一线程数和在y方向上的第二线程 数对线程栅格之中的线程进 行配置， 以生成所述线程栅格在x方向上的第三线程数和在y方 向上的第四线程数。 2.如权利要求1所述的方法， 其中， 所述根据 所述第一维度和所述中间维度对线程块之 中的线程进行配置， 以生成所述线程块在x方向上的第一线程数和在y方向上的第二线程 数， 包括： 根据所述第一维度确定线程 块在x方向上的第五线程数； 根据所述中间维度和所述线程块在x方向上的第五线程数确定所述线程块在y方向上 的第二线程数； 根据所述线程块在y方向上的第二线程数和所述第一维度更新所述线程块在x方向上 的第五线程数， 以生成所述线程 块在x方向上的第一线程数。 3.如权利要求2所述的方法， 其中， 所述根据所述第一维度确定所述线程块在x方向上 的第五线程数， 包括： 获取线程束的大小； 将所述线程束的大小和所述第 一维度之中的较小值作为所述线程块在x方向上的第五 线程数。 4.如权利要求2所述的方法， 其中， 所述根据所述中间维度和所述线程块在x方向上的 第五线程数确定所述线程 块在y方向上的第二线程数， 包括： 获取线程 块中最大 可配置线程数； 将所述中间维度与所述线程 块中最大 可配置线程数之中的较小值作为第一 值； 将所述中间维度与所述线程 块在x方向上的第五线程数之中的较小值作为第二 值； 将所述第一 值与所述第二 值之中的较小值作为所述线程 块在y方向上的第二线程数。 5.如权利要求2所述的方法， 其中， 所述根据所述线程块在y方向上的第二线程数和所 述第一维度更新所述线程块在 x方向上的第五线程数， 以生成所述线程块在 x方向上的第一 线程数， 包括： 将所述第一维度与所述线程 块在x方向上的第五线程数之中的较小值作为第三 值； 将所述第一维度与所述线程 块在y方向上的第二线程数之中的较小值作为第四值； 根据所述第三值和第四值中的较小值， 以及所述第一维度更新所述线程块在x方向上 的第一线程数。 6.如权利要求1所述的方法， 其中， 所述根据所述第二维度和所述线程块在x方向上的 第一线程数和在y方向上 的第二线程数对线程栅格之中的线程进行配置， 以生成所述线程 栅格在x方向上的第三线程数和在y方向上的第四线程数， 包括： 根据所述第一维度和所述线程块在x方向上的第一线程数确定在所述线程栅格在x方 向上的第三线程数；权　利　要　求　书 1/3 页 2 CN 114860341 A 2根据所述第二维度和所述线程栅格在x方向上的第三线程数确定所述线程栅格在y方 向上的第四线程数。 7.如权利要求6所述的方法， 其中， 所述根据所述第一维度和所述线程块在x方向上的 第一线程数确定所述线程 栅格在x方向上的第三线程数， 包括： 获取所述线程 栅格的可同时启动最大线程 块数量； 将所述第一维度向上取整后的值与所述可同时启动最大线程块数量之中的较小值作 为第五值； 将所述线程块在x方向上的第 一线程数向上取整后的值与所述可同时启动 最大线程块 数量之中的较小值作为第六值； 将所述第五值和第六值中较小值作为所述线程 栅格在x方向上的第三线程数。 8.如权利要求6所述的方法， 其中， 所述根据所述第二维度和所述初线程栅格在x方向 上的第三线程数确定所述线程 栅格在y方向上的第四线程数， 包括： 将所述可同时启动最大线程块数量向上取整后的值与所述第二维度之中的较小值为 第七值； 将所述线程栅格在x方向上的第 三线程数向上取整后的值与 所述第二维度之中的较小 值作为第八值； 将所述第七值和第八值中的较小值作为所述线程 栅格在y方向上的第四线程数。 9.一种线程配置的装置， 包括： 获取模块， 用于获取输入的第一维度和第二维度， 以及需要计算的中间维度， 其中， 所 述第二维度大于所述第一维度； 第一生成模块， 用于根据所述第一维度和所述中间维度对线程块之中的线程进行配 置， 以生成所述线程 块在x方向上的第一线程数和在y方向上的第二线程数； 第二生成模块， 用于根据 所述第二维度以及所述在x方向上的第一线程数和在 y方向上 的第二线程数对线程栅格之中的线程进行配置， 以生成所述线程栅格在x方向上 的第三线 程数和在y方向上的第四线程数。 10.如权利要求9所述的装置， 其中， 所述第一 生成模块包括： 第一确定 子模块， 用于根据所述第一维度确定线程 块在x方向上的第五线程数； 第二确定子模块， 用于根据所述中间维度和所述线程块在x方向上的第五线程数确定 所述线程 块在y方向上的第二线程数； 第一生成子模块， 用于根据所述线程块在y方向上的第二线程数和所述第一维度更新 所述线程 块在x方向上的第五线程数， 以生成所述线程 块在x方向上的第一线程数。 11.如权利要求10所述的装置， 其中， 所述第一确定子模块， 用于获取线程束的大小， 并 将所述线程束的大小和所述第一 维度之中的较小值作为所述线程块在 x方向上的第五线程 数。 12.如权利要求10所述的装置， 其中， 所述第二确定子模块， 用于获取线程块中最大可 配置线程数， 并将所述中间维度与所述线程块中最大可配置线程数之中的较小值作为第一 值， 以及将所述中间维度与所述线程块在 x方向上的第五线程数之中的较小值作为第二值， 并将所述第一 值与所述第二 值之中的较小值作为所述线程 块在y方向上的第二线程数。 13.如权利要求9所述的装置， 其中， 所述第二生成模块用于根据所述第一维度和所述权　利　要　求　书 2/3 页 3 CN 114860341 A 3