(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211178723.1 (22)申请日 2022.09.27 (71)申请人 支付宝 （杭州） 信息技 术有限公司 地址 310000 浙江省杭州市西湖区西溪路 556号8层B段801-1 1 (72)发明人 傅驰林　周俊　张晓露　王婧　 王敏　吴伟昌　 (74)专利代理 机构 中国贸促会专利商标事务所 有限公司 1 1038 专利代理师 冯雯 (51)Int.Cl. G06Q 40/02(2012.01) G06Q 10/04(2012.01) G06K 9/62(2022.01) (54)发明名称 预测用户的还款概率的方法、 装置、 设备及 存储介质 (57)摘要 本公开涉及预测用户的还款概率的方法、 装 置、 设备及存储介质。 方法包括： 接收描述用户在 预设时间范围内的交易行为事件的交易行为事 件序列； 将预设时间范围分为多个一级时间 窗口 并将每个一级时间窗口内的交易行为事件聚合 为一级特征； 将各个一级时间窗口的一级特征输 入第一门控循环单元以获得每个一级时间窗口 的一级隐含 特征； 将预设时间范围分为多个二级 时间窗口并将每个二级时间窗口内的一级特征 聚合为二级特征； 将各个二级时间窗口的二级特 征输入第二门控循环单元以获得每个二级时间 窗口的二级隐含 特征； 融合最后一个一级时间窗 口的一级 隐含特征和最后一个二级时间窗口的 二级隐含特征以获得融合特征； 基于融合特征确 定用户的还款 概率。 权利要求书4页 说明书16页 附图3页 CN 115496587 A 2022.12.20 CN 115496587 A 1.一种用于预测用户的还款 概率的方法， 包括： 接收用户的交易行为事件序列， 所述交易行为事件序列描述用户在预设时间范围内的 多个时间发生的交易行为事 件； 将所述预设时间范围划分为多个一级时间窗口， 以将交易行为事件按照 其发生的时间 分配至所述多个一级时间窗口， 并针对每个一级时间窗口， 将该一级时间窗口内的所有交 易行为事 件聚合为一个一级特 征； 将所述多个一级时间窗口的一级特征输入第一门控循环单元以获得每个一级时间窗 口的一级隐含特 征； 将所述预设时间范围划分为多个二级时间窗口， 以将一级特征按照 其一级时间窗口分 配至所述多个二级时间窗口， 所述二级时间窗口的时间长度大于所述一级时间窗口的时间 长度并且是所述一级时间窗口的时间长度的整数倍， 并针对每个二级时间窗口， 将该二级 时间窗口内的所有一级特 征聚合为一个二级特 征； 将所述多个二级时间窗口的二级特征输入第二门控循环单元以获得每个二级时间窗 口的二级隐含特 征； 融合最后一个一级时间窗口的一级隐含特征和最后一个二级时间窗口的二级隐含特 征以获得用户的融合特 征； 以及 基于用户的融合特 征， 确定用户的还款 概率。 2.根据权利要求1所述的方法， 还 包括： 将所述预设时间范围划分为多个三级时间窗口， 以将二级特征按照 其二级时间窗口分 配至所述多个三级时间窗口， 所述三级时间窗口的时间长度大于所述二级时间窗口的时间 长度并且是所述二级时间窗口的时间长度的整数倍， 并针对每个三级时间窗口， 将该三级 时间窗口内的所有二级特 征聚合为一个三级特 征； 将所述多个三级时间窗口的三级特征输入第三门控循环单元以获得每个三级时间窗 口的三级隐含特 征； 融合最后 一个一级时间窗口的一级隐含特征、 最后 一个二级时间窗口的二级隐含特征 和最后一个三级时间窗口 的三级隐含特 征以获得用户的融合特 征。 3.根据权利要求1所述的方法， 其中， 所述交易行为事件序列包括多个交易场景与交易 时间的对， 并且所述方法还包括将每个交易行为事件的交易场景通过独热编码转换为行为 事件向量作为该交易行为事 件的向量 化表示。 4.根据权利要求3所述的方法， 其中， 针对每个一级时间窗口将该一级时间窗口内的所 有交易行为事 件聚合为一个一级特 征包括： 针对该一级时间窗口内的每个交易行为事件， 利用嵌入矩阵将该交易行为事件的行为 事件向量转换为该交易行为事 件的嵌入向量； 将通过聚合该一级时间窗口内的所有交易行为事件的嵌入向量得到的一级聚合向量 作为该一级时间窗口内的一级特 征的向量 化表示。 5.根据权利要求4所述的方法， 其中， 每个一级 时间窗口t的一级 聚合向量 满足以下 条件表达式：权　利　要　求　书 1/4 页 2 CN 115496587 A 2其中， ei＝xi·E 其中， N为该一级时间窗口t内的交易行为事件的数量， xi为该一级 时间窗口内的第i交 易行为事件的行为事件向量， E为嵌入矩阵， ei为该一级时间窗口内的第i交易行为事件的 嵌入向量， wt为模型参数。 6.根据权利要求4所述的方法， 其中， 针对每个二级时间窗口将该二级时间窗口内的所 有一级特 征聚合为一个二级特 征包括： 通过自注意力机制更新每个一级时间窗口的一级聚合向量以得到更新的一级聚合向 量； 将通过经由行为门计算该二级时间窗口内的每个更新的一级聚合向量的权重并按计 算的权重聚合该二级时间窗口内的所有更新的一级聚合向量得到的二级聚合向量作为该 二级时间窗口 的二级特 征的向量 化表示。 7.根据权利要求6所述的方法， 其中， 二级时间窗口的时间长度 是一级时间窗口的时间 长度的L倍， 并且其中， 通过自注意力机制更新每个一级时间窗口t的一级聚合向量 以得 到更新的一级聚合向量 满足 8.根据权利要求7所述的方法， 其中， 每个二级 时间窗口s 的二级聚合向量 满足以下 条件表达式： 其中， L为该二级时间窗口s内的更新的一级聚合向量的数量， 是该二级时间窗口s内 的第j个一级时间窗口 的更新的一级聚合向量， σ 是sigmo id函数， w1是模型参数。 9.根据权利要求1所述的方法， 还 包括： 接收用户的静态特 征； 将所述多个一级时间窗口的一级特征与所述静态特征输入第一门控循环单元以获得 一级隐含特 征； 将所述多个二级时间窗口的二级特征与所述静态特征输入第二门控循环单元以获得 二级隐含特 征； 融合一级隐含特 征和二级隐含特 征以获得用户的融合特 征。 10.根据权利要求9所述的方法， 其中， 第一门控循环单元和第二门控循环单元中的每 个门控循环单 元满足： rt＝σ(Wrmt+Urht‑1+br) zt＝σ(Wzmt+Uzht‑1+bz) vt＝σ(Wvmt+Uvu+bv)权　利　要　求　书 2/4 页 3 CN 115496587 A 3