| 知识图谱在招聘推荐 中的应用 周超 58同城 NLP资深算法工程师 目录 CONTENT 01 业务背景 03 图谱在招聘推荐中的应用 02 招聘知识图谱的构建 04 业务展望 | | 01 业务背景 介绍-行业背景 中国城镇新增就业人数(万) 2021 全国高校毕业人数(万) 1269 2020 1186 765 2019 1352 2018 1361 2017 1351 2016 834 795 821 874 909 2016 2017 2018 2019 2020 2021 1314 中国网络招聘市场规模(亿) 91.2 107 108 2019 2020 116.5 69.6 47.96 2016 2017 2018 2021 | 介绍-业务模式 男 30岁 上班族 中产 女 Query 27岁 简历 单身 白领 Query 双 边 行为 硕士 面试 无法追踪 行为 本科 北京 一线城市 军事迷 时尚达人 体育迷 职位 美妆达人 特点： 1、双边的连接关系 2、弱表达，强相关的业务 特点： 1、单边的推荐模式 2、强表达弱相关的场景 3、领域属性较强 | 入职 介绍-难点 难点： 难点：   有许多的用户对诉求的表达不清楚或者对职位的认知深度不够 招聘推荐是一个双边匹配的模式，需要同时契合BC双边的诉求 ` 弱表达，强相关 双边匹配 ` 领域属性强 难点：  招聘具有很强的领域属性，不同的领域对于求职者的素质、企业的诉求或许天差地别， 而这些差异正是推荐效果提升的关键 冷启动 & 稀疏性 ` 难点：  新用户进入平台后，行为数据少，简历、职位信息简单粗糙  找工作或者找人是一个短时间连续的稀疏行为 图谱： 作为一种富信息知识体系，额外引入一些辅助信息，这些辅助信息可以有效地弥补交互信息的稀疏或缺失。 | 介绍-主要的业务应用场景 推荐内容：  职位推荐  简历推荐  标签推荐  。。。 推荐场景：  app主页为你推荐场景  搜索推荐场景  用户最近关注推荐场景  。。。 | | 02 招聘知识图谱的构建 招聘知识图谱全貌 驾驶证 保险 薪资 北京道北运输有限公司 9495 986756649495 C1本 C1本 id 30岁 长途 驾照 age 男 sex label 货运司机 12000 label 期望薪资 五险一金 运输距离 user 期望职位 补贴 油补 id 期望工作地 行业 薪资 驾照 保险 岗位spu.005 运输货物 enterprise 招聘 做休 保险 资本 双休 规模 法人 北京市房山区闫村镇小十三 里村南2幢1 绿通 547857437834 五险一金 包吃住 北京 存续 500w is_subinstance_of 田晓 补贴 岗位spu.001 label id 司机 三大任务： 9490  标签体系的构建  标签的挖掘 求职者 职位 企业 50-99 地址 状态 吃住 交通/运输/物流 ID 10000-15000  关系构建 | 标签体系的构建 目的：标签体系作为底层的基础数据，要为上层的双边连接提供更多层次更多维度的信息匹配 满足：  多维度 对BC双边流量全方面的的刻画 通用维度-薪资、福利、年龄等 领域特有的属性-证书、技能、经验等  多层级 不同的应用方，不同的场景，对流量的组织粒度要求不一样 层次化可以使流量的组织更灵活 | 标签挖掘:认知不统一、专业性强，导致标注成本高 认知不统一： ？ ？ ？ ？ ？ 汽车零部件管理科长 汽车零部件管理科长 ？ 专业性强： {“五险一金DBA”} DBA-数据库管理员-职位 {“新款春秋季服装试衣可新”} 服装试衣-试衣模特-职位 | 标签挖掘-数据增广 bootstrap 本次招聘只 招收/v 18/m 岁/q 以上/f ，身体健康。。 18岁以上 富士康 /nt 直招/prefix_jbn 质检员/n 质检员 eg: 未来影视城急聘查票员 同类型标签同义词替换 EDA 未来影视城急聘检票员 eg: 美团直招黄骑士骑手，不收取任何押金费用 上下文关键词同义词替换 短句子随机替换 eg: 年龄18-45周岁，男女不限，学历不限 。。。。 饿了么急聘黄骑士骑手，不收取任何押金费用 学历不限，男女不限，年龄18-45周岁 eg: 。。。。。 predictions 。。。。 B-JBN I-JBN 服 务 。。。 O O O O B-JBN I-JBN E-JBN O B-SEX I-SEX I-SEX E-SEX 高薪 诚 聘 服 务 员 ， 性 别 不 限 多样性： 会生成新的实体 会生成更丰富的实体上下文 DAGA 可以有效利用未标注数据 高薪诚聘 B-JBN服I-JBN务E-JBN员，B-SEX性I-SEX别I-SEX不E-SEX限 sentence 【BOS】 。。。。 B-JBN 服 I-JBN ... | 标签挖掘-数据增广 data 3k 5k 7k all raw 73.11 79.56 83.45 87.23 raw+bootstrap 76.87 82.33 84.15 88.05 raw+eda 75.23 80.36 84.25 88.68 raw+daga 76.77 81.79 84.02 88.12 raw+bootstrap+eda 77.01 82.78 84.63 88.9 raw+bootstrap+daga 75.87 82.85 84.29 88.76 raw+eda+daga 75.46 81.05 84.37 88.79 raw+bootstrap+eda+daga 77.59 82.91 85.12 89.23 | 标签挖掘关键技术 B-JBN I-JBN E-JBN O O ... I-JBN E-LOC O I-LOC B-LOC ... B-JBN I-JBN B-JBN I-LOC E-JBN O O B-LOC I-LOC ... B-LOC ... CRF LR * 100 LR 1.5 0.2 0.09 1.5 0.9 0.4 0.1 0.9 0.05 0.1 0.24 0.05 0.21 0.33 0.25 0.21 DEEP LEARNING 不同的数据块有不同 的标签偏好，如年龄， 大概率会出现在岗位 要求中 combin_embedding token embedding 每个职位都有一个层 次体系，每个层次体 系都是一个topic position embedding topic embedding �1 �2 �. . � | 司机 会计证 电焊技术 五险 行业1 标签挖掘关键技术 行业2 行业3 行业3 岗位 福利 品牌 Tag0 要求 Tag1 Tag2 .... TagT 标题 职责 CRF 描述 为了保证线上耗时： SOFTMAX a11 要求 a12 a13 a1n 利用公司平台，使用TensorRT加速深度学习推理 算法层面的优化，知识蒸馏 SOFTMAX a11 a12 a13 a1n PE TE h1 h2 h3 h1 h2 h3 hn hn Topic attention & Position attention BERT token embedding [cls] token1 token2 .... tokenT | 关系抽取 示例： 品牌 吃住 {"text":"[美团]急聘[送餐员]，[ 输出： "predicate":"品牌", "subject":"送餐员", "object":"美团" ]，[提供住宿]"} 保险 "predicate":"保险", "subject":"送餐员", "object":"五险一金" "predicate":"吃住", "subject":"送餐员", "object":"提供住宿" 北京 华阳酒店 属性：地址 属性：品牌 infoid_id:4384787538470483 五险一金 属性：保险 厨师:9644 属性：作休 月休4天 属性：薪资 属性：技能 1200015000 川菜 包吃住 月薪 | 关系抽取-pipline路线 将实体抽取与关系抽取分为两个独立的过程，关系抽取依赖实体抽取的结果 Soft-Attention 层 softmax+l2 输入层： 传统的输入-token Embedding+Position Embedding 领域的先验知识：实体所属的域及层级关系 | 关系抽取-pipline路线 缺点： 特别依赖实体抽取的结果，若是实体抽取错误，易造成误差累积 无法处理复杂语境下的关系抽取 “送餐员”这个实体出现在了多个关系中 要解决复杂语境下的关 系抽取，不能再将关系 抽取任务当作一个每个 关系互斥的多分类任务， 而是看作每个关系独立 的多个二分类任务 | 关系抽取-joint路线 spo 主框架：CNN+Attention 思路：借鉴了 seq2seq 的概率图思路，对于三 元组 (s, o, p),其抽取过程可以建模为 �(�, �, �) = �(�)�(�|�)�(�|�, �) 缓解重叠情况带来的问题  采用了 MRC 中常用的指针网络的抽取方法，即仅抽取答案的开始和结 束位置  把预测开始和结束位置的任务转化为了预测每一个位置是否为开始位置 或结束位置(将softmx换成sigmoid) | pipline路线 VS joint路线 METHOD 优点 pipline路线 简单 joint路线 没有误差累积 可以处理复杂语境下的关系抽取 缺点 累积实体识别的误差 不能处理复杂语境下的关系抽取 模型复杂，预测耗时长 F1 88.37 90.04 |