| OPPO知识图谱及其在小 布助手中的应用 李向林 OPPO高级NLP算法工程师 目录 CONTENT 01 背景 02 OPPO知识图谱 小布助手和知识图谱简介 知识图谱整体架构和构建算法 03 04 知识图谱在小布助手中的应用 小布知识图谱问答架构和核心算法 总结与展望 多场景扩展和多模态应用 | 背景-小布助手 小布助手是OPPO旗下有趣贴心，无处不在的AI助手，月活跃用户破亿 | 背景-oppo知识图谱 Ø 知识图谱可以看作定义实体关 系的语义网络 Ø 2020年开始立项，构建数亿实 体和数十亿关系的高质量通用 知识图谱，支持了每天数百万 次的小布问答请求 Ø 逐渐扩展到商品图谱、健康图 谱和风控等多个垂类 | oppo知识图谱整体架构 | 知识图谱构建核心算法 实体分类 实体对齐 信息抽取 知识图谱算法-实体分类 Ø 实体分类定义和价值 • 图谱schema规范化的关键特征 • 实体对齐和链接任务重要特征 Ø 解决方案 • 规则+预训练语言模型文本分类 Ø 团队影响力 • 组织2021CCKS通用百科知识图谱 实体类型推断评测任务，贡献大规模 实体分类数据集，吸引了数百只队伍 参赛 | 知识图谱算法-实体对齐 Ø 实体对齐任务 • 多源相同实体合并，增加实体关系，减少信息冗余 • 基本假设：等价实体有相似的属性；等价实体有相似的邻接实体 | 知识图谱算法-实体对齐算法流程 Ø Dedupe+BERT语义分类两阶段对齐 • Dedupe工具进行第一阶段对齐 • 基于BERT语义分类对第一阶段对齐结果调整和补充 KG1 Dedupe KG2 ... 候选实体 对选择 相似特征 计算/聚类 对齐 结果 对齐模型 KGN 数据预处理 Learnable Similarity Functions and Their Application to Record Linkage and Clustering.Mikhail Yuryevich Bilenko, | 知识图谱算法-信息抽取 Ø 属性补全 • 基于百度CASREL模型抽取常见属性 • 基于MRC模型抽取长尾属性：奥特曼的人间体 | 知识图谱算法-总结和展望 Ø 实体分类 • 基于迁移学习扩展到商品分类、游戏分类等垂域场景 Ø 实体对齐 • 多模态、节点表示学习等多策略对齐方案 Ø 信息抽取 • 借助大规模预训练语言模型少（零）标记样本关系抽取算法 • 事件抽取算法 | 知识图谱应用-小布知识问答 Ø 小布助手对话领域划分 闲聊 你是男是女 今年几岁了 你的爸爸是谁 我有点难过 ... 检索式 生成式 任务对话 定个闹钟 打开微信 倒计时 叫个外卖 ... Frame Semantic s 知识问答 印度首都的面积 周杰伦老婆是谁 消防车为什么是 红色 星星为什么眨眼 睛 ... 知识图谱 阅读理解 | 知识图谱应用-知识问答分类 知识图谱 结构化问题 印度首都的面积 周杰伦的老婆是谁 消防车为什么是红色的 天空为什么是蓝色 非结构化 （开放域）问题 KBQA DeepQA 阅读理解 | 知识问答-结构化问题（KBQA）分类 单跳：刘德华的年龄 两跳：刘德华的老婆的年龄 多跳：刘德华的老婆的岳父的年龄 基础链式查询 多变量约束 实体关系查询 刘德华和梁朝伟的关系 刘德华99年演过的电影 出生在重庆的男歌手 问题 类型 比较推理查询 乌克兰和俄罗斯哪国人口多 刘德华和张学友谁的年龄大 | 知识问答-KBQA整体算法架构 姚明的老婆是谁？ 人物问答 领域 识别 Query 意图 分类 实体：姚明 模板：{人物}{配偶} nGQL查询语句 实体 抽取 属性 识别 模板 匹配 知识 查询 实体 链接 约束 挂载 语义 匹配 推理 计算 实体识别 Query 解析 别名 挖掘 属性归一 新词 发现 模板挖掘 在线 答案生成 知识 图谱 图数 据库 | 离线 知识问答-实体抽取 Ø 小布助手场景下实体特点 • 别名：卷福、抖森和周董 • 语音识别错误：疯马奥特曼、风慢奥特曼->风马奥特曼 query筛 选 线上query 搜索点击日志 实体识别 领域特征 特征聚类 倩 雅 集 分马奥特曼 亻青 牙隹 隹木 fenmanaoteman 候选实体 风慢奥特曼 飞马奥特曼 疯马奥特曼 分马奥特曼 类簇 1 1 1 1 标准名 风马奥特曼 风马奥特曼 风马奥特曼 风马奥特曼 | 知识问答-实体链接 游戏角色 query:李白哪个技能最 厉害？ 撒贝宁妻子 李白 唐代诗人 李荣浩歌曲 | 知识问答-实体链接算法 query样本：#李白#哪个技能最 厉害！ 实体样本：名称相同,非主义项, 类型:游戏角色，李白是腾讯手 游《王者荣耀》中的一位刺客 型英雄角色，原型为唐代诗... 全局共现 流行度 丰富度 query:李白哪个技能最 厉害！ 实体识别 热度 描述 标签 关系 属性 类型 候选实体选取 实体消歧 | 实体链接-千言比赛消歧模型优化 Ø 模型优化 • 多任务：语义匹配+实体类型分类 • 对抗学习 • 统计特征融合 • 百度千言实体链接比赛第二名 query:李白哪个技能最厉害？ | 知识问答-Query解析算法 Ø Semantic Parsing类方法 • 基于模板的方法，高准确低召回 • 查询图方法（Query Graph） Ø Information Retrieval类方法 • 用户问题和问题中心词在图谱中扩展 的子图（Subgraph）相似度 Ø 我们的解决方案 • 模板+查询图+语义匹配pipeline • 高效，badcase修复简单 1.Semantic parsing on Freebase fromquestion-answer pairs. J. Berant, A. Chou, ... 2.Semantic Parsing via Staged Query Graph Generation:Question Answering with Knowledge Base. Wen-tau Yih Ming-Wei Chang Xiaodong He Jianfeng Gao 3.Question Answering with Subgraph Embeddings. Antoine Bordes, Jason Weston,... 1 2 3 |