NLP自然语言处理

NLP项目前置知识

分词及常用分词工具介绍

词向量Word2Vec结构及原理介绍

传统自然语言常用工具介绍：jieba、HanLP、gensim等

Seq2Seq序列生成网络结构讲解

Attention结构讲解：Self-Attention、Multi-Head Attention、Flash Attention等

Transformer算法结构讲解

Bert算法结构及Bert变种算法讲解

GPT算法结构及GPT变种算法讲解

常用大语言模型算法原理结构、微调训练及部署应用讲解

NLP项目一：语言模型，NLP深度学习技术的基石

语言模型应用场景，技术背景

从word2vec到Bert，再到霸屏的ALBERT设计原理详解和论文阅读

BERT特征之字符特征嵌入

BERT特征之位置特征嵌入

BERT特征之句子特征嵌入

BERT 特征抽取之transformer结构设计

遮蔽语言模型

Transformer多头注意力机制详解

Transformer 层归一化机制

多任务损失函数设计

样本标签自动产生

NLP项目二：多标签文本分类（淘宝京东评价数据评分，大众汽车客户评价分类，法律类似案件推荐，相似新闻分类）

项目背景介绍和企业应用场景

bert和卷积神经网络加全局attention机制算法效果展示及99%准确率如何炼成的

bert和卷积神经网络加全局attention机制多标签文本分类前沿算法架构设计

数据格式设计和标签样例

制作自己的数据集

Bert特征抽取模块设计

卷积神经网络特征优化

全局attention机制特征的融合

Bert输入数据的改进

把TPU支持切换为GPU支持

损失函数的设计原理

模型的训练和参数优化

模型的预测和部署

NLP项目三：命名实体识别系统（顺丰快递寄件物品，地址等识别；医疗辅助决策系统药品，疾病，症状；知识图谱实体识别等核心技术）

命名实体识别效果展示

命名实体识别项目背景和企业应用场景介绍

特征设计和模型嵌入

语言模型的嵌入

特征提取模块详解

网络的结构设计和参数详解

训练数据的自动生成和人工标注修复错误

训练数据转化为模型需要的格式

核心代码详解：调试、难点语法分析、调优、重写和升级

模型的训练和参数调整

模型的预测和企业化部署

NLP项目四：基于多任务学习联合模型的智能问答系统（构建百度知心、搜狗知立方、谷歌freebase和微软Microsoft Concept Graph等行业知识图谱核心技术）

知识抽取系统效果展示和分析

知识抽取系统行业背景和企业应用场景介绍

联合模型结构和模块详解

非联合模型结构和联合模型结构异同和性能分析

实体识别模块设计

关系分类模块设计

特征融合模块详解

标签表征和嵌入模块详解

特征的提取、表征和嵌入

联合模型实体关系标签转化和预测

多任务损失函数的设计和详解

Softmax单标签和Sigmoid多标签区别

如何解决多实体对多关系问题

模型训练和参数调整

模型预测和企业部署

NLP项目五：基于大语言模型的聊天机器人

聊天机器人应用展示

大语言模型的预训练及微调

基于Lang Chain的知识问答系统搭建

大语言模型的工具软件使用

text-to-text 文本生成技术及方式

项目部署应用