Python、知識圖譜與深度學習培訓_8天

Python、知識圖譜與深度學習培訓
【課程時長】
8天（6小時/天）
【課程簡介】
人工智能的浪潮正在席卷全球，各種培訓課程應運而生，但真正能讓學員系統(tǒng)、全面掌握知識點，并且能學以致用的實戰(zhàn)課程并不多見。本課程包含基于python的數據分析、深度學習、知識圖譜和的重要概念及常用算法（決策樹、關聯規(guī)則、聚類、貝葉斯網絡、神經網絡、支持向量機、隱馬爾科夫模型、遺傳算法、CNN、RNN、GAN等），以及人工智能領域當前的熱點。通過8天的系統(tǒng)學習、案例講解和動手實踐，讓學員能初步邁入機器學習、深度學習和知識圖譜的知識殿堂。
【課程收益】
掌握Python開發(fā)技能；
掌握深度學習工具：TensorFlow、Keras、pytorch等；
掌握基于python的數據分析知識；
掌握數據挖掘與機器學習進階知識；
掌握深度學習的理論與實踐；
掌握知識圖譜基本知識；
為學員的后續(xù)項目應用提供針對性的建議。
【課程特點】
本課程力圖理論結合實踐，強調從零開始，重視動手實踐；課程內容以原理講解為根本，以應用落地為目標。課程通過大量形象的比喻和手算示例來解釋復雜的機器學習理論，既能將原理充分講懂講透，也避免了繁復而枯燥的公式推導。
【課程對象】
計算機相關專業(yè)本科；或理工科本科，且至少熟悉一門編程語言。
【主講專家】
葉梓，博士、高級工程師。2005年上海交通大學計算機專業(yè)博士畢業(yè)，主研方向為數據挖掘、機器學習、人工智能等。現為某大型上市軟件企業(yè)的人工智能團隊技術負責人。曾主持設計并搭建上海市衛(wèi)計委衛(wèi)生大數據平臺、無錫市衛(wèi)生大數據平臺，在大數據、人工智能應用等方面有著豐富的工程實踐經驗。先后在SCI或EI期刊上發(fā)表論文4篇，在中文核心期刊上發(fā)表論文近20篇，并被百度學術收錄。2011年獲中國醫(yī)院協會科技創(chuàng)新一等獎。
【學員基礎】
具備初步的IT基礎知識
【課程大綱】（培訓內容可根據客戶需求調整）
時間
內容
案例實踐與練習
Day1上午
基于python的實驗環(huán)境
實驗環(huán)境搭建
anaconda包的安裝
pip install的技巧
通過anaconda配置多個環(huán)境
Jupyter Notebook的使用
繪圖工具包matplotlib
opencv的安裝
Tensorflow的安裝
Pytorch的安裝
paddlepaddle的安裝
案例實踐：
python安裝
opencv安裝與驗證
Tensorflow安裝與驗證
Pytorch安裝與驗證
paddlepaddle安裝與驗證
Day1下午
Python基礎
Python開發(fā)概述
Python的基本語法
引入外部包
常用的數據結構
定義函數
Python中的面向對象編程
文件讀寫
訪問數據庫
數據預處理
數據清理
規(guī)范化
模糊集
粗糙集
無標簽時：PCA
有標簽時：Fisher線性判別
數據壓縮（DFT、小波變換）
回歸與時序分析
線性回歸
非線性回歸
logistics回歸
案例實踐：
PCA的實驗
DFT的實驗
回歸的實驗
Day2上午
基于python的數據分析
決策樹模型
分類和預測
熵減過程與貪心法
ID3
C4.5
其他改進方法
決策樹剪枝
聚類
監(jiān)督學習與無監(jiān)督學習
K-means與k-medoids
層次的方法
基于密度的方法
基于網格的方法
孤立點分析
案例實踐：
決策樹的實驗
鳶尾花數據的聚類
手肘法分析NBA球隊的最佳聚類個數
各種聚類方式的圖形化展示
Day2下午
基于python實現的經典算法
關聯規(guī)則
頻繁項集
支持度與置信度
提升度
Apriori性質
連接與剪枝
性能評價指標（5）
精確率；
P、R與F1
ROC與AUC
對數損失
泛化性能評價：k折驗證驗證
案例實踐：
超市購物籃——關聯規(guī)則分析
樸素貝葉斯案例：皮馬印第安人患糖尿病的風險
Day3上午
知識圖譜概念
知識圖譜綜述
自然語言處理概念回顧
知識表示與知識抽取
面向非結構化的數據知識抽取
實體消歧與鏈接
圖數據庫介紹
實體對齊方法
知識融合
知識推理、搜索與知識問答
早期知識圖譜概念
知識推理
本體推理方法
本體推理工具
語義搜索
RDF與RDFS
OWL與OWL2
SPARQL
實踐：
Neo4j的安裝
知識推理模型
Day3下午
知識圖譜存儲
知識圖譜存儲
知識存儲模型
圖數據庫選型
Neo4j開發(fā)環(huán)境部署
Neo4j-可視化操作
Neo4j-CQL語法基礎
Neo4j-完整案例操作實戰(zhàn)
Neo4j系統(tǒng)管理
Python與Neo4j的集成
實踐：
Neo4j的安裝
Neo4j的基本操作
基于Neo4j的查詢
Python與Neo4j的集成
Day4上午
知識圖譜自動抽取
知識圖譜自動抽取
面向文本的知識抽取
DeepDive關系抽取實踐
開放域關系抽取
實體消歧與鏈接
知識規(guī)則挖掘
知識圖譜表示學習
基于DL的知識圖譜自動抽取
基于深度學習的實體識別
基于深度學習的屬性鏈接
實踐：
基于百科數據的知識抽取
知識抽取的DL模型
Day4下午
KBQA完整體系
KBQA完整體系
知識問答系統(tǒng)
知識問答系統(tǒng)基本流程
知識問答系統(tǒng)主流方法
開源的問答系統(tǒng)
基于知識圖譜問答系統(tǒng)
綜合案例
完整的基于KG的問答系統(tǒng)（KBQA）
Day5上午
深度學習基礎
BP神經網絡
人工神經元及感知機模型
Sigmoid激活函數
前向神經網絡的架構
梯度下降
誤差反向傳播詳解
支持向量機
“雙螺旋”問題
基本模型與懲罰項
求解對偶問題
核函數：映射到高維
從二分類到多分類
用于連續(xù)值預測的支持向量機
案例實踐：
皮馬印第安人糖尿病風險：驗證多種模型
繪制ROC并計算AUC
手算神經網絡BP算法
只用numpy，手推BPNN
Day5下午
深度學習基礎與CNN
深度學習基礎
連接主義的興衰
深度學習與神經網絡的區(qū)別與聯系
目標函數與激勵函數
學習步長
權重初始化
權重衰減（Weight Decay）
梯度下降的方法：Adagrad \ RMSprop \ Adam
避免過適應
圖像分類CNN
圖像分類概述
AlexNet與ZF-Net
卷積層的誤差反向傳播
池化層的誤差反向傳播
VGG（5層變?yōu)?組）
遷移學習
GoogLenet和Inception模塊
模型退化與ResNet
DenseNet（充分利用特征）
最新的efficientnet
案例實踐：
SVM實現人臉識別應用
通過深度BP網絡實現手寫數字的識別
各種梯度下降方法的實戰(zhàn)效果
Batch normalization的實戰(zhàn)效果
案例實踐：
VGG各層的可視化展現
遷移學習：識別貓和狗
Resnet用于圖像分類
Day6上午
目標檢測
二階段目標檢測
目標檢測項目介紹
R-CNN
SPPNET（全圖卷積、SPP層）
Fast-RCNN（多任務）
Faster-RCNN（RPN）
R-FCN
一階段目標檢測（2）
SSD
YOLO-v1（一切都是回歸）
YOLO -v2（9000）
YOLO -v3（多尺度）
YOLO -v4
YOLO -v5
案例實踐：
基于Faster-RCNN的通用目標檢測示例
改造成“血細胞識別”系統(tǒng)
Day6下午
圖像分割與NLP初步
圖像分割（3）
全卷積網絡（FCN）
上采樣的三種實現方式
膨脹卷積
CRF
DeepLab V1~V3
自然語言處理初步（2）
語言模型
Bi-Gram與N-Gram
機械分詞與統(tǒng)計分詞
詞性標注
命名實體識別
情感分析；
案例實踐：
基于YOLO v3的通用目標快速檢測示例
基于YOLO v3的視頻檢測
基于YOLO v5的目標檢測
DeepLab的示例
Day7上午
RNN與W2V
循環(huán)神經網絡（1）
RNN基本原理
LSTM、GRU
雙向循環(huán)神經網絡
編碼器與解碼器結構
seq2seq模型
Attention
NIC模型
詞向量（3）
W2V:CBOW
W2V:skip-gram
W2V:Hierachical Softmax
W2V:Negative Sampling
案例實踐：
股票交易數據的預測；
藏頭詩生成；
《絕代雙驕》中，誰和小魚兒最相似？
SnowNLP：褒義的中性詞
Word2vec代碼解讀
Day7下午
預訓練模型基礎
Transformer
所有你需要的僅僅是“注意力”
Transformer中的block
自注意力機制
多頭注意力
位置編碼（拋棄RNN）
Batch Norm與Layer Norm
解碼器的構造
BERT
BERT整體架構
Masked-LM
Next Sentence Prediction
改造下游任務
WordPiece作為輸入
哪些改進起作用？
案例實踐：
手推Transformer
BERT代碼解讀
BERT下游任務的改造
Day8上午
GPT、GAN
GPT
“獨角獸”的威力
GPT的內部架構
基于Transformer的改造
自注意力機制的改進
GPT的應用場景
最新的GPT-3
GAN
生成對抗網絡（GAN）
KL散度與JS散度
改進的GAN：DCGAN
加上約束：infoGAN
根本上解決：Wasserstein GAN
案例實踐：
實現一個對話機器人
讓GPT寫一篇散文
案例實踐：
計算機想象的數字
特朗普的孩子
Day8下午
強化學習
強化學習初步
agent的屬性
馬爾科夫獎勵/決策過程
exploration and exploitation
狀態(tài)行為值函數
Bellman期望方程
最優(yōu)策略
策略迭代與價值迭代
蒙特卡洛
時序差分法
深度強化學習
值函數的參數化表示
值函數的估計過程
深度學習與強化學習的結合
基礎的DQN 方法
Double DQN
Prioritized Replay
Dueling Network
案例實踐：
格子世界
機器人走迷宮
谷底的小車
倒立擺
笨鳥先飛：DQN
【授課環(huán)境】
講課環(huán)境要能上網

葉梓老師的其它課程