Natural Language Processing

源于斋藤康毅[著]，陆宇杰[译]《深度学习进阶 自然语言处理》一书源码的实现【2026年更新版】。代码过程含个人学习注释，欢迎批评指正。

文件说明

• ptb： 源数据集PTB
• dataset： 书中涉及的其他数据集、不同数据集的导入前处理
• package：方便导入其他模块的文件，常见包括：激活函数、损失函数、梯度、神经网络设计、优化器、训练器等
• 根目录所有.py文件：可根据原书学习顺序依次运行。
• 项目依赖：requirements.txt

环境说明

• 开发平台：windows[v11]，基础显卡[NVIDIA GPU]
• 开发环境：vscode[python 3.11]
• 项目依赖：先创设.venv，激活后，再按pip install -r requirements.txt安装所需依赖 【注：Cupy是基于GPU进行并行计算的库，依赖版本与CUDA版本有关，先依次确认GPU、CUDA、cuDNN后再对应安装】
• GPU加速：需先确认NVIDIA显卡的存在，且系统已安装CUDA和cuDNN【引入GPU加速的前提，只应用CPU计算可以不用考虑】

使用许可

本源代码使用MIT许可协议。