自然语言处理将计算语言学与 AI 建模相结合以解释语音和文本数据。
为了对语音数据执行自然语言处理，需要检测到音频段中存在的人类语音，执行语音到文本转录，并对生成的文本应用文本挖掘和机器学习方法。
自然语言处理的数据准备
在自然语言处理中，用于将文本从非结构化格式转换为结构化格式的一些方法如下：
分词：通常，这是自然语言处理中文本处理的第一步。它指将文本拆分成若干句子或字词。
词干提取：这种文本标准化方法通过删除单词的词缀将单词简化为其词根形式。它基于简单的启发式规则，可能会产生在字典中不存在的单词形式。
词形还原：这种复杂的文本标准化方法使用词汇和词法分析来删除单词的词缀。例如，“building has floors”简化为“build have floor”。
Word2vec：在字词嵌入方法中，最常见的实现方法是 Word2vec。该方法将字词的分布式表示创建为数值向量，以捕获字词的语义和字词之间的关系。
N 元分词建模：一个 n 元分词是文本文档中由 n 个连续项组成的一个集合，可能包括字词、数字、符号和标点符号。在涉及字词序列的自然语言处理应用中，例如情绪分析、文本分类和文本生成等应用，N 元分词模型可能非常有用。
AI 助力自然语言处理
基于语言数据训练的 AI 模型可以识别模式并预测句子中的后续字词。要构建自然语言处理模型，您可以使用经典的机器学习算法，如逻辑回归或决策树，也可以使用深度学习架构，如卷积神经网络 (CNN)、循环神经网络 (RNN) 和自编码器。例如，您可以使用 CNN 对文本进行分类，而使用 RNN 生成字符序列。
作为一种深度学习模型，变换器模型彻底改变了自然语言处理的方式，它们是 BERT 和 ChatGPT™ 等大型语言模型 (LLM) 的基础。变换器旨在跟踪顺序数据中的关系。这些变换器依靠自注意力机制来捕获输入与输出之间的全局依赖关系。
在自然语言处理的背景下，这使得 LLM 可以捕获在自然语言中存在的长期相关性、字词之间的复杂关系和细微差别。LLM 可以并行处理所有字词，从而可加快训练和推断速度。
与其他预训练深度学习模型类似，预训练 LLM 可用于执行迁移学习，以解决自然语言处理中的特定问题。例如，您可以微调日语文本的 BERT 模型。
说话者识别和情绪分析是自然语言处理中的常见任务。
自然语言生成 (NLG) 是自然语言处理的另一个分支，其中包括计算机用于在给定数据输入的情况下产生文本响应的各种方法。虽然 NLG 最初是基于模板的文本生成方式，但随着 AI 技术的发展，实时动态生成文本已成为可能。NLG 任务包括文本提要和机器翻译。
自然语言处理及其分支。
自然语言处理应用于金融、制造、电子、软件、信息技术和其他行业，例如：
- 自动根据情绪（正面或负面）对评论进行分类
- 统计文档中字词或短语的频率并执行主题建模
- 自动对录制的语音进行标注和标记
- 根据传感器和文本日志数据制定预测性维护计划
- 自动执行需求形式化和合规性检查
使用 MATLAB 进行自然语言处理
MATLAB 使您能够创建从数据准备到部署的自然语言处理工作流。使用 Deep Learning Toolbox™ 或 Statistics and Machine Learning Toolbox™ 和 Text Analytics Toolbox™，您可以对文本数据执行自然语言处理。同样，使用 Audio Toolbox™，您可以对语音数据执行自然语言处理。
自然语言处理的扩展工作流。
词云：展示对工厂报告中的原始文本数据和清洗后文本数据应用词频分析的结果。
AI 建模
您可以训练多种类型的机器学习模型来执行分类或回归任务。例如，您只需使用几行 MATLAB 代码即可创建和训练长短期记忆网络 (LSTM)。您还可以使用深度网络设计器创建和训练深度学习模型，并使用准确度、损失和验证度量等绘图监控模型训练过程。
深度网络设计器，用于以交互方式构建、可视化、编辑和训练 NLP 网络。
与其从头开始创建深度学习模型，不如使用预训练模型。您可以将预训练模型直接应用于您的自然语言处理任务，也可以根据该任务对预训练模型进行调整。借助 MATLAB，您可以从 MATLAB 深度学习模型中心访问预训练网络。例如，您可以使用 VGGish 模型从音频信号中提取特征嵌入，使用 wav2vec 模型进行语音到文本转录，而使用 BERT 模型进行文档分类。您还可以使用 importNetworkFromTensorFlow 或 importNetworkFromPyTorch 函数从 TensorFlow™ 或 PyTorch™ 导入模型。
自然语言处理是 AI 的一个分支，通过将计算语言学与机器学习和深度学习相结合，教会计算机理解人类的口语和书面语言。
自然语言处理通过分词、词干提取和词形还原等数据预处理技术，将非结构化的语言数据转换为结构化格式，然后使用AI模型解析语音和文本数据、发现关系并生成新的语言数据。
自然语言理解 (NLU) 使用句法和语义分析从句子中提取含义，用于文档分类和情感分析等任务；而自然语言生成 (NLG) 则包括计算机根据数据输入生成文本响应的方法。
常见的自然语言处理应用包括语音识别、说话人识别、命名实体识别、情感分析、文档分类、文本摘要和机器翻译，应用于金融、制造业和信息技术等行业。
常见的预处理技术包括分词（将文本拆分为句子或单词）、词干提取（将单词还原为词根）、词形还原（通过词汇分析去除词缀）、Word2vec（构建数值化的词向量）和 n-gram 建模。
自然语言处理的模型涵盖从经典的机器学习算法（如逻辑回归和决策树）到深度学习架构（包括卷积神经网络 (CNN)、循环神经网络 (RNN)、自编码器以及以 BERT 和 ChatGPT 为代表的 Transformer 模型），这些模型构成了大语言模型 (LLM) 的基础。
MATLAB 支持完整的自然语言处理流水线。您可以使用 Text Analytics Toolbox 处理文本数据，使用 Audio Toolbox 处理语音数据。 MATLAB 提供预处理、特征提取、使用机器学习或深度学习进行模型训练的工具，并支持使用诸如 BERT 和 VGGish 等预训练模型。
迁移学习允许您使用预训练的大型语言模型，并将其适配到解决特定的自然语言处理问题，例如对 BERT 模型进行微调以用于特定语言或分类任务。
相关主题
探索 MATLAB 和 Simulink 产品常见的类似主题领域。
