什么是“自然语言模型”？

在自然语言处理领域，基本概念是“语言模型”，即计算句子（单词序列）的概率或序列中下一个单词的概率的模型。在一句话中的单词总是顺序出现的，每个单词都可以通过前面所有单词计算出概率，把所有这些单词的概率相乘，总概率数值越大，说明越像是人类语言。那么是否可以用神经网络来打造这样一个语言模型呢？通过海量的人类语言语料，来训练出一个神经网络，然后向这个神经网络模型输入一句话的前面几个词，这个模型就能计算出这句话的下一个单词。从“基于语法的语言模型”到“基于统计的语言模型”，进而到“基于神经网络的语言模型”，ChatGPT所在的阶段正是“基于神经网络的语言模型”阶段。
ChatGPT使用基于GPT-3.5架构的大型神经网络语言模型，通过强化学习进行训练。OpenAI使用监督学习和强化学习的组合来调优ChatGPT，其中的强化学习组件独一无二，即使用了人类反馈强化学习（RLHF）的训练方法，该方法在训练中使用人类反馈，以最小化无益、失真或偏见的输出。
ChatGPT通过连接大量的语料库来训练模型，强大的学习能力来自于大规模的、海量的文本数据训练，通过对其不断地监督学习、人工纠错、强化学习进行对话模拟，最终形成越来越接近于人类语言的语言模型。

什么是“自然语言模型”？