对ChatGPT 4o理解：预测与推理

最近OpenAI推出了新模型：o1, 在看了一些文章后，总结出来这个模型最大亮点就是：推理。这点也是打破我对大模型认知的一个点，意思是，在这之前，我认为的大模型，就是纯靠预测输出内容，可以想到的一些关键词是模式匹配、概率分布、幻觉、上下文窗口长度、自注意力等等；在这之后，大模型会思考了，联想到一些逻辑性的词语，比如因果性、相关性、分步思考、层层递进、逻辑推理。

文本主要分享我对o1大模型的理解，特别是对预测与推理的认识论。

引言和背景

一切起源于这篇文章：https://openai.com/index/learning-to-reason-with-llms

OpenAI推出了一款新的大型语言模型o1，该模型通过强化学习训练，能够执行复杂的推理任务。o1在回答问题前会进行深入思考，生成内部的思维链。

关键字提取：

• 强化学习
• 思维链
• 强化学习（训练时计算）和更多的思考时间（测试时计算）
• AI reasoning

在我们理解之前，我们先回顾下GPT的发展历程和模型架构。

从机器学习到深度学习

深度学习是机器学习发展的一次重大进化，二者是人工智能发展历程中的两大重要阶段。

机器学习的起源

机器学习的核心思想是通过数据训练模型，使其能够从数据中学习规律，进而作出预测或决策。传统机器学习的应用场景包括垃圾邮件分类、简单的预测分析等。这些模型包括：

• 线性回归：用于预测连续值。
• 决策树：用于分类任务。

近一步解释，机器学习要找的规律，简单讲就是一个数学函数，比如线性函数

!https://cdn.nlark.com/yuque/__latex/f6e9b2598ff9f234cfd5805ad02d47f3.svg

，机器学习需要从大量数据中，找到准确率最高的

1

b

和

1

w

值。

要找的函数不同，机器学习有不同的类别，假设要找的函数的输出是一个数值，这种机器学习的任务称为**“回归”；要找的函数输出是一批固定选项中的某个选项，这种任务叫做“分类”。**

然而，传统的机器学习模型面临一个重要的挑战：特征提取。特征就是数学函数的输入变量x，代表数据中能够帮助模型进行预测的关键信息。然而，选择和提取好的特征往往并不容易，主要因为真实世界的数据通常是复杂的、噪声很大的，直接使用原始数据可能并不能直接为模型提供有效的信息，所以这个特征需要人为手动提取。

理解非结构化数据的向量化与相似性搜索

!https://cdn.nlark.com/yuque/0/2024/png/2010924/1727148205951-411f2974-6bad-472c-a506-50fdbbe29a70.png

机器学习需要研究人员为不同任务手动挑选和设计模型能够学习的数据特征，如果数据复杂度上升了，这会非常难提取，解决的办法就是深度学习。深度学习在这方面的优势在于通过多层神经网络自动从原始数据中提取有用的特征。

深度学习的崛起

深度学习是机器学习的一个分支，它的关键突破在于通过多层神经网络自动提取特征，而不再依赖于人工设计。

深度学习主要有以下特征：

1. 线性变换：每一层都对输入数据进行线性处理（权重和偏置的加权和），像是对数据做基础的扫描。
2. 非线性激活：通过激活函数，网络能够跳出线性思维，处理更复杂的关系。
3. 逐层抽象：通过多个层的处理，网络逐渐从简单的特征（如线条）学到复杂的特征（如物体形状）。
4. 反向传播与梯度下降：网络通过反馈修正自己的错误，让学习效果越来越好。

层层递进的学习（逐层提取特征）

在深度学习中，原始数据就像那些原材料。它一开始是非常“粗糙”的，比如一张图片中的像素点，或者一段文字中的字母。神经网络通过每一层“处理”这些原材料（数据），每一层都会提取一些有用的信息。随着层数增加，模型提取的信息也变得越来越有价值，直到最后做出预测或分类。

深度学习的提取机制大概是这样的：每一层的输出

!https://cdn.nlark.com/yuque/__latex/a8ad4334c1f06ef3317efac3cdd4e07b.svg

是前一层输出

!https://cdn.nlark.com/yuque/__latex/aa34412772c2d0eb1f3257ecf8ca6fdf.svg

经过线性变换得到的。这个过程可以用公式表示为：

!https://cdn.nlark.com/yuque/__latex/98c2bef2834a8c1d2862dbad304060ba.svg

!https://cdn.nlark.com/yuque/0/2024/png/2010924/1727149349258-db551481-94eb-488b-80fd-77c17ac5850d.png

可以把这个过程看作是“初步加工”。比如你看一张图片，第一步是对整张图片进行扫描，找出最简单的特征（边缘、颜色变化等）。

非线性激活：让模型更有灵活性

除了层层递进的学习，深度学习还有一个重要的“技巧”，就是它会用一些“非线性”操作让模型更加灵活地理解数据。

简单讲就是把线性函数变成非线性的函数，使结果无线逼近曲线。

!https://cdn.nlark.com/yuque/0/2024/png/2010924/1727149674275-9da28c73-c21a-4149-b670-a32adfc93246.png

!https://cdn.nlark.com/yuque/0/2024/png/2010924/1727149714494-7fcb6e08-dcea-4453-ac3d-3ba6c63f8739.png

逐层特征抽象：如何从低级特征到高级特征

在每一层神经网络中，输入的数据会被一次次地加工和处理。最开始的层学习到的可能是最基本的特征（比如图像中的边缘、线条），而越靠后的层次，学到的特征就越复杂（比如图像中的物体轮廓甚至整个物体的形状）。

通过逐层的线性变换和非线性激活，我们可以将网络的输出表达为：

!https://cdn.nlark.com/yuque/__latex/53f504e9aad3a9c8ffd1f0b18a8bda3a.svg

这就像你处理一张图片，先学会识别线条、然后学会识别形状，最后你可以判断这张图片上是猫还是狗。这个逐层递进的学习过程通过公式得以描述，每一层都是对上一层特征的进一步抽象。

反馈学习（反向传播）

模型通过“反馈”来修正自己。这类似于你犯错后总结经验并改正的过程。在神经网络中，当模型输出错误的预测时，它会通过**反向传播算法（Backpropagation）**来调整权重和偏置，让下一次的预测更加准确。可以分别以下2个步骤：

• 损失函数：来衡量预测值和真实值之间的差距
• 梯度下降：更新权重

总结

从机器学习到深度学习的演变，使得AI在面对复杂、非结构化数据时拥有了更强的处理能力。深度学习不仅减少了对人为干预的依赖，还能通过多层网络深入挖掘数据中的隐藏模式。这一技术飞跃为包括GPT在内的现代语言模型奠定了基础。

此处推荐《李宏毅深度学习教程》这本书，可以了解机器学习和深度学习的基础知识。

LeeDL_Tutorial_v.1.1.9.pdf

从深度学习到大语言模型

随着深度学习的发展，深度学习的模型也出现了很多分类。以下是常见的深度学习模型及其应用领域：

Transformer是大语言的模型。大语言的处理也就是自然语言处理（NLP），比如语言生成、翻译等任务上，这个领域，深度学习的传统方法逐渐暴露出了局限性。正是在这种背景下，Transformer模型应运而生，成为了自然语言处理的颠覆性技术。

传统神经网络的局限性

在Transformer出现之前，处理语言序列的主要方法是基于循环神经网络（RNN）和它的改进版本如长短期记忆网络（LSTM）。虽然这些模型在某些NLP任务上表现不错，但它们有几个显著的缺点：

• 顺序处理：RNN和LSTM必须按顺序处理输入数据，也就是说，它们需要逐步处理每个单词，这使得计算过程相对较慢，尤其当句子变得很长时，处理效率显著下降。
• 长期依赖问题：尽管LSTM解决了短期记忆问题，但对于特别长的句子或段落，依然难以捕捉句子中远距离单词之间的依赖关系。
• 并行计算受限：RNN的结构导致模型无法并行处理数据，输入必须是顺序处理的，这在处理大规模文本时效率较低。

Transformer的核心突破：自注意力机制（Self-Attention）

为了克服这些问题，Transformer模型于2017年由Vaswani等人提出，并迅速成为主流的语言模型架构。Transformer的核心创新是自注意力机制（Self-Attention Mechanism），它彻底改变了语言模型的工作方式：

• 并行处理：与RNN不同，Transformer能够同时处理输入序列中的所有单词，这大大提高了计算效率。因为每个词不再依赖于前一个词的处理结果，所有的词可以并行计算。
• 捕捉长距离依赖：自注意力机制允许模型在整个输入序列中找到相关性，而不管这些词之间的距离。这解决了RNN中长期依赖的问题，使得Transformer能够轻松处理非常长的文本并理解远距离的语义关系。

自注意力机制的工作原理

自注意力机制的关键思想是，在处理每个单词时，模型不仅仅关注这个词本身，还要考虑序列中其他词的相关性。每个词与其他所有词之间都有一个“注意力权重”，这些权重决定了哪些词对当前词有重要影响。

Transformer中的自注意力机制通过以下步骤来计算：

1. 查询（Query）：为每个词生成一个查询向量 ( Q )。
2. 键（Key）：为每个词生成一个键向量 ( K )。
3. 值（Value）：为每个词生成一个值向量 ( V )。

注意力权重的计算公式为：

!https://cdn.nlark.com/yuque/__latex/95c38997a7c37bfa09fad19f23f0be73.svg

• ( Q ) 是查询向量，代表当前词的内容。
• ( K ) 是键向量，代表所有其他词的内容。
• ( V ) 是值向量，包含要加权的实际信息。
• ( d_k ) 是键向量的维度，用于缩放。

通过这个公式，模型计算每个词与其他词的相关性（即注意力权重），从而决定当前词应该“关注”哪些其他词。

可以把自注意力机制想象成你在阅读一段文字时，不仅仅关注每个单词本身的含义，还要不断“回顾”前面的内容，看看哪些词语对当前词有影响。这个过程是并行进行的，你可以一边读新内容，一边迅速关联旧内容，帮助你理解整段话的意思。

Transformer的结构：编码器和解码器

Transformer由两个主要部分组成：编码器（Encoder）和解码器（Decoder）。

• 编码器：将输入的文本序列编码成一个向量表示。编码器是由多层自注意力机制和前馈神经网络组成。它的任务是将输入数据转化为一种适合处理的格式。
• 解码器：解码器负责根据编码器的输出生成新的序列（比如翻译、语言生成等）。解码器的结构类似于编码器，但它还会参考前面生成的输出。

Transformer在大语言模型中的应用：GPT的崛起

Transformer的自注意力机制不仅提高了计算效率，还让模型在自然语言处理任务中表现卓越。这为大语言模型的发展奠定了基础，尤其是**GPT（Generative Pretrained Transformer）**的出现，它展示了Transformer在生成式任务中的巨大潜力。

• GPT的架构：GPT的架构本质上是一个基于Transformer的解码器模型，它通过大量的无监督文本数据进行预训练，学会如何生成与上下文相关的自然语言。GPT使用的核心机制依然是自注意力，这使得它在处理语言生成任务时能够很好地理解上下文，并生成流畅、连贯的文本。
• GPT的成功：GPT的成功在于其能够处理长文本、复杂句子，并生成上下文相关的语言。这是传统的RNN/LSTM无法高效完成的任务。通过利用Transformer模型，GPT不仅提升了生成质量，还大幅提升了训练速度。

总结

从深度学习到Transformer的演变，代表着自然语言处理领域的一次巨大飞跃。传统的RNN和LSTM在处理语言时存在顺序处理的瓶颈和长期依赖问题，而Transformer通过自注意力机制解决了这些问题，能够并行处理数据并捕捉远距离的依赖关系。随着GPT等大语言模型的崛起，Transformer已经成为自然语言处理领域的主流架构，大幅提升了模型的生成能力和推理能力。

GTP模型的架构

GPT（Generative Pre-trained Transformer）模型是基于 Transformer 架构的生成式预训练语言模型。整体架构可以概括为以下主要部分：

1. 输入嵌入（Input Embedding）
2. 位置编码（Positional Encoding）
3. 多层解码器堆叠（Decoder Stacked Layers）

• 自注意力机制（Self-Attention Mechanism）
• 前馈神经网络（Feed-Forward Neural Network）

1. 输出层（Output Layer）

!https://cdn.nlark.com/yuque/__mermaid_v3/c524dcbdd24e8a37f81f2036fc582db9.svg

输入嵌入（Input Embedding）

• 作用：将离散的词语或标记（Token）转换为连续的向量表示（Embedding）。
• 流程：
• 输入序列：[Token1, Token2, ..., TokenN]
• 通过嵌入矩阵，将每个 Token 转换为对应的嵌入向量：[Emb1, Emb2, ..., EmbN]

位置编码（Positional Encoding）

• 作用：由于 Transformer 不像 RNN 那样具有序列信息，需要引入位置编码来提供序列顺序信息。
• 流程：
• 对每个嵌入向量添加位置编码：Emb_i + PosEnc_i
• 位置编码通常采用固定的三角函数（如 sin, cos）或者可学习的参数。

多层解码器堆叠（Decoder Stacked Layers）

GPT 模型主要由多个 Decoder 层堆叠而成，每一层包含以下组件：

• 自注意力机制（Self-Attention Mechanism）

• 作用：捕获序列中不同位置的 Token 之间的相关性，生成上下文敏感的表示。

• 流程：

• 计算 Query（Q）、Key（K）、Value（V）矩阵：

• 对输入进行线性变换，得到 Q、K、V。

• 计算注意力权重：

• 使用点积计算注意力得分：

  !https://cdn.nlark.com/yuque/__latex/f092afb1045f772ca1187ce5a91e5dcd.svg

• 应用 Mask（遮罩）机制，防止模型“看到”未来的信息（即 Masked Self-Attention）。

• 计算注意力输出：

• 对 Value 矩阵加权求和：

  !https://cdn.nlark.com/yuque/__latex/ab22357a935e9053923ae8e2845148d9.svg

• 前馈神经网络（Feed-Forward Neural Network）

• 作用：对每个位置的表示进行非线性变换，提高模型的表达能力。

• 流程：

• 对注意力输出进行两层线性变换，通常包含激活函数（如 ReLU、GELU）。

• 残差连接和层归一化（Residual Connection & Layer Normalization）

• 作用：缓解深层网络的训练困难，加速收敛。

• 流程：

• 在自注意力和前馈网络之后，都添加残差连接和层归一化。

输出层（Output Layer）

• 作用：将解码器的输出映射回词汇表的概率分布，用于生成下一个 Token。
• 流程：
• 通过线性层和 Softmax 函数，计算每个词的概率。

总结

GPT 模型通过 Transformer 的解码器堆叠，实现了对上下文信息的高效建模。其核心在于自注意力机制和深度网络的结合，能够捕获长距离的依赖关系。

GPT模型发展历程

GPT-1 (2018): 奠定基础

GPT-1是最早的版本，基于Transformer架构，它引入了一种全新的自然语言处理方式。模型通过无监督学习，利用大规模的文本数据进行训练，在语言生成方面展示了潜力。GPT-1虽然规模较小（约1亿参数），但已经证明了基于大量数据进行语言生成的可行性。

关键词：基础构建、无监督学习、小规模实验。

GPT-2 (2019): 大规模生成能力

GPT-2是对前一代的重大升级，参数量达到15亿。它通过更大规模的数据集训练，展现了强大的文本生成能力，能够生成连贯的文章和多步对话。GPT-2的生成质量明显提升，甚至可以生成长篇连贯的文本，这一能力标志着模型预测性能的重大飞跃。

关键词：大规模生成、连贯性提升、生成质量。

GPT-3 (2020): 强大的上下文理解与生成

GPT-3的参数规模大幅增加，达到了惊人的1750亿。它不仅能够理解和生成更复杂的语言，还能处理跨领域的任务。在这代模型中，预测能力达到了一个新高度，能够在上下文之间推导出更复杂的逻辑关系，同时实现从简单指令到复杂代码生成的广泛应用。

关键词：上下文理解、跨领域能力、指令生成。

ChatGPT (2022): 对话能力强化

ChatGPT专注于对话优化，虽然基于GPT-3，但它的强化训练让模型在对话中的流畅性和互动性大大提升。这个版本让模型不再只是生成文本，而是具备了更加智能的对话策略，能够在对话过程中理解上下文并连续推理，让用户有更自然的交互体验。

关键词：对话优化、用户互动、连续推理。

GPT-4 (2023): 多模态输入与更复杂推理

GPT-4的突破在于它的多模态能力。它不仅能够处理文本，还可以结合图像输入，具备更强的推理能力。GPT-4能够理解更加复杂的输入，并在任务中展示出比以往更强的预测和推理能力。

关键词：多模态、复杂推理、推理深度。

GPT-4o (2024): 推理能力的深度提升

GPT-4o是在GPT-4基础上的进一步演化，核心突破在于预测与推理的深度优化。它不仅增强了模型对文本预测的准确性，还大幅提升了多步骤推理的能力，尤其是长链思维任务中的表现得到了极大提升。GPT-4o针对更复杂的推理场景进行了特殊训练，能够更加自然地模仿人类的思维链。

关键词：推理增强、长链推理、预测优化。

可以看到每一代模型的核心创新，展示GPT从基础到复杂推理的进化历程，最新一个模型的演进方向是“推理”能力。

这也是我真正意识到一个问题：大模型从什么时候开始，从预测变成推理了？

大模型推理测试：how many r’s in “strawberry”?

最近网上的热梗是把测试看成是新的图灵测试。这个观点有一点点合理之处，前提是把“推理”近似成“思考”，如果大模型会高级推理，那么它会思考，那么它和人没区别。但是这个观点终归是玩笑化，这个测试最主要的一点是可以让我们理解大语言模型在预测和推理能力上的区别，也就是看出o1这个模型和之前模型的区别。

预测能力

大语言模型（如 GPT 系列）的核心机制是基于下一词预测。模型通过大量的文本数据训练，学习语言的统计模式和词汇之间的关联。在回答问题时，模型倾向于根据训练中学到的概率分布，直接生成最可能的下一个词。

• 在预测模式下，模型可能会：
• 基于常见回答：由于在训练数据中，“strawberry”是一个常见的单词，模型可能记住了与之相关的常见描述。
• 直接给出答案：可能直接输出一个数字，但不一定是正确的。
• 示例：
• 模型回答：“There are two r’s in ‘strawberry’.”
• 可能的原因：模型记住了这个答案的概率，直接输出而未进行实际的字母计数。

推理能力

推理能力指模型能够像人类一样，经过一系列思考步骤，得出正确的答案。为了增强模型的推理能力，可以使用思维链（Chain of Thought）技术，引导模型显式地进行中间步骤的推理。

• 在推理模式下，模型会：
• 逐步分析：逐字检查“strawberry”中的每个字母。
• 计数过程：记录每次遇到字母“r”时的次数。
• 得出结论：根据计数结果给出准确的答案。
• 示例：
• 模型回答：

1
2
3
4
5
6
7
8
9
10
11
12
13
14

To find out how many 'r's are in "strawberry", let's examine each letter:

- s
- t
- r (1)
- a
- w
- b
- e
- r (2)
- r (3)
- y

There are 3 'r's in "strawberry".

• 推理过程：模型通过逐字分析，正确地计数出了字母“r”的数量。

预测与推理的区别

• 预测（Pattern Recognition）：
• 特点：基于训练数据中的模式和概率，直接生成答案。
• 局限性：可能在面对需要逻辑推理或计算的问题时出错，因为它未进行实际的思考过程。
• 在本案例中：模型直接基于概率分布，给出了一个数字类型的回答
• 推理（Logical Reasoning）：
• 特点：通过模拟人类的思考步骤，进行逻辑推导和计算。
• 优势：能够处理需要多步骤推理的问题，提高答案的准确性。
• 在本案例中：模型逐字分析“strawberry”，准确计数出有3个“r”。

推理链与复杂推理

推理的类型

推理可以分为多种类型，每种类型在模型中有不同的表现形式：

• 归纳推理（Inductive Reasoning）：从具体的例子中总结出一般性结论。比如，模型可能会从多个例子中总结出“太阳每天都会升起”这样的规律。
• 演绎推理（Deductive Reasoning）：从一般规则推出具体结论。例如，已知“所有人都会死”以及“苏格拉底是人”，因此得出“苏格拉底会死”。
• 类比推理（Analogical Reasoning）：通过比较两个事物之间的相似性得出结论。比如，模型可以通过类比“汽车是用于运输的工具”得出“飞机也是一种运输工具”的结论。

大模型主要依赖于归纳推理，它通过从大量数据中学习模式和规律，推导出符合逻辑的输出。

在大模型中，推理的一个关键概念是“推理链”（Chain of Thought）。这指的是模型逐步地、逻辑性地推导出最终结论的过程。推理链让模型可以处理多步骤的任务，而不是简单地生成一个孤立的答案。

推理链的步骤

• 首先，模型接收到问题或输入。
• 接着，模型分析问题的不同部分并通过前后信息的联系，逐步推导出中间结论。
• 最终，经过多步骤推导，模型得出最终的推理结论。

实例展示：假设模型接收到的问题是“今天是周三，两天后是星期几？”模型通过推理链的形式，首先确定今天是周三，然后一步步推导出两天后是周五。这中间涉及多个推导步骤，而不仅仅是简单的预测。

密文的推理链：https://openai.com/index/learning-to-reason-with-llms/

总结

随着人工智能技术的飞速发展，从最初的机器学习到深度学习，再到如今的先进大语言模型如GPT-3和GPT-4o1，我们不仅看到了技术的进步，还感受到这些模型的发展为我们人类的学习和思考方式带来了深刻的启示。

机器学习：有效的学习方式在于特征提取与模式识别

• 启示：机器学习的核心任务是从数据中提取有效的特征，并识别隐藏在数据中的模式。这为人类的学习提供了一个重要的借鉴：在面对复杂问题时，我们要善于从海量的信息中提炼出关键点和核心概念，这样才能高效学习和理解事物的本质。
• 类比：人类的学习也可以通过训练自己识别重要的模式和关键点，减少对无效信息的关注。这意味着我们在阅读或学习时，不应囫囵吞枣，而是要有策略地提炼信息，将重点聚焦在能解决问题的关键部分。

深度学习：逐层抽象和自主探索

• 启示：深度学习中的多层神经网络展示了逐层抽象的学习方法，即从简单的特征（如边缘或线条）逐步抽象出更复杂的模式（如形状、物体等）。这告诉我们，复杂问题的解决往往需要层层深入，并且逐步抽象出核心概念。
• 类比：在人类的学习过程中，我们同样需要具备分步骤的学习能力。从基础知识入手，逐步加深理解，通过不断提升层次来掌握复杂问题。正如我们学数学，先要掌握基本运算，再学会解决复杂方程，最终理解高级数学中的抽象概念。

大语言模型：多样化思维与推理能力

• 启示：大语言模型如GPT-3和GPT-4o1展示了惊人的语言理解与生成能力，尤其是推理和生成复杂的自然语言。这说明，多样化的思维方式和逻辑推理能力是理解世界的重要工具。
• 类比：人类可以通过模仿大语言模型的推理过程，进行链式思维训练（Chain of Thought），从多个角度看待问题，逻辑推理和批判性思考应该成为我们日常思考的一部分。我们不仅要能提出问题，还要能逐步推理、拆解问题，直到找到合理的解决方案。

GPT-4o1：预测与推理的深度结合

• 启示：GPT-4o1的核心突破在于预测与推理能力的深度结合。它能够通过对大量信息的分析，做出高精度的预测，并通过多步推理形成连贯的解释。对人类而言，这告诉我们，在学习和思考时，既要注重前瞻性（预测未来可能的发展），也要注重逻辑推理，通过系统化的推理帮助我们解决问题。
• 类比：人类在面对复杂情境时，既要能够快速做出预测，了解可能的发展方向，同时也需要依靠推理能力，透过现象看到本质。学习如何平衡这两者，是提高学习能力和解决问题能力的关键。

人工·智能的未来与人类学习的融合

• 启示：随着大语言模型的发展，人工智能已经不仅仅是一个工具，而是成为了促进人类学习和思考的合作伙伴。通过与AI互动，人类能够更高效地获取信息、提升解决问题的能力，并借助AI的推理能力进行复杂的思维探索。
• 类比：人类未来的学习将不再是孤立的个体行为，而是与AI协同发展的过程。我们可以通过AI辅助学习、借助模型进行推理和创新性思维。这为未来的教育和学习方式打开了新的大门——AI不仅是工具，更是学习的合作伙伴。

小结

从机器学习、深度学习到大语言模型的发展，人工智能带给人类的启示是显而易见的。我们可以通过借鉴这些模型的思维方式来提升自己的学习能力和思考能力。无论是特征提取的高效性、层层抽象的学习方式，还是推理和预测的结合，都为我们应对复杂问题提供了新的视角和方法。未来，人类与AI的协同学习模式，将会帮助我们更好地适应信息社会，提升个人的思维深度和广度。

License

本文采用 署名-非商业性使用-相同方式共享 4.0 国际 许可协议，转载请注明出处。

Share