% 第二章：相关技术介绍

\section{相关技术介绍}

\subsection{大型语言模型 (LLM)}

\subsubsection{LLM 的起源、发展历程和关键里程碑事件}

大型语言模型（LLM）作为一种重要的人工智能形式，其核心目标在于理解、生成并与人类语言进行交互。这些模型通过在海量数据集上进行训练，使其能够应对广泛领域的问题，包括科学、技术、艺术和文化等，从而成为信息检索、内容创作和自然语言理解的关键工具。LLM 的构建基于机器学习技术，特别是 Transformer 模型。Transformer 模型模仿人脑的神经元网络，旨在识别数据中的模式并从中学习。LLM 对大规模文本数据的依赖使其能够捕捉语言的复杂模式、语法规则和语义关系。

LLM 的历史可以追溯到 19 世纪后期。1883 年，法国语言学家米歇尔·布雷亚尔对语言结构及词语间关系进行了探讨，其工作为 Java 和 Python 等编程语言奠定了基础，并改进了计算机理解人类语言的方式，进而简化了人机通信。二战后，随着人们对基于自然语言处理（NLP）系统的兴趣日益浓厚，LLM 模型的发展得以延续。NLP 是一种使计算机能够理解、解释和创建人类语言的人工智能技术。这种兴趣的驱动力源于对高效语言翻译的需求，以促进国际交流和贸易。20 世纪 60 年代，麻省理工学院的科学家约瑟夫·魏泽鲍姆创建了 ELIZA，这被认为是第一个使用 NLP 的程序。该程序能够根据用户输入的关键词给出预先确定的响应。随着时间的推移，经过训练的 LLM 能够处理更复杂的数据，尤其是在 20 世纪 90 年代计算机性能显著提升之后。

词语表示方式是 LLM 工作方式中的一个重要环节。传统的机器学习方法使用数字表格表示词语，但这种方法的局限性在于无法识别词语之间的关系。词嵌入技术通过使用神经网络模型在海量文本数据上训练解决了这一问题。训练过程调整嵌入，使模型能够根据上下文预测词语，确保出现在相似上下文中的词语具有相似的嵌入。ChatGPT 及类似的 GPT 模型采用自注意力机制来提升理解和响应生成能力，该机制帮助模型聚焦于输入中的相关部分，并评估每个词语在上下文中的重要性。这些模型最初在大量文本数据上以无监督方式进行预训练，以学习语言模式、上下文和细微差别。在此预训练阶段，模型通过考虑前文词语来预测句子中的下一个词语。

2017 年，Transformer 模型的引入标志着 LLM 发展的一个重要转折点。基于自注意力机制的 Transformer 架构能够有效处理长序列数据并实现并行计算，为训练更大规模的语言模型铺平了道路。2018 年，谷歌发布了 BERT（Bidirectional Encoder Representations from Transformers），这是一个早期且颇具影响力的 LLM，在自然语言理解任务中取得了显著进展。同年，OpenAI 发布了 GPT-1（Generative Pre-trained Transformer），展示了使用 Transformer 架构生成连贯文本的能力。

随后的几年里，LLM 的规模和能力持续增长。2019 年，OpenAI 发布了 GPT-2，其生成文本的说服力更强，引发了关于其潜在恶意使用的讨论。2020 年，OpenAI 推出了拥有 1750 亿参数的 GPT-3，在语言理解和生成方面达到了前所未有的水平，并成为 ChatGPT 的基础模型。2022 年 11 月，OpenAI 发布了面向消费者的基于浏览器的聊天机器人 ChatGPT，迅速引起了公众的广泛关注。2023 年，OpenAI 发布了 GPT-4，该模型在准确性方面有所提升，并具备了多模态能力。除 OpenAI 的模型外，其他机构也开发了诸多主流 LLM，例如谷歌的 BERT、XLNet、PaLM 和 Gemini 系列，Meta 的 Llama 系列，以及 Anthropic 的 Claude 系列。此外，BLOOM 和 LLaMA 等开源 LLM 的出现进一步推动了该领域的发展。

LLM 发展历程中，参数规模的扩大是一个显著趋势。从最初的几百万参数发展到如今的数千亿甚至万亿参数，模型规模的增长带来了性能的显著提升，使得 LLM 在各种任务中展现出强大的能力。同时，训练数据的规模也呈指数级增长，从早期的数十亿词语到现在的数万亿 tokens，涵盖了广泛的文本和代码数据。这一趋势被称为“新的摩尔定律”。除了规模的增长，LLM 的能力也经历了显著演变。早期的 LLM 主要擅长文本生成和补全等任务。随着模型发展，它们逐渐展现出更高级的能力，例如进行复杂推理、解决数学问题、翻译语言，甚至编写代码。近年来，多模态 LLM 的出现扩展了 LLM 的应用范围，使其能够处理和生成文本、图像、音频等多种类型数据。 \textbf{表 \ref{tab:llm_milestones}} 总结了 LLM 发展中的关键里程碑事件。

		
\begin{table}[!ht]
	\centering
	\caption{LLM 发展中的关键里程碑事件}
	\label{tab:llm_milestones}
	\begin{tabular}{|>{\centering\arraybackslash}m{1.5cm}|>{\centering\arraybackslash}m{2.5cm}|m{10cm}|}
		\hline
		% 表头保持原样，已使用 \multicolumn 实现横向居中
		\multicolumn{1}{|c|}{\textbf{年份}} & \multicolumn{1}{c|}{\textbf{里程碑}} & \multicolumn{1}{c|}{\textbf{重要性}} \\ \hline
		1966 & ELIZA & 第一个使用 NLP 的聊天机器人，基于关键词模拟对话。 \\ \hline
		2017 & Transformer 架构 & 引入自注意力机制和平行处理，使得模型更加高效和上下文感知。 \\ \hline
		2018 & BERT & 第一个突破性的 LLM，在自然语言理解方面取得了显著进展。 \\ \hline
		2018 & GPT-1 & 第一个使用 Transformer 架构进行生成文本的概念验证。 \\ \hline
		2019 & GPT-2 & 展示了生成令人信服的文本的能力，引发了关于潜在滥用的担忧。 \\ \hline
		2020 & GPT-3 & 参数规模显著增大（1750 亿），展示了前所未有的语言理解和生成能力，成为 ChatGPT 的基础。 \\ \hline
		2022 & ChatGPT & 面向消费者的应用程序，凭借其对话能力使 LLM 引起了主流关注。 \\ \hline
		2023 & GPT-4 & 多模态模型，具有更高的准确性和推理能力。 \\ \hline
		2023 & LLaMA & 流行的开源 LLM，推动了 AI 的普及。 \\ \hline
		2025 & DeepSeek-R1 & 在美国境外开发的高性能开源推理模型，凸显了 LLM 开发领域日益激烈的全球竞争。 \\ \hline
		2025 & Claude 3 & GPT 模型的竞争者，强调乐于助人、诚实和无害，具有强大的推理和多模态能力。 \\ \hline
		2025 & Gemini & 一系列多模态 AI 模型，旨在跨不同设备运行并涵盖广泛的用途，包括推理。 \\ \hline
	\end{tabular}
\end{table}

\subsubsection{LLM 辅助编码}
大型语言模型在辅助软件开发和编码方面展现出巨大的潜力。它们通过理解和生成代码，可以显著提高开发效率并改善代码质量。LLM 在代码生成、代码补全、错误检测与修复等多个方面都有具体的应用。

在代码生成方面，LLM 能够根据自然语言描述生成代码片段甚至完整的函数。开发者可以使用自然语言描述所需功能，LLM 即可生成相应的代码，从而加速开发过程。例如，开发者只需描述一个排序算法，LLM 就能生成相应的代码实现。一些知名的 LLM，如 OpenAI 的 Codex、Meta 的 Code Llama 和 Google 的 PaLM 2，都经过专门优化用于代码生成。此外，LLM 还可以生成代码文档和注释，提高代码可读性和可维护性。

代码补全是 LLM 在编码辅助方面的另一重要应用。LLM 能够根据已有代码上下文，预测并建议接下来可能需要的代码片段或整行代码，甚至生成完整的函数或类。GitHub Copilot、Tabnine 和 Replit Ghostwriter 等工具通过集成到集成开发环境（IDE）中，为开发者提供实时的代码建议，显著提高了编码效率。LLM 能够理解多种编程语言的语法、编码风格和编程实践，从而提供更智能、更准确的补全建议。

在错误检测与修复方面，LLM 也展现出强大能力。LLM 可以分析代码，识别潜在的错误模式或问题，帮助开发者快速找到并修复 bug。它们能够理解代码的语法、编码风格和编程实践，从而识别出代码中的错误和潜在漏洞。一些研究表明，LLM 甚至能够根据错误信息和上下文生成修复代码的建议。然而，需要注意的是，LLM 生成的代码可能并非总是完美，仍需要开发者进行审查和验证。

综上所述，大型语言模型正日益成为软件开发过程中不可或缺的辅助工具。它们通过代码生成、代码补全和错误检测与修复等功能，极大地提升了开发效率和代码质量。随着 LLM 技术的不断发展，其在软件开发领域的应用前景将更加广阔。

\subsection{提示工程技术}
提示工程（Prompt Engineering）是指设计和优化输入提示（prompts）的过程，以有效地引导人工智能模型，特别是大型语言模型（LLMs），产生期望的输出。由于生成式 AI 旨在模仿人类，需要详细指令才能创建高质量和相关的输出。提示工程通过选择最合适的格式、短语、词语和符号来指导 AI 更有效地与用户交互。熟练的提示工程师设计能够与生成式 AI 工具中其他输入进行最佳交互的输入，从而帮助从 AI 模型中获得更好的答案。

提示工程的重要性体现在，精心设计的提示可以显著提高 LLM 的性能，使其能够更准确地理解用户意图并生成更相关、高质量的回复。通过提供清晰指令、相关上下文信息和具体格式要求，提示工程师能够引导 LLM 朝期望方向生成内容，最大限度发挥模型潜力。良好的提示工程还可以减轻 LLM 训练数据中可能存在的偏见，并提高用户与 AI 交互效率。

提示工程涉及多个关键原则。首先，清晰性和具体性至关重要。提示应明确定义任务或问题，避免含糊措辞，提供足够背景信息或示例以指导模型理解，并指定期望的输出格式、长度、风格和语气。其次，提供上下文对于引导模型生成更相关、精确的输出至关重要。这包括提供相关事实、数据或参考文档，并定义关键术语和概念。第三，使用示例（即少样本提示）是一种强大技术，可以通过展示期望的输入-输出对来指导模型响应。第四，迭代和实验是提示工程的关键部分。通过尝试不同措辞、格式和结构，并根据模型反馈进行调整，可以逐步优化提示以获得更好结果。第五，将复杂任务分解为更小的、可管理的部分，并通过一系列相互关联的提示引导模型完成整个过程，可以提高处理复杂问题的能力。此外，还可以通过赋予模型特定角色或身份来引导其生成更符合特定视角的响应。

\subsection{模型量化技术}
模型量化（Model Quantization）是大型语言模型（LLMs）中使用的一种技术，旨在将高精度数据（通常是 32 位浮点数 (FP32) 或 16 位浮点数 (FP16)）的权重和激活值转换为低精度数据类型，如 8 位整数 (INT8) 或 4 位整数 (INT4)。模型量化的主要目的是减少模型的内存占用、提高推理速度并降低能耗，使其更易于部署在资源受限的设备上，如移动设备或边缘服务器。

模型量化通过减少表示模型参数所需的比特数来实现这些目标。从数学角度看，量化过程可以表示为将浮点值映射到整数值的过程。对于线性量化，这一过程可以用以下公式表示：

\begin{equation}
    q = \text{round}\left(\frac{r - r_{\text{min}}}{s}\right)
\end{equation}

其中，$q$ 是量化后的整数值，$r$ 是原始浮点值，$r_{\text{min}}$ 是浮点值的最小值，$s$ 是量化比例因子（scale factor）。反量化过程则可以表示为：

\begin{equation}
    \hat{r} = s \cdot q + r_{\text{min}}
\end{equation}

其中，$\hat{r}$ 是反量化后的浮点值，通常与原始值 $r$ 存在一定的量化误差 $\epsilon = r - \hat{r}$。

这种转换显著降低了存储模型所需的内存空间，并且由于低精度运算通常比高精度运算更快，因此可以提高模型的推理速度。此外，更快的计算和减少的内存访问通常会降低功耗，这对于电池供电的设备尤其重要。

模型量化有多种不同的技术，主要可分为以下几类：

\textbf{训练后量化 (Post-Training Quantization, PTQ)}：这种方法在模型完成训练后应用量化，将模型权重从浮点表示转换为低精度定点整数，无需重新训练。对于权重 $W$ 的线性量化可表示为：

\begin{equation}
    W_q = \text{round}\left(\frac{W - W_{\text{min}}}{s_W}\right), \quad s_W = \frac{W_{\text{max}} - W_{\text{min}}}{2^n - 1}
\end{equation}

其中，$W_q$ 是量化后的权重，$n$ 是量化位数（如 INT8 中的 8），$s_W$ 是量化比例因子。PTQ 实现简单快捷，但可能导致一定性能下降。PTQ 可进一步分为静态量化和动态量化。静态量化在量化时使用校准数据确定激活值范围并适当缩放。动态量化仅量化权重，而激活在推理期间保持较高精度，并根据运行时观察到的范围动态量化。

\textbf{量化感知训练 (Quantization-Aware Training, QAT)}：这种方法在模型预训练或微调期间引入权重转换，允许模型在训练过程中适应低精度表示。在前向传播过程中，QAT 使用量化操作的可微分近似：

\begin{equation}
    \tilde{W} = W + \text{stop\_gradient}(\text{fake\_quant}(W) - W)
\end{equation}

其中，$\text{fake\_quant}$ 是量化-反量化操作，$\text{stop\_gradient}$ 确保梯度不通过量化操作传播。QAT 通常比 PTQ 产生更高性能，但需要大量计算资源和代表性训练数据。

\textbf{权重共享 (Weight Sharing)}：涉及对相似权重进行聚类并共享相同的量化值，减少唯一权重数量，进一步压缩模型。对于 $k$ 个聚类中心 $C = \{c_1, c_2, \ldots, c_k\}$，权重 $W$ 被映射到最近的聚类中心：

\begin{equation}
    W_q = \arg\min_{c \in C} ||W - c||^2
\end{equation}

\textbf{混合精度量化 (Mixed Precision Quantization)}：在训练或推理过程中使用不同数值精度的组合（例如 FP16 和 FP32），以在性能和精度之间取得平衡。

\textbf{二值化和三值化 (Binary and Ternary Quantization)}：将权重分别量化为两个值（+1 和 -1）或三个值（+1、0 和 -1），是极端的量化形式。二值化可表示为：

\begin{equation}
    W_b = \text{sign}(W) = \begin{cases}
        +1, & \text{if } W \geq 0 \\
        -1, & \text{if } W < 0
    \end{cases}
\end{equation}

这些极端量化形式显著减小模型尺寸和计算复杂度的同时，精度下降也更明显。

不同的量化级别（如 INT8 和 INT4）对模型性能和资源消耗影响不同。一般来说，更低的量化级别（例如从 INT8 到 INT4）可以进一步减少模型大小并提高推理速度，但通常会导致更大精度损失。量化误差可以通过以下方式进行分析：

\begin{equation}
    \epsilon = W - \hat{W} = W - (s_W \cdot W_q + W_{\text{min}})
\end{equation}

其中，$\epsilon$ 是量化误差，$W$ 是原始权重，$\hat{W}$ 是反量化后的权重。对于均匀分布的权重，量化误差的方差可以近似为：

\begin{equation}
    \text{Var}(\epsilon) \approx \frac{s_W^2}{12}
\end{equation}

这表明量化比例因子 $s_W$ 越大，量化误差也越大。对于 $n$ 位量化，内存占用和原始 32 位浮点表示相比可以减少：

\begin{equation}
    \text{内存减少比例} = \frac{32 - n}{32} \times 100\%
\end{equation}

例如，8 位量化可以减少 75\% 的内存占用，而 4 位量化可以减少 87.5\% 的内存占用。

INT8 量化通常被认为是性能和精度之间的良好折衷方案，可在保持较高模型准确性的同时，显著降低内存占用和提高推理速度。INT4 量化更为激进，可实现更高压缩率和更快速度，但通常伴随更明显精度下降，更适用于对资源限制非常严格但对精度要求相对较低的场景。选择合适的量化技术和级别需要在模型大小、推理速度和精度之间进行权衡，通常取决于具体应用场景和硬件条件。

\subsection{QLoRA 微调方法}
QLoRA（Quantization-aware Low-Rank Adaptation）是一种高效微调大型语言模型（LLMs）的方法，它结合了量化和低秩自适应技术，旨在在资源受限的情况下实现与全精度微调相当的性能。QLoRA 的主要原理是在微调过程中冻结预训练 LLM 的权重并将其量化为 4 位精度，然后引入少量可训练的低秩适配器（Low-Rank Adapters, LoRA）。微调期间，梯度通过冻结的 4 位量化预训练语言模型反向传播到这些低秩适配器中。

QLoRA 引入了多项创新技术以在节省内存的同时不牺牲性能。首先是 4 位 NormalFloat (NF4) 数据类型，这是一种专为正态分布权重设计的新数据类型，在信息论上最优，并在实证研究中优于 4 位整数和 4 位浮点数。NF4 基于分位数化，确保每个量化区间分配相等数量的输入张量值，从而有效利用内存。其次是双重量化 (Double Quantization)，通过对第一步量化的量化常数再次进行量化，进一步减少平均内存占用，在不显著损失性能的情况下节省额外内存。最后是分页优化器 (Paged Optimizers)，利用 NVIDIA 统一内存特性管理训练期间的内存峰值，特别是在处理长序列的小批量数据时，从而避免内存不足错误。

QLoRA 的主要优势在于其能够在资源受限情况下实现高效微调。通过将预训练模型量化到 4 位并仅训练少量低秩适配器，QLoRA 显著降低了微调所需的 GPU 内存。例如，QLoRA 能够将微调一个 650 亿参数模型的平均 GPU 内存需求从超过 780GB 降低到低于 48GB，且不降低运行时或预测性能。这使得在单个消费级 GPU 上微调大型模型成为可能，从而大大降低了微调 LLM 的门槛。研究表明，使用 QLoRA 微调的 LLM 在各种任务上可以达到与全精度微调相当甚至更好的性能。

低秩适配器（LoRA）是 QLoRA 的关键组成部分。LoRA 的核心思想是，大型预训练模型在适应下游任务时，其权重变化具有低秩特性。因此，LoRA 冻结原始预训练模型的权重，并在每个 Transformer 层的自注意力模块中注入两个小的低秩矩阵（A 和 B）。LoRA 的数学原理可以表示为：

\begin{equation}
    W = W_0 + \Delta W = W_0 + BA
\end{equation}

其中，$W_0 \in \mathbb{R}^{d \times k}$ 是预训练模型中的原始权重矩阵，$\Delta W = BA$ 是低秩更新，$B \in \mathbb{R}^{d \times r}$，$A \in \mathbb{R}^{r \times k}$，且秩 $r \ll \min(d, k)$。通过这种方式，原本需要训练 $d \times k$ 个参数，现在只需要训练 $r \times (d + k)$ 个参数。例如，当 $d = k = 1000$ 且 $r = 8$ 时，可训练参数数量从 $10^6$ 减少到约 $1.6 \times 10^4$，减少了约 98.4\%。

微调过程中仅更新这些低秩矩阵的参数，原始模型的权重保持不变。这大大减少了需要训练的参数数量，从而降低了计算成本和内存需求。LoRA 的线性设计也确保与完全微调的模型相比，不会引入额外推理延迟。在推理阶段，可以将低秩更新与原始权重合并：$W = W_0 + BA$，从而不增加模型的推理延迟。QLoRA 通过结合量化和 LoRA，为在资源受限环境中高效微调大型语言模型提供了有力方法，使得研究人员和从业人员能够更容易利用和定制最先进的 LLM，推动 NLP 领域进一步发展。

\subsection{Unsloth 算子}

Unsloth 是一个开源软件，旨在简化大型语言模型（LLMs）的微调过程。它提供用户友好的界面和强大功能，可帮助 AI 开发初学者和专家轻松管理资源、优化性能并集成各种 AI 工具以提高模型准确性。Unsloth 的核心优势在于其能够显著加速 LLM 的训练和推理过程，同时降低内存使用。

Unsloth 通过手动推导所有计算密集型数学步骤并编写自定义 GPU 内核来实现加速，而无需更改硬件。它支持 NVIDIA 自 2018 年以来的各种 GPU，包括 Tesla T4 到 H100，并可移植到 AMD 和英特尔 GPU。Unsloth 还与 Hugging Face 的 Transformers 库无缝集成，并支持其 TRL、Trainer 和 Seq2SeqTrainer 类。

Unsloth 的主要特点和优势包括：加速微调：能够将 LLM（如 Llama、Mistral、Gemma 和 Phi）的微调速度提高 2 倍以上，某些情况下甚至高达 30 倍。降低内存使用：显著减少微调过程中 VRAM 消耗，通常可减少高达 70\%-90\% 的内存使用，使得在有限 GPU 资源的机器上微调更大模型成为可能。零精度损失：声称在使用 QLoRA（4 位）和 LoRA（16 位）进行微调时不会造成精度下降。广泛模型支持：支持各种流行 LLM 架构，包括 Llama（版本 1、2 和 3）、Mistral、Gemma 和 Phi-3，以及 Mixtral、MOE、Cohere 和 Mamba 等所有模型。多种训练算法支持：除标准微调外，还支持强化学习技术，如 DPO、GRPO、PPO、奖励建模和在线 DPO，以及 KTO 和 DoRA 训练算法。动态 4 位量化：引入动态 4 位量化方法，旨在提高准确性，同时仅比标准 BnB 4 位量化多使用不到 10\% 的 VRAM。优化内核：所有核心操作均使用 OpenAI 的 Triton 语言编写，并具有手动反向传播引擎，提高了性能。易于使用和集成：提供易于使用的笔记本，用户可快速开始微调模型，并与 Hugging Face 生态系统无缝集成。更快推理：对其支持的所有模型实现 2 倍更快的推理速度。模型导出：微调后模型可轻松导出为 GGUF、Ollama、vLLM 和 Hugging Face 等各种格式。Windows 支持：可在 Linux 和 Windows 上运行。Unsloth 通过优化内存使用和速度，使得在资源有限环境中进行 LLM 微调和推理变得更容易、更高效，推动了 LLM 技术的更广泛应用。

\subsection{Gradio 框架}

Gradio 是一个开源 Python 包，允许用户快速构建机器学习模型、API 或任何任意 Python 函数的演示或 Web 应用程序。用户可以使用 Gradio 的内置共享功能在几秒钟内分享其演示或 Web 应用程序的链接。该框架无需 JavaScript、CSS 或 Web 托管经验。

Gradio 的主要功能包括：快速简便设置：通过 \texttt{pip} 安装，在项目中添加几行代码即可创建 Gradio 界面。与任何 Python 库无缝使用：只要用户能编写 Python 函数，Gradio 即可运行。展示和共享：可嵌入 Python 笔记本或作为网页呈现。Gradio 界面可自动生成公共链接，方便用户与同事共享，使其能远程与用户计算机上的模型交互。永久托管：创建界面后，可永久托管在 Hugging Face Spaces 上，Hugging Face 将在服务器上托管界面并提供共享链接。使用 \texttt{gr.Interface} 构建演示：\texttt{gr.Interface} 是高级类，旨在为接受一个或多个输入并返回一个或多个输出的机器学习模型创建演示。它接受三个核心参数：\texttt{fn}：要包装用户界面的函数，通常是机器学习模型的预测函数；\texttt{inputs}：用于输入的 Gradio 组件，数量应与函数参数数量匹配；\texttt{outputs}：用于输出的 Gradio 组件，数量应与函数返回值数量匹配。使用 \texttt{gr.Blocks} 构建自定义演示：对于更可定制的布局和数据流，Gradio 提供使用 \texttt{gr.Blocks} 类的低级方法。Blocks 支持控制组件显示位置、处理多个数据流和更复杂交互（例如输出作为其他函数输入），以及根据用户交互更新组件属性/可见性。使用 \texttt{gr.ChatInterface} 构建聊天机器人：包含高级类 \texttt{gr.ChatInterface}，专用于创建聊天机器人 UI。用户提供函数，Gradio 将创建功能齐全的聊天机器人 UI。Gradio Python 和 JavaScript 生态系统：不仅是 UI 库，更是通过 UI 和 API 与机器学习模型交互的框架，在性能、安全性、响应能力方面提供强大保证。包含用于以编程方式在 Python 或 JavaScript 中构建或查询机器学习应用的完整 Python 和 JavaScript 库生态系统。Gradio Sketch：无需代码即可构建 Gradio 应用，只需在终端中键入 gradio sketch 即可打开编辑器，允许用户通过 Web 编辑器定义和修改组件、调整布局、添加事件。流式输出：通过使用 \texttt{yield} 语句的简单 Python 生成器提供流式传输，支持令牌到令牌的文本生成流式传输、逐步图像生成更新，甚至通过 HTTP Live Streaming (HLS) 协议实现流畅音频/视频流式传输。Gradio 框架的主要优势在于其易用性、灵活性以及与机器学习生态系统的强大集成，使其成为构建和共享机器学习模型演示的理想选择。