文章列表
把学到的知识整理成文章分享出来，既能巩固记忆，也能帮助他人。这里是已发布的文章。
-
上下文窗口到底是什么：从"看得到"到"算得起"
聊长文本之前，先把 上下文窗口（context window） 这个概念掰开。它指的是模型在一次生成过程中"同时能看到" -
MiMo 的核心定位：面向中文与效率优化的轻量级选手
小米 MiMo 大模型是小米公司研发的一系列大语言模型。与众多追求参数规模的“巨型”模型不同，MiMo 在设计之初就明确 -
AI 编程助手到底改变了什么
用了一年多 Copilot、Claude、Cursor 之后，我的一个朴素感受是：它几乎没有提高我的打字速度，却大幅降低 -
为什么推理优化是必经之路？
训练好的大模型就像一个满腹经纶的学者，但要让他快速、经济地回答问题（推理），却面临巨大挑战。原始模型动辄数十GB，加载到 -
从“看”到“理解”：图文多模态的核心意义
当我们观察世界时，大脑会自动将视觉信息（如图像、文字）与我们已有的知识、语言和概念联系起来，形成综合理解。例如，看到一张 -
为什么"搜不到"往往是"想不到"
传统检索（比如 BM25、倒排索引）本质上是在做词面匹配：查询里出现的词，在文档里也出现过，而且出现得越集中、越稀有，得 -
为什么我们需要“温度”？
在与大模型（如 MiMo API）交互时，我们通常希望它的输出既具备创造性，又能在需要时保持稳定。模型每次生成一个词（t -
Agent（智能体）是什么？一个自主行动的“决策者”
当我们谈论Agent（智能体） 时，它并不是一个全新的、遥不可及的概念。你可以把它想象成一个拥有自主性的“数字实体”。它 -
Token：大模型的“字词”单位
当我们向ChatGPT、文心一言等大模型提问时，模型并不是直接阅读我们的“文字”。在模型内部，它处理的是更小的、标准化的 -
Prompt 设计的基本原则：明确性优于复杂性
在与大模型交互时，许多初学者容易陷入一个误区：认为提示词（Prompt）写得越长、越“高级”，模型就越能理解。事实上，清 -
为何我们需要关注「长上下文」？
在大型语言模型（LLM）的应用中，上下文窗口（Context Window）是模型一次能处理文本信息的总容量，就像我们人 -
MiMo 是什么：一个为“端侧”而生的大模型
首先，要理解小米的 MiMo 模型，核心关键词在于 “端侧”。不同于许多在云端数据中心运行的“巨型”模型（如GPT-4、 -
从“思考瓶颈”到“编码执行”
在引入 GitHub Copilot、Cursor 或 CodeWhisperer 等 AI 编程助手之前，我的典型开发 -
现状与挑战：为何大模型需要优化
当前，以GPT、LLaMA等为代表的大语言模型展现出了惊人的能力。然而，这些模型通常拥有数十亿甚至数千亿的参数量，直接部 -
何为“图文理解”：从分离到融合的范式革命
在深度学习早期，计算机视觉（CV）与自然语言处理（NLP）几乎是两个独立发展的领域。图像模型专注于分类、检测，文本模型则 -
从“查字典”到“理解含义”：Embedding 的核心思想
在深度学习领域，Embedding 可以理解为一种将离散的、高维的、无序的符号（比如一个词、一个用户ID、一个商品类别） -
温度与采样：随机性与创造力的开关
当我们调用 MiMo 这样的大语言模型 API 时，模型并非在“写作”，而是在进行一个复杂的概率计算。对于当前已生成的文 -
先搞清楚：Agent 到底是什么
很多人第一次听到 Agent（智能体），会觉得它是一个很玄的概念，好像必须是某种「会自己干活的机器人」。但如果把它拆开看 -
什么是 Token？为什么不是字数或单词？
当我们与大模型（如GPT、文心一言）对话时，输入的文本和输出的文本并不是以我们熟悉的“字”或“词”为单位进行处理的，而是 -
理解提示词的本质：与模型沟通的精确指令
在学习具体技巧前，我们首先要建立一个核心认知：提示词（Prompt） 不是随口一说的“咒语”，而是给大模型下达的、结构化 -
先把"256k 上下文窗口"这件事说清楚
所谓 上下文窗口（context window），指的是模型在一次推理中能"看见"的 token 总量上限，它同时包含你 -
初识 MiMo：不止于对话的“小米智能底座”
在众多大模型中，小米的 MiMo（Mi Model）系列模型扮演着一个独特的角色。它并非一个孤立的、仅供聊天的玩具，而是 -
AI 编程助手的核心角色：从“编写者”到“协作者”
首先，我们必须明确一点：当前的 AI 编程助手（如 GitHub Copilot、ChatGPT、CodeWhisper -
先想清楚：推理优化到底在优化什么
很多人做推理优化只盯着「模型变小」，其实大模型服务的瓶颈是一个三角形：显存占用（Memory）、吞吐（Throughpu -
多模态能力，特别是图文理解，是当前大模型发展最激动人心的方向之一。它突破了传统单模态模型的限制，让机器能够像人一样，同时处理和理解文本与图像信息。这篇学习笔记将梳理这一技术的发展脉络、核心方法和实践思考。
多模态能力，特别是图文理解，是当前大模型发展最激动人心的方向之一。它突破了传统单模态模型的限制，让机器能够像人一样，同时 -
在信息爆炸的时代，如何从海量文本中快速找到“对味”的内容？传统关键词匹配已捉襟见肘。本文将带你深入理解其背后的“魔法”——**Embedding 向量**与**语义检索**，看看它们是如何让机器真正“读懂”文字的。
在信息爆炸的时代，如何从海量文本中快速找到“对味”的内容？传统关键词匹配已捉襟见肘。本文将带你深入理解其背后的“魔法”— -
温度是什么？为何它如此关键？
在与大语言模型交互时，温度（Temperature） 是我们最常遇到、也最容易感到困惑的核心采样参数之一。它并非物理温度 -
破题：从“聊天”到“行动”——Agent 的核心是什么？
当我们谈论大语言模型（LLM）时，首先想到的往往是对话和文本生成。我们向它提问，它返回答案。这个过程，本质上是一个被动的 -
什么是 Token？大模型眼中的“文字积木”
当我们与 ChatGPT 或其他大语言模型（LLM）对话时，输入和输出的并非一串字符，而是一段 Token 序列。你可以 -
在与大模型交互时，我们输入的文字被称为 **Prompt（提示词）**，而精心设计提示词以引导模型产出符合预期结果的技艺，就是 **Prompt Engineering（提示词工程）**。它并非简单的“提问”，而是一种更接近于“编程”或“沟通”的思维模式。本文将分享几个经过实战检验的实用技巧。
在与大模型交互时，我们输入的文字被称为 Prompt（提示词），而精心设计提示词以引导模型产出符合预期结果的技艺，就是 -
揭开“256k上下文窗口”的面纱
当我们谈论一个大语言模型（LLM）的“上下文窗口”（Context Window）时，我们指的是模型在单次推理（即一次对 -
初识 MiMo：一个“小而美”的端侧大模型新选择
MiMo 是小米公司开源的一个轻量化大语言模型系列。它的核心目标并非在参数规模上与 GPT-4、Claude 等巨头正面 -
AI 助手真正改变的，是「输入端」
用了一年多 Copilot、Cursor、Claude Code 之后，我最大的体会是：AI 并没有让我"写代码的手速" -
大模型推理的挑战：为何优化势在必行？
随着大语言模型（LLM）参数量突破千亿甚至万亿，其推理过程（即输入文本、生成回答的过程）面临严峻挑战。最直接的瓶颈在于显 -
多模态的“前世今生”：从各自为战到万物互联
在人工智能的发展历程中，视觉和语言长期处于“平行宇宙”状态。早期的计算机视觉模型专注于图像分类、目标检测，而自然语言处理 -
从单词到向量：Embedding 是什么？
传统的信息检索，比如搜索引擎，很大程度上依赖于关键词匹配。这就像在图书馆里找书，你只能通过精确的书名或作者名来查找。但如 -
理解“温度”：模型创意的“开关”
在与大模型交互时，我们常常听到“温度（Temperature）”这个参数。它本质上是一个控制模型输出随机性的浮点数。一个 -
Agent 是什么？一个会“做事”的智能体
在 AI 领域，Agent（智能体） 不是一个全新的概念，但大模型的崛起赋予了它新的生命力。你可以把它想象成一个具有自主 -
大模型的“语言单元”：Token 是什么
在和大模型（比如 GPT、文心一言等）交互时，你输入和输出的文字并非以我们熟悉的“字”或“词”为基本单位，而是被切分成一 -
明确指令：提示词的核心基石
提示词工程的第一原则，也是最容易被忽略的一点，是清晰、具体地陈述你的需求。许多人习惯于模糊的指令，比如“写一篇文章”，然 -
什么是“256k 上下文窗口”？
简单来说，上下文窗口是大模型单次处理文本时所能“看到”和“记住”的信息容量，通常以 token（词元）为单位计算。一个 -
MiMo 的定位：一个专注“学以致用”的轻量化大模型
小米在人工智能领域布局深远，而 MiMo 便是其推出的一款大语言模型。与一些追求“全能”和“巨无霸”参数的模型不同，Mi -
从“样板代码”中解放：快速生成基础框架
在日常开发中，我们常常需要编写大量重复性的样板代码（Boilerplate Code），比如创建一个标准的 FastAP -
为什么我们需要关注推理优化？
当我们成功训练了一个动辄数十亿甚至上千亿参数的大语言模型（LLM）后，真正的挑战才刚刚开始：如何让这个“大脑”快速、经济 -
什么是多模态能力？从“看图说话”开始
大模型的多模态能力，简单来说，就是让模型能同时理解和处理来自不同“模态”的信息。最常见的就是视觉（图像/视频） 和语言（ -
为什么我们需要“向量化”文本？
我们每天都在处理文本，比如搜索引擎查找网页、电商平台推荐商品、或者在一堆文档里找最相关的段落。最直觉的方法可能是关键词匹 -
什么是“温度”？它如何控制模型的“创造力”？
在与 MiMo API 或其他大型语言模型交互时，temperature（温度）是一个至关重要的参数。你可以将它想象成调 -
从“工具”到“代理人”：重新认识 Agent
在讨论“智能体”之前，我们先要打破一个常见的误区：并非所有能处理任务的程序都是 Agent。一个传统的、确定性的脚本或 -
Token：大模型理解的最小单位
在大语言模型的世界里，Token 并不完全等同于我们直观理解的“字”或“单词”。它是一个更基础、更原子化的处理单元。简单 -
核心原则：将模型视为一个“角色扮演”的合作者
在开始构建复杂提示之前，我们必须理解 Prompt Engineering 的本质：你正在为一位能力极强但需要清晰指令的 -
什么是上下文窗口？256k 又意味着什么？
在大型语言模型中，“上下文窗口”是一个核心概念，它指的是模型单次调用时能够处理的最大文本长度。你可以把它想象成模型的“工 -
MiMo 的定位：面向未来的端云协同大模型
提到大语言模型，我们通常想到的是像 ChatGPT 或文心一言这样完全运行在云端的“巨无霸”。然而，小米自研的 MiMo -
从“工具”到“副驾驶”：认知的转变
在实践中，我发现提升效率的第一步并非是学习如何下达指令，而是调整对 AI 编程助手的预期和定位。最初，我把它当作一个更智 -
为何要优化？大模型推理的“成本之痛”
当我们成功训练出一个性能强大的大语言模型后，真正的挑战才刚刚开始。将模型部署到线上，为用户提供实时推理服务，会面临一个核 -
从“各自为政”到“握手言和”：早期多模态的探索
在深度学习发展的早期，处理图像和文本的模型几乎是两个独立的世界。图像领域由卷积神经网络（CNN） 主导，擅长提取图像的局 -
Embedding：从文本到“意义”的数字密码
我们日常用语言思考，但计算机只认数字。Embedding（嵌入）就是桥梁，它将人类可理解的单词、句子甚至整篇文章，转换成 -
理解核心：Temperature 参数的本质
当我们调用大语言模型的API时，本质上是在请求模型根据输入生成一段概率分布下的文本序列。Temperature（温度） -
什么是智能体 (Agent)？
我们可以把 智能体 理解为一个具备 自主性、交互性 和 目标导向性 的实体。它不仅仅是一个被动接收指令的模型，而是一个能 -
Token：大模型的“单词”与“货币”
在大语言模型的世界里，Token 是一个最基础且至关重要的概念。你可以把它简单理解为模型“阅读”和“生成”文本的基本单元 -
角色设定：给模型一个清晰的身份
Prompt 的首要任务是明确角色。与其直接问一个模糊的问题，不如先赋予模型一个具体的身份，比如“你是一位资深的Pyth -
从 8k 到 256k：上下文窗口为何是“核心战场”？
对于大模型（LLM）而言，上下文窗口就像是它的“工作记忆”或“短期记忆”。早期模型如 GPT-3 的 4k/8k tok -
MiMo的诞生：不止于“对话”的端云协同大模型
当我们谈论大模型时，常常默认它是庞大、集中、运行在云端的“超级大脑”。而小米 MiMo 的出现，打破了这一刻板印象。它并 -
代码生成与补全：从“写”到“选”的转变
在日常编码中，最直观的效率提升来自于代码生成与补全功能。以 Copilot、Tabnine 等为代表的 AI 助手，能根 -
为什么大模型需要“瘦身”？
随着大语言模型（LLM）参数规模突破百亿甚至千亿，直接将其部署到消费级GPU或边缘设备上变得几乎不可能。推理延迟和显存占 -
何为多模态大模型：超越文字的“感知”
当我们谈论大语言模型（LLM） 时，其核心能力是理解和生成文本。但人类对世界的认知是多模态的——我们同时通过眼睛（视觉） -
从单词到向量：什么是 Embedding
在传统计算机眼中，文本只是一串没有意义的字符。为了让机器“理解”语言，我们需要一种数学化的方法来表示文本的语义。这正是 -
温度（Temperature）参数详解
在调用MiMo这类大语言模型（LLM）的API时，temperature 是我们最常接触也最核心的可调参数之一。从技术上 -
好的，这是为你准备的学习笔记，内容聚焦于智能体（Agent）的概念及其与大模型（LLM）的共生关系。
好的，这是为你准备的学习笔记，内容聚焦于智能体（Agent）的概念及其与大模型（LLM）的共生关系。 -
什么是 Token？你的“输入输出”单位
在接触大模型 API 时，你最先遇到的计价单位几乎必然是 Token。它并非一个完整的单词，也不是一个字符，而是模型用来 -
理解 Prompt Engineering 的核心：与模型的有效对话
Prompt Engineering，直译为“提示词工程”，是设计和优化与大模型进行交互的文本指令（Prompt）的技术 -
MiMo 256k：重新定义大模型的“记忆”容量
在探讨 MiMo 的 256k 上下文窗口之前，我们得先理解“上下文窗口”是什么。你可以把它想象成大模型的短期记忆或工作 -
MiMo 的定位与核心价值
小米的大语言模型 MiMo 是小米“人车家全生态”战略下的智能基座之一。与许多追求参数规模至上的模型不同，MiMo 的核 -
代码补全与生成：从“打字员”到“指挥官”
AI 编程助手最直接的效率提升体现在代码补全与生成上。过去，我们编写大量重复性、模式化的代码（如数据模型、API 接口、 -
为什么我们需要量化与部署优化？
当我们训练好一个拥有数十亿甚至上百亿参数的大语言模型（LLM）后，真正的挑战才刚刚开始：如何让它高效、低成本地为用户提供 -
多模态大模型：不只是“能看会说”
传统的大语言模型（LLM）主要处理文本单一模态信息，能力虽强，但对这个视觉与语言交融的世界理解有限。多模态能力 的引入， -
从符号到语义：为什么需要 Embedding？
在计算机眼中，文字、图像、商品等万物最初只是一串符号或离散的 ID。我们无法直接计算“苹果”和“水果”之间的相似度。传统 -
初识温度：从“稳定”到“随机”的阀门
在与大模型交互时，我们常常会发现，即使输入相同的提示（Prompt），模型的输出也可能不尽相同。这其中的关键调控者之一， -
什么是智能体？从“工具”到“主体”的飞跃
我们常说的智能体（Agent），并不是某个具体的算法或模型，而是一种系统设计范式。你可以把它想象成一个拥有“大脑”和“四 -
什么是 Token？大模型世界的“原子货币”
当我们与ChatGPT、文心一言等大模型交互时，输入的文字并不是作为一个完整的句子被处理的。模型会先将文本切分成一个个的 -
什么是 Prompt Engineering？为什么它很重要？
Prompt Engineering，即提示词工程，是设计和优化输入给大语言模型（LLM）的文本（提示词，Prompt） -
MiMo 的 256k 上下文窗口：一个“记忆力”的突破
在讨论大语言模型（LLM）时，“上下文窗口”是一个核心概念。你可以把它想象成模型的“短期记忆”或“工作台”大小。传统的模 -
初识 MiMo：不只是聊天的大脑
提到大模型，我们最先想到的往往是 ChatGPT 或者 文心一言 这样的“全能选手”。而小米 MiMo 则有所不同，它从 -
从“逐字符输入”到“思路引导”的编码革命
在引入AI编程助手（如GitHub Copilot, Cursor, Codeium等）之前，我的编码过程高度依赖于肌肉 -
为什么要对大模型进行推理优化？
大模型拥有惊人的能力，但其庞大的参数量也带来了巨大的计算与内存开销。一个拥有数百亿参数的模型，仅权重就需要占据数百GB的 -
什么是“多模态”大模型？
我们常说的大语言模型（LLM），其核心能力是处理和生成文本。而“多模态”模型，则是在此基础上，增加了对其他类型信息的理解 -
从离散到连续：为什么需要 Embedding？
在计算机的世界里，文本、单词、图片等信息最初都是离散的符号。比如，“机器学习”和“深度学习”这两个词，在传统的字符串表示 -
初识生成中的“随机性开关”
当我们在使用 MiMo 或任何大语言模型 API 生成文本时，常常会遇到输出内容“太正经”或者“太发散”的情况。这背后的 -
什么是智能体？一个生动的比喻
我们可以把 智能体 想象成一个拥有自主决策能力的智能管家。它不只是被动地回答你的问题（像一个聊天机器人），而是能够主动感 -
理解 Token：大模型处理文本的基本单元
在深入探讨计费之前，我们必须先弄懂 Token。你可以把它理解为大语言模型（LLM）处理文本的最小单位，类似于我们读写时 -
明确指令：清晰是效率的基石
与大模型交互时，最基础也最重要的原则就是 “指令明确”。一个模糊的提问，比如“帮我写篇文章”，AI只能给出一个泛泛的通用 -
上下文窗口的“记忆”极限
在理解MiMo的256k上下文窗口之前，我们必须先弄清楚“上下文窗口”是什么。你可以把它想象成模型在回答你问题时，能一次 -
初识 MiMo：为什么说它“为中文而生”？
在讨论具体能力前，我们得先理解小米推出 MiMo（Mi Model）系列大模型的核心出发点。与许多通用开源模型不同，Mi -
告别“提笔忘字”，快速生成样板代码
在日常开发中，我们经常需要编写大量重复性的样板代码（Boilerplate Code），例如读写文件、发起HTTP请求、 -
推理优化：为何大模型落地需要“瘦身”？
当我们谈论 大语言模型（LLM） 时，脑海中浮现的往往是其惊人的参数量，如 LLaMA-65B 拥有 650 亿参数。如 -
多模态能力：从“单一感官”到“通感”的进化
传统的大型语言模型（LLM）就像一个只精通“文本”这一种语言的学霸，它对世界的理解完全基于海量的文字语料。而多模态能力的 -
好的，作为你的技术学习伙伴，我来为你撰写这篇关于 Embedding 与语义检索的笔记。我们将从最基础的概念讲起，逐步构建知识图谱。
好的，作为你的技术学习伙伴，我来为你撰写这篇关于 Embedding 与语义检索的笔记。我们将从最基础的概念讲起，逐步构 -
温度：控制随机性的“魔法旋钮”
在与 MiMo API 交互时，temperature 是你最先需要理解的核心参数之一。它本质上是一个控制模型输出随机性 -
从聊天机器人到智能体：AI应用的范式升级
传统的聊天机器人（如早期的客服机器人）通常是基于规则的，它们遵循固定的对话流程，像一个“选择树”——你说A，它回B。而如 -
什么是 Token？它为什么是计费的基础单元？
在与大语言模型（LLM）交互时，我们输入的文字和模型输出的文字，并不是以我们熟悉的“字”或“单词”为单位来处理的。模型内 -
初识 Prompt Engineering：与AI对话的“说明书”
Prompt Engineering，即提示词工程，是与大语言模型（LLM）高效协作的核心技能。简单来说，它就是“如何向 -
理解“上下文窗口”：模型的“短期记忆”
大语言模型（LLM）的上下文窗口，可以通俗地理解为它单次对话或任务中能“看到”和“记住”的文本范围。这就像一个人的短期记 -
模型定位与战略意义
MiMo 大模型是小米集团在人工智能领域的核心战略产品，其定位并不仅仅是一个通用的“聊天机器人”。从战略层面看，小米旨在 -
认识你的新搭档：AI 编程助手的核心能力
在开始谈论效率提升之前，我们必须先清晰地认识手中这个工具的本质。它并非一个无所不知的“上帝”，而是一个基于海量代码数据训 -
为什么我们需要优化大模型的推理？
当一个庞大的语言模型（如LLaMA-65B）训练完成后，直接部署到生产环境面临巨大挑战。模型参数动辄数百GB，单次前向传 -
从“看图说话”到“深度理解”：图文理解任务的演变
早期的图文理解任务，主要聚焦在图像分类和图像描述上。模型的目标相对单一：识别出图中主要的物体（分类），或者用一句简单的自 -
什么是 Embedding？为什么它如此重要？
在传统的信息处理中，我们常将文本转化为由单词ID组成的序列，这丢失了词汇间丰富的语义关联。例如，“猫”和“小猫”在字典中 -
初识温度：控制AI“创造力”的开关
当我们调用 MiMo API 或其他大语言模型 API 时，temperature 参数是我们第一个需要理解的“调节旋钮 -
智能体（Agent）：有自主性的行动者
在人工智能领域，智能体（Agent） 并不是一个全新的概念。简单来说，一个智能体是一个能够感知其所处环境，并基于感知做出 -
Token：大模型世界的“基本货币”
在与大语言模型交互时，我们输入的文本和模型输出的文本，都不是按“字”或“词”来计算的，而是被切分成一个更基础的单位——T -
好的，作为一名资深技术博主，我非常乐意分享我对 Prompt Engineering 的实战心得。以下是我为你准备的学习笔记。
好的，作为一名资深技术博主，我非常乐意分享我对 Prompt Engineering 的实战心得。以下是我为你准备的学习 -
为什么需要 256k 的上下文窗口？
传统的语言模型（如早期的 GPT 系列）通常只支持 4k 或 8k 的上下文长度。这意味着在单次对话或文档处理中，模型一 -
初识 MiMo：一个“小而美”的开源新选择
在当下大模型“军备竞赛”的背景下，参数量动辄千亿，部署成本高昂，让许多开发者和中小企业望而却步。小米于2023年开源的 -
AI 编程助手并非“代码生成器”，而是“高效副驾驶”
在使用 GitHub Copilot、ChatGPT 等工具之初，我曾将其视为一个高级的“代码补全工具”。但经过一段时间 -
大模型为何需要优化？
大语言模型（LLM）的参数量动辄数十亿甚至上百亿，这直接导致了其推理过程面临两大核心挑战：高昂的显存占用和缓慢的生成速度 -
什么是多模态能力？
在人工智能的语境下，模态（Modality）可以理解为信息的载体或类型，比如文本、图像、音频、视频等。而多模态能力，特指 -
为什么不能直接用文本计算相似度？
在传统的信息检索中，比如搜索引擎，我们通常使用关键词匹配。例如，搜索“苹果手机”，系统会查找包含“苹果”和“手机”这两个 -
核心概念：什么是生成过程中的“随机性”？
在开始调参前，我们必须理解大语言模型（LLM）生成文本的基本原理。模型本质上是在给定上文（prompt）后，预测下一个最 -
什么是智能体 (Agent)？
我们先抛开复杂的定义，从一个生活场景理解智能体。想象你是一名乘客，你的需求是“从A地去往B地”。一个传统的、没有自主性的 -
Token：大模型的“基础货币”
当我们与 ChatGPT 或其他大语言模型（LLM）交互时，无论是输入一段问题，还是接收它的回答，模型底层处理的最小单元 -
理解核心：Prompt 不只是指令，是上下文与约束的结合
很多人初次接触提示词工程时，认为它就是给AI下达一个命令，比如“写一首诗”。然而，一个高质量的提示词远不止于此。它更像是 -
初识上下文窗口：大模型的“短期记忆”
当我们和大语言模型对话时，它能“记住”多少我们刚刚说过的话，这个能力就由它的上下文窗口决定。你可以把它想象成大模型的“短 -
小米 MiMo 大模型：是什么与为什么
小米 MiMo 是小米自研的 AI 大语言模型，它的出现并非为了追随潮流，而是源于小米在 “人车家全生态” 战略下的真实 -
从“工具”到“副驾驶”：认知转变是关键
在最初使用 AI 编程助手时，我将其简单地视为一个增强版的代码自动补全或搜索引擎。但很快我发现，这种认知极大地限制了它的 -
量化：用“精度”换“速度”与“空间”
在深入技术细节前，我们必须理解大模型推理优化的核心矛盾：模型精度与计算/存储开销之间的平衡。一个动辄数十GB的FP32（ -
从“看图说话”到“深度图文理解”
我们常说的多模态能力，对于大模型而言，最直观的体现就是图文理解。这不仅仅是传统OCR（文字识别）或看图说一两句话那么简单 -
从“数字指纹”理解 Embedding 向量
想象一下，我们想用计算机理解“苹果”这个词。最简单的方式是给它一个独热编码，比如一个很长的向量，只有“苹果”对应的位置是 -
理解核心：Temperature 到底控制什么？
当我们谈论大语言模型的 Temperature（温度） 时，最核心的一点是：它调控的是模型生成文本时，下一个词（Toke -
重新理解“智能体”（Agent）：它不只是一个“机器人”
在传统的软件开发中，我们编写的程序通常遵循“输入-处理-输出”的固定流程。而智能体（Agent） 是一个更具自主性的概念 -
什么是 Token？为什么它至关重要？
在大模型的世界里，Token 是文本处理的最小基本单位，但它并不完全等同于一个“字”或一个“词”。模型在接触文本前，会先 -
好的，这是我们为你准备的个人学习笔记：
好的，这是我们为你准备的个人学习笔记： -
从 4k 到 256k：一次质的飞跃
当我们讨论大语言模型（LLM）的上下文窗口时，指的其实是模型在单次对话或生成中，能够“看到”并理解的最大文本量。早期模型 -
小米 MiMo 大模型：后发者的战略选择
在“百模大战”的激烈竞争中，小米公司推出 MiMo (Xiaomi Model) 系列大模型，标志着这家以硬件和生态著称 -
AI编程助手：不仅仅是代码补全
我们通常所说的 AI编程助手，是指像 GitHub Copilot、Amazon CodeWhisperer、通义灵码等 -
为何要进行大模型推理优化？
大型语言模型（LLM）在云端和边缘端的部署面临着巨大挑战。以一个70B参数的模型为例，即使采用FP16精度存储，其模型文 -
什么是多模态能力：从“看图说话”到深度理解
最初，AI 的“多模态能力”可能被简单理解为能看懂图片并生成一段描述，即 图像描述（Image Captioning）。 -
从文字到数字：为什么需要 Embedding？
在传统信息检索中，我们主要依赖关键词匹配。但这种方式存在明显缺陷：用户搜索“苹果”，系统可能返回水果相关文档，也可能返回 -
为什么我们需要“温度”与采样？
当我们调用像 MiMo 这样的大语言模型 API 时，模型本质上是在根据前文预测下一个最可能出现的词（token）。如果 -
从“工具”到“主体”：智能体（Agent）是什么？
在人工智能领域，智能体（Agent） 的概念并不新鲜，它指的是一个能够感知环境、进行决策并采取行动以达成特定目标的自主实 -
Token：大模型世界的“文字原子”
在深入大模型技术时，你最先遇到的“行话”几乎一定是 Token。简单来说，Token 就是大模型处理文本时的最小基本单元 -
什么是 Prompt Engineering？为什么它很重要？
Prompt Engineering（提示词工程）并非简单的“对AI说话”，而是一门设计、优化和迭代输入文本的系统性技术 -
什么是 256k 上下文窗口？
上下文窗口（Context Window）是大语言模型一次性能够“看到”并处理的文本长度，通常以 token 为单位。一 -
小米 MiMo：一个专注于设备端的大语言模型
当你听到“大模型”，首先想到的可能是 ChatGPT 这样的云端巨兽。然而，小米 MiMo（Xiaomi MiMo）代表 -
从“手打”到“对话”：AI 编程助手改变了我的工作流
传统的编程模式是“搜索-阅读-复制-修改”，开发者需要在文档、搜索引擎和代码编辑器之间频繁切换。AI 编程助手（如 Gi -
为什么要关注推理优化？
我们通过海量数据和算力训练出能力强大的大模型，但这仅仅是第一步。在实际应用中，模型需要持续地为用户提供服务，这个过程称为 -
什么是多模态能力？它为什么重要？
我们通常说的“模态”，指的是信息的不同类型，比如文本、图像、音频、视频等。单模态大模型，例如早期的语言模型（如BERT） -
从“符号”到“含义”：为什么需要Embedding？
在传统的信息检索中，比如搜索引擎早期的关键词匹配，系统处理的是符号本身。用户查询“苹果手机”和“iPhone”是两个完全 -
在调用大模型 API 时，仅仅设计好 `prompt` 有时还不够，输出结果的“风格”和“稳定性”往往取决于几个关键参数的微调。`temperature`、`top_p` 和 `top_k` 是其中最核心的“采样参数”，它们共同决定了模型如何从候选词中做出选择。本文将结合个人实践，聊聊如何理解和调优这些参数。
在调用大模型 API 时，仅仅设计好 prompt 有时还不够，输出结果的“风格”和“稳定性”往往取决于几个关键参数的微 -
什么是 Agent（智能体）？
我们可以从日常经验开始理解 Agent。当你使用地图软件导航时，它就是一个简单的 Agent：你输入目的地（目标），软件 -
什么是 Token？—— 大模型世界的“乐高积木”
在讨论大模型时，我们总绕不开一个词：Token。你可以把它想象成大模型理解和生成文本时使用的最小独立单元，就像用乐高积木 -
理解提示词的核心要素：角色、任务、上下文与格式
在开始构建复杂的提示词之前，我们必须首先理解一个高效提示词的四大核心要素。角色设定是指为模型指定一个身份（如“你是一名资 -
为什么需要关注上下文窗口？
在传统的大语言模型交互中，我们常常面临一个核心痛点：记忆长度有限。想象一下，你试图让AI帮你总结一本500页的电子书，或 -
MiMo 大模型概述：它是什么？
MiMo 是由小米公司开发并开源的一系列大语言模型，属于其 Xiaomi MiLM 大模型家族的重要组成部分。与很多专注 -
核心理念：AI 编程助手是“副驾驶”，不是“自动驾驶”
在使用 AI 编程助手（如 GitHub Copilot、Codeium、Cursor 等）的过程中，我逐渐形成一个核心 -
为什么要对大模型进行推理优化？
当我们训练好一个动辄数十亿、数百亿参数的大语言模型（LLM）后，真正的挑战才刚刚开始。模型在训练时可能使用了庞大的GPU -
为什么需要多模态：从“看图说话”到“理解世界”
我们人类理解世界时，从来不是只用一种感官。我们看到一张图片，脑海里会自然地联想到相关的文字描述、场景和情感。让机器拥有这 -
什么是 Embedding 向量？
在自然语言处理和机器学习领域，Embedding（嵌入）是一个核心概念。它的本质是一种将离散、高维、非结构化的数据（如文 -
温度（Temperature）的核心作用：控制输出的随机性
在 MiMo API 的调用中，temperature 参数是控制模型输出“创造力”或“随机性”最关键的一个数值。它本质 -
初识 Agent：一个自主决策的智能管家
当我们谈论 Agent（智能体） 时，可以想象一个拥有自主决策能力的“智能管家”。它不仅仅是被动回答问题的聊天机器人，而 -
从“字”到“Token”：模型眼中的文本单位
在我们人类眼中，文本是由字、词、句子组成的连续序列。但对于大语言模型来说，直接处理一长串字符效率太低。因此，它需要一个分 -
明确指令是黄金准则
与大模型沟通的第一要义就是清晰、具体。一个模糊的指令，比如“写点东西”，会得到一个同样模糊的回答。而一个精确的指令，如“ -
为什么 256k 上下文窗口意义重大？
在讨论大语言模型时，“上下文窗口”（Context Window）是指模型单次处理中能够“看到”的文本总量。你可以把它想 -
初识 MiMo：端云协同的“轻量级”大模型
初次听到 MiMo 这个名字，很容易联想到小米的智能生态。它并非一个追求极限参数规模的“重量级”模型，而是将效率与实用性 -
从“动手写”到“动嘴要”：代码生成的新范式
传统的开发流程中，实现一个功能往往意味着要手动编写每一行代码，这期间伴随着查文档、试错和调试。AI 编程助手，如 Git -
为什么我们需要优化大模型推理？
当我们满怀期待地将一个训练好的、参数数十亿的大语言模型（LLM）部署上线时，很快就会遇到两个现实问题：速度和成本。直接使 -
从“单目”到“双目”：为什么大模型需要多模态能力？
早期的语言模型，无论是传统的 LSTM 还是后来的 Transformer，本质上都是在处理单一模态的信息——文本。它们 -
从文本到向量：Embedding 的核心思想
我们日常使用的自然语言，对于计算机来说只是一串离散的、没有内在数学意义的符号。要让机器真正“理解”语言，就需要一种方法将 -
理解温度（Temperature）：不只是“创造力”开关
当我们调用 MiMo API 这样的大语言模型时，temperature（温度）参数是我们最常接触也最容易误解的一个。很 -
什么是 Agent（智能体）？
当我们谈论 Agent（智能体）时，可以把它想象成一个拥有“自主行动能力”的实体。与传统的程序（只执行预设的 if-el -
Token：大模型世界的“文字原子”
在深入计费原理之前，我们必须先理解大模型语言处理的基本单位——Token。你可以把它想象成大模型阅读和写作时所使用的“原 -
明确你的指令：清晰是第一要义
提示词工程的第一课，也是最重要的一课，就是学会清晰、无歧义地表达你的意图。大模型本质上是一个极其强大的“文字接续”机器， -
什么是“上下文窗口”？为什么它如此重要？
在深入探讨 MiMo 的 256k 上下文窗口 之前，我们首先要理解“上下文窗口”这个核心概念。简单来说，它就是大语言模 -
MiMo 是什么？为什么要关注它？
小米 MiMo 是小米公司推出的一系列大语言模型。在当前由GPT、Claude、文心一言等模型主导的格局下，MiMo 的 -
角色转变：从“手写匠”到“结对编程者”
初次接触 AI 编程助手（如 GitHub Copilot、Cursor 或 CodeWhisperer）时，我的第一反 -
引言：为什么我们需要优化大模型？
当我们谈论大模型时，脑海中浮现的往往是令人震撼的参数量和能力。然而，一个训练好的模型只是“纸上谈兵”，只有成功部署并高效 -
概述：什么是大模型的多模态能力？
大模型的多模态能力，特指模型能够同时处理和理解来自多种模态信息的能力。在图文理解的语境下，这主要指模型能够同时接收、关联 -
初识 Embedding：文本的“数字灵魂”
在数字世界中，计算机无法直接理解“快乐”、“机器学习”这样的自然语言文本。Embedding 技术就是将这些离散的符号（ -
温度：创造力旋钮
在调用大模型 API 时，temperature 是一个至关重要的参数，它直接影响了模型输出的随机性与确定性。你可以把它 -
智能体（Agent）是什么？它与传统AI有何不同？
当我们谈论人工智能时，传统的模型（如分类器、生成模型）通常执行的是单一、明确的任务。你给它一个输入，它返回一个输出，任务 -
Token：模型眼中的“原子单位”
当我们与大模型对话时，发送的文本和接收的回复都不是以“字”或“词”为单位被处理的。模型真正理解和操作的最小单元，被称为 -
明确指令：让大模型“听懂人话”的第一步
在与大模型交互时，我们常常会得到模糊、宽泛甚至偏离主题的回答。这往往是因为我们的提示词（Prompt）本身就不够精确。提 -
初识“超长记忆”：256k 上下文窗口意味着什么
当我们谈论一个大语言模型（LLM）的 上下文窗口 时，通常指的是模型在单次生成回复时，能够“看到”并参考的输入文本的总长 -
MiMo 的定位：聚焦垂直场景的“小而精”模型
提到大模型，我们常想到的是 GPT、文心一言这样参数动辄千亿的“巨无霸”。而小米推出的 MiMo 系列模型，则选择了一条 -
AI 编程助手：你的智能副驾驶，而非魔法棒
初次接触 GitHub Copilot、ChatGPT 或 Codeium 等工具时，很多人会惊叹于它们能根据注释或上下 -
什么是大模型量化？为什么需要它？
当我们谈论大模型时，首先映入脑海的是其庞大的参数量和惊人的推理计算需求。一个像LLaMA-7B这样的模型，以全精度（FP -
何为“多模态”？从单模态到图文交织的跃迁
最初，AI模型大多只处理单一类型的数据，比如纯文本的大语言模型（如早期GPT）或纯图像的视觉模型（如图像分类的ResNe -
从文字到向量：Embedding 的核心思想
在传统的信息检索中，我们通常依赖关键词匹配，例如倒排索引。这种方法直观高效，但存在明显短板：它无法理解词语之间的语义相似 -
理解温度（Temperature）：控制 AI 的“创造力”
当我们谈论一个大语言模型（LLM）的温度（Temperature） 时，我们实际上是在讨论一个控制模型输出随机性或创造力 -
智能体（Agent）是什么？它与大模型的核心区别
在讨论智能体之前，我们首先要明确一个关键点：大语言模型（LLM）本身并不是一个智能体。大模型是一个强大的“思考引擎”或“ -
什么是大模型的 Token？
当我们与 GPT、Claude 这类大模型交互时，模型并不会直接理解“字”或“单词”。它处理的是一个被称为 Token -
初识提示词工程：与大模型对话的“语言艺术”
提示词工程（Prompt Engineering）是设计、优化输入给大语言模型（LLM）的文本提示，以引导模型生成更准确 -
理解“上下文”：模型的短期记忆
在聊“256k”之前，我们必须先弄明白一个更基础的概念——上下文窗口（Context Window）。你可以把它想象成大 -
MiMo的定位与核心价值
小米 MiMo（Mi Model）是小米公司推出的轻量化、高性能的端云结合大语言模型系列。它的核心价值并非与顶级通用大模 -
避免“魔法杖”心态：它是副驾，不是司机
最初使用 AI 编程助手时，我常陷入一个误区：把它想象成能“一挥而就”的魔法杖。只要把需求丢给它，就能得到完美代码。但实 -
为什么我们需要“瘦身”与“换引擎”？
当我们训练好一个拥有数十亿甚至上千亿参数的大语言模型后，直接将其用于服务（推理）会面临严峻挑战。其庞大的体积意味着巨大的 -
为什么大模型需要“多模态”能力？
最初的大语言模型（LLM）只专注于文本，就像一个博学但“失明失聪”的智者。它能理解文字，却无法“看”图片或“听”声音。现 -
从“关键词”到“向量”：为什么要用 Embedding？
在传统的信息检索中，我们主要依赖关键词匹配。例如，用搜索引擎搜“苹果”，系统会找出所有包含“苹果”这两个字的文档。这种方 -
初探核心：`Temperature` 是什么？
当我们使用 MiMo 这类大语言模型 API 时，Temperature（温度）参数是控制生成文本随机性与确定性的核心旋 -
Agent 不只是“程序”，更像“智能生物”
在传统的编程世界里，程序是确定的：给定输入，按照预设的逻辑产生输出。而 Agent（智能体）的核心理念打破了这种确定性。 -
Token：大模型世界的“最小货币单位”
当我们与大模型（如GPT、Claude）对话时，输入和输出的文字并非直接以我们熟悉的“字”或“词”来处理。模型内部，文本 -
理解 Prompt 的本质：给模型的“编程接口”
在与大模型交互时，我们通常将 Prompt（提示词）理解为一个指令。但从更技术的视角看，Prompt 更像是你为大模型这 -
理解 256k 上下文窗口：超越“一次性记忆”
我们常听说大模型的“上下文窗口”（Context Window），它本质上是模型在一次推理过程中能够“看到”并处理的最大 -
轻量化与端云协同：MiMo 的设计哲学
当我们在讨论大模型时，往往首先想到的是参数量庞大、需要强大算力支撑的云端模型。然而，小米的 MiMo（Mi Model） -
从“搜索复制粘贴”到“对话式编程”：AI助手的角色演变
在传统开发流程中，我们遇到不熟悉的API或复杂逻辑时，习惯于打开浏览器，在Stack Overflow、官方文档或技术博 -
为什么需要优化：大模型的“体积”与“速度”矛盾
随着参数规模动辄达到数十亿甚至千亿级别，大语言模型（LLM）在展现出强大能力的同时，也带来了巨大的计算和存储挑战。原始的 -
什么是“多模态”能力？
在人工智能领域，“模态”通常指信息的载体或形式，例如文本、图像、音频、视频等。传统的单一模态模型（如纯文本模型）只能处理 -
Embedding 向量是什么？
想象一下，你如何向一个外星人解释“苹果”和“香蕉”的区别，以及它们与“手机”的区别？你会从形状、颜色、是否可食用等方面进 -
温度：控制 AI 创意与稳定性的“旋钮”
Temperature（温度） 是大语言模型生成文本时最核心的采样参数之一。你可以把它想象成一个控制模型输出确定性与随机 -
从“工具”到“主体”：什么是智能体（Agent）？
在传统软件开发中，我们编写的程序或系统本质上是工具。它们严格按照预设的指令和规则执行任务，输入是确定的，输出也是可预测的 -
什么是 Token？它不是“单词”
在谈论大模型的计费之前，我们必须理解一个核心概念：Token。你可以将 Token 理解为大模型处理文本的“最小原子单位 -
理解Prompt Engineering：不只是“问问题”
Prompt Engineering（提示词工程）本质上是与大模型进行高效、精准沟通的“语言艺术”。它并非简单地向模型提 -
什么是 256k 上下文窗口？
首先，我们需要理解什么是上下文窗口。简单来说，它就是大语言模型（LLM）在单次生成响应时，能够“看到”和“记住”的输入文 -
MiMo 大模型：不止是一个“聊天机器人”
当我们谈论大模型时，很多人首先想到的是像 ChatGPT 那样的云端对话助手。但 小米 MiMo 的出现，旨在探索一条更 -
本质理解：从“工具”到“协作范式”的转变
初次接触 Copilot、Tabnine 或 ChatGPT 时，我本能地将其视为一个更智能的“自动补全”。但经过一年多 -
为什么需要推理优化
大模型（如LLaMA、ChatGLM）动辄数十亿参数，即使训练完成，将其部署到实际应用中仍然面临巨大挑战。主要瓶颈在于推 -
多模态能力是什么？从“单通道”到“全感知”
在大模型发展的早期，模型更像是一个只精通“一门语言”的专家。文本模型（如GPT-3）专注于理解和生成文字，视觉模型（如R -
从词语到数字：什么是 Embedding 向量？
在理解Embedding之前，我们先看一个难题：计算机如何理解“苹果”和“梨”是水果，而“卡车”和“轿车”是交通工具？传 -
开胃菜：什么是“温度”？
在人工智能生成文本的语境中，“温度”（Temperature）是一个核心的采样参数，它直接控制着模型输出的随机性和创造性 -
什么是智能体？
智能体是一个能够自主感知环境、做出决策并执行行动以达成特定目标的实体。在AI领域，我们通常讨论的智能体并非物理机器人，而 -
什么是 Token：大模型理解的“文字积木”
在与大语言模型（LLM）交互时，你输入的每一句话和模型生成的每一个字，都不是直接以“字”或“词”为单位被处理的。模型使用 -
理解核心：明确指令与角色设定
提示词工程（Prompt Engineering）的本质，是与大模型进行高效、精确的沟通。其首要原则是 明确性。一个糟糕 -
何为 256k 上下文窗口？一个直观的比喻
MiMo 的 256k 上下文窗口，可以理解为模型的“短期记忆”或“工作台”的大小。这里的 k 代表千个 token（词 -
MiMo 是什么？—— 小米的“AI 核心”基座
MiMo（MiMo-7B 是其代表模型）是小米公司自主研发的大语言模型系列。它不是像 ChatGPT 或文心一言那样的一 -
核心理念：它是一位“副驾驶”，而非“替身”
在与 AI 编程助手（如 GitHub Copilot、Codeium、通义灵码等）协作了大半年后，我最大的心得是：必须 -
为什么我们需要“量化”大模型？
一个动辄数十亿参数的大模型，其原始权重通常使用 FP32（32位浮点数）存储，这会导致模型文件体积巨大，占用海量显存。例 -
从“看图说话”到“图文共情”：多模态大模型是什么？
我们通常所说的大语言模型，如 GPT、LLaMA，其核心能力是理解和生成文本。而多模态大模型，顾名思义，是指模型能同时理 -
从“查字典”到“读心术”：理解Embedding的思维飞跃
在传统的精确检索（比如SQL查询）中，我们依赖的是关键字匹配。这就像查字典，你必须输入完全一致的词条才能找到解释。但这种 -
在探索 MiMo 这类大语言模型 API 的强大能力时，我们通常不只是发送一个简单的提示，然后获取一个固定的答案。API 返回的文本内容、风格和创造性，很大程度上由我们传递的**采样参数**（Sampling Parameters）所控制。理解并调优这些参数，是让模型输出从“能用”到“好用”的关键一步。本次笔记就来深入探讨最核心的参数之一：**温度（Temperature）** 及其相关调优技巧。
在探索 MiMo 这类大语言模型 API 的强大能力时，我们通常不只是发送一个简单的提示，然后获取一个固定的答案。API -
从聊天机器人到自主智能体：什么是 Agent？
想象一下，你正在和一个只能一问一答的聊天机器人对话，它聪明但被动。而智能体（Agent） 则是一个更高级的存在：它不仅能 -
什么是 Token？为什么它比“字数”更重要？
当我们与大语言模型（LLM）交互时，无论是输入问题还是获得回答，模型处理的都不是我们人类理解的“字”或“词”，而是 To -
理解“提示词”的本质：与模型的有效沟通
在使用大模型时，我们输入的提示词绝不仅仅是一句简单的指令。它本质上是我们与一个具有庞大知识库和推理能力的“智能体”进行沟 -
何为“上下文窗口”？理解 LLM 的短期记忆
在深入探讨 MiMo 的 256k 上下文窗口之前，我们必须先厘清一个基础概念：上下文窗口。你可以将它想象成大语言模型（ -
核心定位：为个人开发者打造的“轻量级”助手
当我们谈论大模型时，首先想到的往往是GPT-4、文心一言这类参数动辄上千亿的“巨无霸”。而小米 MiMo 的定位则截然不 -
AI助手的真正价值：精准辅助而非全能替代
很多人对AI编程助手的期待存在误区，认为它能凭空生成一个完整的项目。在实际开发中，我发现它的核心价值在于精准辅助和效率倍 -
为什么大模型需要推理优化？
随着大语言模型（LLM）参数量突破千亿级别，模型推理的计算成本和内存占用成为落地应用的巨大瓶颈。一次推理可能需要数十GB -
什么是多模态能力（图文理解）？
当我们谈论大模型的多模态能力，尤其是图文理解时，我们指的不仅仅是模型能“看”图片或“读”文字，而是它能同时理解并关联这两 -
从词袋模型到语义鸿沟：为什么需要 Embedding？
在传统的信息检索中，我们最熟悉的是关键词匹配。系统将文本切分成一个个独立的词（token），统计它们出现的频率，构建一个 -
温度：创造力的“调节旋钮”
在调用大模型 API 时，temperature（温度）是影响输出结果最核心的参数之一。它本质是一个控制随机性的 缩放因 -
Agent（智能体）是什么？
Agent（智能体）可以理解为一个能够自主感知环境、做出决策并执行动作以完成特定目标的实体。想象一下，你不是在手动操作一 -
什么是 Token？它为何是大模型的“计价单位”？
在讨论大模型时，我们总绕不开 Token 这个词。简单来说，Token 是模型处理文本的最小基本单元。你可以把它想象成我 -
理解大模型的本质：一个强大的“模式匹配器”
在深入技巧之前，我们必须对 Prompt Engineering 有一个核心认知：我们面对的不是一个有“意识”或“知识库 -
初识 256k：一个数字背后的震撼
当我们谈论一个大语言模型（LLM）的 上下文窗口（Context Window） 时，通常指的是模型一次性能“看到”并理 -
核心理念：重新定义“性价比”大模型
小米发布 MiMo 的核心目标，非常符合其一贯的“技术普惠”理念。它不是要和 GPT-4、Gemini Ultra 这些 -
核心理念：从“码农”到“指挥官”
最初的抵触情绪是存在的。面对GitHub Copilot或Cursor这类工具，我曾怀疑它们会替代程序员的价值。但实践半 -
为什么需要推理优化？大模型落地的性能瓶颈
当我们成功训练好一个大语言模型后，如何将它高效地部署到生产环境，为用户提供低延迟、高吞吐的服务，就成了核心挑战。这个过程 -
一个直观的例子：从“看图说话”到“看图答题”
我们先来看一个具体的场景。过去，传统的图像识别模型可能只能告诉你图片里“有一只猫，一个沙发”。而今天的多模态大模型，不仅 -
Embedding 向量：从“词袋”到“意义空间”的飞跃
在传统的信息检索或推荐系统中，我们处理数据的方式常常基于稀疏的表示。例如，使用“词袋模型”（Bag-of-Words）， -
温度（Temperature）：调节创造性的“旋钮”
当我们调用 MiMo API 生成文本时，temperature 是一个核心参数，它本质上是一个控制模型输出随机性的浮点 -
大模型：强大的“大脑”，但并非“全能的双手”
在讨论智能体（Agent）之前，我们必须先厘清大模型的能力边界。以GPT-4、Claude 3等为代表的大语言模型，本质 -
Token：大模型的最小信息单元
当我们与 ChatGPT 或任何大模型对话时，输入和输出的文本并非直接以完整的“字”或“词”被处理。它们会被模型的 分词 -
提示词工程：不只是“说话的艺术”
在接触大模型时，我们很容易陷入一个误区：认为只要把问题简单地用文字描述出来，模型就能给出完美答案。然而，现实往往是模型的 -
256k 上下文窗口：到底是什么？
当我们谈论一个大语言模型的“上下文窗口”时，我们指的是模型在单次交互中能够“看到”并处理的全部文本信息量。你可以把它想象 -
什么是小米 MiMo 大模型？
小米 MiMo 是小米公司自研的人工智能大语言模型。它并非一个单一的模型，而是一个模型家族，包含了不同参数规模、针对不同 -
理解与补全：从“打字员”到“构思者”
过去，编程效率的瓶颈往往在于“想”与“写”之间的转换。我们心里知道要实现什么，但需要花费大量时间将逻辑翻译成符合语法的代 -
量化：为模型“瘦身”的核心艺术
量化（Quantization）是大模型部署中最经典、最有效的优化手段之一。它的核心思想非常直观：将模型权重和激活值从高 -
从“各说各话”到“图文并茂”：多模态能力的必要性
传统的大语言模型（LLM）虽然在文本生成和理解上展现了惊人的能力，但其认知世界的方式是单一的、符号化的。它能理解“苹果” -
什么是 Embedding 向量？
想象一下，你想让电脑理解“苹果”这个词。对于电脑，它只是一个字符串。但人类知道，“苹果”可以是一种水果，也可能是一家科技 -
温度（Temperature）：不止是控制“随机性”
温度 是最核心的调优参数，其本质是 控制模型输出概率分布的“平滑”或“尖锐”程度。数值越低，概率分布越尖锐，模型越倾向于 -
什么是 Agent？不只是聊天机器人
当我们谈论 Agent（智能体）时，很容易将其与简单的聊天机器人（Chatbot）混为一谈。一个关键的区别在于 自主性 -
Token：大模型世界的“货币单位”
在日常交流中，我们用字、词、句来组织语言，但在大模型的数字世界里，它所理解的最小单位是 Token。一个Token并不是 -
Prompt Engineering 的核心：清晰与具体
在与大模型交互时，Prompt（提示词）是我们与模型沟通的唯一桥梁。其质量直接决定了输出结果的质量。一个常见的误区是认为 -
什么是“256k上下文窗口”？
当我们谈论一个大语言模型（LLM）的“上下文窗口”时，我们指的是模型单次处理信息（即一次对话或一次提示）所能容纳的最大t -
MiMo：小米自研的“端侧大脑”究竟是什么？
当我们谈论“大模型”时，通常想到的是需要海量算力、运行在云端服务器的庞然大物。而 小米 MiMo 的核心定位，正是为了打 -
AI 助手的“第二大脑”：理解与生成
初次接触 AI 编程助手时，我最震撼的并非其代码生成能力，而是它对上下文的理解深度。它不再是一个孤立的代码片段搜索引擎， -
为何要优化大模型推理：看不见的瓶颈
我们通过预训练和微调得到一个性能优异的大模型后，真正的挑战才刚刚开始——如何在实际环境中高效、经济地运行它。训练阶段追求 -
什么是大模型的多模态能力？
在人工智能领域，多模态能力指的是模型能够同时理解和处理来自不同感官通道或信息形式的数据。在当前的大语言模型语境下，最常见 -
为什么需要 Embedding？从“符号”到“语义”
在传统计算机处理中，我们用字符串（如“苹果”）来代表一个概念，但计算机无法理解“苹果”和“fruit”之间的关系。这种符 -
理解生成“随机性”的关键阀门：温度（Temperature）
当我们调用像 MiMo 这样的大模型 API 生成文本时，模型并非总是“一个字一个字”地选择概率最高的那个词。在每一步， -
什么是 Agent？一个自主决策的“数字生命”
Agent，中文译为智能体，是近年来AI领域一个炙手可热的概念。从最直观的角度理解，它就像一个拥有自主决策能力的数字化“ -
Token：AI 理解世界的“最小货币单位”
在大模型的语境中，Token 是模型处理文本的最基本单位。你可以把它想象成模型认识的“单词”或“词块”。它不等同于我们常 -
什么是 Prompt Engineering？为什么它很重要？
在使用像 GPT-4 这样的大语言模型时，我们输入的文字——即 Prompt（提示词）——就是与模型交互的唯一指令。Pr -
为何需要“大”上下文窗口？从大海捞针到一目了然
在处理自然语言时，传统的语言模型就像一个只有“短时记忆”的阅读者。其上下文窗口（Context Window）通常限制在 -
初识小米 MiMo：它不仅仅是另一个大模型
在当前“百模大战”的背景下，小米推出的 MiMo（Mi Model）大模型，其核心定位是成为小米“人车家全生态”的智能中 -
从代码“打字员”到“思考伙伴”
作为开发者，我们可能都经历过这样的场景：面对一个新需求，明明逻辑清晰，但就是卡在具体的语法或API调用上，不得不频繁查阅 -
为什么需要推理优化：从训练到部署的鸿沟
我们训练一个大模型的目标是让它具备强大的能力，但当模型完成训练、准备为用户提供服务时，一个严峻的现实问题就摆在了面前：推 -
什么是多模态大模型？
我们通常所说的大语言模型（LLM）主要处理文本，而多模态大模型（Multimodal Large Models）则能够同 -
Embedding 是什么：从单词到数学坐标
在深入原理之前，我们首先要理解 Embedding（嵌入） 的核心思想。简单来说，它就是一种将高维、离散、非结构化的数据 -
核心概念：温度（Temperature）是什么？
当我们谈论大模型的“创造力”或“发散性”时，temperature 参数是背后的总导演。从技术角度讲，它控制着模型预测下 -
什么是 Agent（智能体）？
在人工智能领域，Agent（常译为“智能体”或“代理”）是一个核心概念。简单来说，它是一个能够感知环境、进行决策并采取行 -
什么是 Token？它为什么是核心单位？
在讨论大模型的成本时，我们无法回避一个最基础的单位——Token。简单来说，Token 是模型处理文本的最小语义单元。你 -
初识提示词工程：不止是“说清楚话”
在使用大语言模型（LLM）时，很多人认为“提示词工程”就是如何把问题描述得更清楚。这个理解只对了一半。更准确地说，提示词 -
当上下文窗口成为一扇“落地窗”：理解 256k 的意义
传统的语言模型上下文窗口，可以比作一扇小窗户，我们只能看到眼前几句话，模型根据这有限的“视野”来理解和生成文本。而 Mi -
MiMo 大模型：小米的智能对话中枢
MiMo 是小米自研的多模态大语言模型，定位是成为小米“人车家全生态”的智能中枢。与其他通用大模型不同，MiMo 从诞生 -
从“代码补全”到“思路生成”：重新认识你的助手
起初，我将 AI 编程助手（如 GitHub Copilot, CodeWhisperer 等）仅仅视为一个高级的 代码 -
为什么大模型需要推理优化？
当我们谈论大模型（如GPT、LLaMA等）时，通常关注的是其惊人的性能。然而，将其从训练阶段“搬到”生产环境中，提供稳定 -
什么是多模态？为什么图文理解至关重要？
当我们谈论“模态”时，指的是信息的不同形式，比如文本、图像、音频、视频。多模态的核心就是让模型能够同时理解和处理来自多种 -
初识Embedding：一个高维的“语义坐标”
在深入语义检索之前，我们必须先理解它的基石——Embedding向量。你可以把它想象成一个给“概念”或“物体”赋予的、由 -
理解温度：从“创意开关”到“概率分布平滑器”
很多开发者首次接触 Temperature 参数时，会简单地将其理解为控制AI输出“创造力”或“随机性”的旋钮。这个理解 -
从“大脑”到“身体”：智能体（Agent）的核心概念
当我们谈论智能体时，可以把它想象成一个具备“自主行动能力”的软件实体。它不仅仅是接收一个问题然后返回一个答案的“应答机” -
什么是 Token：大模型的“数字语言单元”
在与大模型交互时，Token 是它理解和生成文本的最基本单位。你可以把它想象成模型的“单词”或“词素”，但它的划分规则可 -
角色扮演：赋予模型特定视角与能力
在与大模型交互时，直接提问往往得到通用但可能不够精准的回答。一个极其有效的技巧是让模型扮演一个特定的角色。这不仅仅是加上 -
什么是上下文窗口？为什么“256k”如此关键？
在大型语言模型（LLM）的世界里，“上下文窗口”或“上下文长度”是一个至关重要的参数。你可以把它想象成模型在一次对话或一 -
初识 MiMo：不只是“云端”的大模型
当人们谈论大语言模型（LLM）时，往往首先想到的是需要强大算力支持的云端模型，如 GPT、文心一言等。而小米 MiMo -
从“手工作坊”到“结对编程”：AI助手的正确打开方式
在引入AI编程助手（如GitHub Copilot、通义灵码等）之前，我的日常工作流程往往是：思考 -> 搜索文档 -> -
从理论到实践：为什么大模型需要推理优化？
训练一个强大的大语言模型（LLM）只是第一步，真正的挑战往往在于如何让它高效地“跑起来”。当我们把动辄数十亿、上百亿参数 -
从“看图说话”到“融会贯通”：什么是多模态能力？
在人工智能的语境下，模态 指的是信息的类型，比如文本、图像、音频、视频。我们人类天生就是多模态的，能够同时理解看到的画面 -
从词到向量：什么是 Embedding？
在计算机中，处理文本信息最直接的方式是使用One-Hot 编码。比如，我们有一个包含“苹果”、“香蕉”、“科技”三个词的 -
认识核心控制阀：Temperature（温度）
在与大语言模型交互时，我们总希望其输出既有创造性又不失严谨。Temperature（温度） 就是实现这一平衡的核心参数。 -
什么是智能体（Agent）？
在人工智能领域，智能体是一个能够感知环境、做出决策并采取行动以完成特定目标的自主系统。你可以把它想象成一个拥有“大脑”（ -
什么是 Token？模型是如何“读”文字的？
当我们与大模型（如 GPT-4、文心一言等）交互时，无论是我们输入的问题（Prompt）还是模型生成的回答，都不是以我们 -
从“模糊指令”到“精确指令”：明确性是第一原则
许多初学者向大模型提问时，容易直接给出一个宽泛的指令，例如“帮我写一篇关于人工智能的文章”。这样的提示词会让模型困惑于文 -
长文本处理的“心病”：传统模型的上下文瓶颈
我们日常使用的许多大模型，虽然能力很强，但普遍存在一个“硬伤”：上下文窗口长度有限。早期的模型可能只能处理几百到几千个t -
小米 MiMo：不只是聊天的“多面手”
提到大模型，很多人第一反应是像ChatGPT那样的文本对话机器人。但小米的 MiMo 大模型（特别是其多模态版本 MiM -
从“键入”到“意图”的转变
初用AI编程助手，最直观的效率提升体现在代码补全和代码生成上。它将我们从繁琐的语法记忆和重复代码键入中解放出来。以前，实 -
推理瓶颈与优化之必要性
当我们训练好一个大型语言模型后，真正的挑战才刚刚开始。推理——即让模型根据输入生成输出的过程——是其价值落地的核心环节。 -
为什么多模态图文理解如此重要？
想象一下，人类认知世界的方式天然是多模态的：我们同时处理眼睛看到的图像、耳朵听到的声音、以及大脑理解的语言。对于人工智能 -
什么是 Embedding 向量？
在计算机的世界里，文字本身——无论是中文、英文还是代码——对机器来说只是一串没有内在含义的字符编码。为了让机器理解“苹果 -
理解温度：控制创造力的“旋钮”
在与大模型交互时，temperature（温度）是我们最常接触，也最容易产生误解的参数之一。你可以把它想象成控制模型输出 -
从智能助手说起：什么是 Agent（智能体）？
当我们谈论 Agent（智能体） 时，可以将其想象成一个拥有自主决策能力的“数字员工”。它不像传统的程序那样只能执行我们 -
Token：大模型世界的“语言原子”
在探讨大模型时，我们总会提到一个词：Token。那么，Token 到底是什么？简单来说，Token 是模型理解和生成文本 -
明确指令是基石：你想要什么，就直接说什么
Prompt Engineering 的核心思想，就是通过精心设计的输入文本（即“提示”），引导大语言模型生成符合预期的 -
上下文窗口：大模型的“工作记忆”有多大？
在与大模型交互时，我们输入的指令、参考资料以及对话历史，统称为 上下文。而模型一次能够“看到”并处理的全部文本长度上限， -
认识小米 MiMo：不仅仅是大语言模型
MiMo 是小米自主研发的大语言模型（LLM），但它远不止于一个“聊天机器人”。其全称可能指向“Mi Model”或“M -
初识AI编程助手：它不仅仅是“自动补全”
过去，我对AI编程助手的理解停留在更高级的代码补全工具。然而，真正将它融入日常开发后，我发现它的核心能力是理解意图和生成 -
推理优化的必要性：为什么我们需要“瘦身”和加速？
大模型，尤其是像GPT-3、LLaMA这样的千亿参数模型，其强大的能力是以巨大的计算和存储开销为代价的。在训练阶段，我们 -
从“单行道”到“十字路口”：何为多模态能力？
早期的语言模型或视觉模型，就像走在单行道上的车辆，专注于处理单一类型的数据——要么是文本，要么是图片。这种“单模态”的局 -
从“词”到“向量”：理解 Embedding 的本质
在传统的信息检索中，我们依赖于精确的关键词匹配。例如，搜索“如何制作美味的意大利面”，系统可能无法找到标题为“经典意面烹 -
什么是“温度”？它为何重要？
在与大语言模型（如 MiMo）交互时，Temperature（温度）是一个核心的 采样参数，它直接影响了模型输出文本的随 -
从聊天机器人到“行动派”：Agent是什么？
在接触大语言模型（LLM）的初期，我们大多使用的是其最基本的问答与生成能力，比如让它写一首诗或解释一个概念。这个模式可以 -
Token：大模型理解语言的基本单位
在大模型（如GPT）的世界里，Token（词元）是模型处理的最基本文本单位。它既不是一个完整的英文单词，也不是一个中文汉 -
基本原则：从模糊到清晰的思维转变
提示词工程的核心，是将你脑中的模糊意图，精确地转化为模型能理解的指令。它不是魔法，而是基于理解模型工作方式的沟通艺术。模 -
什么是“上下文窗口”与 256k 的含义
在理解 MiMo 的能力之前，我们首先要弄清一个核心概念：上下文窗口。你可以把它想象成大语言模型的“短期记忆”或“工作台 -
MiMo 是什么：小米的通用大模型尝试
MiMo 是小米公司自主研发的通用大语言模型系列。它的出现，标志着小米在人工智能基础技术领域的深度布局。不同于一些专注于 -
选择你的“副驾驶”：主流AI编程助手概览
在开始谈论如何提升效率之前，首先要选择一个称手的工具。目前市面上的AI编程助手主要分为两类：代码补全型和对话交互型。前者 -
引言：为什么推理优化至关重要
在当今的 AI 应用中，大语言模型（LLM）凭借其强大的能力正在重塑各个领域。然而，将这些模型部署到实际生产环境时，其巨 -
为什么多模态是必由之路？
纯文本语言模型（LLM）无论多么强大，其本质上都只在一个“模态”里打转。它能理解文字间的逻辑和知识，但无法直接“看见”图 -
从“符号”到“意义”：为什么传统文本表示力不从心？
在计算机处理文本的早期，最常用的方法是词袋模型或 TF-IDF。它们将文本转换成稀疏的、高维的向量，其中每一维对应一个单 -
温度是什么：随机性与创造力的开关
在调用大语言模型（LLM）API时，温度 是一个至关重要的采样参数，你可以把它理解为控制模型输出“创意”或“随机”程度的 -
什么是 Agent？从“工具”到“助理”的范式转变
当我们谈论 AI Agent（智能体）时，首先要理解它与传统程序或单一功能 AI 模型的根本区别。传统的程序是 “指令驱 -
Token：大模型的“最小货币单位”
当你向一个大语言模型发送一个问题时，模型并不会直接“阅读”你的文字。它首先要将文本分割成一个个被称为 Token 的小单 -
从“直面错误”开始：清晰指令是基石
与大模型交互，最忌讳的就是模糊和想当然。许多人第一次使用时会输入“帮我写点东西”，然后得到平淡无奇的结果。Prompt -
256k 上下文窗口意味着什么？
在讨论大语言模型时，上下文窗口是指模型在单次推理（生成回答）过程中，能够接收并处理的最大信息量，通常以 token（词元 -
MiMo 的整体定位：一个面向效率与融合的轻量级选手
与那些追求极致参数规模的“巨无霸”模型不同，小米 MiMo 大模型从诞生之初就带着鲜明的 “端云协同” 和 “高效实用” -
认识你的“结对编程”伙伴
在日常开发中，我将 AI 编程助手（如 GitHub Copilot、CodeWhisperer 等）视为一位不知疲倦、 -
为什么我们需要优化大模型推理？
训练一个强大的大模型（如LLaMA、ChatGLM）只是故事的开始。将这个“大脑”部署到实际应用中，为成千上万的用户提供 -
从“看图说话”到“图文对话”：我们期待的AI是什么样的？
最初，我们对于机器视觉的期望很简单，就是“看图说话”。例如，给一张猫的图片，模型输出“一只猫”。这属于单模态理解，处理的 -
从词到向量：Embedding 是什么？
想象一下，我们如何让机器理解“苹果”这个词？它不仅仅是一个字符串。在“我喜欢吃苹果”中，它是水果；在“苹果公司发布新手机 -
核心概念：什么是API调用中的“温度”？
当我们调用像MiMo这样的大模型API时，模型本质上是在进行一个概率计算：给定前面的词（或token），它要从所有可能的 -
智能体：一个比大模型更“完整”的实体
当我们谈论 大模型（Large Language Model, LLM） 时，我们通常指的是像 GPT、Claude 或 -
什么是 Token？为什么它如此重要？
在接触大语言模型（LLM）时，你最先遇到的概念很可能就是 Token（词元）。简单来说，Token 就是模型处理文本的基 -
理解 Prompt Engineering 的本质
Prompt Engineering 并不是魔法，而是我们与 AI 模型进行有效、精确沟通的系统化方法。它的核心目标是， -
什么是“上下文窗口”？为什么 256k 是一个里程碑？
在深入讨论 MiMo 之前，我们首先要理解上下文窗口这个核心概念。简单来说，它就像大模型的“短期记忆容量”，决定了模型在 -
初识 MiMo：不止于「大」的国产大模型
小米 MiMo 的亮相，标志着小米在生成式AI领域的深度布局。与很多“大力出奇迹”、单纯追求参数量的模型不同，MiMo的 -
智能代码补全与生成：告别重复劳动
AI 编程助手最直观的效率提升，体现在代码的编写阶段。它们基于对海量开源代码和上下文的理解，能够实现远超传统IDE的智能 -
为什么要进行推理优化？从“能用”到“好用”
当我们成功训练了一个动辄数十亿参数的大语言模型后，会发现它在实际应用中面临巨大挑战。推理（Inference）阶段，即模 -
从“各自为政”到“图文并茂”：多模态能力的崛起
在早期的大模型时代，语言模型（如GPT系列）和视觉模型（如ResNet、ViT）是两个独立发展的领域，它们各自在自己的赛 -
什么是 Embedding？一个直观的比喻
在计算机眼中，文本只是一串符号（字符或数字 ID），本身没有“意义”。为了让机器理解文本的语义（比如，“开心”和“高兴” -
初识困惑：为什么我的模型回答总是“差点意思”？
在刚开始使用 MiMo API 时，我们常会遇到这样的情况：同一个问题，多次调用得到的回答在流畅度和创造性上差异很大。有 -
智能体是什么？从“工具”到“行动者”的飞跃
在传统的软件程序中，我们通常编写的是“指令式”代码：输入什么，就按照预定的规则输出什么。而智能体是一个根本性的概念转变。 -
理解大模型的“原子”：Token
当我们与大模型（如 GPT）交互时，模型处理的并不是我们肉眼看到的整个“句子”或“文章”，而是将其拆分成更小的单元。这个 -
提示词不只是“一句话”：理解其核心作用
在与大语言模型交互时，我们输入的“提示词”（Prompt）远非一个简单的指令或问题。它更像是一个编程接口，是我们与模型庞 -
什么是“上下文窗口”？256k 意味着什么？
在聊 MiMo 的 256k 上下文窗口之前，我们得先搞懂一个基本概念：上下文窗口。你可以把它想象成模型的“短期记忆”或 -
初识 MiMo：为何小米要打造“端云协同”大模型？
小米 MiMo（Mi Model）是小米公司发布的一系列面向端侧和云端场景的大语言模型。与许多只追求“大参数”的模型不同 -
AI 编程助手：从“辅助工具”到“结对编程伙伴”
在过去的开发中，我使用的 IDE 主要提供语法高亮、代码片段和简单的自动补全。而新一代的 AI 编程助手，如 GitHu -
为何大模型推理需要优化？
当我们通过海量数据训练好一个拥有数十亿参数的大语言模型（LLM）后，挑战才刚刚开始。一个未经优化的原始模型，其推理（In -
从“独眼”到“耳聪目明”：为何多模态成为大模型的核心能力
早期的大语言模型（LLM）本质上是“独眼龙”，只能处理单一的文本数据。我们与它的交互，就像在和一个博学但被蒙上眼睛的学者 -
什么是 Embedding 向量？
在机器学习领域，Embedding（嵌入）是一种将离散的高维数据（如单词、句子、图像、用户ID）映射到连续的、低维的实数 -
参数概述：控制输出的两个核心旋钮
在与 MiMo 这样的大语言模型 API 交互时，我们不仅仅是输入一个提示词。API 调用中的一系列参数，共同塑造了模型 -
何为智能体（Agent）：超越“问答机器人”
在探讨智能体与大模型的关系前，首先要理解什么是智能体。我们可以把它想象成一个拥有“大脑”和“工具箱”的自主执行者。传统的 -
初识 Token：大模型的基本语言单元
当我们与 ChatGPT 或其他大语言模型（LLM）交互时，它处理的并非我们肉眼看到的“字”或“词”，而是 Token。 -
理解Prompt Engineering：为什么它如此重要？
Prompt Engineering（提示词工程）远不止是向AI提问那么简单。它的核心在于设计与优化输入给大模型（LLM -
上下文窗口：AI模型的“短期记忆”
当我们与大模型对话时，模型能够“记住”并处理我们输入的所有信息的总长度，就被称为 上下文窗口。你可以把它想象成模型的“工 -
MiMo 是什么：小米的大模型“家族”探秘
MiMo 是小米公司自主研发并开源的一系列大语言模型（LLM）的统称。它并不是单一的一个模型，而是一个不断壮大的模型家族 -
它究竟是什么：不是魔法，是“超级副驾”
很多人初次接触 GitHub Copilot 或 ChatGPT 时，会期待它像科幻电影里一样，动动嘴就能生成整个系统。 -
推理优化迫在眉睫：为什么我们要“压榨”模型？
当我们通过海量数据和算力训好一个性能卓越的大模型（如LLaMA、ChatGLM）后，真正的挑战才刚刚开始——如何让它高效 -
何为“多模态”？它为何如此重要？
我们通常所说的“模态”，指的是信息的通道或形式，比如文本、图像、声音、视频等。多模态能力，简单来说，就是让一个AI模型能 -
什么是 Embedding？从文本到向量的语义映射
Embedding（嵌入）本质上是一种将离散的、非结构化的数据（比如文字、图像、音频）转换为连续的、稠密的低维实数向量的 -
理解模型的“创造力调节阀”：温度（Temperature）
当我们使用像 MiMo 这样的生成式模型 API 时，temperature 是最核心、最直观的采样参数。你可以把它想象 -
Agent与智能体：概念辨析
在探讨与大模型的关系前，我们先厘清两个常被混用的概念：智能体（Agent） 和 智能体（Intelligent Agen -
什么是 Token？
在大型语言模型（LLM）的世界里，Token 是模型处理文本的最小单元。它并不是简单地等同于一个“字”或一个“词”。模型 -
打破玄学：为什么我们需要提示词工程？
很多刚接触大语言模型（LLM）的开发者会觉得，写 Prompt 就像“炼丹”，时灵时不灵。其实，大模型本质上是一个基于海 -
什么是上下文窗口？把它当成大模型的“工作记忆”
在聊 GLM 的长文本能力之前，我们得先弄明白 Context Window（上下文窗口）到底是个啥。简单来说，它就是大 -
智谱 GLM 是什么？重新认识“国产大模型之光”
在日常的 AI 开发与学习中，我们往往被 OpenAI 的 GPT 系列或 Meta 的 Llama 系列占据了视线。但 -
CSS Flexbox 布局完全指南
一维布局再也不用 float 和 position 了。本文系统讲解 Flexbox 的容器与项目属性…… -
CSS Grid 二维布局详解
Flexbox 解决一维，Grid 解决二维。本文讲解网格布局的行列定义、区域划分和实战…… -
JavaScript ES6+ 新特性精讲
let/const、箭头函数、解构、Promise、模块化……本文梳理现代 JavaScript 必备特性…… -
响应式设计：让网站适配所有设备
手机、平板、桌面都要好看。本文讲解媒体查询、移动优先、rem/vw 等响应式核心技术…… -
正则表达式实战指南
邮箱、手机号、URL 怎么匹配？本文从元字符到分组捕获，讲透正则的核心用法…… -
HTTP 协议详解：从 HTTP/1.1 到 HTTP/3
GET 和 POST 有什么区别？状态码 301 和 302 呢？本文系统讲解 HTTP 协议核心知识…… -
前端性能优化：从首屏到运行时
网站慢怎么优化？本文从资源加载、渲染、运行时三个层面，系统讲解性能优化手段…… -
VSCode 高效使用与必备插件
每天用的编辑器怎么发挥最大威力？本文分享 VSCode 快捷键、设置和必备插件清单…… -
数据结构与算法：数组与链表
数组和链表是最基础的数据结构。本文对比两者特性、复杂度，并讲解典型应用场景…… -
RESTful API 设计最佳实践
怎么设计清晰的 API？本文讲解 REST 风格的 URL、方法、状态码、版本控制等规范…… -
TypeScript 入门：给 JavaScript 加类型
TypeScript 是 JavaScript 的超集，加上了静态类型。本文讲解基础类型、接口、泛型…… -
浏览器渲染原理与关键路径
输入 URL 到页面显示，浏览器做了什么？本文讲解 DOM/CSSOM、布局、绘制等渲染流程…… -
CSS 预处理器 Sass 入门
CSS 写多了重复又难维护？Sass 提供变量、嵌套、混入、继承。本文讲解核心用法…… -
数据结构与算法：栈与队列
后进先出的栈、先进先出的队列，是基础又实用的数据结构。本文讲解实现与典型应用…… -
Webpack 与 Vite 构建工具对比
前端项目为什么要打包？Webpack 和 Vite 怎么选？本文对比两大构建工具…… -
网络安全基础：XSS 与 CSRF 防御
Web 安全是开发者的必修课。本文讲解最常见的 XSS、CSRF 攻击原理与防御手段…… -
数据结构与算法：哈希表
哈希表是查找 O(1) 的神器。本文讲解哈希函数、冲突解决、负载因子和典型应用…… -
Git 进阶：rebase、cherry-pick 与工作流
会用基本 Git 命令还不够。本文讲解 rebase、cherry-pick、stash 等进阶技巧和团队工作流…… -
前端工程化：ESLint + Prettier 配置
团队代码风格不统一？ESLint 查语法错误，Prettier 统一格式。本文讲解配置与集成…… -
命令行效率工具：zsh 与 oh-my-zsh
每天面对终端，怎么让它更顺手？本文介绍 zsh + oh-my-zsh + 必备插件配置……