大语言模型应用的工程化与安全治理
从访问控制、可靠性、成本、可观测性、评估与数据治理等维度,建立可审计、可回滚的生产级大语言模型应用体系。
2861 字
|
14 分钟
Cover Image of the Post
Agent 与 MCP 的工具协作机制
围绕 Agent 执行循环、MCP 工具接入、状态控制、人工审批与可观测性,构建具备明确权限边界的多步骤 AI 系统。
3689 字
|
18 分钟
Cover Image of the Post
Embedding、向量检索与 RAG 系统
介绍 Embedding、语义检索、文档切片、向量存储与 RAG 的完整链路,并讨论检索优化、权限、评估和 OpenAI File Search。
3397 字
|
17 分钟
Cover Image of the Post
Token、上下文窗口与模型调用成本
介绍 Token 的基本概念、Responses API 的 Usage 与 Token Counting、上下文窗口、Prompt Caching、成本计算和工程化 Token Budget。
3397 字
|
17 分钟
Cover Image of the Post
大语言模型的多轮对话与上下文管理
介绍如何使用历史消息、previous_response_id 与 Conversations API 管理多轮对话,并讨论上下文裁剪、长期记忆、持久化和安全边界。
3385 字
|
17 分钟
Cover Image of the Post
Function Calling 与外部工具集成
介绍如何使用 Function Calling 让大语言模型选择并调用业务工具,以及参数校验、权限控制、多工具循环和生产实践。
4215 字
|
21 分钟
Cover Image of the Post
大语言模型的结构化输出与 Schema 约束
介绍如何使用 Structured Outputs、JSON Schema 与 Pydantic,将大语言模型输出转换成可校验、可维护的业务数据。
3840 字
|
19 分钟
Cover Image of the Post
通过 API 在应用程序中集成大语言模型
以 OpenAI Responses API 与 Python 为例,介绍从基础调用到结构化输出、工具调用、RAG 和生产实践。
3882 字
|
19 分钟
Cover Image of the Post