← 返回首页 ❓ 面试题库
📑 本篇章节导航 (共7章,点击直达)
一、LLM网关与路由(1-6)二、AI应用监控与可观测性(7-12)三、AI安全与合规(13-20)四、AI应用测试与评估(21-28)五、AI应用CI/CD与运维(29-36)六、AI成本治理与优化(37-44)七、AI应用架构设计(45-50)

Q26 - AI工程化与场景设计


一、LLM网关与路由(1-6)

什么是LLM Gateway?为什么企业级AI应用需要它?

★★★★★

模型路由策略有哪些?如何根据请求特征选择模型?

★★★★

多模型供应商的协议适配怎么做?

★★★★

LLM网关的限流和熔断策略?

★★★★

Prompt版本管理和灰度发布怎么做?

★★★★

LLM网关的高可用架构怎么设计?

★★★★


二、AI应用监控与可观测性(7-12)

AI应用的可观测性包含哪些维度?

★★★★★

如何监控LLM调用的Token消耗和成本?

★★★★

AI应用的链路追踪怎么做?

★★★★

如何评估LLM输出质量?自动化评估方案?

★★★★

AI应用的关键指标(SLI/SLO)怎么定义?

★★★

Langfuse/LangSmith等LLM可观测平台怎么用?

★★★


三、AI安全与合规(13-20)

Prompt注入攻击的原理和防御方案?

★★★★★

如何防止AI应用泄露敏感信息?

★★★★

AI应用的数据合规(数据出境、隐私保护)怎么做?

★★★★

越狱攻击(Jailbreak)的原理和防御?

★★★★

AI应用的安全审计怎么做?

★★★

Function Calling的安全边界怎么设计?

★★★★

RAG系统中检索内容的安全过滤?

★★★

AI生成内容的版权和合规问题?

★★★


四、AI应用测试与评估(21-28)

AI应用怎么写单元测试?

★★★★

Prompt测试(评测集)怎么构建和运行?

★★★★★

RAG系统的评估指标和评估方法?

★★★★

A/B测试在AI应用中怎么做?

★★★★

如何测试Function Calling的正确性?

★★★★

AI应用的回归测试怎么做?

★★★

LLM输出格式一致性怎么保证和测试?

★★★★

人工评测和自动化评测怎么结合?

★★★


五、AI应用CI/CD与运维(29-36)

AI应用的CI/CD流程和传统应用有什么区别?

★★★★

Prompt的版本管理最佳实践?

★★★★

向量数据的ETL管道怎么设计?

★★★★

AI应用的灰度发布和回滚策略?

★★★

AI应用的容器化部署方案?

★★★

本地模型(Ollama/vLLM)的部署和运维?

★★★★

AI应用的降级和容灾方案?

★★★★

AI应用的配置管理(模型参数、Prompt模板)?

★★★


六、AI成本治理与优化(37-44)

Token成本的构成和计算方法?

★★★★

Prompt Caching如何减少Token消耗?

★★★★

语义缓存的实现方案?

★★★★

模型路由如何降低成本(大小模型协同)?

★★★★

对话历史的Token压缩策略?

★★★★

批处理(Batch API)如何降低成本?

★★★

Token成本预算和配额管理?

★★★

多租户场景下的Token成本分摊?

★★★


七、AI应用架构设计(45-50)

AI应用的整体架构分层怎么设计?

★★★★★

AI应用的数据库选型(关系型+向量+缓存)?

★★★★

多租户AI应用的架构设计?

★★★★

AI应用的无状态设计原则?

★★★

AI应用的异步处理和消息队列集成?

★★★

2026年AI工程化的核心趋势?

★★★★