← 返回首页 ❓ 面试题库
📑 本篇章节导航 (共8章,点击直达)
一、LLM微调基础二、对齐训练三、微调框架实战四、模型推理优化五、模型服务化六、AI工程化七、面试高频综合题面试速记口诀

Q108 LLM微调与模型部署实战

20K Java+AI 岗位2025-2026高频考点 — LLM微调和部署是AI落地的关键环节。覆盖全量微调/LoRA/QLoRA/RLHF/GRPO/DPO、推理优化(vLLM/TensorRT/ONNX)、模型服务化(Spring AI集成)、AIGC工程化。

一、LLM微调基础

1. 什么是微调(Fine-tuning)?为什么需要微调?

2. 全量微调 vs 参数高效微调?

维度全量微调PEFT(LoRA等)
训练参数量全部参数(7B/13B)0.1%-1%参数
显存需求极高(A100×8)低(单卡24GB)
效果最优接近全量
训练时间天级小时级
适用场景大厂/科研大多数团队
灾难性遗忘风险高低

3. LoRA的原理?

4. QLoRA的原理?

5. LoRA的超参数如何选择?

6. 微调数据如何准备?


# SFT数据格式(ChatML)
{"messages": [
    {"role": "system", "content": "你是一个Java专家"},
    {"role": "user", "content": "什么是AQS?"},
    {"role": "assistant", "content": "AQS是AbstractQueuedSynchronizer..."}
]}

# 数据质量 > 数据数量
# 500-5000条高质量数据即可获得显著提升
# 关键:多样性、准确性、格式一致性
# 数据清洗:去重、去低质量、检查格式错误

二、对齐训练

7. RLHF是什么?

8. DPO vs RLHF?

维度RLHFDPO
奖励模型需要单独训练不需要
训练复杂度高(PPO不稳定)低(直接优化)
数据格式(prompt, response, reward)(prompt, chosen, rejected)
训练稳定性需要调多个超参相对稳定
效果成熟,上限高接近RLHF
适用大厂大多数团队首选

9. GRPO是什么?(DeepSeek Math提出)

10. 对齐数据的格式?


// DPO训练数据
{
  "prompt": "解释Java线程池",
  "chosen": "线程池是管理线程的容器,核心参数包括corePoolSize、maxPoolSize、keepAliveTime、workQueue、threadFactory、rejectedExecutionHandler。当提交任务时...",
  "rejected": "线程池就是一堆线程放一起用"
}
// chosen是人工标注的更好回答,rejected是较差回答
// 数据要求:chosen和rejected差异明显,边界清晰

三、微调框架实战

11. 常用微调框架对比?

框架特点适用场景
LLaMA-FactoryWeb UI、零代码、支持多种方法快速上手、生产微调
Axolotl配置灵活、支持多种模型研究实验
Unsloth2x训练速度、显存优化效率优先
PEFT(HuggingFace)底层库、高度可定制自定义开发
DeepSpeed分布式训练、ZeRO优化大模型全量微调
swift(ModelScope)阿里出品、中文友好国内开发者

12. LLaMA-Factory的使用?


# LLaMA-Factory YAML配置示例
model_name_or_path: Qwen/Qwen2.5-7B
stage: sft
finetuning_type: lora
lora_rank: 16
lora_alpha: 32
lora_target: q_proj,v_proj
dataset: java_interview
template: qwen
output_dir: saves/qwen2.5-7b-lora
per_device_train_batch_size: 4
gradient_accumulation_steps: 8
learning_rate: 2.0e-4
num_train_epochs: 3
lr_scheduler_type: cosine
warmup_ratio: 0.1
bf16: true

13. 多轮对话数据如何微调?


{"messages": [
    {"role": "user", "content": "HashMap的底层原理?"},
    {"role": "assistant", "content": "HashMap基于数组+链表+红黑树,默认容量16,负载因子0.75..."},
    {"role": "user", "content": "什么时候链表转红黑树?"},
    {"role": "assistant", "content": "当链表长度≥8且数组长度≥64时转为红黑树,红黑树节点≤6时退化为链表..."},
    {"role": "user", "content": "为什么是8和6不一样?"},
    {"role": "assistant", "content": "避免频繁转换。中间差值7作为缓冲,防止在阈值附近反复切换..."}
]}
// 注意:多轮对话要保证上下文连贯,每轮都有教学价值

14. 如何评估微调效果?

15. 微调中的常见问题?


四、模型推理优化

16. LLM推理为什么慢?

17. KV Cache优化?


# KV Cache:缓存已计算的Key和Value,避免重复计算
# 每生成一个新token,只需计算当前token的Q/K/V,K/V追加到缓存
# 优化方向:
# 1. MQA(Multi-Query Attention):所有Head共享同一组K,V
# 2. GQA(Grouped-Query Attention):分组共享K,V(Llama2采用)
# 3. PagedAttention(vLLM):像虚拟内存一样管理KV Cache,解决碎片问题
# MQA < GQA < MHA(精度从低到高,速度从快到慢)

18. vLLM推理框架?

19. TensorRT-LLM?

20. 模型量化技术?

量化方法精度显存节省精度损失适用场景
FP1616bit基线无默认推理
BF1616bit基线极小训练+推理
INT88bit50%小生产推理
GPTQ4bit75%小GPU推理
AWQ4bit75%小GPU推理
GGUF4-8bit灵活可控CPU/边缘
FP88bit50%极小H100推理

21. ONNX Runtime部署?


// Java调用ONNX模型
import ai.onnxruntime.*;

OrtEnvironment env = OrtEnvironment.getEnvironment();
OrtSession.SessionOptions opts = new OrtSession.SessionOptions();
opts.setOptimizationLevel(OrtSession.SessionOptions.OptLevel.ALL_OPT);

OrtSession session = env.createSession("model.onnx", opts);

// 构造输入
Map<String, OnnxTensor> inputs = new HashMap<>();
float[][] inputData = new float[1][768]; // 模型输入维度
inputs.put("input", OnnxTensor.createTensor(env, inputData));

// 推理
try (OrtSession.Result result = session.run(inputs)) {
    float[][] output = (float[][]) result.get(0).getValue();
}
// 适合传统ML模型和中等规模模型的Java集成

22. Speculative Decoding(推测解码)?


五、模型服务化

23. LLM如何部署为API服务?


# vLLM启动OpenAI兼容API
python -m vllm.entrypoints.openai.api_server \
    --model Qwen/Qwen2.5-7B \
    --host 0.0.0.0 --port 8000 \
    --tensor-parallel-size 2 \
    --gpu-memory-utilization 0.9 \
    --max-model-len 4096

# 直接兼容OpenAI SDK调用
# curl http://localhost:8000/v1/chat/completions \
#   -H "Content-Type: application/json" \
#   -d '{"model":"Qwen/Qwen2.5-7B","messages":[{"role":"user","content":"Hello"}]}'

24. Spring AI如何调用本地模型?


// Spring AI 配置类
@Configuration
public class LocalModelConfig {
    @Bean
    ChatClient chatClient(ChatClient.Builder builder) {
        return builder
            .defaultSystem("你是一个Java技术专家,回答准确、专业、有条理")
            .build();
    }
}

// application.yml 配置
// spring:
//   ai:
//     openai:
//       base-url: http://localhost:8000/v1
//       api-key: dummy
//       chat:
//         options:
//           model: Qwen/Qwen2.5-7B
//           temperature: 0.7
//           max-tokens: 2048

25. Ollama本地部署?


# 安装Ollama后一键拉取和运行模型
ollama pull qwen2.5:7b
ollama run qwen2.5:7b
# 支持GGUF格式,自动适配GPU/CPU

# Spring AI + Ollama 集成
// spring:
//   ai:
//     ollama:
//       base-url: http://localhost:11434
//       chat:
//         model: qwen2.5
//         options:
//           temperature: 0.7

26. 模型服务的负载均衡?

27. 模型服务的监控?

指标说明告警阈值
TPS每秒处理token数<100报警
TTFT首 token 时间P99>2s报警
吞吐量每分钟请求数下降30%报警
GPU利用率计算资源使用率<50%或>95%报警
队列深度等待请求数>50报警
显存使用率GPU显存占用>90%报警
错误率请求失败比例>1%报警

28. 多模型路由策略?


@Service
public class ModelRouter {
    // 简单问题→小模型(7B),复杂问题→大模型(72B)
    public String route(String question) {
        if (question.length() < 100 && !isComplex(question)) {
            return "qwen2.5-7b";   // 快速响应
        }
        if (needsCodeGeneration(question)) {
            return "deepseek-coder"; // 代码专用
        }
        return "qwen2.5-72b";      // 复杂推理
    }

    private boolean isComplex(String q) {
        return q.contains("分析") || q.contains("设计")
            || q.contains("对比") || q.length() > 500;
    }
}

六、AI工程化

29. AI应用的全链路架构?


用户请求 → API网关 → Agent/编排层
                      ├── RAG检索(向量库+ES)
                      ├── LLM推理(vLLM集群)
                      ├── Tool调用(Function Calling)
                      └── 缓存层(Redis+语义缓存)
                           ↓
                      响应/流式输出(SSE)
                      ↓
                   可观测性(日志+指标+追踪)

30. Prompt管理最佳实践?


// Prompt模板管理(Spring AI)
@SystemMessage("你是一个{{role}},擅长{{domain}}。请用中文回答。")
public String chat(@UserMessage String question,
                   @Variable("role") String role,
                   @Variable("domain") String domain);

// 生产级Prompt管理要求:
// 1. 版本化管理Prompt,支持A/B测试
// 2. Prompt与代码分离,配置化管理
// 3. 不同场景使用不同Prompt模板
// 4. 记录每次Prompt变更和效果

31. AI应用的缓存策略?

32. AI应用的安全防护?

33. AI应用的降级策略?


@Service
public class ResilientAIService {
    public String chat(String question) {
        try {
            return primaryModel.chat(question);    // 主模型(72B)
        } catch (Exception e) {
            log.warn("主模型调用失败,切换备用模型", e);
            try {
                return fallbackModel.chat(question); // 备用小模型(7B)
            } catch (Exception e2) {
                log.error("备用模型也失败,使用模板兜底", e2);
                return templateBasedAnswer(question); // 模板兜底
            }
        }
    }

    private String templateBasedAnswer(String question) {
        // 基于规则模板的最基础回复
        return "服务暂时不可用,请稍后重试";
    }
}

34. AI应用的成本优化?

优化手段效果实施难度
缓存减少调用降低30-50%调用量低
路由到合适模型节省60-80%推理成本中
批处理请求提升GPU利用率中
流式输出减少用户等待感知低
模型量化节省50%显存低
监控每次调用成本数据驱动优化低

35. 流式输出的实现?


// Spring AI Streaming
@RestController
@RequestMapping("/api/chat")
public class ChatController {

    private final ChatClient chatClient;

    @GetMapping(value = "/stream", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
    public Flux<String> streamChat(@RequestParam String question) {
        return chatClient.prompt()
            .user(question)
            .stream()
            .content();
    }

    // 非流式调用
    @PostMapping("/complete")
    public String completeChat(@RequestBody ChatRequest request) {
        return chatClient.prompt()
            .user(request.getQuestion())
            .call()
            .content();
    }
}

七、面试高频综合题

36. Java工程师需要掌握微调吗?

37. LoRA vs 全量微调怎么选?

38. 如何选择开源模型?

场景推荐模型理由
通用对话Qwen2.5-7B/72B中文最强,生态完善
代码生成DeepSeek-Coder代码能力突出
嵌入模型BGE-M3多语言多粒度
推理QwQ/DeepSeek-R1推理链能力强
小型部署Phi-3/Qwen2.5-1.5B资源需求低
多模态Qwen-VL视觉理解能力强

39. 模型部署的GPU选型?

GPU显存适用模型参考价格
RTX 409024GB7B-14B(量化)消费级
A100 40GB40GB14B-34B企业级
A100 80GB80GB34B-72B(量化)企业级
H10080GB72B+旗舰级
L40S48GB7B-34B性价比

40. 如何回答"你们的AI技术栈"?

"我们基于Spring AI构建AI中台。模型层使用Qwen2.5-7B做微调(LoRA),vLLM做推理服务。应用层实现了RAG(Milvus向量库+ES混合检索)、Agent(Function Calling+ReAct)、Prompt版本管理。部署在K8s上,支持GPU弹性伸缩和多模型路由。监控方面基于Grafana+Prometheus实现TTFT、吞吐量等核心指标的可视化告警。"

41. AI应用如何做A/B测试?

42. 多模态模型的部署?

43. Edge AI边缘部署?

44. 模型版本管理?

45. AI应用的测试策略?

测试类型测什么怎么测
单元测试Prompt模板、解析逻辑JUnit断言
集成测试RAG检索+LLM生成端到端调用
评估测试Golden Set对比准确率/覆盖率
压力测试并发推理能力JMeter/k6
安全测试Prompt注入、越狱红队测试
回归测试模型更新后效果自动化对比

46. MCP(Model Context Protocol)与模型部署?

47. 如何优化LLM的首token延迟(TTFT)?

48. LLM的Long Context处理?

49. AI应用的合规要求?

50. AI Engineer vs ML Engineer vs Java+AI?

角色核心职责核心技能
ML Engineer模型训练与优化PyTorch/训练/评估/论文复现
AI EngineerAI应用开发RAG/Agent/Prompt/部署/评估
Java+AIAI工程化与落地Spring AI/微服务/架构设计/业务结合

面试速记口诀

微调三件套:LoRA(低秩适配)、QLoRA(4bit量化)、DPO(直接偏好优化)

>

推理三优化:vLLM(PagedAttention)、量化(INT4/INT8)、Speculative Decoding

>

部署三方案:vLLM API服务、Ollama本地、Spring AI集成

>

工程化四要素:缓存降级、监控告警、安全防护、成本优化