AI Code Interpreter 与代码沙箱深度实战 - 1. 为什么 LLM 需要执行代码
本文是 AI Code Interpreter 与代码沙箱深度实战 的分章阅读版。
1. 为什么 LLM 需要执行代码
1.1 LLM 的能力边界
LLM 擅长:
LLM 不擅长:
- 精确数学计算:"1234.56 × 7890.12 = ?" → LLM 可能算错
- 大数据处理:统计 10000 行数据的平均值
- 复杂逻辑:递归、循环、状态机
- 外部交互:调 API、读文件、查询数据库
- 可视化:画图表、生成 PDF
解决方案:让 LLM 生成代码,由沙箱执行,把结果返回给 LLM。
1.2 Code Interpreter 的价值
ChatGPT Code Interpreter (2023.7) 让 LLM:
- 上传 Excel/CSV,自动分析数据
- 生成图表、可视化
- 处理图像(转换格式、压缩)
- 解数学题、写算法
- 调用 Python 库 (pandas / numpy / matplotlib)
商业价值:
- Data Analysis Agent:企业 BI 自动化
- 代码执行型 Agent:Cursor / Windsurf 的"运行代码"功能
- AI 数据科学家:Kaggle 比赛 AI 选手
- 教育:可执行代码的编程学习
1.3 核心挑战
| 挑战 | 描述 | 解决方案 |
| 安全 | LLM 生成的代码可能恶意 | 沙箱隔离 + 资源限制 |
| 持久化 | 用户上传文件需要保留 | 临时文件系统 + 会话绑定 |
| 状态保持 | 多轮代码间共享变量 | Jupyter Kernel 长连接 |
| 超时 | 死循环代码不能阻塞 | CPU 时间限制 |
| 资源 | OOM、磁盘满 | 内存 + 磁盘配额 |
| 网络 | 是否允许访问外网 | 白名单 / 完全隔离 |
| 延迟 | 容器启动慢 | 预热池 + MicroVM |
| 成本 | 每次执行一个容器 | 复用 / 多租户 |
相关页面