我的作品✳

开源模型本地部署与推理环境配置

在 Windows 11 与 RTX 4060 Laptop 的资源条件下，使用 llama.cpp 部署 GGUF 模型，检查本地 API、短答与静态图片输入，并记录上下文截断等真实边界。

• llama.cpp
• GGUF
• CUDA
• PowerShell
• Python
• OpenAI API

查看项目 ↗