llamacpp

Ollama v0.30.0集成llama.cpp引擎，形成双引擎架构，支持NVIDIA/AMD GPU及多种CPU。可直接加载Hugging Face的GGUF模型和自定义微调模型，NVIDIA推理性能显著提升。升级后自动适配硬件，模型数据不丢失。