🖥️ 本地部署

LocalAI 免费吗?价格、免费额度与海外可用性

OpenAI API 的本地平替:同一套 /v1 接口同时提供对话、向量、语音转写、图像与视频生成,无需 GPU 也能跑。适合把现有调用 OpenAI 的代码一行不改切到自托管。

A drop-in local replacement for the OpenAI API: one /v1 surface serves chat, embeddings, speech-to-text, image and video generation, and it runs without a GPU. Point existing OpenAI code at it and change nothing else.

这个工具擅长什么 / Highlights

一套接口顶多种模型,老代码零改动迁移

One API surface for many model types; migrate existing code untouched

价格与免费额度 / Pricing & free tier

免费开源(MIT)

详细介绍 / Overview

mudler 维护的 OpenAI API 本地平替:同一套 /v1 接口同时提供对话补全、嵌入、语音转写、图像生成与视频生成,底层可切 llama.cpp、Transformers、Diffusers 等多种后端。最大卖点是“零改动迁移”——把 base_url 指过去,原来调 OpenAI 的代码不用改一行。支持 Docker 一键部署,CPU 也能跑。

站长心得 / Our take

做私有化替换时非常实用,尤其是那些散落在各处的旧脚本,改一个环境变量就全迁完了。文档质量中等,模型配置靠 YAML,第一次配多模态会绕一点。如果你的需求是“把 OpenAI 换成本地”,它比 vLLM 更全能(vLLM 只管文本);如果只要文本高吞吐,还是 vLLM 更专业。

本地推理 OpenAI 兼容 多模态 自托管

常见问题 / FAQ

Q:这个工具免费吗?

有免费档位:免费开源(MIT)

Q: Is it free?

A: Yes, there is a free tier: 免费开源(MIT)

Q:免费额度有多少?

免费开源(MIT)

Q: How much free quota is there?

A: 免费开源(MIT)

Q:支持海外访问吗?

全球可访问;个别服务可能需要当地账号或网络条件。

Q: Is it available overseas?

A: Globally accessible; some services may need a local account or specific network conditions.

Q:有 API 吗?

提供 API / SDK,接入方式见官网文档。

Q: Does it have an API?

A: Yes — API / SDK access is documented on the official site.

访问 LocalAI ↗ ← 返回导航首页