Atomic Chat：本地大模型桌面客户端，离线聊天与智能体一体

软件名称：Atomic Chat

适用平台：Windows、macOS、Linux

版本号：v2.4.5

最近更新：2026 年 11 月 13 日

Atomic Chat 软件介绍

Atomic Chat 是一个把开源大模型搬进自己电脑的桌面客户端，Windows、macOS、Linux 都能装。模型直接从 HuggingFace 下载，Llama、Gemma、Qwen、Mistral、Phi 这些主流权重拿来就能跑，对话不出本机。它同时还是一个推理引擎：应用内起了一个 OpenAI 兼容服务（`http://localhost:1337/v1`），任何会说 OpenAI API 的 Agent、命令行工具或 IDE 插件都能直接接上；需要云端模型时，也内置了 OpenAI、Anthropic、Mistral、Groq、MiniMax、Qwen、Moonshot 等厂商。

本次 v2.4.5 更新内容：

• FastFlowLM 成为原生桌面运行时：在「模型中心」里就能装这个引擎、跑它的模型，引擎横幅上还会提示更新。
• 模型中心新增音频模型类型：语音、音乐、音效模型统一列出，支持搜索和下载，下完直接进音频工作室。
• 新图像模型家族：MiniMax-H3-Image 与 Pruna AI 的 P-H3-Image，在 sd.cpp build 1088 以上支持「创建 / 参考图（最多 16 张）/ 编辑」三种模式。
• 换模型不再悄悄弄坏会话：切换正在服务的模型前，会先问你要不要重启已连上的 Agent，重启后用新会话重新打开，不再出现换完模型一堆 404 的情况。
• 更多平台能选到「最新版」：Linux x64 CUDA 12/13 与 Windows ARM64 Vulkan 的上游 llama.cpp 构建现在能被正确识别。
• GenieX 货架接入高通 AI Hub：可以搜到兼容的模型包，重复厂商条目和未发布条目会被过滤掉。
• MLX 回复不再被截断：撞到 token 上限时回复不再丢失，生成改用完整上下文窗口（最高 16K），而不是卡在 2048。
• 服务端决策模型选择器更全：不在目录里、通过 Hub 搜索下载或手动添加的 Decision GGUF，现在都会出现在选择器和「已下载」列表里。
• 厂商适配修正：MiniMax M3 模型能正确上报工具与图像能力、推理等级也不再错乱；Mistral 的推理强度只会发给支持它的模型，避免 400 报错。
• Windows 安装包全部签名：包括 ARM64 安装包内部的所有组件，Windows on Arm 上不会再被 Smart App Control 拦下。
• 界面细节打磨：音频/图像/视频画廊里选中图块的描边不再被裁切，macOS 音频播放器的无限转圈已修好，Foundry 运行时检查补上法语文案。

Atomic Chat 界面预览

Atomic Chat 主要功能

• 本机跑开源模型：从 HuggingFace 直接下载 Llama、Gemma、Qwen、Mistral、Phi 等权重，断网也能聊，数据不出机器。
• 多种加速手段：MTP 推测解码提升 30–70% 吞吐（Gemma 4 最高 3 倍），DFlash 块扩散解码在 Qwen 3.6 等模型上最高快 6 倍，Apple Silicon 上还有 EAGLE-3。
• 省显存的 KV 缓存：llama.cpp 下的 TurboQuant（turbo3 / turbo4）已支持 Windows 与 Linux，KV 缓存占用最高可缩到约 1/4.3。
• 当 OpenAI 接口用：内置 `localhost:1337/v1` 服务，任何讲 OpenAI API 的客户端、CLI、IDE 插件都能接；默认只绑本机，改 `0.0.0.0` 可局域网访问。
• 一个界面管三类模型：文本对话之外，图像生成/编辑、音频模型都在同一个模型中心里管理。
• 云端厂商也能混着用：内置 OpenAI、Anthropic、Mistral、Groq、MiniMax、Qwen、Moonshot，本地与云端随时切换。
• 三平台安装包：Windows（x64 / ARM64）、macOS 通用包、Linux AppImage 都有官方产物。

Atomic Chat 下载方式

夸克网盘下载：https://pan.quark.cn/s/9a095b7842be

链接为该软件的版本合集目录，内含历史版本，按需选择即可。模型权重不随安装包分发，装好后在应用内的模型中心按需下载。

版权说明：本文介绍的软件为开源项目（Apache-2.0 协议），版权归原作者所有。本文仅供学习交流使用，请勿用于商业用途。

标签：AI工具、跨平台、桌面应用

发布时间：2026-11-15

想在自己电脑上跑大模型的朋友，欢迎点赞、在看、转发～