大家好，我是贝克街的捉虫师呀！

最近大家是不是都感觉被各种AI大模型包围了？GPT、Claude、Midjourney… 功能越来越强大，用起来确实方便，能帮我们解决不少问题。不过，咱们这些做技术的同学，有时候用这些云端服务时，心里总会冒出一些小小的顾虑，特别是涉及到一些不太方便公开的代码片段、内部文档，或者个人比较私密的信息时，总会想：“这些数据传到网上，真的安全吗？”

或者，有时候只是想在本机折腾一下，不依赖网络，不担心API Key额度用完，纯粹享受那种本地掌控一切的感觉。有没有办法，能让我在自己的电脑上，安安心心、离线地跑AI模型呢？今天，我就给大家介绍一个在GitHub上关注度很高，并且专注于解决这个痛点的开源项目——Jan。

项目概述

Jan，全称是 Jan – Local AI Assistant，它正如其名，是一个让你可以在本地桌面环境中运行AI模型的应用。你可以把它想象成一个为你量身打造的、私密的AI工作站。它的核心理念就是“本地优先”和“隐私保护”。你的所有对话、你喂给它的数据，理论上都只在你自己的电脑里处理和存储，不会轻易上传到云端。

这个项目是一个完全开源的项目，代码都在GitHub上可以找到，目前主要使用TypeScript进行开发，同时借助了Tauri这个跨平台框架来构建桌面应用，底层可能还涉及到Rust等语言来调用本地模型能力。这让它既具备Web技术的灵活性，又能享受到原生应用的性能和本地资源访问能力。

项目数据

咱们来看看这个项目的热度。Jan目前在GitHub上累计已经收获了 31232 个星标，这个数字相当可观，说明有很多开发者和用户关注并认可它的价值。光是今天，它就新增了 196 个星，这增长势头很猛，项目非常活跃。

项目主要使用的语言是TypeScript，这对于前端或全栈开发者来说会比较亲切。从GitHub的徽章来看，项目的提交活动非常频繁，最近一次提交就在几天前，贡献者数量也一直在增加，这通常意味着项目维护得很健康，社区也很活跃。README里也提供了Discord社区的链接，遇到问题或者想交流都可以去那边看看。

功能亮点

Jan作为一个本地AI助手，提供了一些非常实用的功能，特别适合咱们开发者和技术爱好者：

✨ 本地模型运行
这是Jan最核心的卖点。它支持下载和运行各种主流的开源大模型，比如Llama、Gemma、Qwen等等，这些模型通常来自HuggingFace这样的平台。你可以根据自己电脑的硬件配置选择合适大小的模型。这意味着你的AI交互完全在本地完成，数据安全和隐私得到了最大保障。我试了试下载了一个7B的模型，在我的笔记本上跑起来速度还可以，响应挺快，体验跟在线服务挺接近的。

☁️ 云端服务集成（可选）
虽然主打本地，但Jan也很灵活。它允许你配置并连接到一些主流的云端AI服务，比如OpenAI、Anthropic、Mistral等。这样一来，如果你当前需要调用那些本地跑不了或者效果更好的闭源模型，也可以通过Jan来统一管理和使用了。这种混合模式非常方便，可以根据需求切换。

🤖 创建自定义助手
Jan允许你基于不同的模型和配置来创建多个“人格”或者说“助手”。比如你可以配置一个专注于代码生成的AI助手，一个用于英文写作和翻译的助手，或者一个专门用来头脑风暴创意的助手。这样你在面对不同的任务时，可以直接切换到对应的优化过的助手，提高了效率和使用体验。

🔌 提供OpenAI兼容API接口
这一点对开发者来说简直是福音！Jan在本地启动后，会默认在localhost:1337提供一个与OpenAI API高度兼容的接口服务。这意味着你之前开发的、调用OpenAI API的应用或者脚本，理论上只需要简单修改一下API地址，就可以无缝切换到调用本地运行的Jan服务了。这对于在本地测试AI功能、构建内部工具或者需要离线运行AI的应用场景，提供了巨大的便利性。我光是想到这个API接口，就感觉有很多好玩的应用可以去探索了。

🔒 强调隐私和安全
Jan的官方文档和Readme都非常强调隐私保护。项目方承诺不收集用户的个人信息，应用本身是免费的，也没有捆绑任何付费服务或加密货币项目。所有的本地会话和数据都只保存在用户自己的设备上。在当前越来越重视数据主权和隐私的背景下，Jan的这个特性非常有吸引力。

安装与使用

安装Jan非常简单，项目提供了主流操作系统的预编译安装包，省去了自己折腾环境的麻烦。

对于大部分用户来说，直接去Jan的官方网站或者项目的GitHub Releases页面，下载对应你的操作系统的安装包（比如Windows的.exe，macOS的.dmg，Linux的.deb或.AppImage文件），然后像安装普通软件一样双击运行安装程序就好了。

如果你是开发者，或者想自己编译、定制，项目也支持从源码构建。你需要确保系统安装了Node.js (版本 ≥ 20.0.0)、Yarn (版本 ≥ 1.22.0)、Make (版本 ≥ 3.81) 以及Rust环境（因为Tauri需要）。源码构建的步骤也很清晰：

# 首先，克隆项目的GitHub仓库
git clone https://github.com/menloresearch/jan
# 进入项目目录
cd jan

# 运行开发模式构建命令
# 这个命令会自动处理依赖安装、核心组件构建等，然后启动应用
make dev

make dev命令执行成功后，Jan应用就会启动了。第一次启动可能需要一点时间来加载或下载必要的组件。应用的界面是一个标准的聊天窗口，你可以在设置里选择或下载你想使用的模型，然后就可以开始跟AI对话了。他们的官方文档非常详细，包含了各种配置和常见问题的解答，建议上手前可以快速浏览一下。

使用场景与推荐理由

基于Jan的特性，我个人觉得它特别适合以下几种使用场景：

  1. 需要处理敏感数据或代码的开发者/研究人员：如果你正在处理一些公司内部的、不便上传到云端的代码、文档或数据，但又想利用AI的能力进行分析、总结、生成或重构，那么Jan提供的本地运行环境是最佳选择。它能最大限度地保障你的信息安全。
  2. 对隐私有极高要求的个人用户：如果你厌倦了各种在线服务可能带来的隐私风险，希望你的所有AI对话都只掌握在自己手里，Jan能满足你对数据主权和隐私的控制需求。
  3. 网络环境不稳定或需要离线工作的场景：出差、在没有稳定网络的地方，或者特殊的工作环境，Jan让你即使断开了互联网，也能随时随地使用AI助手，不影响工作效率。
  4. AI模型爱好者和应用开发者：如果你喜欢折腾各种开源大模型，想在本地比较它们的效果，或者想开发一些利用本地AI能力的应用（比如本地的代码助手、文本处理工具），Jan提供的模型管理和OpenAI兼容API接口，会大大降低你的开发门槛。

推荐Jan的理由也很明确：首先是它强大的本地运行能力和由此带来的数据隐私保障，这在当下竞争激烈的AI工具中算是一个独特的优势。其次，它提供了易用的桌面应用形式，不像一些本地模型运行方案需要命令行操作或者复杂的环境配置，Jan对普通用户也很友好。最后，那个OpenAI兼容API更是给开发者提供了无限的想象空间。

结语

总的来说，Jan是一款非常有价值的开源工具，它把AI大模型的强大能力，以一种安全、私密的方式带到了你的本地桌面。对于任何关心数据隐私、需要离线工作，或者希望在本地探索AI应用潜力的开发者和技术爱好者来说，Jan都绝对值得你花时间去了解和尝试。

亲手体验一下在你的电脑上驱动一个大模型的感受吧，你会发现掌控一切的感觉很不一样！

项目的GitHub地址在这里，想深入了解或者下载使用的同学，可以直接访问：
https://github.com/menloresearch/jan

如果你已经在使用Jan，或者试用后有什么心得或者遇到的“虫子”，欢迎在评论区留言，和大家一起分享交流呀！

类似文章