Skip to main content
非常适合： 律师、医生、安全研究人员或任何处理敏感数据且不希望数据离开计算机的人。

​
关注点

您正在与：
  • 客户机密信息
  • 医疗记录
  • 专有业务数据
  • 个人财务文件
  • 安全研究
您担心将这些数据发送到 OpenAI 或 Google 等云人工智能服务，即使他们声称这些数据是私有的。 好消息： 你不必这样做。您可以直接在 Mac 上运行 AI 模型。

​
本地模型如何工作

您无需将数据发送到互联网，而是将 AI 模型下载到 Mac 上（就像下载大型应用程序一样）并在本地运行。您的数据永远不会离开您的计算机。

100% 私人

没有任何内容发送到云端。您的数据保留在您的 Mac 上。

离线工作

在飞机上、安全设施中或任何没有互联网的地方使用人工智能。

无 API 成本

下载后，无需按使用付费。免费分析数千份文档。

大文件速度更快

没有上传/下载时间。非常适合大型文档。

​
设置：两个简单的选项

​
选项 1：Ollama（推荐初学者）

Ollama 使运行本地模型就像安装应用程序一样简单。
1

安装Ollama

1.从llama.com下载 2. 像安装任何 Mac 应用程序一样安装它 3.它在您的菜单栏中运行
2

下载模型

打开终端并运行：
ollama pull llama3.1
这将下载 Meta 的 Llama 3.1 模型（~4.7GB）。其他不错的选择：
  • ollama pull mistral（更快，更小）
  • ollama pull codellama（非常适合代码）
  • ollama pull mixtral（能力更强，更大）
3

连接到 Alter

  1. 打开更改 → 设置 (Cmd + ,)
  2. 转到 API 密钥 选项卡
  3. 在 自定义提供商 下，选择 Ollama
  4. 确保 Ollama 正在运行（检查菜单栏）
  5. 打开启用自定义提供程序
4

开始使用它

1.在Alter的提示框中按/ 2. 查找 自定义 部分 3. 选择您的本地型号（例如“llama3.1”） 4. 提出任何问题 – 它完全在您的 Mac 上运行！

​
选项 2：LM Studio（更多控制）

LM Studio 为您提供图形界面来管理模型。
1

安装LM Studio

从 lmstudio.ai 下载并安装。
2

下载模型

1.打开LM Studio 2.浏览型号目录 3. 下载适合您的需求和 Mac 规格的一款 4.启动本地服务器（大“启动服务器”按钮）
3

连接到 Alter

  1. 在更改设置 → API 密钥
  2. 选择 LM Studio 作为提供商
  3. LM Studio默认运行在localhost:1234上
  4. 将 启用自定义提供程序 打开

​
现实世界的例子

博士。陈医师：
“我需要分析患者记录以进行研究，但由于 HIPAA，我无法使用云 AI。使用本地模型，我可以询问‘您在这些症状中看到什么模式？’并获得人工智能帮助，同时将所有内容保存在我安全的笔记本电脑上。”
亚历克斯，安全研究员：
“我分析恶意软件报告，但无法将其上传到任何地方。运行本地模型意味着我可以询问‘提到了哪些危害指标？’而不冒数据暴露的风险。”

​
需要了解的权衡

云模型： 更快、更强大 本地模型： 较慢，但完全私有配备 16GB RAM 的 MacBook Pro 可以流畅运行小型机型。对于较大的型号，您需要 32GB 以上的 RAM。
本地模型每个月都在变得更好，但云模型（GPT-4，Claude）仍然更能够进行复杂的推理。最佳方法： 对敏感数据使用本地模型，对不太敏感的复杂任务使用云模型。
型号范围从 4GB 到 70GB+。确保您有足够的磁盘空间。良好的入门型号：
  • Llama 3.1 8B (~4.7GB) – 速度快，质量不错
  • Mistral 7B (~4.1GB) – 良好的平衡性
  • Mixtral 8x7B (~26GB) – 更高质量，需要更多 RAM

​
私有工作流程的最佳实践

对敏感任务使用特定操作： 创建配置为始终使用本地模型的更改操作。这样您就不会意外地使用云模型来进行敏感工作。
设置隐私工作区： 仅为敏感文档创建一个工作区。这使它们保持井井有条，并提醒您使用本地模型。
验证其是否正常工作： 设置后，断开 WiFi 并尝试使用 Alter。如果它仍然适用于您的本地模型，那么您就知道它是真正的本地模型。

​
何时使用什么

场景推荐
医疗记录本地模特(Ollama/LM Studio)
法律文件本地模特
安全研究本地模特
财务分析本地模型或带有 Pro 计划的 Alter Cloud
创意写作云模型（更好的创造力）
一般问题云模型（更快）
代码帮助两者都效果很好

​
相关资源

准备好私有化了吗？ 从 Ollama 和 Llama 3.1 模型开始。它是免费的、易于设置，并且您将获得永远不会离开您的 Mac 的 AI 帮助！