Noema: Local AI & Offline LLM

Noema 将大语言模型智能带到你的所有设备上，并且可完全离线运行。你可以直接从 Hugging Face 下载轻量模型，连接受支持的远程端点，并将模型与精选教材以及你自己的 PDF 或 EPUB 搭配使用。以隐私为先的设计意味着，在本地运行时，无论你使用的是 iPhone、Mac 还是 visionOS，数据都不会离开你的设备。

- 原生 macOS 应用：在桌面上运行完整的 Noema 体验，采用为 macOS 重新打造的界面设计。

- visionOS 支持：在空间计算环境中使用 Noema，并将窗口放置在你的工作空间周围。

- Noema Relay：通过 CloudKit 将 iPhone 连接到 Mac，无需本地 Wi-Fi，即可让一台设备托管模型，另一台设备作为客户端使用。

- 模型视觉支持：将照片附加到提示中，并使用多模态模型在设备端进行图像理解与分析。

- Open Textbook Library 集成：通过内置 Explore 视图浏览并导入整本教材；Noema 会在本地建立索引，方便你按需搜索和检索相关段落。

- 导入你自己的数据：添加 PDF 或 EPUB 格式的个人文档，并在设备端完成嵌入和索引，以支持检索增强生成。

- 集成 Hugging Face 搜索：从 Hugging Face Hub 发现并安装量化模型，支持一键安装、自动依赖管理和实时下载进度。

- 远程模型支持：连接受支持的远程端点，包括 OpenRouter 和 LM Studio，并已更新对 LM Studio REST v1 的兼容性，同时通过 Explore 提供更顺畅的模型下载流程。

- 扩展的模型运行时支持：可通过 GGUF、MLX、ExecuTorch、CoreML 以及 Apple Foundation Model 支持运行模型，为 Apple 设备提供更灵活的本地选项。

- 内存检测与模型大小助手：内置助手可估算每个模型的内存占用，并显示其是否适合你的设备；还可估算适合内存容量的最大上下文长度。

- 面向高级用户的设置：微调上下文长度、量化和 GPU 加速；启用用于内置搜索和其他功能的工具调用；并自定义模型参数以获得最佳性能。

- 内置工具调用与 Python 支持：使用包括 Python 在内的集成工具，扩展模型能力以支持更高级的工作流。

- 内置搜索与 RAG：使用集成搜索工具和检索增强生成，在不触及上下文限制的情况下查询你的数据。

- 本地化升级：以 10 种语言体验 Noema，让国际团队能够使用最适合自己的界面。

- 默认私密且离线：本地模型完全在设备端运行，除非你主动选择使用连接的远程提供商，否则对话和文件都不会离开你的设备。