PocketPal

PocketPal是一款移动端离线AI助手，通过本地化处理确保数据隐私，结合智能内存管理与自定义参数，满足用户多样化需求。无论是需要安全辅助的商务场景，还是追求灵活模型切换的技术用户，PocketPal均能提供可靠解决方案。

软件简介

一款移动端离线AI助手，其核心优势在于无需联网即可本地运行DeepSeek、Phi、Gemma、Qwen等开源语言模型，确保用户数据隐私安全。应用深度集成Hugging Face平台，用户可自由下载并切换模型，覆盖商务讨论、学术研究、日常对话等场景。基础功能完全免费，对话数据全程本地处理，杜绝云端上传风险，尤其适合对数据安全敏感的用户。

主要功能

1.离线AI交互：支持设备本地运行AI模型，无需联网即可进行聊天交互，满足多样化场景需求，如旅行、户外活动或网络不稳定环境。

2.多模型切换：集成DeepSeek、Phi、Gemma、Qwen等开源语言模型，用户可根据需求下载并切换，覆盖问答、摘要、推理、代码生成等多领域。

3.智能内存管理：后台自动卸载闲置模型以节省资源，再次使用时快速重载，确保设备流畅运行，避免卡顿。

4.自定义参数设置：用户可调整系统提示、温度、BOS令牌、聊天模板等参数，优化AI响应，实现个性化对话体验。

软件特色

1.隐私安全保障：所有对话数据本地处理，不上传云端，适合对数据安全敏感的用户，如商务人士或隐私保护需求者。

2.模型多样性：支持GGUF格式的多种开源模型，涵盖不同参数规模和技能场景，用户可自由扩展模型库，避免单一模型的功能局限。

3.实时性能监控：提供每秒生成令牌数、每令牌毫秒数等实时指标，帮助用户了解模型运行状态，优化设备适配性。

4.跨平台兼容性：支持iOS与Android系统，数据同步至云端，实现无缝切换与持续学习，适合多设备用户。

PocketPal部署方法

1、在本站点击下载，打开软件点击Models，点+，点Hugging Face搜索大模型

2、尽量下载名字带Q4_NL（4bit量化 normal 压缩）的模型，回答比较精准。

3、解释一下部分量化标识命名规则：NL 平衡精度与速度（Normal）、M 中等优化（middle）、 XS 极致压缩（Extra Small）、K 极限压缩（K-special）、Qx 量化位数（手机上运行 Q4 最佳）。

4、在加载好模型后在Settings中把N PREDICT设置为4096。如果遇到问题请发到评论区，我会试着解决。

PocketPal ai本地ai大模型加载方式

1、用户可以在app中直接下载模型，下载时需要连接到互联网

2、比如这里可以下载到谷歌ai大模型Gemma，阿里通义千问的大模型Qwen等

3、其它ai大模型，比如DeepSeek的可以点击右下角的添加按钮，将手机里下载好的模型加载进来即可

4、模型加载后设置完成后可进入设置界面进行相关设置，设置完成后即可进行诸如随时随地与模特进行私密的离线对话等相关操作

更新日志

v1.10.13版本

修复：useChatSession中聊天消息重复问题