MNNchat最新版本是在github上的开源AI应用,最大的特点就是脱离在线服务,可以本地使用,它是阿里做的产品,可调动安卓手机的处理器与显卡算力,所有AI相关操作都能离线完成。对话交流、图文创作、视频制作、代码编写等操作均在本机运行,数据不会对外传输。软件运行反应灵敏,可加载多款主流AI模型,图片、语音类交互功能也都可以正常使用。
如何设置自定义回答风格与输出长度
1. 在设置中找到系统提示词选项,可自定义模型人设与语气。
2. 调整最大生成token数值,控制回答内容的篇幅长短。
3. 写工作文案时,设定正式风格与较长输出,适配办公场景。
最新版如何开启思考模式切换
1. 新版本在对话界面增加了专门的开关,可一键切换思考模式。
2. 开启后模型会进行更深层次推理,回答更严谨全面。
3. 关闭后直接快速作答,适合日常简单问答场景。
4. 处理学习类问题时,开启思考模式能获得更详细推导过程。
应用场景说明
1、全能创作:兼顾聊天交互、文案撰写、代码编写,可完成学术论文、活动方案等各类内容创作。
2、多媒体创作:一键生成绘画作品,支持视频解读、文案提取,并梳理剪辑思路,覆盖图文、视频创作全流程。
3、智能综合处理:可识别图片、音频、视频多种形式内容,能将流程图转代码、会议音频生成PPT大纲,功能全面。
4、本地离线运行:绘图、编代码、解析视频等任务均在手机本地执行,免流量、无订阅费用,响应速度快。
使用教程
1、本站免费下载安装应用后,您可以在模型市场界面中浏览所有支持的模型
2、然后选择你需要的ai大模型下载
3、下载好后就可以直接在应用内与模型交互
4、此外,您可以通过侧边栏访问聊天历史,轻松查看和管理之前的对话记录
怎样在本地设备切换不同AI模型
1. 进入软件内的模型库页面,可浏览所有适配的模型列表。
2. 选择目标模型后自动下载,完成后即可切换使用。
3. 支持Qwen、Gemma、Llama等多种主流模型,满足不同需求。
4. 无网络的户外场景,提前下载好模型可随时切换使用。
5. 还能对已下载模型进行性能测试,对比运行速度。
更新日志
v0.8.2.2版本
1、更新亮点:
刷新内置 MNN runtime,带入最新的 CPU LinearAttention 与 Arm82 fp16 优化路径。
提升思考模式提示词和数组拼接场景下的 tokenizer 与模板渲染兼容性。
为 OpenCL 和 Metal 执行路径补充 TopKV2 后端支持。
2、问题修复:
修复 Android 点击 Add Local Model 时的崩溃问题。
避免模型加载时因 mmap 权重部分初始化而导致的死锁问题。
对同模型启动 API 服务时复用已加载 runtime session,避免额外重载导致的卡死或崩溃。