2025年2月23日,深思考人工智能正式发布鸿蒙系统TinyDongni&deepseek超小端侧多模态大模型及硬件模组,并宣布与国产头部模组厂商广和通、深开鸿达成深度合作,推出适配国产算力的硬件解决方案。此次合作标志着国产端侧AI技术在低功耗、高性能领域实现重大突破,打破“国产算力性能不足”的固有认知。
核心优势:轻量化大模型赋能国产硬件生态
TinyDongni作为端侧轻量化大模型,以仅1.5B的极简参数规模实现高效能运算,其创新量化方法显著降低首Token延迟,支持32K超长上下文理解,并通过多芯片协同处理与内存优化技术,兼顾低功耗与高响应速度。技术亮点包括:
架构优化:DongniForCausalLM架构,支持1536/768隐藏层维度;
多语言支持:词汇表扩展至183,542,覆盖更广泛的语言及专业领域表达;
灵活适配:兼容OpenHarmony、Linux、Windows、Android等主流操作系统。
deepseek系列则聚焦多模态能力,1B模型通过2048隐藏层维度与32注意力头设计,强化复杂场景下的语义理解,适配智能硬件与边缘计算场景。
国产模组合作:强强联合,打造端侧算力标杆
深思考联合国产模组厂商推出两大解决方案,验证轻量化大模型与国产硬件的协同效能:
高通模组(广和通):集成5G与Wi-Fi 7通信技术,依托深思考算法优化,为车载、机器人等场景提供实时AI处理能力;
深开鸿模组:基于国产芯片与OpenHarmony系统,支持8K编解码与多屏交互,赋能工业检测、AI摄像头等高精度场景。
技术突破意义:在国产算力硬件上跑通大模型,充分证明深思考技术的轻量化与高效能——模型体积小但功能完备,无需依赖高算力硬件即可实现复杂任务处理,为端侧AI普惠化提供坚实基础。
全场景应用:从生活到专业领域的AI革新
深思考端侧大模型已落地多个领域:
1.存储领域:利用深思考的轻量化大模型技术,对存储设备的数据进行智能管理和优化,能够实现快速的数据检索和分类,提高存储效率,降低存储成本。同时,通过对存储数据的智能分析,可及时发现潜在的数据安全风险,保障数据的安全性和可靠性;
2. 智能终端:AI摄像头实现本地化复杂语义分析,48MP ISP支持毫秒级图像检测;
3. 办公助手:AI PC Suite提供本地文件模糊搜索、PPT自动生成及同声翻译,保障数据安全;
4. 医疗健康:AI显微镜通过加密分析与扩展模块,提升病理检测稳定性与效率;
5. 智能汽车:融合手势、语音、图像多模态交互,实时解析车内外环境;
6. 机器人生态:人形与萌宠机器人依托“Her”模式与情感交互,针对萌宠玩具场景提供端侧模型与算力一站式解决方案,解决设备无法联网、厂商技术能力不足的痛点。
技术赋能未来,深思考持续深耕AI创新
深思考创始人& CEO杨志明表示:“深思考鸿蒙系统TinyDongni&deepseek超小端侧多模态大模型及硬件模组的发布,不仅是技术突破,更是端侧AI普惠化的里程碑。未来,将持续优化多模态交互能力,推动AI在医疗、工业、消费等领域的深度应用。”
针对场景定制化与性能平衡,杨志明进一步强调:“端侧模型通过量化技术确保功能指标不下降,同时利用本地小算力运行大模型,针对机器人、萌宠玩具等场景进行专项优化,实现性能与功耗的完美平衡。”
OpenHarmony助力,共筑端侧AI生态
在此次发布活动中,华为OpenHarmony使能部AI技术专家刘小飞介绍了OpenHarmony在大模型领域的探索。OpenHarmony是开源项目,旨在构建智能设备运行平台。其社区发展迅猛,生态伙伴众多。
OpenHarmony旗下的Laval社区与深思考合作,借助大模型服务开发者。2024年4月上线的OpenHarmony专属智能问答助手“小瓦AI答”,基于深思考Dongni多模态大模型技术,已服务9000多名开发者,回答3万多个问题,极大提升了社区与用户的互动体验。
未来,OpenHarmony海量端侧设备将为深思考技术提供广阔应用空间,双方携手共进,共同拓展端侧AI市场。
深思考此次发布的创新成果,结合OpenHarmony在大模型领域的探索实践,有望吸引更多生态伙伴加入,共同推动端侧AI技术的发展,让AI更好地服务于人们的工作和生活。