例如■■■◆,手机断网模式下生成一个“理由充分、安排详实★■■■”的员工休假申请◆■★■,效果是这样:
在高通旗舰平台上推理速度小于1★■★◆◆.5秒★★◆★,比手机云端处理快10倍★■■,且支持输出1200万像素以上的高清图片★◆◆★,支持等比扩图、自由扩图、旋转扩图多种图像编辑功能★■。
同时公海赌船,在实际应用中,为进一步提高各类终端任务处理灵活性,它还引入端云联动的MoE框架★★◆★■,可针对不同行业应用设置不同的云端联动配比◆■★◆,在性能★■◆、速度和成本间取得平衡,获得最佳推理效果。
【红色KEN是商汤日日新端侧模型操纵,绿色KEN是GPT-4操纵。对战开始绿色KEN略占上风,但红色KEN出拳速度更快★◆■,各种连招打到绿色KEN反应不过来,最终取胜■◆。这个对比表达的并不是模型能力强弱◆◆◆■★,而是体现了不同使用场景下端侧模型决策速度更快,它不需要云端大模型的漫长等待,直接在设备上给出答案,速度飞起】
可以看到◆★■◆,商汤端侧大模型在语言处理和多模态交互方面展现了强大的应用潜力公海赌船。
当数十亿个端侧设备都在不停地调用云端大模型★★■◆■◆,估计没有任何一个服务器受得了。因此公海赌船★◆,能够提供即时推理决策的端侧能力是AI大模型进一步提高应用渗透率的关键■■◆★。
可以看到◆★◆★,在「商汤技术交流日」现场实时演示中■★■◆,商汤端侧大模型完成3种不同方案的扩图速度比竞品手机自带App扩1张图的速度还快:
4月23日「商汤技术交流日」上,商汤科技董事长兼CEO徐立用一段街霸小视频讲出了其中道道★★★◆■★:
目前■◆◆★★,商汤端侧大模型已开放SDK服务◆■◆,全面覆盖智能手机◆■◆◆、平板电脑、VR眼镜、车载系统等多样化的设备场景,为开发者和制造商提供丰富的应用适配空间★★。
【「商汤技术交流日」现场,小米集团小爱总经理 王刚(左),商汤科技联合创始人、首席科学家 王晓刚(右)◆■★★■,共同探讨AI大模型在智能终端的应用趋势和用户反馈】
以扩图功能为例■◆★■,商汤「日日新 5★■.0 端侧大模型」扩散模型可实现当前业内最快推理速度。
在个人出行场景,近期火爆市场的小米汽车SU7,小米小爱同学为车主提供智能化交互体验★◆★,当中也有集合应用了商汤的大模型技术能力,有基于商汤端云大模型解决方案;小米集团小爱总经理王刚表示:◆■★★★★“商汤的云边端全栈组合,可以很好地赋能和适配小米物联网生态。我们希望与商汤共同为我们的用户打造更具智能化的产品体验◆★◆★★◆。”
它能够胜任端侧AI场景中多种任务,包括日常对话■■、常识问答、文案生成■◆■★◆、相册管理和图片创作等,可满足各类用户日益普遍的AI应用需求★■。
目前商汤「日日新 5■◆★◆◆.0 端侧大模型」语言模型能力的推理速度达到了业内最快,对比人眼20字/秒的阅读速度★★■■,可在中端性能手机上达到18◆★◆★■★.3字/秒的推理速度。