发布时间：1970-01-01 08:00:00
发布者：竞技宝平台官方
快科技8月4日音讯，今天，腾讯混元发布四款开源小尺度模型：0.5B、1.8B、4B、7B。
这四款模型消费级显卡即可运转，适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景，支撑笔直范畴低成本微调。
现在已在Github和Huggingface等开源社区上线，Arm、高通、Intel、联发科技等多个消费级终端芯片渠道宣告支撑布置。
这四款均归于交融推理模型，推理速度快、性能好价格低，用户可按需挑选快考虑或慢考虑形式。
用户可根据运用场景灵敏挑选模型考虑形式——快考虑形式供给简练、高效的输出；而慢考虑触及处理复杂问题，具有更全面的推理过程。
在言语了解、数学、推理等范畴表现出色，在多个揭露测验集上领先同尺度模型。
只需单卡即可布置，部分PC、手机、平板等可直接接入，对干流推理结构和多种量化格局兼容性强。
具有杰出的agent和长文才能，原生长上下文窗口达256k，意味着模型能够一次性记住并处理相当于40万中文汉字或50万英文单词的超长内容，相当于一口气读完3本《哈利波特》小说，而且能记住一切人物联系、剧情细节，还能根据这一些内容评论后续故事开展。
使用层面，四款小尺度模型都能够很好的满意从端侧到云端、从通用到专业的多样化需求，而且现已在腾讯多个事务中使用，可用性和有用性经过了实践的查验，是真实有用的模型。
例如，依托模型原生的超长上下文才能，腾讯会议AI小帮手、微信读书AI问书AI帮手均完成对完好会议内容、整本书本的一次性了解和处理。
在端侧使用上，腾讯手机管家使用小尺度模型提高废物短信辨认准确率，完成毫秒级阻拦，隐私零上传；腾讯智能座舱帮手经过双模型协作架构处理车载环境痛点，充沛的发挥模型低功耗、高效推理的特性。
特别声明：以上内容(如有图片或视频亦包含在内)为自媒体渠道“网易号”用户上传并发布，本渠道仅供给信息存储服务。
跟着申花2-1反转9人西海岸，蓉城3-1，海港4-3，中超冠军根本出炉
上海财经大学姚洋共享“落户上海”：我住的楼里，我是最年青的，尽管我现已过了60岁
灰熊不可能梭哈，安安稳稳过日子才是线湖人遭国王罚球准绝杀 威少无缘首秀施罗德25分
3-3爆冷！12亿欧巴黎大滑坡：从4轮12分到4轮1分 1天后或丢第一
你惊惧我贪婪！约500亿资金借道ETF蜂拥出场，主力组织正重金下注这些板块（附名单）
夜读体会史诗级提高：苹果 M5 iPad Pro 屏幕亮度最低为 1 尼特
60→120Hz：苹果 M5 Vision Pro 头显“Mac 虚拟显现”刷新率翻倍
苹果 M5 MacBook Pro 跑分曝光：CPU 单核提高 14%、多核提高 21%
