SEARCH

搜索“小模型”

以下是与“小模型”相关的资讯，按时间排序。

3篇资讯

人工智能
端侧小模型加速落地手机本地推理成新趋势

近几个月,手机与PC厂商密集把压缩后的小模型装进设备,通话摘要、离线翻译、相册搜索等能力不再依赖云端。端侧推理带来隐私与时延优势,也暴露内存、功

9天前 81
云计算
云GPU池化从整卡独占走向细粒度切分

推理负载爆发后，整卡独占的粗放分配方式让云上GPU利用率长期偏低。硬件分区、时间片共享与远程算力池三条路线正在并行推进，调度与计量层随之改变，算

13天前 75
数字化转型
AI推理成本成数字化转型新变量

当大模型从试点走向常态调用，推理成本从技术细节变成财务议题。单价下降而总量上升、支出从IT预算渗透到业务预算，能否算得过账，正影响企业数字化转型

13天前 54