单选题 某公司打算通过量化来减少模型推理时的内存占用,在量化时量化预训练的浮点模型,并使用部分训练数据来校准模型,这是采用了哪种压缩方式?
相关试题
单选题 CANN是华为针对AI场景推出的异构计算架构,包含多个组件,其中负责提供异构算子库的是以下哪一个?
单选题 某公司打算部署一个13B的大模型用于对外提供服务,已知服务器显存为32G,为了保证尽可能高的模型准确率,他可以采用以下哪种精度的模型?
单选题 John在处理一些任务时使用了几块不同的芯片(CPU、GPU、NPU),以下关于对硬件使用描述中,正确的是哪一个选项?
单选题 大模型拥有众多应用场景,以下哪一个选项不属于自然语言处理领域?
单选题 MindX包括多个组件,提供了集群调度、边缘推理、应用快速开发等功能,其中哪个组件提供了开源模型下载功能?
单选题 John目前正在规划建设数据中心,以下哪个系统或设备是他在L2建设时需要考虑的?
单选题 某工程师想要通过微调大模型构建一个业务问答机器人,在实现过程中不需要考虑以下哪个问题?
单选题 大模型存储分布式组网中的常见协议不包含以下哪一项?