正在加载模式…
⚡
资源感知调度(RAS)
根据可用的计算资源和约束动态调度 AI 任务
复杂度: high工作流编排
30秒速览
- 是什么
- 把 AI 任务排入队列，并根据 CPU、GPU、内存、温度和功耗的实时测量调整其优先级与执行时机。
- 何时使用
- 在硬性截止时间、算力有限或运行中不断变化的散热约束下，同时运行多种 AI 工作负载的系统。
- 注意
- 持续监控的开销可能超过节省；资源竞争下优先级来回抖动，浪费的时间比夺回的还多。
向AI专家咨询此模式
打开助手并预填您的问题,发送前可先确认。
资源感知调度: 概览
根据可用的计算资源和约束动态调度 AI 任务
- Real-time resource monitoring
- Dynamic priority adjustment
- Multi-resource optimization
- Deadline-aware scheduling
- Energy consumption balancing
- Thermal management integration
The Agent Architect
每周一个模式、一个权衡、一个生产事故案例。为构建智能体系统的人准备的每周简报。
每周一封邮件,一键退订。您的地址仅用于发送简报。
参考资料
该模式所依据的论文、规范和代码仓库。
- Clockwork: Predictable Low-Latency Inference (OSDI 2020)
- Nexus: Multi-tenant Inference Serving (SOSP 2019)
- INFaaS: Automated Model-less Inference Serving (ATC 2021)
- Salus: Fine-Grained GPU Sharing
- Gandiva: Introspective GPU Scheduler (OSDI 2018)
由本目录背后的工程师执行
为你的智能体架构做一次评审
本页讲的是一个模式。真实系统会同时跑几十个，而多数故障恰恰出在它们的衔接处。我们按本目录的 288 个模式评审你的整体设计：架构、可靠性、评测与成本，每一条结论都对应到能修复它的模式。
€750（原价 €1,500），一周交付，书面报告加讲解通话，9月30日前