正在加载模式…

🔧

自我改进系统(SIS)

受控系统，提出对提示词、工具或策略的更改，并仅在经过独立评估和批准后才予以保留

复杂度: high学习与适应

30秒速览

是什么: 智能体提出对提示词或策略的修改，在隔离环境中用测试套件加以验证，只有在获得人工批准后才部署。
何时使用: 故障代价高昂的生产系统，你需要在不破坏现有功能的前提下安全地演进行为。
注意: 评测套件会变得陈旧或不完整，导致有问题的改动通过验证，照样进入生产环境。

向AI专家咨询此模式

打开助手并预填您的问题,发送前可先确认。

以MCP服务器形式获取此目录为该模式调优提示词

受控系统，提出对提示词、工具或策略的更改，并仅在经过独立评估和批准后才予以保留

Candidate change generation
Versioned evaluation suites
Sandboxed validation
Human approval gates
Canary releases and rollback
Change provenance and audit logs

The Agent Architect

每周一个模式、一个权衡、一个生产事故案例。为构建智能体系统的人准备的每周简报。

每周一封邮件,一键退订。您的地址仅用于发送简报。

参考资料

该模式所依据的论文、规范和代码仓库。

Self-Refine: Iterative Refinement with Self-Feedback (2023)arXiv:2303.17651

由本目录背后的工程师执行

为你的智能体架构做一次评审

本页讲的是一个模式。真实系统会同时跑几十个，而多数故障恰恰出在它们的衔接处。我们按本目录的 288 个模式评审你的整体设计：架构、可靠性、评测与成本，每一条结论都对应到能修复它的模式。

€750（原价 €1,500），一周交付，书面报告加讲解通话，9月30日前

查看评审

模式

正在加载模式…

设计模式与技术

正在加载模式…

🔧

自我改进系统(SIS)

受控系统，提出对提示词、工具或策略的更改，并仅在经过独立评估和批准后才予以保留

复杂度: high学习与适应

30秒速览

是什么: 智能体提出对提示词或策略的修改，在隔离环境中用测试套件加以验证，只有在获得人工批准后才部署。
何时使用: 故障代价高昂的生产系统，你需要在不破坏现有功能的前提下安全地演进行为。
注意: 评测套件会变得陈旧或不完整，导致有问题的改动通过验证，照样进入生产环境。

向AI专家咨询此模式

打开助手并预填您的问题,发送前可先确认。

以MCP服务器形式获取此目录为该模式调优提示词

30 秒速览

模式： 能够随时间自动分析、修改并改进自身能力与性能的系统

原因： 支持持续优化，减少人工维护，并自动适应需求变化

关键洞察： 结合监控、分析与安全部署机制，实现自主的能力增强

快速实现

1基线:确立系统初始性能指标

2监控:持续收集性能与错误数据

3分析:自动识别改进机会

4生成:创建并评估潜在改进

5部署:安全地实施经过验证的改进

Example: baseline_system → continuous_monitoring → improvement_generation → safe_deployment → enhanced_system

何时使用

适用场景

• 需要持续优化的长期运行系统
• 需求不断变化的动态环境
• 具备可度量性能指标的系统
• 已具备充分的安全基础设施
• 可以进行人工监督与干预

避免场景

• 缺乏健壮防护措施的安全关键系统
• 短期或一次性应用
• 目标不明确或不可度量的系统
• 要求行为固定的强监管环境
• 监控与控制基础设施不足

关键指标

改进速率

每个迭代周期的性能提升

安全违规

约束突破或失败的次数

收敛速度

达到最优性能所需时间

稳定性比率

成功与失败的改进尝试之比

资源效率

自我改进的计算成本

人工干预

所需人工修正的频率

主要应用场景

代码生成：通过迭代精炼自动提升代码质量与效率

推荐系统：根据用户反馈与参与度持续优化算法

交易算法：根据市场表现与条件变化调整策略

内容创作：依据成效指标迭代改进文案、设计或创意产出

系统管理：自动优化配置与资源分配

科学发现：通过迭代学习改进假设生成与实验设计

参考资料与延伸阅读

通过这些精选资源加深理解

基础概念

The Basic AI Drives (Omohundro, 2008)

Artificial General Intelligence: Concept, State of the Art, and Future Prospects (Goertzel, 2014)

The Technological Singularity (Shanahan, 2015)

自我修改的代码与架构

Neural Architecture Search: A Survey (Elsken et al., 2019)

AutoML-Zero: Evolving Machine Learning Algorithms From Scratch (Real et al., 2020)

Self-Evolving Neural Networks (Stanley & Miikkulainen, 2002)

递归式自我改进

Risks from Learned Optimization (Hubinger et al., 2019)

Concrete Problems in AI Safety (Amodei et al., 2016)

AutoML与神经架构搜索

Efficient Neural Architecture Search via Parameter Sharing (Pham et al., 2018)

DARTS: Differentiable Architecture Search (Liu et al., 2018)

Progressive DARTS: Bridging the Optimization Gap (Chen et al., 2019)

Once for All: Train One Network and Specialize it for Efficient Deployment (Cai et al., 2019)

LLM自我改进的最新进展

Self-Instruct: Aligning Language Model with Self Generated Instructions (Wang et al., 2022)

Constitutional AI: Harmlessness from AI Feedback (Bai et al., 2022)

Self-Taught Optimizer (STO): Recursively Self-Improving Code Generation (Zelikman et al., 2023)

Large Language Models Can Self-Improve (Huang et al., 2022)

安全与对齐研究

AI Alignment: A Comprehensive Survey (Ji et al., 2023)

Measuring Progress on Scalable Oversight for Large Language Models (Bowman et al., 2022)

Red Teaming Language Models to Reduce Harms (Ganguli et al., 2022)

Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback (Bai et al., 2022)

演化式与遗传式编程

Genetic Programming: On the Programming of Computers by Means of Natural Selection (Koza, 1992)

NEAT: Evolving Neural Networks through Augmenting Topologies (Stanley & Miikkulainen, 2002)

Age-Fitness Pareto Optimization (Schmidt & Lipson, 2010)

Automated Algorithm Design via Evolutionary Computation (Pappa et al., 2014)

面向自我改进的元学习

Learning to Learn by Gradient Descent by Gradient Descent (Andrychowicz et al., 2016)

Model-Agnostic Meta-Learning for Fast Adaptation (Finn et al., 2017)

Meta-Learning: A Survey (Hospedales et al., 2020)

Learning to Optimize Neural Nets (Li & Malik, 2016)

实用实现框架

AutoGluon：面向图像、文本与表格数据的AutoML

NASLib：模块化且灵活的AutoML框架

OpenAI Codex: Evaluating Large Language Models Trained on Code

GitHub Copilot：AI结对编程

监控与安全工具

MLflow：机器学习生命周期平台

Weights & Biases：ML实验跟踪

Seldon Core：面向Kubernetes的MLOps平台

Kubeflow：面向Kubernetes的机器学习工具包

研究社区与机构

Future of Humanity Institute (FHI)

Machine Intelligence Research Institute (MIRI)

Center for AI Safety (CAIS)

Anthropic：AI安全研究公司

治理与政策研究

Partnership on AI：原则与研究

The Malicious Use of Artificial Intelligence (Brundage et al., 2018)

AI Index Report：衡量AI进展

受控系统，提出对提示词、工具或策略的更改，并仅在经过独立评估和批准后才予以保留

Candidate change generation
Versioned evaluation suites
Sandboxed validation
Human approval gates
Canary releases and rollback
Change provenance and audit logs

The Agent Architect

每周一个模式、一个权衡、一个生产事故案例。为构建智能体系统的人准备的每周简报。

每周一封邮件,一键退订。您的地址仅用于发送简报。

参考资料

该模式所依据的论文、规范和代码仓库。

Self-Refine: Iterative Refinement with Self-Feedback (2023)arXiv:2303.17651

由本目录背后的工程师执行

为你的智能体架构做一次评审

€750（原价 €1,500），一周交付，书面报告加讲解通话，9月30日前

查看评审

正在加载模式…

自我改进系统(SIS)

30秒速览

向AI专家咨询此模式

自我改进系统: 概览

The Agent Architect

参考资料

为你的智能体架构做一次评审

模式

正在加载模式…

设计模式与技术

正在加载模式…

自我改进系统(SIS)

30秒速览

向AI专家咨询此模式

30 秒速览

快速实现

推荐与避免

何时使用

适用场景

避免场景

关键指标

主要应用场景

参考资料与延伸阅读

基础概念

自我修改的代码与架构

递归式自我改进

AutoML与神经架构搜索

LLM自我改进的最新进展

安全与对齐研究

演化式与遗传式编程

面向自我改进的元学习

实用实现框架

监控与安全工具

研究社区与机构

治理与政策研究

自我改进系统: 概览

The Agent Architect

参考资料

为你的智能体架构做一次评审

模式

设计模式与技术

正在加载模式…

设计模式与技术

30 秒速览

快速实现

推荐与避免

何时使用

适用场景

避免场景

关键指标

主要应用场景

参考资料与延伸阅读

基础概念

自我修改的代码与架构

递归式自我改进

AutoML与神经架构搜索

LLM自我改进的最新进展

安全与对齐研究

演化式与遗传式编程

面向自我改进的元学习

实用实现框架

监控与安全工具

研究社区与机构

治理与政策研究

设计模式与技术