プロンプト、ツール、ポリシーへの変更を提案し、独立した評価と承認を経た場合にのみそれを採用する、制御されたシステム
Loading technique guide…
パターン: 自らの能力と性能を時間とともに自動的に分析・変更・改善するシステム
理由: 継続的な最適化を可能にし、手作業の保守を減らし、変化する要件に自動的に適応する
重要なポイント: 監視・分析・安全なデプロイの仕組みを組み合わせ、自律的な能力向上を実現する
厳選された資料で理解を深めましょう
Self-Instruct: Aligning Language Model with Self Generated Instructions (Wang et al., 2022)
Constitutional AI: Harmlessness from AI Feedback (Bai et al., 2022)
Self-Taught Optimizer (STO): Recursively Self-Improving Code Generation (Zelikman et al., 2023)
Large Language Models Can Self-Improve (Huang et al., 2022)
AI Alignment: A Comprehensive Survey (Ji et al., 2023)
Measuring Progress on Scalable Oversight for Large Language Models (Bowman et al., 2022)
Red Teaming Language Models to Reduce Harms (Ganguli et al., 2022)
Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback (Bai et al., 2022)
Genetic Programming: On the Programming of Computers by Means of Natural Selection (Koza, 1992)
NEAT: Evolving Neural Networks through Augmenting Topologies (Stanley & Miikkulainen, 2002)
Age-Fitness Pareto Optimization (Schmidt & Lipson, 2010)
Automated Algorithm Design via Evolutionary Computation (Pappa et al., 2014)