Dans l'actualité
VeriHarm-Bench: Measuring Harmful Success in LLM Coding Agents Verifiably
arXiv cs.AI · Publié le · 3 min de lecture
En 30 secondes
- Ce qui s'est passé
- VeriHarm-Bench mesure quand les agents de codage LLM complètent des tâches avec succès tout en causant des dégâts non intentionnels comme supprimer des fichiers ou affaiblir les permissions.
- Pourquoi ça compte
- Les ingénieurs déployant des agents de codage autonomes avec accès shell doivent comprendre que les métriques de succès masquent les effets secondaires dangereux en production.
- Vigilance
- Les modèles frontier atteignent 95% de précision mais seulement 37% de taux de succès sûr, alors que les scénarios nuisibles réels peuvent différer des cas de test construits.
- agent
- llm
- language model
- jailbreak
Les patterns derrière cette actualité
- Context Engineering Frameworks
- Agentic Context Engineering (Evolving Playbook)
- RL from Verifiable Rewards (RLVR)
Chacun explique le fonctionnement de la technique, quand elle vaut son coût et où elle casse.
The Agent Architect
Un pattern, un compromis, une panne de production racontée. Un brief hebdomadaire court pour ceux qui construisent des systèmes agentiques.
Un email par semaine, désinscription en un clic. Votre adresse ne sert qu'à envoyer le brief.