HO-001KritiekAanbiederPreventief
Ontwerp van mechanismen voor menselijk toezicht
Artikel 14(1) vereist dat hoogrisico-AI-systemen zodanig worden ontworpen en ontwikkeld dat natuurlijke personen de werking van het systeem effectief kunnen overzien, waarbij toezichttools in het systeemontwerp zijn ingebouwd in plaats van achteraf toegevoegd.
Artikelen:Article 14(1)Article 14(2)
Bewijs voorbeelden
- Oversight architecture design document
- Human-in-the-loop flow diagram
- Oversight mechanism usability test results
Normen
ISO 42001:2023 §8.3ISO/IEC 42001:2023 Annex D
Gerelateerde controles
- HO-002Override and Intervention CapabilityHigh-risk AI systems must include a capability for human overseers to intervene in or interrupt the system's operation, and providers must document this…
- HO-003Stop Function ImplementationProviders must implement a stop function that enables the immediate cessation of the AI system's operation when required by human overseers, with a clear,…
- HO-004Automation Bias Awareness TrainingArticle 14(4) requires that oversight persons are aware of the tendency to over-rely on AI outputs (automation bias); deployers must implement training…
- HO-005Output Interpretation CapabilityDeployers must ensure that persons assigned to oversee high-risk AI systems have the capability to correctly interpret the system's outputs, including the…
- HO-006Decision Reversal and Correction ProcessDeployers must establish documented procedures for reversing or correcting AI-assisted decisions that affect natural persons, including how affected…
- HO-007Oversight Personnel Competency RequirementsProviders must specify in the instructions for use the competencies required for persons assigned to oversee the AI system, and deployers must verify that…
Gerelateerde AI-verordening-begrippen
Upgrade wanneer het juridisch verdedigbaar moet zijn.
De gratis vragenlijst geeft voorlopige signalen. De Volledige Beoordeling zet echte systeeminformatie om in een controleerbaar besluitdossier: extractie, componentscheiding, bewijs, nationale wetgeving en een auditklaar dossier.
Start gratis risicovoorbeeld