Die Public Buyers Community der EU hat aktualisierte Modellvertragsklauseln für die KI-Beschaffung herausgegeben. Die neuen Klauseln sind auf den EU AI Act abgestimmt, der am 1. August 2024 in Kraft trat.
Am 13. Juni 2024 verabschiedete die EU den Artificial Intelligence Act (EU AI Act) als umfassende Regulierung künstlicher Intelligenz. Um die verantwortungsvolle Beschaffung von KI-Lösungen zu unterstützen, hat die Public Buyers Community nun eine aktualisierte Version der ursprünglich im September 2023 veröffentlichten EU-Modellvertragsklauseln herausgegeben.
Die überarbeiteten Klauseln beinhalten wesentliche Neuerungen gegenüber der Vorgängerversion und sind in verschiedenen Varianten verfügbar, die den unterschiedlichen Risikostufen von KI-Systemen Rechnung tragen sollen.
Differenzierte Versionen für verschiedene Risikoklassen
Eine zentrale Neuerung der aktualisierten Modellvertragsklauseln ist die Unterscheidung zwischen risikoreichen und nicht-risikoreichen KI-Systemen:
Die Vollversion für Hochrisiko-KI (MCC-AI-High-Risk) ist vollständig auf den im Juni 2024 verabschiedeten EU AI Act abgestimmt. Sie enthält Verpflichtungen, die sich aus dem Gesetz für risikoreiche KI-Systeme ergeben und basiert auf den Anforderungen gemäß Kapitel III des AI Acts.
Für KI-Systeme mit geringerem Risikopotenzial wurde eine „Light“-Version (MCC-AI-Light) entwickelt. Diese lässt sich an spezifische Bedürfnisse anpassen und ermöglicht öffentlichen Beschaffern eine flexible Gestaltung der Vertragsklauseln je nach konkretem Anwendungsfall.
Praxisorientierte Hilfestellung
Neben den Klauseln selbst wurde ein Kommentar veröffentlicht, der detaillierte Anleitungen zur praktischen Anwendung bieten soll. Er erklärt, wie die Klauseln verwendet, angepasst und in der Praxis umgesetzt werden können, folgt dabei der Nummerierung der Vollversion und kann auch für die Light-Version herangezogen werden.
Zu den zentralen Empfehlungen gehören:
- Die fallweise Beurteilung und Anpassung der Klauseln an den spezifischen Beschaffungskontext
- Die gemeinsame Ausarbeitung bestimmter Anhänge mit dem Lieferanten
- Die regelmäßige Aktualisierung des Risikomanagementsystems während der Vertragslaufzeit
- Die sorgfältige Klärung von Informationspflichten bei individuellen Entscheidungen durch KI-Systeme
Konkrete Anforderungen
Die Modellvertragsklauseln bilden die konkreten Anforderungen des EU AI Acts an Hochrisiko-KI-Systeme ab. Dazu gehören unter anderem:
- Die Einrichtung eines Risikomanagementsystems
- Strenge Anforderungen an Datenqualität und Data Governance
- Umfassende technische Dokumentation und Gebrauchsanweisungen
- Automatische Protokollierung von Ereignissen
- Maßnahmen zur Sicherstellung von Transparenz
- Gewährleistung menschlicher Aufsicht
- Angemessene Genauigkeit, Robustheit und Cybersicherheit
Anwendungsmöglichkeiten und Erfahrungsaustausch
Öffentliche Behörden, die KI-basierte Lösungen beschaffen – sei es für Pilotprojekte oder den operativen Einsatz – werden ermutigt, ihre Initiativen auf „Public Sector Tech Watch“ zu teilen. Diese von der Europäischen Kommission betriebene Wissensdatenbank enthält bereits über 900 Beispiele für den Einsatz von künstlicher Intelligenz im öffentlichen Sektor.
Die Community of Practice lädt außerdem zur aktiven Beteiligung ein. Nutzer der Klauseln können der Public Buyers Community beitreten, sich an der Community für KI-Beschaffung beteiligen oder ihr Feedback im Diskussionsbereich hinterlassen.
Quelle und Links
Verwandte Beiträge
Titelbild: Windows – Unsplash