Mit dem Inkrafttreten weiterer Vorschriften des EU-KI-Gesetzes kommen neue Anforderungen auf Anbieter und Betreiber bestimmter KI-Systeme zu. Öffentliche Auftraggeber sollten ihre Beschaffungsprozesse frühzeitig überprüfen und die relevanten Vorgaben des AI Act in Vergabeverfahren berücksichtigen. Auch für Unternehmen, die sich an öffentlichen Vergabeverfahren beteiligen, entstehen neue Anforderungen. Bieter sollten frühzeitig prüfen, ob ihre angebotenen KI-Lösungen in den Anwendungsbereich der Transparenzpflichten des Art. 50 AI Act fallen.
Transparenzpflichten nach Art. 50 AI Act
Am 2. August 2026 wird ein weiterer wesentlicher Teil der Verordnung (EU) 2024/1689 („AI Act“) anwendbar. Zu diesem Zeitpunkt gelten insbesondere die Transparenzpflichten nach Art. 50 AI Act. Anbieter und Betreiber bestimmter KI-Systeme müssen künftig unter anderem sicherstellen, dass Nutzerinnen und Nutzer erkennen können, wenn sie mit einer KI-Anwendung interagieren.
Darüber hinaus müssen KI-generierte oder manipulierte Inhalte – insbesondere Bild-, Audio- und Videoinhalte sowie bestimmte Textinhalte – in den gesetzlich vorgesehenen Fällen als künstlich erzeugt oder verändert kenntlich gemacht werden. Dies betrifft unter anderem Anwendungen, bei denen sogenannte Deepfakes entstehen können.
Bedeutung für die öffentliche Beschaffung
Für öffentliche Auftraggeber gewinnt der Stichtag besondere Bedeutung, wenn KI-Systeme beschafft oder KI-Funktionen Bestandteil einer ausgeschriebenen Leistung werden.
Öffentliche Auftraggeber sollten daher prüfen, ob bestehende Vergabeunterlagen und Vertragsmuster für den Einsatz von KI-Lösungen angepasst werden müssen. Besonders bei Beschaffungen von Chatbots, Assistenzsystemen, generativen KI-Anwendungen oder anderen KI-gestützten Leistungen empfiehlt sich eine frühzeitige Auseinandersetzung mit den Anforderungen des AI Act.
Vergabestellen werden durch den AI Act nicht zu einer allgemeinen Prüf- oder Aufsichtsinstanz für KI-Systeme. Sie sollten jedoch bereits im Vergabeverfahren berücksichtigen, ob die angebotenen Lösungen die jeweils einschlägigen Anforderungen des AI Act erfüllen. Dies betrifft insbesondere Transparenz- und Kennzeichnungspflichten, soweit diese für das konkrete KI-System relevant sind. Entsprechende Anforderungen können beispielsweise in der Leistungsbeschreibung, bei technischen Mindestanforderungen sowie in Vertragsbedingungen aufgenommen werden.
Künftig kann es für Anbieter entscheidend sein, transparent darzustellen, welche KI-Funktionen eingesetzt werden, welche Kennzeichnungsmechanismen vorgesehen sind und wie die Einhaltung der gesetzlichen Anforderungen gewährleistet wird. Unternehmen sollten daher ihre Produktbeschreibungen, technischen Unterlagen und Vertragsunterlagen auf die neuen Anforderungen ausrichten.
Quelle: Verordnung (EU) 2024/1689 („Artificial Intelligence Act“), insbesondere Art. 50 und Art. 113 (Anwendbarkeit ab 2. August 2026).
Loading…
Schreibe einen Kommentar