Am 31. August 2026 hat das neue deutsche AI Safety and Security Institute (AISI Deutschland) seine Arbeit aufgenommen. Das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) und das Bundesministerium des Innern (BMI) setzen damit einen Beschluss des Nationalen Sicherheitsrates vom Juni 2026 um. Für öffentliche Auftraggeber ist der Start mehr als eine digitalpolitische Nachricht: Mit der zunehmenden Beschaffung und Nutzung von KI-Systemen stellt sich immer dringlicher die Frage, wie deren Sicherheit, Zuverlässigkeit und Risiken bereits im Vergabeverfahren berücksichtigt werden können.
AISI als Schnittstelle zwischen Technik und Vergabe
Das AISI Deutschland soll dazu beitragen, fortgeschrittene KI-Systeme technisch zu untersuchen und deren Fähigkeiten, Risiken und Sicherheitsfolgen besser zu bewerten. Damit entsteht zusätzliche staatliche Kompetenz, die langfristig auch für öffentliche Auftraggeber von Bedeutung sein kann.
Eine besondere Bedeutung könnte künftig darin liegen, technische Erkenntnisse über KI-Sicherheit in konkrete und überprüfbare Beschaffungsanforderungen zu übersetzen. Für öffentliche Auftraggeber ist dabei entscheidend, dass Sicherheitsanforderungen einerseits risikoorientiert und technisch begründet sind, andererseits aber auch vergaberechtlich sauber, transparent und verhältnismäßig formuliert werden.
Das AISI kann hierfür perspektivisch eine wichtige Wissens- und Kompetenzbasis schaffen. Die technische Bewertung von KI-Systemen könnte dazu beitragen, besser zu bestimmen, welche Eigenschaften ein sicher einzusetzendes System aufweisen muss und welche Nachweise hierfür geeignet sind.
Internationale Zusammenarbeit, Europäisches KI-Recht und öffentliche Beschaffung
Der Aufbau des AISI fällt zugleich in eine Phase, in der die Anforderungen des europäischen KI-Rechts zunehmend in die praktische Anwendung übergehen. Für öffentliche Auftraggeber bedeutet dies, dass die technische Sicherheit eines KI-Systems und seine rechtliche Einordnung stärker zusammengedacht werden müssen.
KI-Sicherheit lässt sich zugleich nicht ausschließlich national betrachten. Das AISI Deutschland soll eng mit europäischen und internationalen Partnern zusammenarbeiten. Vorgesehen ist unter anderem der fachliche Austausch mit Frankreich, dem Vereinigten Königreich und dem EU AI Office.
Das deutsche KI-Sicherheitsinstitut wird sich zudem aktiv in das internationale Netzwerk von KI-Sicherheitsinstituten einbringen. Gemeinsam mit internationalen Partnern soll auf einheitliche Standards für den effektiven und sicheren Umgang mit fortschrittlichster KI hingewirkt werden.
Auch für die öffentliche Beschaffung kann diese Entwicklung relevant werden: Je stärker sich gemeinsame Bewertungsmethoden und technische Standards etablieren, desto eher lassen sich daraus vergleichbare, nachvollziehbare und diskriminierungsfreie Anforderungen für Ausschreibungen entwickeln.
Weitere Informationen stellen das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) und das Bundesamt für Sicherheit in der Informationstechnik (BSI) bereit.
Schreibe einen Kommentar