Das Deutsche Vergabenetzwerk (DVNW) sprach mit Jakob Reuschlein von Procure AI über den Einsatz von KI-Agenten im öffentlichen Einkauf und die Mensch-Maschine-Interaktion im Einkauf der Zukunft. Das Interview führte Alexis von Boetticher.
Alexis von Boetticher: Lieber Jakob, der Bereich Vergabe ist in aller Munde und steht unter erheblichem Veränderungsdruck. Wie blickt ihr von ProcureAI auf den Markt?
Jakob Reuschlein: Wir haben uns in den letzten 18 Monaten erfolgreich als Softwareanbieter für den öffentlichen Sektor etabliert und arbeiten bereits mit einer Vielzahl von Sektorenauftraggebern sowie Kunden auf Bundesebene zusammen. Zudem zeichnet sich gegenwärtig der Abschluss landesweiter Plattformdeployments mit drei Bundesländern ab. Je nach Bundesland sprechen wir hier von einer Größenordnung von bis zu 100.000 Nutzern. Als KI-Plattform für Einkaufsorganisationen forcieren wir dabei aktiv den Austausch von Best Practices zwischen beiden Welten und können zunehmend beobachten wie Konzepte der Privatwirtschaft wie z.B. Total Cost of Ownership, Value Frameworks und andere Ideen Einzug in den öffentlichen Einkauf erhalten. Gleichzeitig regen uns Erfahrungen aus dem öffentlichen Einkauf auch dazu an, unser Produkt für den privatwirtschaftlichen Einkauf weiterzuentwickeln und Probleme in der Privatwirtschaft schneller zu lösen. Wir lernen hier auf beiden Seiten voneinander.
Kurz: KI-Agenten sind im öffentlichen Einkauf angekommen. Wir bewegen uns gerade von reinen Pilotprojekten hin zu skalierbaren Deployments unserer Plattform im Regelbetrieb, was mich sehr freut. Öffentliche Auftraggeber haben endlich erkannt, dass man die User Experience von Fachabteilungen und die Prozesse im öffentlichen Einkauf durch KI-Software nachhaltig optimieren kann. Jetzt forcieren wir diese nächste Reifephase.
Alexis von Boetticher: Wenn ich euer Geschäftsfeld mit den Augen eines Laien betrachte, kommt mir der Gedanke: Künstliche Intelligenz gilt heute als eine extrem multifunktionale Technologie, die scheinbar alles kann. Warum braucht es überhaupt eine so spezialisierte Software wie eure Plattform nur für diesen einen Markt? Warum reicht eine einfache LLM-Lizenz nicht aus?
Jakob Reuschlein: Dafür gibt es im Wesentlichen vier Gründe. Erstens sind LLMs vergleichsweise rechenintensiv und daher für viele Aufgabentypen nicht kosteneffizient. Nehmen wir beispielsweise das Matching einer Bestellung mit einer Rechnung. Idealerweise findet sich die Bestellnummer auf der Rechnung wieder. Um diese zwei Zahlen abzugleichen, brauche ich kein Sprachmodell, sondern eine einfache Lookup-Funktion ist vollkommen ausreichend, weniger rechenintensiv und nicht nur schneller, sondern auch kosteneffizienter.
Zweitens ist Verlässlichkeit und ein deterministisches Regelwerk für viele Einkaufsprozesse essenziell. Sowohl große Unternehmen als auch Verwaltungsorganisationen sind auf die absolute Verlässlichkeit ihrer Einkaufsprozesse angewiesen: Eine Freigabe oder die Weiterleitung eines Bedarfs an den zuständigen Einkäufer muss deterministisch und damit nach festen, logischen Regeln und zu 100 % fehlerfrei ablaufen. Ein probabilistisches Sprachmodell allein kann dieser Anforderung nicht gerecht werden. Deswegen kombinieren wir KI mit klassischen Technologieansätzen wie zum Beispiel RPA.
Drittens lebt eine Software von ihrer User Experience und ihrem User Interface: die Bereitstellung eines Sprachmodells selbst schafft noch keinen Wert, sondern erst die Einbettung und Instruktion innerhalb eines Prozessflusses sowie der prozessbezogene Kontext, der dem Modell bereitgestellt wird. Mit unserer Plattform fokussieren wir eine intelligente Interaktion zwischen Menschen und Maschine, bei der die KI als Co-Pilot des Menschen fungiert und dem Nutzer zum richtigen Zeitpunkt die passenden Informationen bereitstellt.
Schlussendlich geht es viertens – wie sollte es auch anders sein im öffentlichen Einkauf – um Rechtssicherheit. Der AI Act schränkt KI-basierte Entscheidungen in Hochrisiko-entscheidungen ein und untersagt diese. Das gilt für das HR-Management ebenso wie für den Vertragsabschluss im Einkauf. Mit unserer Plattform berücksichtigen wir regulatorische Rahmenbedingungen wie den AI Act und sichern daher für unseren Einsatzbereich Compliance by Design.
Alexis von Boetticher: Und wie funktioniert das dann konkret in der Praxis?
Jakob Reuschlein: Grundsätzlich gilt: Der Einsatz von Sprachmodellen unterliegt einer strikten Human-in-the-Loop-Kontrolle. KI-Agenten übernehmen in geschäftskritischen Prozessen eine beratende Funktion und bereiten Entscheidungen für die Benutzer vor. So wird ein Beschaffungsvorgang auf unserer Plattform etwa als Datenpunkt angelegt und steht dem KI-Agent als Kontext zur Verfügung, um Prozesse anzustoßen, Analysen durchzuführen und Entscheidungen für den Menschen vorzubereiten. Die Ergebnisse werden der Vergabestelle oder dem Fachbereich dann als strukturierte Vorlage bereitgestellt und können nach erteilter Freigabe Folgeprozesse auslösen. KI-Agenten sind in diesem Sinne nichts weiter als ein Werkzeug in den Händen des Einkäufers.
Ein konkretes Praxisbeispiel ist etwa die Eignungsprüfung: Eine Behörde fordert von den Bietern ein gültiges ISO 27001-Zertifikat für Informationssicherheit, die Jahresabschlüsse der letzten drei Jahre (mit mindestens einer Million Euro Umsatz pro Jahr als Mindestanforderung) und den Nachweis von mindestens 50 Mitarbeitern in einem Teilnahmewettbewerb an. Die Bieter laden diese Nachweise nach Aufforderung auf unserer Plattform hoch. Ein KI-Agent prüft nach Ablauf der Einreichfrist dann die Dokumente im Hintergrund automatisch gegen die definierten Anforderungen und macht den Sachbearbeiter gezielt auf Abweichungen aufmerksam – z.B. „Das ISO 27001-Zertifikat wurde zwar hochgeladen und ist korrekt signiert, aber es ist seit zwei Monaten abgelaufen. Bitte prüfen.“ Die finale Entscheidung über den Ausschluss oder Verbleib des Bieters bleibt jedoch eine menschliche Entscheidung. Dies sollte meiner Meinung nach auch bei den Auftragswerten im strategischen Einkauf nicht nur aus rechtlichen Gründen, sondern auch aus Gründen der Fehlbarkeit von Sprachmodellen bis auf absehbare Zeit so bleiben. Was wir automatisieren, sind die fehleranfälligen und zeitraubenden Routineaufgaben des Prozesses.
Alexis von Boetticher: Das bedeutet, wenn eine Behörde eine KI-Software nutzt, führt sie das Verfahren gemeinsam mit dem Tool durch. Aber das vergaberechtliche Praxiswissen und das verfahrenstechnische Know-how muss die Behörde trotzdem noch selbst vorhalten?
Jakob Reuschlein: Nein, das glaube ich eben nicht. Verfahrensrechtliche Vorgaben lassen sich als Konfigurationen direkt in der agentischen Orchestrierungsschicht unserer Plattform hinterlegen. Der Nutzer muss nicht mehr auswendig wissen, wie lange die Frist für eine Angebotsabgabe in einem Verfahren mindestens sein muss, sondern das System weiß dies. Was der Mensch aber weiterhin zwingend mitbringen muss, ist die inhaltliche und kommerzielle Kompetenz! Als Fachbereich muss ich wissen, was ich eigentlich beschaffen will, und ich muss die Angebote hin auf meinen Leistungswunsch inhaltlich bewerten können.
Alexis von Boetticher: Lass uns noch einmal über die politische Großwetterlage in Bezug auf den Shift Digitalisierung sprechen. Das Thema geopolitische Unabhängigkeit und digitale Souveränität treibt viele unserer DVNW-Mitglieder, von denen viele öffentliche Stellen sind, sehr um. Wie positioniert ihr euch in dieser Debatte?
Jakob Reuschlein: Ich finde gut, dass das Thema so langsam durchdringt. Aber ich sehe weiterhin kritisch, dass der Staat nicht Gebrauch von seiner Macht als Ankerkunde macht und die Grundlage für ein florierendes GovTech Ökosystem in Deutschland schafft. Statt GovTech Start-Ups durch SaaS-Verträge zu fördern zwingen wir sie in Open-Source oder Werkvertragskonstrukte. Im Gegensatz dazu werden in den USA und China Digitalkonzerne maßgeblich durch den Staat gefördert und sammeln Risikokapital auf dem Rücken staatlicher Großaufträge ein. Nicht nur Apple und Google, sondern auch Microsoft, Palantir, HP oder Dell sind Beispiele für direkt oder indirekt geförderte Unternehmen, die durch den Staat als Ankerkunde und/ oder Förderer globale Bedeutung gewonnen haben.
Alexis von Boetticher: Jakob, wenn du zum Abschluss dieses Gesprächs drei Wünsche frei hättest: Welche drei konkreten Veränderungen würdest du dir für den öffentlichen Sektor in Deutschland wünschen?
Jakob Reuschlein: Erstens würde ich mich freuen, wenn sich der Staat offener gegenüber Innovation zeigt und sich inhaltlich mehr mit dem bestehenden Softwaremarkt auseinandersetzen würde. Zweitens sollte der Staat mutiger als Ankerkunde auftreten und seine Gestaltungsmacht auf dem Markt realisieren. Und drittens würde ich mir wünschen, dass sich Verwaltungen zunehmend als moderne Einkaufsabteilungen und nicht bloß als reine „Vergabestellen“ verstehen würden.
Alexis von Boetticher: Lieber Jakob, ich danke dir für das Gespräch.
Jakob Reuschlein, Director of Delivery , Procure Ai
Loading…
Schreibe einen Kommentar