Beschaffung KI-Assistenzsystem

Gegenstand dieser Ausschreibung ist die Beschaffung eines multifunktionalen KI-Assistenten zur flächendeckenden Einführung im hessischen Finanzressort. Die Lösung soll als vollständig integriertes System aus einer Hand bereitgestellt werden.

Während jeder Dienstposten spezifische Aufgaben und Anforderungen mit sich bringt, gibt es Tätigkeiten, die ein Großteil der Beschäftigten unabhängig vom jeweiligen Dienstposten regelmäßig wahrnimmt. Hierzu zählen beispielsweise die Recherche von Informationen, die Erstellung von Dokumenten und Präsentationen sowie die Zusammenfassung bestehender Textdokumente für Kolleginnen und Kollegen oder Vorgesetzte. Diese Aufgaben fallen im Berufsalltag der Beschäftigten der Finanzverwaltung regelmäßig an und binden entsprechende personelle Ressourcen.

Die Bereitstellung eines IT-Systems, das die Beschäftigten bei der Bewältigung dieser Aufgaben unterstützt, kann daher einen Mehrwert für die Organisation schaffen.

Gegenstand des Auftrags ist die Konzeption, Bereitstellung und Implementierung eines multifunktionalen, KI-gestützten Assistenzsystems als Gesamtlösung aus einer Hand. Die Leistung umfasst insbesondere:

die Bereitstellung eines KI-Systems einschließlich aller erforderlichen KI-Modelle auf der Infrastruktur des Auftraggebers,
die Installation und Konfiguration in der IT-Infrastruktur des Auftraggebers,
die Integration in die bestehende Systemlandschaft,
die Schulung und Befähigung der Anwenderinnen und Anwender sowie Administratorinnen und Administratoren,
Wartung, Support und kontinuierliche Weiterentwicklung.

Der Auftrag kann nur von einem bestimmten Wirtschaftsteilnehmer ausgeführt werden, da aus technischen Gründen kein Wettbewerb vorhanden ist. Der Auftrag kann aus technischen Gründen nur von Mistral AI SAS erbracht werden, § 14 Abs. 4 Nr. 2 lit. b VgV. Aufgrund des vorgesehenen Einsatzes in der Finanzverwaltung und der möglichen Verarbeitung steuerlicher Daten bestehen zwingende Anforderungen an Datenschutz, Steuergeheimnis, IT-Sicherheit, Integrität, Kontrollierbarkeit und souveränen Betrieb.
Im Rahmen einer systematischen Markterkundung wurde geprüft, ob am Markt andere Lösungen oder Anbieter vorhanden sind, die die zwingenden Mindestanforderungen ebenfalls erfüllen können. Die Auswertung der Markterkundung hat ergeben, dass lediglich Mistral AI SAS sämtliche zwingenden Mindestanforderungen kumulativ erfüllen kann.

Für die Eingrenzung des Bieterkreises waren insbesondere folgende Anforderungen maßgeblich:

On-Premises-Betrieb:
Die KI-Lösung einschließlich aller Modelle muss vollständig in einer vom Internet isolierten On-Premises-Umgebung des Auftraggebers betrieben werden können. Eine Datenübertragung an externe Server ist ausgeschlossen. Die Anforderung dient insbesondere der Vermeidung unbefugter Offenbarungen steuerlicher Daten und der Einhaltung von § 30 AO sowie Art. 32 und Art. 25 DSGVO. Cloud- oder SaaS-Lösungen kommen aufgrund der damit verbundenen externen Datenübermittlung und Zugriffsmöglichkeiten nicht in Betracht.

Modellherkunft und -kontrolle:
Der Auftragnehmer muss die bereitgestellten textverarbeitenden KI-Modelle eigenständig trainieren und nachweisbare Kontrolle über die verwendeten Trainingsdaten und Trainingsprozesse ausüben. Zudem muss sichergestellt sein, dass die verwendeten Datensätze der Zweckbestimmung des KI-Systems entsprechen, hinreichend repräsentativ, möglichst fehlerfrei und vollständig sind sowie geeignete statistische Merkmale aufweisen. Die Anforderung betrifft insbesondere die Beherrschung der Trainings- und Entwicklungsinfrastruktur, die Kontrolle über Datenpipelines, MLOps-Prozesse, Reproduktions- und Versionskontrollen, sichere Datenhaltung sowie die Fähigkeit, Datensätze kontextspezifisch aufzubereiten und zu dokumentieren.

Ausschluss verfassungsfeindlicher Inhalte:
Der Auftragnehmer muss durch geeignete technische und organisatorische Maßnahmen gewährleisten, dass die bereitgestellten Modelle keine verfassungsfeindlichen, extremistischer, diskriminierenden oder sonst rechtswidrigen Inhalte erzeugen. Dies umfasst insbesondere Maßnahmen zur Vermeidung, Erkennung und Entfernung entsprechender Ausgaben sowie deren Dokumentation und Nachvollziehbarkeit. Erforderlich sind hierfür insbesondere Kontrollmöglichkeiten hinsichtlich des Modellverhaltens, Filter- und Moderationskomponenten, Red-Teaming, adversarial testing, Monitoring, Logging, Alerting sowie Verfahren zur Validierung und Nachweisführung.

Schutz vor versteckten Angriffen:
Der Auftragnehmer muss nachweisen, dass die bereitgestellten Modelle keine versteckten Angriffsvektoren enthalten, insbesondere keine durch spezifische Trigger ausgelösten unerwünschten Aktionen, semantisch gesteuerten Datenlecks, Backdoors oder vergleichbaren Mechanismen. Die Nachweisführung umfasst insbesondere geeignete technische Prüfzugänge, spezialisierte Prüfverfahren wie Red-Teaming, adversarial testing, Trigger-Injection-Tests und Data-Exfiltration-Simulationen sowie Monitoring-, Forensik- und Dokumentationsfähigkeiten. Die Anforderung betrifft damit die Systemarchitektur, die Entwicklungs- und Prüftoolchain sowie den Betrieb und die Offenlegungsfähigkeit des Anbieters.

Entwicklungsstandort:
Die verwendeten KI-Modelle müssen innerhalb des Europäischen Wirtschaftsraums oder in Ländern mit angemessenem Datenschutzniveau gemäß Art. 45 DSGVO entwickelt worden sein. Dies betrifft insbesondere die Entwicklungs- und Trainingsschritte der textverarbeitenden Modelle. Die Anforderung dient der Sicherstellung eines mit der DSGVO vergleichbaren Datenschutz- und Kontrollniveaus bereits während der Entwicklung des KI-Systems.

Zur Prüfung, ob andere Anbieter diese Anforderungen ebenfalls erfüllen können, wurde eine systematische Markterkundung durchgeführt. Die Auswertung ergab, dass lediglich Mistral AI SAS sämtliche zwingenden Mindestanforderungen kumulativ erfüllen kann. Eine vernünftige Alternative oder Ersatzlösung besteht daher nicht.
Auf Grundlage der Markterkundung besteht keine vernünftige Alternative oder Ersatzlösung im Sinne des § 14 Abs. 6 VgV. Der fehlende Wettbewerb ist nicht Ergebnis einer künstlichen Einschränkung der Auftragsvergabeparameter, sondern Folge des zulässig bestimmten Beschaffungsbedarfs und der derzeitigen Marktverfügbarkeit entsprechender KI-Lösungen. Die Voraussetzungen des § 14 Abs. 4 Nr. 2 lit. b VgV sowie des § 14 Abs. 6 VgV sind daher erfüllt.