Lieferung KI Rechner

Dies ist eine Vorinformation im Rahmen der Klärung der Binnenmarktrelevanz des Auftrages.
Die Beschaffung soll als Verhandlungsvergabe gemäß UVgO durchgeführt werden und die Angebotsauaufforderung wird frühestens nach dem Ende der Vorinformation an alle interessierten Bieter versandt werden. Alle Informationen zur Vergabe und ein detailliertes Leistungsverzeichnis werden mit der Angebotsaufforderung zur Verfügung gestellt.
Fragen zur Vergabe und die Durchführung werden durch die o.g. Vergabestelle beantwortet. Ihre Interessenbekundung richten Sie bitte an die angegebene E-mail-Adresse.

Der zu beschaffende Desktop-Computer soll als leistungsfähiger Arbeitsplatzrechner für lokale KI-Anwendungen dienen. Das System muss in der Lage sein, große vortrainierte KI-Sprachmodelle (LLMs) lokal auszuführen - z.B. Modelle im Bereich von etwa 50 bis 400 Milliarden Parametern (soweit nicht anders möglich auch in einer quantisierten Variante z.B. INT4 oder 8‑Bit). Hierfür muss ein ausreichend großer Arbeitsspeicher verfügbar sein. Ebenso erforderlich sind hohe Rechenleistung und Speicherdurchsatz, um parallele Berechnungen effizient durchzuführen.