Künstliche Intelligenz & Softwarebeschaffung: Was müssen öffentliche Auftraggeber iSd BVergG 2018 beachten und welche KI-Klauseln sind sinnvoll?

KI-Einsatz bei der Softwareentwicklung – Risiken für öffentliche Auftraggeber

Öffentliche Auftraggeber beschaffen Softwareprodukte und Softwaredienstleistungen am freien Markt, wobei die entsprechenden Anbieter vermehrt KI zur Leistungserbringung einsetzen. Der KI-Einsatz birgt vor allem bei der Erstellung von Individualsoftware bzw im Zusammenhang mit der Softwareentwicklung beachtliches Risikopotenzial für öffentliche Auftraggeber, die diese Software beschaffen und später in ihrem Betrieb einsetzen.

Die KI kann – sofern diese für die Programmierung und Softwareentwicklung eingesetzt wird – fremden und urheberrechtlich geschützten Quellcode (source code) für die Leistungserbringung im Ergebnis vorschlagen. Bei ungeprüfter Übernahme und Weiterverwendung solcher KI-Ergebnisse durch den Anbieter bzw Dienstleister kann der Urheber des ursprünglichen Codes gegen den späteren Nutzer der Software – also den öffentlichen Auftraggeber selbst – rechtlich vorgehen. Auch wenn diesem die Urheberrechtsverletzung nicht bekannt war, da Ansprüche nach dem Urheberrechtsgesetz (UrhG) verschuldensunabhängig sind.

Daneben bestehen zusätzliche Risiken, zB: Ausschließlich KI-generierte Inhalte genießen – nach aktueller Rechtslage – keinen urheberrechtlichen Schutz. Dementsprechend würde der Nutzer der späteren Software bzw der öffentliche Auftraggeber über das von ihm beauftragte Leistungsergebnis kein Ausschließlichkeitsrecht erhalten, obwohl ein solches unter Umständen ausdrücklich vorab vertraglich zugesichert und geschuldet war. Gegen eine Verwendung der (beauftragten und honorierten) Leistungsergebnisse durch Dritte könnte der öffentliche Auftraggeber diesfalls nicht vorgehen und ihm blieben nur vertragliche Ansprüche gegenüber seinem Lieferanten (wegen Nicht- bzw Schlechterfüllung).

Anpassung der Vergabeprozesse – Aufnahme von KI-Klauseln

Die neue KI-Welt zwingt öffentliche Auftraggeber dazu, ihre Vergabeprozesse weiterzuentwickeln und ihre Ausschreibungsunterlagen mit neuen KI-Klauseln entsprechend anzupassen. Vor diesem Hintergrund sind die bestehenden Ausschreibungsunterlagen kritisch zu hinterfragen, potenzielle KI-Risiken vorausschauend zu adressieren und Inhalte von IT-Verträgen zu prüfen.

Es ist empfehlenswert, den KI-Einsatz im Rahmen der Leistungserbringung – gerade bei der Beschaffung von IT-Dienstleistungen sowie Software – besonders zu regeln und für neue Vergabeverfahren im Sinne des Bundesvergabegesetzes KI-Klauseln in Ausschreibungsunterlagen aufzunehmen.

Sinnvollerweise sollte etwa bereits auf der Ebene der Leistungsbeschreibung geregelt werden, dass der KI-Einsatz zur Erbringung der vertraglich geschuldeten Leistungen bzw für die Softwareentwicklung nur bei vorheriger, ausdrücklicher und schriftlicher Zustimmung des öffentlichen Auftraggebers erlaubt ist (sofern der KI-Einsatz nicht ohnehin zwingend zum Leistungsgegenstand selbst gehört). Entsprechende Klauseln sollten für die Phase der Leistungserbringung – im Leistungsvertrag bzw in der Rahmenvereinbarung – vorgesehen sein. Verstöße des Auftragnehmers bzw Rahmenvereinbarungspartners wären vertraglich entsprechend zu pönalisieren.

Öffentliche Auftraggeber sollten erwägen, sich ausdrücklich vorzubehalten, im Vergabeverfahren sowie während der Leistungserbringung konkrete Auskünfte und Nachweise zum Einsatz von KI zu verlangen – beispielsweise in Bezug auf Maßnahmen zur Sicherstellung des urheberrechtlichen Schutzes sowie der Eigenständigkeit der vertraglich geschuldeten Leistungsergebnisse. Darüber hinaus erscheint es sinnvoll, einen Widerrufsvorbehalt für den Fall aufzunehmen, dass nachträglich Umstände bekannt werden, die berechtigte Zweifel an der Rechtmäßigkeit, Zuverlässigkeit oder Eignung des KI-Einsatzes begründen.

Verfehlungen des Anbieters können sich ebenso aus einer Nicht-Compliance mit den Anforderungen des AI Acts ergeben: Verstöße gegen die neue KI-Verordnung (den AI Act) können mit Geldbußen von bis zu EUR 35 Millionen Euro oder bis zu 7% des weltweiten Jahresumsatzes geahndet werden. Zusätzlich droht sogar der Ausschluss von der Teilnahme an Vergabeverfahren, wenn dem Unternehmer aus diesem Grund auch eine schwere berufliche Verfehlung im Sinne des BVergG 2018 nachgewiesen werden kann, was vom öffentlichen Auftraggeber für den konkreten Einzelfall zu prüfen ist.

Rechtssichere Umsetzung

Künstliche Intelligenz verändert die Rahmenbedingungen öffentlicher Ausschreibungen und Vergaben grundlegend. Damit steigen auch die Anforderungen an die rechtliche Gestaltung und Compliance. Schönherr ist KI-Front Runner und begleitet durch alle Phasen der Ausschreibung und bei einer KI-sicheren Vergabe:

• Beratung zu den KI-relevanten Anforderungen
  Schönherr analysiert Ausschreibungsunterlagen und IT-Verträge und berät zielgerichtet zu den Implikationen des KI-Einsatzes im Zusammenhang mit Ausschreibungen.
  
  
• Prüfung der Vergabe-Compliance im Zusammenhang mit KI
  Schönherr setzt Vergabe-Compliance-Strategien neu auf und erstellt individuelle KI-Fahrpläne, um sowohl vergaberechtlichen als auch operativen Anforderungen im Betrieb gerecht zu werden.
  
  
• Laufende KI-Updates und Vergabe-Compliance-Begleitung
  Da sich die gesetzlichen Regelungen im KI-Bereich stetig weiterentwickeln (Stichwort: AI Act), stellt Schönherr mit regelmäßigen Updates und Compliance-Checks sicher, dass aktuelle KI-Anforderungen für Ausschreibungen im Sinne des Bundesvergabegesetzes berücksichtigt werden.

authors: Nina Alexandra Anzeletti, Daniela Birnbauer