TÜV will Frontier-KI vor dem Marktstart prüfen lassen: Konzept zum Digital-Gipfel

Pünktlich zum Digital-Gipfel der Bundesregierung am 2. November in Berlin haben der TÜV-Verband und das TÜV AI.Lab ein Konzept vorgelegt, das man aus der Autowelt kennt: Bevor besonders leistungsfähige KI-Modelle auf den Markt kommen, sollen sie unabhängig geprüft werden. Gemeint ist sogenannte Frontier-KI, also die stärksten Sprachmodelle und zunehmend auch autonome KI-Agenten.

Was die Prüforganisationen vorschlagen

• Prüfung über den ganzen Lebenszyklus: Die Tests sollen schon während der Entwicklung beginnen und Fähigkeiten, Schutzmechanismen und das Verhalten unter realistischen Bedingungen abdecken.
• Echter Zugang: Prüfer sollen Einblick in die Modelle, ihr Training und sicherheitsrelevante Entwicklungsinfos bekommen, statt sich auf Herstellerangaben zu verlassen.
• Ein stärkeres AISI: Das deutsche KI-Sicherheitsinstitut soll schrittweise zu einer eigenständigen Institution mit klarem Mandat wachsen und mit unabhängigen Prüfstellen zusammenarbeiten.
• Internationale Abstimmung: Mit Partnern wie Großbritannien, Kanada und Japan sollen Prüfverfahren abgestimmt werden. Langfristig steht ein verbindliches Abkommen samt Meldesystem für schwere KI-Vorfälle auf der Wunschliste.

TÜV-Geschäftsführer Joachim Bühler begründet das mit digitaler Souveränität: Ein großer Teil der in Europa genutzten KI werde weiter aus den USA und anderen Regionen kommen, also müsse man fremde Technologie selbst bewerten können. Franziska Weindauer vom TÜV AI.Lab betont, dass bei KI-gesteuerten Maschinen auch Fachleute für Maschinensicherheit mitprüfen sollten.

Meine Einschätzung

Die Idee ist naheliegend und trotzdem heikel. Dass ein Modell, das in Kraftwerken oder Fabriken mitentscheidet, ähnlich gründlich geprüft wird wie eine Bremse, klingt vernünftig. Die eigentliche Hürde ist aber der Zugang: Ob große US-Anbieter Prüfern wirklich Einblick in Training und Schutzmaßnahmen gewähren, entscheidet sich nicht in einem Whitepaper, sondern in Verhandlungen. Natürlich hat die Prüfbranche hier auch ein Eigeninteresse, das sollte man beim Lesen im Hinterkopf behalten. Spannend wird, wie die Bundesregierung auf den Vorschlag reagiert.

Die vollständige Mitteilung samt Whitepaper findet ihr beim TÜV-Verband.