Fortiss hat zusammen mit DKE einenTandard für die Sicherheit von KI entwickelt.

News

Sicherheitsstandard für KI-Systeme

Fortiss und DKE entwickeln ersten Sicherheitsstandard für KI-Systeme.

Die DKE (Deutsche Kommission Elektrotechnik Elektronik Informationstechnik) setzt neue Standards für Sicherheit, Vergleichbarkeit und Messbarkeit im Bereich Künstliche Intelligenz (KI) – mit dem ersten detaillierten Framework zur Entwicklung vertrauenswürdiger KI-basierter Systeme. Die Norm (Anwendungsregel) wurde unter Mitwirkung des Forschungsinstituts Fortiss erarbeitet.

Bisher kaum verlässliche Sicherheitsstandards für KI-Systeme

Flugtaxis, voll automatisierte Autos, Smarthomes: Künstliche Intelligenz gilt als Technologie der Zukunft – kennt in der Gegenwart jedoch kaum klare Definitionen oder verbindliche Richtlinien. Dabei sind nachweisliche Sicherheit und verlässliche Standards wichtige Voraussetzungen, um das Vertrauen von Industrie und Verbrauchern in das immense Innovationspotenzial von KI nachhaltig zu gewährleisten. Hierbei ist dem Normungsinstitut DKE ein Durchbruch mit internationalen Auswirkungen gelungen: Mit der Entwicklung des weltweit ersten nachprüfbaren Industriestandards für die Verifizierung der Sicherheit KI-basierter Systeme, der VDE-AR-E 2842-61 „Entwurf und Vertrauenswürdigkeit von autonom/kognitiven Systemen“. Als erste Norm mit der nötigen fachlichen Tiefe findet das unter Mit-Leitung des Forschungsinstituts Fortiss entwickelte Framework bereits internationale Beachtung: In Japan möchte man die Norm unverändert übernehmen.

Ein verlässlicher Rahmen für die Potenziale Künstlicher Intelligenz

Als dritte digitale Technologiesäule neben Software und Hardware bietet KI herausragende Potenziale für Innovationen, unter anderem in den Bereichen Mobilität, Medizin und Ressourcenschutz. Aktuell steht sie aber noch vor großen Herausforderungen, was die Bereitstellung und Einhaltung allgemeingültiger Sicherheitsstandards angeht. So kann die Entwicklung und Zulassung autonom/kognitiver Systeme etwa im Automobilbereich dabei helfen, Verkehrsaufkommen und Unfallrisiko drastisch zu reduzieren. Allerdings gibt es aktuell kein Verfahren, um die Sicherheit solcher Systeme nach verlässlichen Standards zu prüfen und zu verifizieren. Konkret bedeutet dies: Entwickler sind zwar in der Lage, ein vollautomatisiertes Auto zu bauen. Nachweisen, dass dieses Fahrzeug unter allen Umständen sicher ist, können sie derzeit aber noch nicht. Dadurch wird der Prozess von der Forschung über die Entwicklung bis hin zur Zulassung in vielen Fällen verlangsamt oder von vorneherein gehemmt.

Was bislang fehlte, waren also ein strukturierter Entwicklungsansatz sowie eine verbindliche Anwendungsregel zur Erfassung, Auswertung und Verifizierung von Sicherheit bei KI-basierten Systemen. Zudem fehlte eine Schnittstelle, die KI-Entwicklung und Normierungskriterien gleichermaßen gerecht wird und nachweisen kann, dass etwa ein künstliches neuronales Netzwerk sicher funktioniert.

Klare Standards für kreative Entwicklungen

Diese Lücke hat das DKE mit der Anwendungsregel VDE-AR-E 2842-61 erstmals geschlossen. Denn die Norm setzt einen verlässlichen Sicherheitsstandard unter Berücksichtigung des aktuellen Forschungs- und Entwicklungsstands. Die sechsbändige Veröffentlichung (plus Anwendungsleitfäden) ebnet damit den internationalen Weg für eine strukturierte und nachweislich sichere Entwicklung von KI-basierten Systemen und stellt einen Referenz-Standard für KI-Prüfsiegel bereit.

Nach der Veröffentlichung eines solchen Standards kann diese Anwendungsregel durch Praxisanwendungen und Erfahrungen weiter verbessert werden, auch um die effiziente Nutzung durch kleine und mittelständische Unternehmen zu gewährleisten. Ziel ist es, die Entwicklung von sicherheitsfähiger KI zu ermöglichen, die verbindlichen Sicherheitsstandards entspricht, damit Industrie und Verbrauchern KI-basierten Systemen dasselbe Vertrauen entgegenbringen können wie Hardware- und Software-Lösungen.

Foto: zapp2photo - Fotolia.com

IT-Lösungen

5 Steps für den KI-Einstieg im deutschen Mittelstand

Keine Angst vor künstlicher Intelligenz! Mit den richtigen Technologien können Sie KI strategisch und durchdacht für Ihren Geschäftserfolg nutzen.

Foto: Sdecoret / Adobe Stock

Märkte

Wie kann Künstliche Intelligenz planbar werden?

Verlässliche KI-Systeme für Ingenieure fehlen bisher. Ein Kompetenzzentrum will das ändern und Künstliche Intelligenz nachvollziehbar sowie planbar machen.

Foto: Festo

IT-Lösungen

Festo: Beschleunigte Digitalisierung

In einer virtuellen Pressekonferenz im Vorfeld der "Festo Digital Exhibition" und der "Hannover Messe Digital Days" erläutert Festo seine Ansätze

Foto: Simpac

IT-Lösungen

Künstliche Intelligenz als Tool im Störungsmanagement

Simpac will KI-basiertes Resilienz-Management nutzen, um seine Pressen technisch vorzurüsten und Servicemodule an die Anforderungen von I4.0 anzupassen.