Obwohl KI weit verbreitet ist, stellt sich die Frage, wo sie beginnt und wie sie Sicherheitssysteme beeinflussen kann. KI-Systeme werden von der ISO/IEC 22989:2022 als Systeme beschrieben, die menschliche Ziele verfolgen und interaktiv, kontextsensitiv, überwacht und anpassungsfähig sind.
Die Sicherheit von KI-Systemen wird in zwei Dimensionen betrachtet: Safety (Lebens- und Umweltschutz) und Security (Informationssicherheit). Die Vertrauenswürdigkeit von KI-Systemen umfasst Eigenschaften wie Zuverlässigkeit, Verfügbarkeit, Sicherheit, Datenschutz und mehr. Normen spielen eine wichtige Rolle in der Sicherheit von KI, wobei Deutschland eine umgekehrte Normungsstrategie verfolgt.
Der EU Artificial Intelligence Act und die deutsche Normungsroadmap KI betonen die Rolle des Menschen bei der Überwachung von KI-Anwendungen. Resilienz, sowohl für Systeme als auch für Menschen, ist wichtig, um mit KI-Störungen umzugehen. Bei der Einführung von KI-Lösungen sollte darauf geachtet werden, ob sie einen echten Mehrwert bieten und ob die Auswirkungen auf das Risikoprofil verstanden werden.
Die Experten sollten die Auswirkungen der KI verstehen, und die Anwendung sollte vorhandenen Normen entsprechen. Weniger Fokus auf Kennzahlen und mehr auf beherrschbare Komplexität und Vertrauenswürdigkeit ist ratsam. Ein Bewusstsein für KI ist wichtig, um mögliche Konsequenzen zu erkennen und zu lösen. Der Mensch spielt eine entscheidende Rolle bei der Beantwortung der Fragen, die KI-Systeme aufwerfen.
Sie wollen mehr erfahren? Jetzt Praxistipp "KI - sichere neue Welt?" herunterladen:
