BSI veröffentlicht Leitfaden zur sicheren Nutzung von KI-Systemen

Chancen und Risiken der Künstlichen Intelligenz erkennen. Der Leitfaden enthält eine Zusammenfassung von Bedrohungen im Zusammenhang mit KI-Systemen und bietet Organisationen Hilfestellungen beim Einsatz von KI unter gleichzeitiger Risikomanagement-Betrachtung.

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat zusammen mit anderen Behörden aus verschiedenen Ländern einen Leitfaden zur sicheren Nutzung von KI-Systemen veröffentlicht.

KI-Systeme sind Computerprogramme, die dabei helfen können, komplexe Aufgaben schneller und effizienter zu erledigen. Der Einsatz von künstlicher Intelligenz bringt aber auch Gefahren mit sich. Denn die Nutzung von KI erfordert oft den Einsatz großer Mengen an Daten, um Modelle zu trainieren und zu verbessern. Dies kann rechtliche Probleme im Datenschutz verursachen, insbesondere wenn sensible oder personenbezogene Daten betroffen sind. Weiterhin könnten KI-Systeme von böswilligen Akteuren manipuliert werden, um falsche Aussagen zu treffen oder Schaden anzurichten.

Um diese Bedrohungen in den Griff zu bekommen, hat sich das Bundesamt für Sicherheit in der Informationstechnik mit seinen Partnerbehörden aus Australien, Israel, Japan, Kanada, Neuseeland, Norwegen, Schweden, Singapur, dem Vereinigten Königreich und den Vereinigten Staaten zusammengetan und ein Arbeitspapier zum Thema veröffentlicht.

Aus Sicht des BSI können Fragen der Sicherheit von KI-Systemen nur im Verbund mit gleichgesinnten internationalen Partnern gelöst werden. Die Veröffentlichung unterstreicht zudem die Bedeutung des Themas sowie den dringenden Handlungsbedarf.

Zugriff auf den englischsprachigen Leitfaden erhalten Sie hier.