Tag Archives: KI

Whitepaper zum aktuellen Stand der Prüfbarkeit von KI-Systemen vom BSI veröffentlicht

Das BSI hat ein neues Whitepaper zur Prüfbarkeit von KI-Systemen veröffentlicht:

BSI – Alle Meldungen News – BSI veröffentlicht Whitepaper zum aktuellen Stand der Prüfbarkeit von KI-Systemen (bund.de)

Das Paper ist in englischer Sprache verfasst und umfasst gute 23 Seiten. 

Das BSI schreibt zur Erläuterung:

“Basierend auf einem gemeinsam vom BSI, vom Verband der TÜVs (VdTÜV) und vom Fraunhofer HHI ausgetragenen internationalen Expertenworkshop im Oktober 2020 wurde nun, zusammen mit zahlreichen nationalen und internationalen Experten, ein Whitepaper zum aktuellen Stand, offenen Fragen und zukünftig wichtigen Aktivitäten bezüglich der Prüfbarkeit von KI-Systemen verfasst. Das Whitepaper beleuchtet verschiedene Aspekte der Sicherheit von KI-Systemen, u.a. deren Lebenszyklus, Online-Lernverfahren, qualitativ neue Angriffe, mögliche Verteidigungsmaßnahmen, Verifikation, Prüfung, Interpretation und Standardisierung. Bei all diesen Betrachtungen wird deutlich, dass es zahlreiche Zielkonflikte zwischen den gewünschten Eigenschaften eines operativen KI-Systems einerseits und den Eigenschaften des KI-Modells, der ML-Algorithmen, der Daten und weiteren Randbedingungen gibt, die letztlich die Skalierbarkeit und Generalisierbarkeit von sicher prüfbaren KI-Systemen beschränken. Basierend auf zwei grundlegenden Strategien zur Verbesserung der Prüfbarkeit, Sicherheit und Robustheit von KI-Systemen, d.h. einerseits der Schaffung verbesserter Rahmenbedingungen und andererseits der erhöhten Investition in Forschung und Entwicklung, werden Lösungsvorschläge und -ideen zur Mitigation der bekannten Probleme benannt, bewertet und Folgeschritte vorgeschlagen.”

Die EU veröffentlicht eine Guideline im Umgang mit Künstlicher Intelligenz

Das Thema Künstliche Intelligenz ist sowohl im Bundestag, als auch in diversen Arbeitsgruppen von Ethik-Kommission bis zu juristischen Arbeitsgruppen in der Diskussion. Auch große IT Konzerne wie Google, Microsoft und Alibaba beziehen Stellung bei dieser Thematik. Im Speziellen ist  Microsoft mit dem Chef-Juristen Brad Smith und der Deutschlandchefin Sabine Bendiek auf Deutschland-Tour, um für Microsoft und deren KI Lösungen und Meinungen zu werben. Nun veröffentlicht die EU eine Guideline, die aus einer Expertenkommission bestehende aus MitgliederInnen verschiedener Mitgliedsstaaten bestand, veröffentlicht:

Continue reading