Tag Archives: Whitepaper

Whitepaper zum aktuellen Stand der Prüfbarkeit von KI-Systemen vom BSI veröffentlicht

Das BSI hat ein neues Whitepaper zur Prüfbarkeit von KI-Systemen veröffentlicht:

BSI – Alle Meldungen News – BSI veröffentlicht Whitepaper zum aktuellen Stand der Prüfbarkeit von KI-Systemen (bund.de)

Das Paper ist in englischer Sprache verfasst und umfasst gute 23 Seiten. 

Das BSI schreibt zur Erläuterung:

„Basierend auf einem gemeinsam vom BSI, vom Verband der TÜVs (VdTÜV) und vom Fraunhofer HHI ausgetragenen internationalen Expertenworkshop im Oktober 2020 wurde nun, zusammen mit zahlreichen nationalen und internationalen Experten, ein Whitepaper zum aktuellen Stand, offenen Fragen und zukünftig wichtigen Aktivitäten bezüglich der Prüfbarkeit von KI-Systemen verfasst. Das Whitepaper beleuchtet verschiedene Aspekte der Sicherheit von KI-Systemen, u.a. deren Lebenszyklus, Online-Lernverfahren, qualitativ neue Angriffe, mögliche Verteidigungsmaßnahmen, Verifikation, Prüfung, Interpretation und Standardisierung. Bei all diesen Betrachtungen wird deutlich, dass es zahlreiche Zielkonflikte zwischen den gewünschten Eigenschaften eines operativen KI-Systems einerseits und den Eigenschaften des KI-Modells, der ML-Algorithmen, der Daten und weiteren Randbedingungen gibt, die letztlich die Skalierbarkeit und Generalisierbarkeit von sicher prüfbaren KI-Systemen beschränken. Basierend auf zwei grundlegenden Strategien zur Verbesserung der Prüfbarkeit, Sicherheit und Robustheit von KI-Systemen, d.h. einerseits der Schaffung verbesserter Rahmenbedingungen und andererseits der erhöhten Investition in Forschung und Entwicklung, werden Lösungsvorschläge und -ideen zur Mitigation der bekannten Probleme benannt, bewertet und Folgeschritte vorgeschlagen.“

Neues Windows 10 Whitepaper von Microsoft zum Thema Datenschutz

Der Datenschutz ist schon lange ein heißes Thema bei Windows 10. Dies gilt nicht nur für die Telemetrie/Diagnosedaten, sondern eben auch für viele Cloud-Funktionen, die in den letzten Monaten und Jahren in das Produkt gekommen sind. Windows 10 ist nicht mehr nur das Betriebssystem, welches man nutzt, um ein Programm zu starten, es ist eine Plattform zur Zusammenarbeit geworden mit vielen Ausrichtungen hin zu Entwicklern und dem Modern Workplace.

Continue reading