Drücke "Enter", um den Text zu überspringen.

Die EU veröffentlicht eine Guideline im Umgang mit Künstlicher Intelligenz

Das Thema Künstliche Intelligenz ist sowohl im Bundestag, als auch in diversen Arbeitsgruppen von Ethik-Kommission bis zu juristischen Arbeitsgruppen in der Diskussion. Auch große IT Konzerne wie Google, Microsoft und Alibaba beziehen Stellung bei dieser Thematik. Im Speziellen ist  Microsoft mit dem Chef-Juristen Brad Smith und der Deutschlandchefin Sabine Bendiek auf Deutschland-Tour, um für Microsoft und deren KI Lösungen und Meinungen zu werben. Nun veröffentlicht die EU eine Guideline, die aus einer Expertenkommission bestehende aus MitgliederInnen verschiedener Mitgliedsstaaten bestand, veröffentlicht:

Die Regeln

Gemäß den Richtlinien zur KI sollte eine vertrauenswürdige KI sein:

(1) rechtmäßig – unter Beachtung aller geltenden Gesetze und Vorschriften

(2) ethisch – Einhaltung ethischer Grundsätze und Werte

(3) robust – sowohl aus technischer Sicht als auch unter Berücksichtigung des sozialen Umfelds.

“Die Leitlinien enthalten eine Reihe von 7 Schlüsselanforderungen, die KI-Systeme erfüllen sollten, um als vertrauenswürdig eingestuft zu werden. Eine spezifische Bewertungsliste soll dazu beitragen, die Anwendung jeder der wichtigsten Anforderungen zu überprüfen:

Menschliches Handeln und Kontrolle: KI-Systeme sollten den Menschen befähigen, fundierte Entscheidungen treffen zu können und ihre Grundrechte zu fördern. Gleichzeitig müssen angemessene Aufsichtsmechanismen gewährleistet sein, die durch Human-in-the-Loop-, Human-on-the-Loop- und Human-in-Command-Ansätze erreicht werden können.

Technische Robustheit und Sicherheit: KI-Systeme müssen widerstandsfähig und sicher sein. Sie müssen sicher sein, einen Rückfallplan für den Fall, dass etwas schief geht, gewährleisten und genau, zuverlässig und reproduzierbar sein. Nur so kann sichergestellt werden, dass auch unbeabsichtigte Schäden minimiert und verhindert werden können.

Datenschutz und Datenverwaltung: Neben der Gewährleistung der uneingeschränkten Wahrung der Privatsphäre und des Datenschutzes müssen auch angemessene Data-Governance-Mechanismen gewährleistet sein, die der Qualität und Integrität der Daten Rechnung tragen und einen legitimierten Zugang zu Daten gewährleisten.

Transparenz: Die Geschäftsmodelle für Daten, Systeme und KI sollten transparent sein. Rückverfolgbarkeitsmechanismen können dabei helfen. Darüber hinaus sollten die KI-Systeme und ihre Entscheidungen in einer Weise erläutert werden, die an die jeweiligen Interessengruppen angepasst ist. Der Mensch muss sich bewusst sein, dass er mit einem KI-System interagiert, und er muss über die Möglichkeiten und Grenzen des Systems informiert sein.

Vielfalt, Nichtdiskriminierung und Fairness: Unfaire Verzerrungen müssen vermieden werden, da sie mehrere negative Auswirkungen haben könnten, von der Marginalisierung gefährdeter Gruppen bis hin zur Verschärfung von Vorurteilen und Diskriminierung. Zur Förderung der Vielfalt sollten KI-Systeme für alle, unabhängig von einer Behinderung, zugänglich sein und relevante Interessengruppen während ihres gesamten Lebenszyklus einbeziehen.

Gesellschaftliches und ökologisches Wohlbefinden: KI-Systeme sollten allen Menschen zugute kommen, auch zukünftigen Generationen. Daher muss sichergestellt sein, dass sie nachhaltig und umweltfreundlich sind. Darüber hinaus sollten sie die Umwelt, einschließlich anderer Lebewesen, berücksichtigen, und ihre sozialen und gesellschaftlichen Auswirkungen sollten sorgfältig geprüft werden.”

Verantwortlichkeit: Es sollten Mechanismen geschaffen werden, um die Verantwortung und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse zu gewährleisten. Dabei spielt die Auditierbarkeit, die die Bewertung von Algorithmen, Daten und Designprozessen ermöglicht, eine Schlüsselrolle, insbesondere in kritischen Anwendungen. Darüber hinaus sollte eine angemessene und zugängliche Rechtsbehelfe gewährleistet sein.”

Nächste Schritte und Zukunft

Nach einer Pilotphase werden die Guidelines durch Feeedback evaluiert und dann optimiert (Anfang 2020). Alle Interessengruppen haben die Gelegenheit sich wieder zu beteiligen. Hierzu dient auch eine Forumsdiskussion, die extra zum Austausch eingerichtet wurde.

 

via

https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

 

Interessante Links zur KI Diskussion in Deutschland

https://www.bitkom.org/Presse/Presseinformation/Periodensystem-der-KI-erklaert-Kuenstliche-Intelligenz

https://www.handelsblatt.com/politik/deutschland/algorithmen-justizministerin-barley-fordert-generalklauseln-fuer-kuenstliche-intelligenz/24197800.html

Die Kommentarfunktion ist deaktiviert.

Copy Protected by Chetan's WP-Copyprotect.