Inzwischen hat die menschliche Gesellschaft erkannt, dass KI eine neue digitale Generation – nach PC und Internet – darstellt, die manche auch als nächste Revolution begreifen. Es werden, ähnlich wie bei anderen technischen Neuerungen (Eisenbahn, Telegrafie, Flugzeug, PC), Ängste erzeugt, die, berechtigt oder nicht berechtigt, die menschliche Gesellschaft zum Handeln zwingen. Hier hat nun die EU neuerdings ein Gesetz verabschiedet, das KI in verschiedene Handlungs- und Verbotsebenen unterteilt. Es soll KI anhalten, die Achtung der Grundrechte zu garantieren und Innovationen zu fördern.
Auszug aus der EU-Pressemitteilung:
<< Die neuen Regeln zielen darauf ab, Grundrechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen. Gleichzeitig sollen sie Innovationen ankurbeln und dafür sorgen, dass die EU in diesem Bereich eine Führungsrolle einnimmt. Die Verordnung legt bestimmte Verpflichtungen für KI-Systeme fest, abhängig von den jeweiligen möglichen Risiken und Auswirkungen.
Die neuen Vorschriften verbieten bestimmte KI-Anwendungen, die die Rechte der Bürgerinnen und Bürger bedrohen. Dazu zählen unter anderem die biometrische Kategorisierung auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken. Ebenfalls verboten sind künftig Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie das Bewerten von sozialem Verhalten mit KI. Auch vorausschauende Polizeiarbeit, die einzig auf der Profilerstellung oder der Bewertung von Merkmalen einer Person beruht, und der Einsatz von künstlicher Intelligenz, um das Verhalten von Menschen zu beeinflussen oder ihre Schwächen auszunutzen, ist nach den neuen Regeln nicht erlaubt. >>
Für die Anwendung von KI in der Medizin werden dabei Fragen aufgeworfen, die, sollte das Gesetz angewendet werden, nicht unbedingt förderlich sind. Telemedizin (Videosprechstunde) und Gesichtserkennung z.B. oder Datenschutz bei Untersuchungen sind solche Punkte, die noch der Klärung bedürfen.