„Die Risiko-Kategorisierung im AI Act ist für die meisten undurchsichtig und schwer nachvollziehbar. Es wäre sinnvoll, Bürger:innen einzubinden und nachzujustieren“, empfiehlt der Forscher und nennt zwei Beispiele: „Die automatisierte Müdigkeitserkennung im Lkw greift direkt in das Fahrverhalten ein und verarbeitet potenziell sensible biometrische Daten. Das EU-Recht schreibt daher strenge Schutzmaßnahmen vor.“ Für die befragten Personen – wie auch für viele Lkw-Fahrer:innen – stünde allerdings der Nutzen für die Sicherheit auf der Straße im Vordergrund. „Die gesetzliche Vorgabe wird folglich als übertrieben und hinderlich beurteilt“, ergänzt Thalmann.
Umgekehrt fühlen sich viele Kund:innen unwohl, wenn sie auf diversen Internetportalen mit Chatbots in Kontakt treten sollen. „Obwohl diese keine sensiblen Daten abfragen oder in persönliche Lebensbereiche eingreifen – und folglich im AI Act als geringes Risiko gelten –, haben Konsument:innen Datenschutz-Bedenken und Angst vor Manipulation oder falschen Auskünften“, hat der Wissenschaftler erhoben. „Die Politik sollte daher verstärkt auf klare Information und Aufklärung setzen, zum Beispiel durch leicht verständliche Kennzeichnungen von KI-Risiken“, empfiehlt Thalmann. Weiters brauche es eine Stärkung der digitalen Kompetenz: „Wer sich mit Technik auskennt, kann auch die Gefahren durch künstliche Intelligenz besser einschätzen“, nennt der Experte ein weiteres Ergebnis seiner Studie. Menschen, die die Technologie als besonders riskant empfinden, lassen sich auch durch zusätzliche Schutzmaßnahmen kaum überzeugen.
Die Studie wurde von einem interdisziplinären Team aus dem Forschungsbereich Smart Regulation unter Beteiligung der Technischen Universität Graz durchgeführt. Die Ergebnisse sind im Fachmagazin Computer Law & Security Review erschienen:
Hanna Kröll, Jürgen Fleiß, Magdalena Eder, Elisabeth Lex, Stefan Thalmann: AI risk perceptions and the effect of AI Act Safeguards. Results from a representative population sample