Mithilfe von generativer Künstlicher Intelligenz (KI) erzeugte fiktive Gesichter von Weissen wirken auf den Betrachter realistischer als echte Gesichter. Diese Erkenntnis haben Forscher der Australian National University gewonnen. Bei Gesichtern von Farbigen war es umgekehrt: KI-generierte Porträts wurden von der Mehrheit der 124 Studienteilnehmer, die jeweils 100 echte und fiktive Gesichter sahen, nicht als solche erkannt.
Diese Diskrepanz erklären die Forscher dadurch, dass KI-Algorithmen überproportional auf weisse Gesichter trainiert werden, so Wissenschaftlerin Amy Dawel. Die KI-Gesichter wurden mit "StyleGAN2" generiert, einer Software von Nvidia. "Wenn weisse KI-Gesichter durchweg als realistischer wahrgenommen werden, könnte diese Technologie schwerwiegende Auswirkungen auf farbige Menschen haben, indem sie letztlich rassistische Vorurteile im Internet verstärkt", so Dawel.
Das zeige sich bereits bei aktuellen KI-Technologien, die zur Erstellung professionell aussehender Porträtaufnahmen verwendet werden. "Bei farbigen Menschen verändert die KI deren Haut- und Augenfarbe und gleicht sie dem Aussehen von Weissen an", verdeutlicht Dawel die Problematik. "Besorgniserregend ist auch, dass Menschen, die am häufigsten dachten, KI-Gesichter seien real, paradoxerweise am sichersten waren, dass ihre Urteile richtig ausfielen", sagt die Doktorandin Elizabeth Miller. "Das bedeutet, dass Menschen, die KI-Betrüger mit echten Menschen verwechseln, nicht wissen, dass sie ausgetrickst werden."
Den Forschern nach täuschen KI-Gesichter Menschen, denn: "Es zeigt sich, dass es immer noch physische Unterschiede zwischen KI und menschlichen Gesichtern gibt. Aber die Leute neigen dazu, sie falsch zu interpretieren. Beispielsweise neigen weisse KI-Gesichter dazu, unsymmetrischer zu sein als reale Gesichter. Viele Betrachter sehen gerade darin einen Beweis dafür, dass es sich um ein reales Gesicht handelt", unterstreichen Miller und Dawel.
Die KI-Technologie schreite so schnell voran, dass die Unterschiede zwischen fiktiven und menschlichen Gesichtern wahrscheinlich bald verschwinden würden. Dieser Trend könne schwerwiegende Auswirkungen auf die Verbreitung von Fake News und Identitätsdiebstahl haben. Beide Expertinnen fordern daher Massnahmen zur Verhinderung solcher fataler Fehler. "Angesichts der Tatsache, dass Menschen KI-Gesichter nicht mehr erkennen können, braucht die Gesellschaft Werkzeuge, die KI-Betrüger genau identifizieren können", so die Forderung.
Der Online-Stellenmarkt für ICT Professionals