Charaktere mit KI zeichnen – Keine Chance gegen Stereotype?

Bildgeneratoren, die mit KI arbeiten, sind gerade der letzte Schrei. Kein Wunder: oft bekommt man mit nur wenigen Klicks wirklich schöne individuelle Bildchen. Oft haben aber genau diese Bilder ein Problem. Und damit meine ich nicht die zusätzlichen Finger. Hier ein kleiner Erfahrungsbericht*.

Was ich vorab sagen kann: Das "individuell" in meiner Einleitung ist falsch. Die Bilder sind insofern individuell, als dass das KI-Tool niemals exakt dasselbe ein weiteres Mal generiert. Betrachtet man die Darstellungen aber als Ganzes, sind sie keineswegs individuell, sondern folgen klar definierten Normen und weichen nur mit großem Aufwand davon ab.

Ich habe hier nicht ins Nichts hinein generiert, sondern hatte Vorlagen für meine Charaktere, die ich verbessern wollte. Das hat selten funktioniert.

Insta-Schönheiten, Fotoshop und Gesichts-Ops

Skarta Kahragon aus "Herrscher des Lichts": mit wohlfrisierten Haaren, einem stark bearbeitet wirkenden Gesicht und einem Kleid mit eigentlich ziemlich coolem Faltenwurf.

Als erstes habe ich versucht, eine Variante von Skarta aus "Das Licht aus dem Nebel" zeichnen zu lassen. Hier ist das beste (wenn auch nicht das gewünschte) Ergebnis. Dabei muss man sagen, dass Skarta noch relativ schnell erstellt war. Länger habe ich bei Merto und sehr lange bei Nakro und Orea herumprobiert. Am schnellsten ging Lorror.

Was stellen wir fest? Erstens: Die Frau ist jung. Eigentlich sollte sie Anfang bis Mitte 30 sein. Aber: Frauen, die älter aussehen als in ihren Zwanzigern werden von der KI nicht, oder nur äußerst widerwillig dargestellt (und dann aber gleich richtig alt!). Auch nach mehreren Versuchen blieb das Gesicht von Skarta also glatt und faltenlos. Sogar so faltenlos, dass es völlig an der Realität vorbeigeht. Denn eigentlich hat jeder Mensch zwischen Mundwinkeln und Nase zwei Einkerbungen. Die werden hier entschieden wegretuschiert. Außerdem wirken die Lippen nicht natürlich. Die Oberlippe ist eine Spur zu dick (etwa aufgespritzt?). Die Lippen sind zudem ein wenig gespitzt, eine typische Instagram-Pose (Stichwort: Duckface). Übrigens habe ich die Lippen manuell verkleinert. Auf dem Original waren sie deutlich größer. Zweitens: Das Gesicht ist stark geschminkt: Brauen, Augen, Lippen, Wangen. Hier ist rein gar nichts natürlich. Drittens: Die Haare sind aufwändig frisiert. Solche wohlgeformten Locken gibt es natürlicherweise nicht. Da muss man nachhelfen. Das Outfit stammt übrigens von meiner Vorlage und wurde weitgehend übernommen bzw. verbessert. Das hat mir gefallen.

Ich hätte Skarta wirklich gerne ein natürliches Gesicht verpasst und perfekt hätte es auch nicht sein müssen. Die KI gibt mir aber nur eine maximal künstliche Filter-Fotoshop-Puppe, die ein furchtbares und in ihrer Deformiertheit frauenfeindliches Schönheitsideal verkörpert (das leider durchaus unserer Zeit entspricht). Und das, obwohl ich nicht danach verlangt habe, im Gegenteil.

Bitte mit großer Oberweite

Orea Kahragon aus "Herrscher des Lichts": aufwändig gestylte Locken, glatte Haut, rosige Wangen, schmachtender Blick – und damit all das, was ich bei einer Illustration dieser Figur gerne ausgeschlossen hätte. Übrigens soll die Dame "middle aged" sein. Nun ja.

Die nächste Frau: Orea Kahragon. Sie zu erstellen, war eine volle Katastrophe. Bei Skarta war das jugendliche Alter noch akzeptabel, Orea sollte definitiv älter aussehen. Und das hinzubekommen war so schwierig, dass ich irgendwann aufgegeben habe. Mein "middle aged" hat die KI jedenfalls entschieden ignoriert. Wie bei Skarta war auch bei Orea weder der Haarstyle, noch die viele Schminke und schon absolut gar nicht der schmachtende Blick in meinem Sinne. Denn eigentlich ist Orea eine furchteinflößende Persönlichkeit und absolut kein Model!

Diese Variante von Orea ist noch am nähesten an meinem Original. Je mehr Abweichung ich zugelassen hatte, desto größer wurde die Oberweite der Frau und natürlich auch tiefer der Ausschnitt (nein, ich zeige die Bilder hier nicht – auf meinem Blog hat Silikon nichts verloren). Frauenkörper: schlank, aber mit gigantischen Brüsten, die nur per Operation erzielt werden können. Nicht nur fragwürdig, sondern obendrein gesundheitsschädlich für die Betroffenen. Ich kann solche Darstellungen nicht mehr sehen – vor allem machen sie mich wütend.

Interessant ist nun: Warum hat die KI Skartas Rundungen in Ruhe gelassen, die von Orea aber nicht? Ein Grund könnte sein, dass Skartas faltenverhülltes Kleid diese "Optimierung" weniger nahegelegt hat. Wie ich schon sagte: Bei Skarta blieb immerhin das Outfit aus meiner Vorlage erhalten. Ein anderer denkbarer Grund: Orea ist rothaarig. Rothaarige Frauen werden traditionell sehr stark sexualisiert. Womöglich wurde die KI im Falle rothaariger Frauen ausschließlich mit großbrüstigen Bildern trainiert?

Auch bei Männern gibt es ein Haltbarkeitsdatum

Merto Kahragon aus "Herrscher des Lichts": ebenfalls zu jung gerade und wie es sich für Männer gehört natürlich mit markantem Kiefer und grimmigem Blick (Achtung Ironie^^). Auch Könige hat die KI sehr gerne als etwa 18-Jährige gezeichnet. Das liegt hier zwar noch näher als bei den Generälen, aber ist das wirklich die naheliegenste Darstellungsform?

Wenn wir nun festhalten, dass Frauendarstellungen äußerst fragwürdig sind, wie sieht es dann bei Männern aus? Ist es hier besser? Spoiler: Nur ein kleines bisschen.

Merto Kahragon aus "Das Licht aus dem Nebel" sollte Mitte dreißig bis vierzig sein. Die KI hat jüngere Darstellungen definitiv bevorzugt. In dem Moment, wo er älter als Mitte zwanzig sein sollte, waren wir sofort bei Mitte fünfzig bis sechzig. Interessanterweise war dieses Alter dann wieder gefragt. Während Frauen also ab Mitte zwanzig im Bildgenerator unsichtbar sind, sind es Männer etwa im Alter von 35 bis 55. Ältere Männer sind in Ordnung. Das hat sicher mit dem Narrativ zu tun, dass reifere, erfolgreiche und gerne auch grauhaarige Männer immer noch attraktiv sind (reife, grauhaarige und – Gott bewahre! – erfolgreiche Frauen absolut nicht). Während sich der Mann mit sechzig also immer noch mit einer zwanzigjährigen Partnerin zeigen kann, ist die Konstellation mit vertauschten Geschlechtern verpönt. Solche Ideen sind so tief in unserer Gesellschaft verankert, dass es kaum verwundert, dass die KI sie ebenfalls adaptiert.

Eron Kahragon aus "Herrscher des Lichts": anscheinend sehen so Männer aus, die "evil" sind ... er hätte ruhig etwas älter wirken und lächeln dürfen. Die Föhnfrisur wäre ebenfalls nicht unbedingt notwendig gewesen..

Eron sollte eigentlich ein wenig hager und ausgebrannt sein. Natürlich hat mir die KI nur Models ausgespuckt. Besser wurde es (zu meiner Belustigung), als ich dem Prompt das Wörtchen "evil" hinzugefügt habe. Dann kam dieses Bild hier heraus. So sieht also ein böser Mann aus? Ich weiß ja nicht ... Aber gemessen an den vorherigen Ergebnissen war das schon fast gut.

Interessant: Während die Frauen schmachtend dreinblicken, gucken die Männer eher ernst-grimmig (im Fall von Nakro weiter unten sogar ein bisschen leidend). Das scheint wohl als besonders männlich zu gelten. Wäre ja auch schlimm, wenn ein Mann mal lächeln würde. So wie Lorror ... zu dem kommen wir gleich als nächstes.

Meine Erkenntnisse:

Männer sind etwa von 35-55 unsichtbar, danach dürfen sie wieder gezeigt werden. Vor allem Merto und Eron wirkten also immer entweder zu jung (teilweise sogar absurd jung!) oder eben viel zu alt. Lorror wurde eher jünger gemacht. Unabhängig vom Geschlecht versucht die KI also immer das darzustellen, was in unserer Gesellschaft als attraktiv verstanden wird. Und an dieser Stelle ahnt ihr es schon: Das Problem liegt eigentlich mehr in den gesellschaftlichen Schönheitsnormen als in der KI an sich.

Normabweichungen werden "korrigiert"

Lorror Kahragon aus "Herrscher des Lichts": frisiert und freundlich. Grundsätzlich nicht verkehrt, auch wenn sich seine Einarmigkeit nicht wirklich darstellen ist (ja, fehlende Gliedmaßen lässt die KI auch nur sehr ungern zu.)

Hier zum Abwechslung mal die Darstellung eines alten, fröhlichen Mannes mit Falten. Allerdings hätte ich Lorror gerne noch älter gehabt. Und ich glaube, dass es auch nur deswegen in dieser Form funktioniert hat, weil er lange graue Haare und Bart hat (beides sollte eigentlich blau sein, das deutet sich zumindest oben ein bisschen an). Interessant ist hierbei, dass nicht nur die Frauen die Haare schön bekommen. Auch Lorrors Frisur ist eher ordentlich gelockt. Ich hätte ihn lieber zerzaust gehabt.

Was definitiv auffällt: Lorror dürfte eigentlich nur einen Arm besitzen. Ich bin mir nicht ganz sicher, ob die KI tatsächlich einen Filter besitzt, der fehlende Gliedmaßen als potenzielle Gewaltdarstellungen ausschließt, oder ob Ableismus dahintersteckt, dass Lorror grundsätzlich einen zweiten Arm verpasst bekam. Festzuhalten ist auf jeden Fall, dass es extrem schwierig ist, Normabweichungen aufs Bild zu bekommen.

Weiße Haut und blaue Augen sind der Standard

Nakro Kahragon aus "Herrscher des Lichts": Augen, Haut und Haare mussten im Nachhinein verdunkelt werden. Außerdem ist das eine der wenigen Version, wo er weder wie 18 (der häufigere Fall) noch wie 60 aussieht. Und mal ehrlich: Für eine so hohe militärische Position wie einen General ein 18-Jähriger? Liebe Leute, warum?

Apropos Norm: Das bedeutet weiße Haut und blaue Augen. Die KI bevorzugt definitiv eine Ethnie. Denn Nakro sollte dunklere Haut und braune Augen haben. Beides enthielt auch die Vorlage.

Die KI hat die Vorlage aber jedes Mal "verbessert" und seine Haut aufgehellt und die Augen blau gemacht. Im Bild hier sind sie nur deshalb braun, weil ich sie hinterher nachbearbeitet hatte. Auch die Haut habe ich manuell dunkler gemacht, sie war beim KI-Ergebnis deutlich heller.

Das Augen-Problem gab es übrigens auch bei Skarta: Ihr hat die KI ebenfalls hartnäckig blaue Augen verpasst, obwohl sie ausdrücklich braun sein sollten (und man sollte meinen, dass das bei schwarzen Haaren ja auch naheliegt).

Dass Nakro jedenfalls von Variante zu Variante weißer wurde, war extrem auffällig. Dass die KI derart scharf darauf ist, aus allen Menschen Weiße zu machen, ist einfach nur eines: rassistisch. Im besten Fall bekam ich Nakro noch mit schwarzer Haut ausgespuckt. Aber irgendwas zwischen weiß und schwarz war nicht drin.

Aber immerhin: Der Herr auf dem Bild könnte wenigstens als 30 durchgehen und nicht als 18 – denn aus irgendwelchen Gründen scheint das Wort "General" eher junge Männer nahegelegt haben. Hat das womöglich etwas mit Darstellungen aus der Romantasy-Literatur und dazugehöriger Illustrationen zu tun? Denn realistischerweise sollte der Oberbefehlshaber einer Armee, der Leute in den Krieg schickt, bitte nicht 18 sein, sondern erfahrener!

Die KI besitzt ein Bias

Ich schrieb nun davon, was die KI tut, will und meint. Das ist natürlich falsch. Die KI tut erstmal gar nicht, weil sie keine Entscheidungen trifft. Die Technologie ist nicht das Problem! Das Problem sind die Trainingsdaten. Und die werden von Menschen erstellt.

Lernt die KI primär mit sexualisierten Frauendarstellungen, wird das eben zur Norm, wie Frauen auszusehen haben. Lernt sie mit jungen Menschen, mit normschönen Menschen, mit stark bearbeiteten Menschen, mit weißen Menschen, wird all das zum Standard.

Durch eine Prüfung und Anpassung der Trainingsdaten wäre das Problem sicher zu lösen (nicht einfach, sondern mit viel Aufwand, aber durchaus machbar). Was einem dadurch aber bewusst werden muss: Die Technologie ist nicht neutral, die Technologie kann sexistisch, rassistisch oder ableistisch agieren und deswegen ist es die Aufgabe der Nutzer:innen, dafür sensibel zu bleiben und entsprechendes Bildmaterial zu prüfen und nicht unreflektiert zu verbreiten. Denn wer diskriminierendes Bildmaterial weiterverbreitet, sorgt damit dafür, dass sich solche Muster noch stärker in den Köpfen der Menschen festsetzen. Sie werden Sehgewohnheit. Und irgendwann werden wir uns sehr schwertun, da wieder herauszukommen.

Ein lustiges Bild ist nicht einfach nur ein lustiges Bild. Es kann ganz realen Schaden anrichten, weil es nunmal etwas kommuniziert. Etwas darüber, wie Menschen auszusehen und zu sein haben. Seid ihr eine Frau, dann schaut euch Skarta oder Orea an und fragt euch, ob ihr euch von diesen beiden repräsentiert fühlen wollt. Seid ihr ein Mann, dann schaut euch Merto, Eron, Nakro und Lorror an und fragt euch dasselbe. Seid ihr weder Frau noch Mann, habt ihr sowieso Pech gehabt, weil euch die KI dann nicht darstellt.

Ich persönlich habe nach meinem kleinen Experiment jedenfalls die Entscheidung getroffen, KI in nächster Zeit nicht mehr für Illustrationen von Menschen zu nutzen. Ich nutze sie besser für Landschaften – die macht sie gut.

*Die KI, die ich benutzt habe, war "Playground" (Stand Februar 2024). Andere Programme spucken andere Ergebnisse aus. Die Wahrscheinlichkeit, dass sie ähnliche Sehgewohnheiten und fragwürdige Stereotype widergeben, ist dennoch sehr hoch.

Link: https://playgroundai.com/