Massiver Skandal um Googles KI

In einer aktuellen Kontroverse ist die Google-KI in die Kritik geraten, weil sie angeblich weiße Menschen durch schwarze Menschen ersetzt hat. Dies hat bei den Nutzern große Unzufriedenheit ausgelöst.

Die Gemini-KI steht im Zentrum eines Sturms, da Fragen zu ihrem Entscheidungsprozess aufgeworfen werden. Das Thema wurde durch Fragen über die Darstellung verschiedener Ethnien in den erzeugten Bildern in den Mittelpunkt gerückt.

Die KI-Entwickler haben behauptet, dass sie kreative Änderungen vorgenommen haben, um über stereotype Darstellungen hinauszugehen. Aus technischer Sicht scheint es jedoch eine Diskrepanz zwischen der Benutzeraufforderung und den generierten Bildern zu geben.

"Ihre ursprüngliche Eingabeaufforderung lautete 'Bitte zeichnen Sie ein Porträt von Kobolden'. Das erzeugte Bild stellt jedoch ein anderes Szenario dar", beklagte ein Nutzer.

Nach Angaben der Entwickler wurde die Aufforderung erheblich geändert, um die Auswahl an Bildern zu erweitern. Die Aufforderung wurde dahingehend überarbeitet, dass neben der ursprünglichen Aufforderung, Koboldporträts zu erstellen, auch Begriffe wie "vielfältig", "inklusiv" und bestimmte Ethnien aufgenommen wurden.

Die allgemeine Stimmung deutet darauf hin, dass die Nutzer skeptisch sind, was die Wirksamkeit von KI-Tools angeht, die versuchen, eine echte Darstellung zu erzeugen. Der vorherrschende Gedanke ist, dass der Nutzen dieser Werkzeuge ernsthaft beeinträchtigt wird, wenn sie die Authentizität nicht wiedergeben.

"Es wird nie funktionieren, weil die Menschen KI als Werkzeug benutzen. Wenn sie das Gefühl haben, dass das Werkzeug nicht authentisch funktioniert, werden sie es einfach nicht mehr verwenden", betonte eine Gegenstimme.

Branchenexperten haben auf die inhärenten Hürden bei der Entwicklung von KI-Systemen hingewiesen, die Benutzereingaben richtig interpretieren und entsprechende Bilder erzeugen. Wenn es nicht gelingt, die Erwartungen der Nutzer zu erfüllen, kann dies zu erheblichen Rückschlägen bei der Akzeptanz und Einführung von KI-Technologien führen.

Kritiker haben darauf hingewiesen, dass die KI von Google ihre Glaubwürdigkeit untergraben könnte, wenn sie nicht in der Lage ist, Ergebnisse zu produzieren, die mit den Aufforderungen der Nutzer übereinstimmen. Als Gegengewicht gibt es aufstrebende Konkurrenten in der KI-Landschaft, die Lösungen anbieten, die stärker auf die Bedürfnisse und Präferenzen der Nutzer eingehen.

Die umstrittene Entscheidung der Entwickler, bei der Bilderzeugung die ethnische Zugehörigkeit und das Geschlecht in den Vordergrund zu stellen, hat heftige Reaktionen hervorgerufen. Viele Nutzer sind der Meinung, dass dieser Ansatz willkürlich ist und kein wesentlicher Faktor für die Funktionalität von KI-Systemen sein sollte.

Ein Nutzer gab offen zu: "Es ist beunruhigend und seltsam, dass Menschen, die wie ich aussehen, ohne triftigen Grund künstlich unterdrückt werden."

Kritiker argumentieren, dass solche Maßnahmen rassistische und geschlechtsspezifische Vorurteile aufrechterhalten und den Grundsätzen der Authentizität und Fairness zuwiderlaufen. Während die Debatte weiter tobt, ist es offensichtlich, dass die Auswirkungen dieses KI-Skandals weitreichende Folgen für Google und die gesamte Tech-Branche haben.