Ist die Zwillings-KI aufgewacht oder träumen wir den ganzen Tag?

Ist die Zwillings-KI aufgewacht oder träumen wir den ganzen Tag?

Zeitstempel: 23. Februar 2024, 6:03 Uhr
Quellknoten: 2496012

Als wir kürzlich das getestet haben Bildgenerierungsfunktion von Gemini Plötzlich fragten wir uns: Ist die Gemini-KI aufgewacht? Als wir eine Eingabeaufforderung eingegeben haben, die ethnische Zugehörigkeit enthielt, stellten wir fest, dass ein Deutscher tatsächlich Asiate war und sogar Abraham Lincoln in Googles Augen schwarz war.

Was geschah also, als Google gefragt wurde, ob Gemini AI aufgewacht sei?

Nun, Gemini AI hat seine Fähigkeit, Bilder zu generieren, pausiert von Menschen aufgrund von Fehlern in der Darstellung historischer Persönlichkeiten. Das KI-Modell wurde kritisiert, weil es ungenaue Bilder von Menschen unterschiedlicher Ethnien erzeugte.

Als es beispielsweise darum ging, Wikinger darzustellen, ergaben sich nur Bilder von Schwarzen, die Wikingerkleidung trugen. Darüber hinaus erzeugte das Model ein kontroverses Bild von George Washington als schwarzem Mann.

Ist Gemini AI aufgewacht?
Google hat die Fähigkeit des Chatbots, menschliche Bilder zu generieren, sofort deaktiviert, bevor Gemini AI aufgewachte Fragen gestellt wurden

Ist die Gemini-KI aufgewacht?

Die Darstellung historischer Persönlichkeiten verschiedener Ethnien durch das KI-Modell löste eine Kontroverse aus. Während der Versuch von Google als Versuch interpretiert wurde, stereotype ethnische und sexistische Perspektiven in KI-Modellen aufzubrechen, schuf er neue Probleme.

Google bestätigte die Situation in einer auf seinen offiziellen Kanälen veröffentlichten Erklärung:

„Wir arbeiten an aktuellen Problemen mit der Bildgenerierungsfunktion von Gemini. Während dieses Prozesses unterbrechen wir die Möglichkeit, menschliche Bilder zu erstellen. Wir werden die Verfügbarkeit der verbesserten Version so schnell wie möglich bekannt geben.“

Und Google-Kommunikation Ich habe dies auf X veröffentlicht, um zu klären, ob Gemini AI Fragen aufgeweckt hat:

KI-Fehler bei historischen Figuren

Google Gemini steht wegen der Darstellung historischer Figuren und Persönlichkeiten in der Kritik. Als die KI gebeten wurde, Wikinger darzustellen, produzierte sie dementsprechend nur Bilder von Schwarzen, die historische Wikingerkleidung trugen. Die Abfrage „Gründerväter Amerikas“ führte zu kontroversen Bildern mit „Indianer“-Darstellungen.

Tatsächlich erregte die Darstellung von George Washington als Schwarzer den Zorn einiger Gruppen. Auch die Anfrage nach einem Bild des Papstes lieferte nur Ergebnisse bei nicht-weißen Ethnien.

In einigen Fällen gab Gemini sogar an, dass es keine Bilder von historischen Persönlichkeiten wie Abraham Lincoln, Julius Caesar und Galileo erzeugen könne.

Die Entscheidung von Google fiel nur einen Tag, nachdem sich Gemini für seine Fehler bei der Darstellung historischer Persönlichkeiten entschuldigt hatte. Einige Benutzer sahen in den Ergebnissen nicht-weiße, von der KI generierte Bilder, als sie nach historischen Persönlichkeiten suchten. Dies führte insbesondere zur Verbreitung von Verschwörungstheorien im Internet Google hat bewusst darauf verzichtet, weiße Menschen zu zeigen.

Was bedeutet „aufgewacht“?

In den letzten Jahren verbreitete sich „Wake“ über die schwarzen Gemeinschaften hinaus und wurde weltweit populär. „Wach“ zu sein bedeutet, sich einer Vielzahl sozialer Probleme wie Rassismus, Sexismus und anderen Arten der ungerechten Behandlung von Menschen bewusst zu sein. Es wird oft mit Menschen in Verbindung gebracht, die fortschrittliche oder linksgerichtete politische Ansichten haben und für soziale Gerechtigkeit kämpfen.

Manchmal wird „aufgewacht“ negativ verwendet. Die Leute können das benutzen Begriff, um andere dafür zu kritisieren, dass sie sich zu sehr auf soziale Probleme konzentrieren oder zu schnell andere auf unsensibles Verhalten aufmerksam zu machen. Es kann auch verwendet werden, um anzudeuten, dass der Aktivismus einer Person falsch ist oder dass sie sich nur um soziale Gerechtigkeit kümmert, um trendig zu wirken.

Ist Gemini AI aufgewacht?
Dieses Bild von Putin ist ein perfektes Beispiel dafür, warum die Leute fragen, ob die Gemini-KI aufgewacht ist (Bildnachweis)

Der Fehler der weißen Zwillinge-KI ist möglicherweise eine umgekehrte Tendenz

Googles Probleme mit Gemini verdeutlichen eine einzigartige Herausforderung in der modernen KI-Entwicklung. Während die Absichten hinter den Diversitäts- und Inklusionsinitiativen lobenswert sind, scheint die Umsetzung dies überkompensiert zu haben. Das Ergebnis ist ein Modell, das nicht-weiße Darstellungen zu erzwingen scheint, selbst wenn diese Darstellungen historisch ungenau sind.

Diese unbeabsichtigte Konsequenz wirft eine komplexe Frage auf: Spiegelt das Verhalten der Zwillinge eine umgekehrte Voreingenommenheit wider? Bei dem Versuch, die historische Unterrepräsentation von Minderheiten zu bekämpfen, hat Google einen Algorithmus entwickelt, der sie überproportional bevorzugt, bis hin zur Verzerrung bekannter historischer Persönlichkeiten

Übliches Problem, ungewöhnliche Lösung

Die Gemini-Situation unterstreicht die empfindliche Balance, die beim Umgang mit Vorurteilen in der KI erforderlich ist. Sowohl eine Unter- als auch eine Überrepräsentation können schädlich sein. Ein ideales KI-Modell muss die Realität genau widerspiegeln, unabhängig von Rasse, ethnischer Zugehörigkeit oder Geschlecht. Vielfalt dort zu erzwingen, wo sie nicht von Natur aus existiert, ist keine Lösung; es ist lediglich eine andere Form der Voreingenommenheit.

Diese Fallstudie soll Diskussionen darüber anregen, wie KI-Entwickler Voreingenommenheit bekämpfen können, ohne neue Ungleichgewichte zu schaffen. Es ist klar, dass gute Absichten nicht ausreichen; Der Schwerpunkt muss auf historischer Genauigkeit liegen und gut gemeinte, aber fehlerhafte Überkorrekturen vermieden werden.

ist Gemini AI aufgewacht?
Die Gemini-KI löste Kontroversen aus unterstreicht die Schwierigkeit, die Repräsentation in der KI auszubalancieren (Bildnachweis)

Was kommt jetzt als nächstes?

Wie könnte Google also Gemini verbessern, um zu verhindern, dass Nutzer Fragen stellen, ist Gemini AI aufgeweckt? Also:

  • Größere Trainingsdatensätze: Eine Erhöhung der Größe und Vielfalt der Trainingsdaten von Gemini könnte glücklicherweise zu ausgewogeneren, historisch korrekten Ergebnissen führen Google hat kürzlich Gemini 1.5 Pro angekündigt
  • Betonung des historischen Kontexts: Eine stärkere Betonung historischer Zeiträume und Kontexte könnte Zwillingen dabei helfen, zu lernen, Bilder zu erzeugen, die bekannte Persönlichkeiten besser widerspiegeln

Die Kontroverse um Gemini AI löste zwar einen Rückschlag aus, liefert aber wertvolle Erkenntnisse. Es zeigt, dass die Beseitigung von Voreingenommenheit in der KI ein fortlaufender, komplexer Prozess ist, der sorgfältige Überlegungen, ausgewogene Lösungen usw. erfordert Bereitschaft, aus Fehlern zu lernen.

Hervorgehobener Bildnachweis: Jr. Korpa/Unsplash.

Zeitstempel:

Mehr von Datenökonomie