Die Vereinten Nationen haben vor KI-generierten Deepfakes gewarnt, die zur Verbreitung von Hass und Fehlinformationen in sozialen Medien eingesetzt werden. In einem am Montag veröffentlichten Bericht mit dem Titel „Information Integrity on Digital Platforms“ (Informationsintegrität auf digitalen Plattformen) unterstreicht die globale Organisation die Notwendigkeit eines verantwortungsvollen Einsatzes von KI.
„Während sie ein fast unvorstellbares Potenzial zur Bewältigung globaler Herausforderungen besitzt, gibt es ernste und dringende Bedenken hinsichtlich des ebenso mächtigen Potenzials der jüngsten Fortschritte in der künstlichen Intelligenz – einschließlich Bildgeneratoren und Video-Depfakes – die Informationsintegrität zu bedrohen“, so der UN-Bericht.
Informationsintegrität bezieht sich auf die Genauigkeit, Konsistenz und Zuverlässigkeit von Informationen, die laut den Vereinten Nationen durch Desinformation, Fehlinformation und Hassreden bedroht sind.
„Diese Risiken haben sich durch die rasanten Fortschritte in der Technologie, wie z.B. die generative künstliche Intelligenz, weiter verschärft“, schreibt UN-Generalsekretär Guterres in der Einleitung des Berichts. „Es ist klar geworden, dass Business as usual keine Option ist. „
Generative KI ist eine Art von Programm, normalerweise in Form eines Chatbots, das in der Lage ist, Text, Bilder oder andere Medien als Reaktion auf Aufforderungen zu erzeugen.
Der Bericht der Vereinten Nationen äußerte sich besorgt über die Auswirkungen von Deepfakes und KI-generierten Fehlinformationen in Konfliktgebieten.
Die Verwendung von Hassreden wurde oft als Vorläufer für grausame Verbrechen wie Völkermord beobachtet, so die UN. Der Bericht unterstreicht auch, dass die Konvention zur Verhütung und Bestrafung des Völkermordes von 1948 jede direkte oder öffentliche Aufstachelung zum Völkermord verbietet.
Die Verbreitung von Hass & Lügen im digitalen Raum verursacht weltweit großen Schaden.
Diese klare & gegenwärtige globale Bedrohung erfordert klare & koordinierte globale Maßnahmen.
– @antonioguterres bei der Vorstellung seines neuen Berichts über Informationsintegrität auf digitalen Plattformen. https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy
– United Nations (@UN) June 12, 2023
Der UN-Bericht nennt zwar keine konkreten Beispiele, weist aber auf jüngste Fälle hin, in denen generative KI eingesetzt wurde, um in einigen Fällen überzeugend irreführende Inhalte und Bilder zu erstellen.
Im März ging ein von KI generiertes Bild der Verhaftung des ehemaligen Präsidenten Donald Trump viral, nachdem es von Bellingcat-Gründer und Creative Director Eliot Higgins auf Twitter geteilt wurde. Im selben Monat beendete Midjourney, das Unternehmen, das hinter dem gleichnamigen KI-Generator für Text-zu-Bild-Bilder steht, seine kostenlose Testversion aufgrund des weit verbreiteten Missbrauchs.
Alle Beteiligten sollten dringend und unverzüglich Maßnahmen ergreifen, um die sichere, verantwortungsvolle, ethische und menschenrechtskonforme Nutzung künstlicher Intelligenz zu gewährleisten und sich mit den Auswirkungen der jüngsten Fortschritte in diesem Bereich auf die Verbreitung von Fehlinformationen, Desinformation und Hassreden auseinanderzusetzen“, so die UN.
Der Bericht forderte die Eigentümer digitaler Plattformen auf, in Systeme zur Moderation von Inhalten zu investieren, die sowohl menschliche als auch künstliche Intelligenz für alle in den Ländern, in denen sie tätig sind, verwendeten Sprachen nutzen, und die Berichterstattung über Inhalte transparent zu machen.
Die Ära der Silicon-Valley-Philosophie „move fast and break things“ müsse ein Ende haben. Datenschutz, Sicherheit und Transparenz seien von grundlegender Bedeutung und sollten von Anfang an in neue Technologien eingebaut werden, so die internationale Organisation.
Guterres verwies auf den bevorstehenden Zukunftsgipfel im Jahr 2024 als Gelegenheit, sich auf multilaterale Lösungen zu einigen.
„Die Herausforderungen, mit denen wir konfrontiert sind, können nur durch eine stärkere internationale Zusammenarbeit bewältigt werden“, sagte Generalsekretär Guterres
