„ChatGPT & Co im medialen Diskurs“ mit Prof. Dr. Elke Grittmann und Dr. Lina Brink

Staffel 2, Folge 10 Elke Grittmann & Lina Brink

00:00:00 SPEAKER_00

Willkommen bei KI Insights, ein Podcast vom Projekt ZAKKI an der Hochschule Magdeburg-Stendal. Hier teilen Expert*innen verschiedenster Disziplinen ihre Einblicke in die facettenreiche Welt der künstlichen Intelligenz. In der zweiten Staffel erwarten Sie Beiträge rund um das Thema Mensch und Gesellschaft im Kontext von KI. Moderiert von Peter Kahn, Lena Büscher und Prof. Dr. Sebastian von Enzberg.

00:00:28 SPEAKER_01

Liebe Hörerinnen und Hörer, willkommen zurück zum KI-Insights-Podcast des Projekts ZAkKI der Hochschule Magdeburg-Stendal. Ich bin Peter Kann vom AI Social Lab und ich freue mich sehr, diesmal sowohl Prof. Elke Grittmann als auch Lina Brink von der Hochschule Magdeburg-Stendal begrüßen zu dürfen. Herzlich willkommen. Hallo. Ja, hallo. Elke Grittmann ist Professorin für Medien und Gesellschaft am Institut für Journalismus im Fachbereich Soziale Arbeit, Gesundheit und Medien. Lina Brink ist Koordinatorin für Forschung und Transfer am selben Fachbereich und verantwortete zusammen mit Elke Grittmann und mir das von der Otto-Brenner-Stiftung geförderte Forschungsprojekt mit dem Titel ChatGPT und Co. im medialen Diskurs Soziale Gerechtigkeit ausgeblendet. In dieser Folge wollen wir einen Blick auf die Relevanz der Frage nach sozialer Gerechtigkeit im Kontext von KI werfen und wir wollen besprechen, was die in der Studie eingenommene Perspektive der Diskursforschung zu diesem Thema eingebracht hat. Elke und Lina, vielleicht zum Einstieg in unser Gespräch stellt sich natürlich die Frage, wie seid ihr auf das Thema des

00:01:31 SPEAKER_03

Forschungsprojekts eigentlich gekommen? Naja, der Startpunkt war so ein bisschen, wie der Titel ja auch schon sagt, eigentlich die freie Zugänglichkeit sozusagen von ChatGPT und die damit auch einhergehende sehr starke mediale Resonanz. Also plötzlich gab es ganz viel Berichterstattung, gerade zum Thema generative KI und natürlich auch viele Versuche, viel Aushandlung zu der Frage, was können wir eigentlich damit machen, wie gehen wir damit um? Und wir haben uns gefragt, genau in dem Moment, inwiefern wurde eigentlich auch so ein kritischer Blick auf dieses Phänomen und vielleicht auch auf KI generell, aber auch insbesondere auf generative KI geworfen? Und inwiefern war das eigentlich Teil dieser sehr aufflammenden Debatte in dem Moment, auch darauf zu gucken, was für soziale Implikationen KI generell, aber auch eben spezifisch generative KI eigentlich hat oder haben kann.

00:02:29 SPEAKER_02

Ja, und vor dem Hintergrund, dass es sich um eine technische neue Entwicklung handelt, also eine neue Generation von künstlicher Intelligenz, ist natürlich die Frage, welche Auswirkungen hat das auf die Gesellschaft? Jedes technische System verändert, wird eingesetzt in sozialen Kontexten und das kann Auswirkungen haben. Also wir sehen es ganz massiv im Internet, auch durch die Plattformlogik, wo auch sehr spät erst reguliert worden ist. Und auch in dem Zusammenhang stellt es sich jetzt die Frage, mit der Erwartung, dass KI sehr viel verändern soll, also es wird von vielen Akteuren geteilt, haben wir uns eben gefragt, wird das überhaupt thematisiert? Welche Folgen, welche sozialen Folgen KI haben kann?

00:03:10 SPEAKER_01

In der Studie, in dem Forschungsprojekt wurde sich ja vor allem sozusagen auf das Thema der sozialen Gerechtigkeit eigentlich kapriziert. Da stellt sich natürlich die Frage, was hat künstliche Intelligenz eigentlich genau mit sozialer Gerechtigkeit zu tun? eigentlich genau mit sozialer Gerechtigkeit zu tun?

00:03:23 SPEAKER_02

Ich gehe mal einen kleinen Schritt zurück. Also ich habe eben ja dass soziale gesagt, Folgen immer mit technischen Entwicklungen zusammenhängen, dass technische Neuerungen nicht einfach eine Eigenlogik haben und sich selbst irgendwie durchsetzen, sondern verhandelt ausgehandelt, eingeführt werden, werden. Und diese sozialen Folgen können eben zu sozialen Ungerechtigkeiten führen oder zu sozialen Ungleichheiten Das wissen wir aus der das wissen wir aus den Und daher war die kann es auch durch die KI zu sozialen Ungleichheiten kommen führen. und wenn wie und wie wird Technikfolgeabschätzung, die Und soziale Ungleichheiten gibt Technikstudies. es nun sehr Also es geht natürlich Frage, um die sozialen die auch von der Gesellschaft als ungerecht ja, empfunden und verhandelt. verhandelt also um soziale Gerechtigkeit in der viele. in der KI-Durchsetzung. Ungleichheiten, werden, KI-Entwicklung, Und soziale Gerechtigkeit wiederum besteht nun aus vielen Formen von sozialen Ungleichheiten. Und dazu haben wir ein theoretisches Modell herangezogen, das eigentlich aus der Soziologie kommt, für soziale Entwicklungen genutzt wird von Mau, Lux und Westhäuser. wird von MAU, Lux und Westhäuser und haben das ausgearbeitet für unsere Fragestellung im Hinblick auf eben künstliche Intelligenz und die damit betroffenen Formen.

00:04:53 SPEAKER_03

Vielleicht mal so ein konkretes Beispiel, was sich tatsächlich eher auf jetzt Anwendung von KI und speziell auf generativer KI bezieht. Was immer wieder diskutiert wird, sind so Diskriminierungsformen, die auch in sexualisierten Posen hergestellt, selten in einem professionellen Kontext, also ganz eindeutig sozusagen diskriminierende Bilder hergestellt werden. Das ist so ein sehr konkretes Beispiel für Diskriminierung als eine Form sozialer Ungerechtigkeit.

00:05:40 SPEAKER_02

Eine andere Form wäre die Frage des Umgangs mit den Daten, die ja eine breite Debatte auch letztes Jahr und auch schon vorletztes Jahr, also nach dem Launch von JetGPT, öffentlich erzeugt haben. Also die Frage eben, wie steht es mit den Urheberrechten? Wer nutzt diese, von wem kommen die Daten, wer hat eigentlich das Recht daran und zahlen die KI-Entwicklungsfirmen, die die Daten nutzen für das Training der KI-Modelle, zahlen die dafür? Müssen die zahlen? Wer hat eigentlich daran Anteil? Persönlichkeitsrechte sind davon berührt. Und vielleicht noch als letztes

00:06:14 SPEAKER_03

noch als letztes Beispiel, was sehr breit auch in wissenschaftlichen Debatten immer wieder diskutiert wird, immer wieder diskutiert sind Fragen von KI und sozusagen der wo auf ganz wird, unterschiedlichen Ebenen sozusagen Arbeitswelt, auch soziale Ungleichheiten auftreten können durch die Anwendung von Das fängt an im Prozess der wo zum Beispiel Bewerbungsunterlagen KI. vorausgewählt Rekrutierung, werden durch KI und dann einfach aufgrund der bestehenden mit denen diese KI trainiert bestimmte Daten, wurde, Bewerbungen direkt ausgeschlossen werden, aufgrund zum Beispiel der Postleitzahl, was natürlich Ungleichheiten befördern kann. Es geht weiter mit sozusagen dem Arbeitskontext an sich, wo zum Beispiel auch Überwachung und Kontrolle durch KI es zur Ungerechtigkeit formen kann, wenn mit KI kontrolliert wird, wie Leute arbeiten und hier auch bestimmte Ungerechtigkeiten sozusagen schon in den Daten eingeschrieben werden. sind eigentlich die Menschen, die ganz wesentliche Arbeit leisten für das Training zum Beispiel von KI. Also ich denke jetzt zum Beispiel an so klassische Clickworker, also Personen, die vor allem im globalen Süden für oft sehr wenig Gehalt KI trainieren, indem bestimmte Bilder getaggt werden oder auch Bilder aussortiert werden, oft von sehr problematischen Inhalten, gewaltvollen Inhalten, die wiederum aber nicht profitieren von

00:07:56 SPEAKER_01

profitieren von demzieren, vielleicht sogar verstärken?

00:08:10 SPEAKER_02

Also von der Forschung her lässt sich das sicher unterschreiben. Vielleicht ist das

00:08:13 SPEAKER_01

ist das auch der gute Übergang, um nochmal die Frage zu stellen, welche Erwartungen hattet ihr eigentlich bei der Entwicklung des Projekts, vielleicht auch mit Blick auf schon bestehende Forschungsstände? Vielleicht auch mit Blick auf schon bestehende Forschungsstände.

00:08:23 SPEAKER_02

Also ganz interessant. Es gibt schon ein paar Studien vor allen Dingen, die sich auch mit Vorläufern natürlich und vor allen Dingen mit Automatisierungssetzen, also dass eben auch in der Berichterstattung über Automatisierung oder über künstliche Intelligenz, vor Chepiti bereits die Firmen vor allen Dingen durchsetzen und besonders präsent sind, die eben KI entwickeln und auch die Wirtschaft sehr dominant ist, während andere Fragen eben so ein bisschen zurückstecken. Das war ein Befund, sehr offensichtlich immer wieder wiederholt, also der hat sich immer wieder gezeigt. Und daher haben wir erwartet, dass auch bei uns die Wirtschaft ausgesprochen dominant ist und das uns interessierende Thema, die soziale Gerechtigkeit, womöglich gar nicht so auftaucht. Also es ging ja jetzt erst mal um die Erwartungen, mit welchen Erwartungen sind wir an die Studie rangegangen. Damit verbunden war eben einmal diese starke Wirtschaftsperspektive im Diskurs, einmal diese starke Akteursperspektive, die sich eben auch auf die KI-Entwickler richtet und dementsprechend eben eine Vernachlässigung eigentlich solcher Fragen sozialer Gerechtigkeit und der sozialen Implikationen, die aber für die Gesellschaft natürlich wahnsinnig wichtig sind. Neben diesem starken wirtschaftlichen Fokus zeigt sich eben dann auch, dass eben auch die wirtschaftlichen AkteurInnen dominant sind, stärker als andere gesellschaftliche Gruppen, die sicher im Diskurs auch was zu sagen hätten. Wir hatten dementsprechend erwartet, dass soziale Gerechtigkeit eben kaum vorkommt. Unsere Befunde zeigen in der Tat, dass sich diese Muster auch nach Chet-GPT oder mit Chet-GPT fortsetzen, aber eben auch Fragen sozialer Gerechtigkeit, wie wir sie auch eben aufgezeigt haben, breit verhandelt werden. Und das hat uns überrascht.

00:10:26 SPEAKER_01

Jetzt haben wir ja schon einen kleinen Einblick sozusagen in das, was das Forschungsprojekt auch in Ergebnissen gezeitigt hat. Die Frage ist natürlich, wie wurden

die eigentlich erarbeitet? Also mit Blick auf die Frage der Forschungsmethoden. Was wurde eigentlich genutzt, um zu den Ergebnissen dann zu kommen? Vielleicht könnt ihr da nochmal ein bisschen ausführen zum Forschungsdesign, sozusagen zur Umsetzung.

00:10:46 SPEAKER_02

Also zum einen haben wir eine quantitative Inhaltsanalyse gemacht. Das wir haben wirklich die Beiträge aus neuen Medien erfasst, heißt, die sich mit KI beschäftigen und untersucht, welche Themenschwerpunkte sind da relevant. Und zum Zweiten haben wir uns mithilfe eines automatisierten Tools die AkteurInnen angeschaut, also welche AkteurInnen besonders präsent sind. Und drittens haben wir dann die Beiträge, die sich mit sozialer Gerechtigkeit befasst haben, in einer Feinanalyse nochmal, so heißt die Methode, diskursanalytisch auseinandergesetzt. so heißt die diskursanalytisch Methode, auseinandergesetzt.

00:11:24 SPEAKER_03

und wichtig zu ergänzen ist Genau, vielleicht noch sozusagen als Hintergrundfolie auch so ein bisschen, um schauen zu welche Aspekte eigentlich medial thematisiert werden, können, auftauchen, auch wie sie verhandelt werden, haben wir als Hintergrundfolie uns zusätzlich verschiedene andere Debattenfelder angeguckt. Also wir haben geschaut, wie wird eigentlich dieses Thema KI und soziale Gerechtigkeit in der Wissenschaft verhandelt, vor allem in der Sozialwissenschaft sozusagen im weitesten Sinne. Wie thematisiert die Zivilgesellschaft diese Frage? Und auch, wie wird das in politischen Institutionen verhandelt? Also das Thema soziale Ungleichheit und KI.

00:12:06 SPEAKER_01

Warum gab es diese Schwerpunktsetzung neben der medialen Debatte erstmal?

00:12:11 SPEAKER_03

Weil das natürlich Felder sind, die natürlich auch sehr eng miteinander verzahnt sind, also Zivilgesellschaft und Wissenschaft nehmen natürlich Einfluss oder versuchen Einfluss zu nehmen auch auf politische Debatten im institutionellen Kontext, um Regulierung mitzugestalten oder überhaupt Themen erstmal auf die Agenda zu setzen und insgesamt, weil sozusagen alle diese Debattenfelder sehr wichtig sind, einfach für das, was Elke vorhin schon betont hat, die Aushandlung, die gesellschaftliche Aushandlung dessen,

00:12:51 SPEAKER_02

was überhaupt als relevant für die Gesellschaft oder als regulierungswürdig behandlungswürdig, verstanden wird. Und dann sind Medien oder Journalistinnen von Quellen abhängig. Also das haben schon andere Studien gezeigt, wenn es keinen gesellschaftlichen Diskurs gibt, also sei es von zivilgesellschaftlichen Akteuren, sei es von der Politik oder sei es Forschung aus der Wissenschaft, dann ist es sehr schwer, ein Thema so auf die Agenda zu heben, auch im Journalismus. Und auf der anderen Seite hat uns natürlich auch interessiert, wenn es diesen Diskurs gibt, schon in der Politik und in der Wirtschaft und in der Wissenschaft und von zivilgesellschaftlichen Akteuren, nehmen den JournalistInnen auf, also auch um zu schauen, welche Relevanz hat denn das Thema überhaupt.

00:13:32 SPEAKER_01

Vielleicht könnt ihr dann nochmal was sagen, warum ihr jetzt den Fokus aber auf die mediale Berichterstattung schon sozusagen auch in der Konzeptionsphase gelegt habt. Also warum ist das so fixiert worden letztlich? Welche sozialen Probleme

00:13:43 SPEAKER_03

letztlich? Welche sozialen Probleme sehen wir überhaupt, die bearbeitet werden sollten? Einfach mediale Öffentlichkeit mit ihrer Reichweite einfach von allergrößter Bedeutung ist.

00:14:13 SPEAKER_02

Sie natürlich mit eigenem Blick da auch drauf schauen, aber Sie schaffen eben auch ein Forum für das, was passiert. Sie transferieren wissenschaftliche Erkenntnisse, bereiten sie auf, dass sie hoffentlich verständlich vermittelt werden im Idealfall. Und dadurch kann erst der Austausch stattfinden.

00:14:37 SPEAKER_01

Genau. Vielleicht, wenn wir jetzt bei dem Thema schon sind, vielleicht könnt ihr noch mal ein bisschen ausführen, welche Medien wurden denn eigentlich genau untersucht und warum wurden da sozusagen gewisse Selektionen eigentlich gemacht?

00:15:04 SPEAKER_03

als auch digitale Medien mit einbezogen und haben eben zum einen welche Medien haben eigentlich die größte also welche erreichen ein breites Publikum und geschaut, aber auch unterschiedliche Orientierungen Reichweite, was bestimmte thematische Schwerpunkte mit versucht, Also eben sowohl Medien wie die sozusagen, Frankfurter Rundschau, angeht, reinzunehmen. Tageszeitung, die eher als linksliberal sozusagen eingeordnet auch von dem Publikum, werden, aber eben auch Medien wie zum Beispiel Die Welt oder Den Fokus, die oft eher als konservativ eingeordnet werden.

00:15:43 SPEAKER_01

Dann hatten wir das eben schon so ein bisschen angerissen, sozusagen was macht diesen medialen Diskurs eigentlich aus? Wir hatten das eben schon ein Stück weit festgehalten, die Dominanz der wirtschaftlichen der wirtschaftlichen Themen auch. Akteure, Vielleicht könnt ihr da nochmal ein bisschen ins Detail gehen.

00:16:01 SPEAKER_02

gehen. Auffällig dass wir die die wir auch aus der Forschung ist, identifiziert haben, Bereiche, an möglicherweise Bereichen, in denen sich soziale Ungleichheiten abspielen oder Prozesse oder Entwicklungen, dass wir die auch in der Berichterstattung finden und zwar, indem sie dort auch eben verhandelt und kritisch diskutiert werden. Das war schon auffällig. Das heißt, die vorhin benannten Bereiche, also angefangen bei diesen Fragen von Arbeit, welche Folgen hat KI für Arbeit, Arbeitsprozesse, Arbeitsverhältnisse, die Frage von Datensicherheit, die Frage von Persönlichkeits- und Urheberrechten bis hin eben zu Diskriminierung, werden da in den Medien mit unterschiedlichen Gewichtungen natürlich durchaus verhandelt, sodass da ein Bild über die, das entsteht, was da schon sich abspielt und noch kommt.

00:17:01 SPEAKER_03

nochmal daran anschließend, also dass durchaus diese Perspektive, dass eigentlich KI auch dazu beitragen kann, zumindest bestehende Machtverhältnisse zu verstärken oder zumindest aufrechtzuerhalten, dass die durchaus präsent ist, wenngleich die wirtschaftliche Perspektive und die wirtschaftlichen AkteurInnen schon immer noch eine deutliche Übermacht haben im Diskurs.

00:17:26 SPEAKER_01

Die Forschung oder dieses Forschungsprojekt ist ja jetzt abgeschlossen soweit. Wie geht es vielleicht weiter? Gibt es den Plan, weitere Forschungen in dieser Richtung noch anzustellen?

00:17:35 SPEAKER_02

Ja, aus der Analyse sind schon neue Fragen aufgetaucht. Also ein Thema, das sich ergeben hat, war zum Beispiel die Frage, wie Bilder eingesetzt werden. Ein das sich ergeben war zum Beispiel die wie Thema, Bilder eingesetzt werden. hat, Frage, Die schaffen ja auch für uns ein Bild von wie KI wirken oder genutzt KI, werden wie KI arbeitet. kann, Das ist nochmal ein sehr interessanter Aspekt unserer Ansicht nach, weil das oft so eher unbewusst prägt. Man sieht die Bilder, dadurch entsteht so eine Vorstellung, was KI eigentlich ist. Man sieht die dadurch entsteht so eine was KI eigentlich Und interessant dabei sicher auch unsere Vorstellungen prägen, Bilder, Vorstellung, ist. so wie viele fiktionale Filme beispielsweise ja auch unsere Vorstellungen von KI geprägt haben, die sich heute im Design wiederfinden.

00:18:33 SPEAKER_01

Vielen Dank noch für den Ausblick. Ja, vielen Dank auch für den Einblick in das Forschungsprojekt zum durchaus wichtigen Thema der Aushandlung sozialer Ungerechtigkeit im Kontext von KI. Liebe Hörerinnen und Hörer, hören Sie bei Interesse auch gerne in eine vorherige oder zukünftige Folge unseres Podcasts hinein und vor allem bleiben Sie kritisch und bleiben Sie gespannt auf zukünftige Debatten um die Frage sozialer Gerechtigkeit und KI.