Transkript Staffel 2, Folge 6 Weber
00:00:00
SPEAKER_00
Willkommen bei KI Insights, ein Podcast vom Projekt ZAKKI an der Hochschule
Magdeburg-Stendal. Hier teilen Expertinnen verschiedenster Disziplinen ihre Einblicke in
die facettenreiche Welt der künstlichen Intelligenz. In der zweiten Staffel erwarten Sie
Beiträge rund um das Thema Mensch und Gesellschaft im Kontext von KI. Moderiert von
Peter Kahn, Lena Büscher und Prof. Dr. Sebastian von Enzberg.
00:00:28
SPEAKER_02
Liebe Hörerinnen und Hörer, willkommen zurück zum KI-Insights-Podcast des Projekts
ZAKKI der Hochschule Magdeburg-Stendal. Mein Name ist Peter Kann vom AI Social Lab
und ich freue mich sehr, für diese Folge Prof. Karsten Weber von der OTH Regensburg
begrüßen zu dürfen. Herzlich willkommen.
00:00:45
SPEAKER_01
dass ich dabei sein Karsten Weber ist Professor fürTH Regensburg begrüßen zu Herzlich
Ja, Ja, danke, darf. dürfen. willkommen.
00:00:46
SPEAKER_02
danke, dass ich dabei sein darf. karsten Weber ist Professor für
Technikfolgenabschätzung und Technikbewertung an der Fakultät für Informatik und
Mathematik und befasst sich unter anderem auch mit den Bereichen Technikethik und
ELSA-Begleitforschung. In dieser Folge soll es um den Einfluss von KI auf
gesellschaftliche Macht- und Herrschaftsverhältnisse gehen. Herr Professor Weber,
gerade die Einführung von sogenannten Basistechnologien hat in der Vergangenheit
nicht nur zu wirtschaftlichen, sondern auch zu gesellschaftlichen Umwälzungen
geführt. Kann KI prinzipiell in eine Reihe gestellt werden mit der Einführung zum Beispiel
der Dampfmaschine, der Elektrizität oder der Verbreitung des Personal Computers?
00:01:21
SPEAKER_01
Nun, das ist genau die Frage, die es noch zu beantworten gilt. Im Moment sind in den
Entwicklungen der KI, die wir in den letzten paar Jahren erlebt haben, sehr viele
Erwartungen und Hoffnungen und auch Spekulationen eingepreist. Wer die Geschichte
der KI-Entwicklung kennt, weiß, dass es das schon mal gegeben hat und dass dann die
KI wieder ein bisschen aus der öffentlichen Wahrnehmung verschwunden ist. Ich denke
allerdings schon, dass wir davon ausgehen müssen, dass KI, wenn nicht vielleicht in
diese ganz großen technologischen Transformationsentwicklungen einzuordnen ist,
dann doch aber einen erheblichen Stellenwert für alle Gesellschaften, in denen KI
eingesetzt wird, haben hat und haben wird. in denen KI eingesetzt haben wird, hat und
haben wird.
00:02:05
SPEAKER_02
Wir haben eigentlich diese historisch diese gesehen, Transformation, Macht- und
Herrschaftsverhältnisse in der Gesellschaft beeinflusst.
00:02:12
SPEAKER_01
wenn man zurückschaut Naja, in die als die Industrialisierung Zeit, richtig begangen hat,
also rund 200 Jahre vor unserer könnte man sagen, Zeit, und die Dampfmaschine als
Energiequelle losgelöst von menschlicher und tierischer Arbeitskraft massiv eingeführt
worden ist, hat das unter anderem auch dazu geführt, dass eine gesellschaftliche
Klasse, könnte man gut marxistisch sagen, plötzlich Machtansprüche erstens
angemeldet hat und dann auch durchsetzen kann, die vorher weitestgehend machtlos
war, nämlich das Bürgertum, das zwar Besitz hatte, aber eben wenig politische Macht
und das hat sich eben mit der Industrialisierung sehr stark verändert und von daher kann
man an dem Beispiel, glaube ich, sehr gut zeigen, dass eben die Einführung von Technik
ein wichtiger Baustein dafür sein kann, dass sich politische Machtverhältnisse
grundlegend verändern. dafür sein dass sich kann, politische Machtverhältnisse
grundlegend verändern.
00:03:04
SPEAKER_02
Kann man vielleicht jetzt mit Blick auf künstliche Intelligenz dass sich diese
Entwicklungslinien in diesem Bereich eher fortsetzen? sagen, Oder würde man da gibt
es irgendwie sagen, nein, einen Bruch oder da gibt es vielleicht neue die in eine
Entwicklungen, andere Richtung weisen können?
00:03:18
SPEAKER_01
Es gibt natürlich Kontinuitäten. Im Kapitalismus werden einfach Unternehmen mal
mächtig und dann wieder auch ohnmächtig, weil das, was sie herstellen oder anbieten,
wichtig wird oder auch wieder unwichtig wird. Es gibt aber sicherlich auch Umbrüche,
denn wir haben jetzt eine Industrie, die keine greifbaren Produkte herstellt, sondern man
könnte sagen, intellektuelle Produkte herstellt. Und wir haben natürlich einen
Konzentrationsprozess, der allenfalls vergleichbar ist mit dem, was im 19. und frühen
20. Jahrhundert Energiekonzerne, insbesondere Ölförderkonzerne erlebt haben, nämlich
eine massive finanzielle und auch Machtkonzentration auf wenige, sehr wenige Firmen.
Das ist etwas, was zum Beispiel im Laufe des 20. Jahrhunderts in dieser Form und in
dieser Extremform nur sehr selten zu beobachten war.
00:04:21
SPEAKER_02
wird auch rechtlich und ökonomisch geschützt und dadurch werden diese Monopole im
Prinzip erhalten. Dann kann man sich natürlich die Frage stellen, wenn man jetzt
insbesondere auf Daten schaut, welche Rolle spielen eigentlich Daten bei der Bildung
und Akkumulation solcher ökonomischen Machtzentren? Im Grunde genommen sind
00:04:38
SPEAKER_01
sind Daten die Faktoren, die zu diesen Machtkonzentrationen beitragen. Wenn man sich
anschaut, und da kann man den Beginn vielleicht mit dem Aufkommen von
Suchmaschinen ansetzen, wenn man sich anschaut, wie sich beispielsweise Google
entwickelt hat, dann hat Google einfach etwas geschafft, was es vorher in der Form
nicht gab, nämlich einerseits den Zugriff zu Daten und Informationen für uns alle extrem
zu vereinfachen, zu den Informationen und Daten im Internet, aber gleichzeitig diese
Daten und auch die Daten, die wir bei diesem Zugriff produziert haben, für das eigene
Geschäftsmodell in Dienst zu stellen. Gerade solche Geschäftsmodelle, wo es um
Daten geht, neigen zu einer Tendenz, die man vielleicht mit The winner takes it all
beschreiben kann. Also wer hier sehr früh anfängt, einen Vorsprung hat, streicht im
Grunde genommen alles an Gewinnen ein, kann einen Markt monopolisieren und
Newcomer haben es extrem schwer. Und man muss sich einfach klar machen, Google
hat nach wie vor trotz Konkurrenz einen Marktanteil im Bereich von Suchmaschinen von
rund 90 Prozent in fast allen Ländern dieses Planeten. Das hat selbst Standard Oil nie
geschafft. Also hier ist wirklich eine massive Machtkonzentration für bestimmte
Geschäftsmodelle und Geschäftsbereiche entstanden.
00:06:00
SPEAKER_02
Genau. Shoshana Zuboff bezieht sich ja auch auf den Begriff des
Überwachungskapitalismus. Und da geht es ja nicht nur darum, dass sozusagen die
Daten gesammelt werden, um sehr spezifische Profile anzulegen, um sehr gezielte
Werbemaßnahmen zum Beispiel schalten zu können, sondern dass das auch schon in
diesen Bereich der Manipulation eigentlich reinreicht. Wie sehen Sie diesen Aspekt?
Müsste da vielleicht auch regulatorisch noch stärker eingegriffen werden?
00:06:28
SPEAKER_01
Nun, im Grunde genommen ist das keine neue Entwicklung. Es haben Unternehmen im
Kapitalismus immer schon versucht, sehr viel über ihre Kundinnen und Kunden zu
erfahren, um eben ihre Produkte besser an die Frau und an den Mann zu bringen. Aber
dadurch, dass wir jetzt digitale Daten, die sehr leicht zu nutzen sind, die sehr leicht zum
Sammeln sind, mit denen arbeiten, wird dieses Sammeln von Daten über die
Nutzerinnen und Nutzer, über Konsumentinnen und Konsumenten eben immer
einfacher, an allen Orten, zu jeden Zeiten, bei jeder Gelegenheit. Und damit haben wir
eben eine Situation, die man als Überwachung und tendenziell auch Steuerung und
Manipulation bezeichnen kann. Gleichzeitig aber auch ist das so erfolgreich, weil diese
Daten eben in einer Weise so genutzt werden, dass wir als Kundinnen und Kunden oder
Konsumentinnen und Konsumenten dazu tatsächlich auch einen Nutzen haben und
deswegen sehr willens sind, persönliche Daten über uns selbst herzugeben, was
wiederum das Geschäftsmodell der Unternehmen stärkt. Das ist also ein wechselseitig
verstärkender Prozess. Ja, Regulierung scheint dort dringend nötig zu sein und die EU
versucht solche Dinge ja auch mit der Datenschutzgrundverordnung beispielsweise
oder jetzt kürzlich mit dem Artificial Intelligence Act. Wenn man sich aber die Diskussion
über diese Regulierung anschaut, dann sieht man ja, dass insbesondere von den
Unternehmen, die reguliert werden sollen, dann oftmals auch Drohgebärden kommen
der Art, ja, wenn ihr diese oder jene Regulierung durchführt, dann verlassen wir zum
Beispiel Europa als Geschäftsfeld, was noch nie passiert ist im Übrigen, dafür ist der
Markt viel zu groß. Aber die Drohungen stehen im Raum und man kann sich zumindest
vorstellen, dass das dann auch auf die Regulierungsvorhaben Einfluss hat.
00:08:13
SPEAKER_02
Genau, wobei man natürlich auch beobachten konnte, dass gerade so diese, sage ich
mal, KI-Leitfiguren sich ja durchaus in Richtung Regulierung selbst bewegt haben, die
Forderung nach dem Moratorium und ähnlichem. Hier stellt sich natürlich immer die
Frage, welche Interessen eigentlich dahinter stehen.
00:09:15
SPEAKER_02
Der Chef von OpenAI wäre hier ein Beispiel, dass die letztendlich gar nicht so sehr damit
bezwecken wollen, dass sie und ähnliche Unternehmen eben bestimmten Regeln
unterworfen werden, sondern dass sie sich davon erhoffen, dass die Regulierung denen,
die noch neu in den Markt hineinstoßen wollen, Hürden aufgestellt werden, die diese
dann nicht mehr überspringen können. Die Großen, die schon da sind, die sich schon
etabliert haben, aber schon. Mit anderen Worten,plung auch an gesellschaftliche
soziale Ungleichheitsverhältnisse? Das heißt, wie verstärkt oder verändert KI eigentlich
bestehende soziale Ungleichheiten?
00:09:38
SPEAKER_01
deutlichen, das allerdings schon eine Weile her ist, aber trotzdem noch eine
erschreckende Aktualität besitzt. Als ich in Frankfurt Oder gearbeitet habe, haben wir
dort eine Umfrage durchgeführt unter den Studierenden, ob sie bereit wären,
Privatsphäre beim Telefonieren und beim SMS-Verschicken herzugeben, wenn sie dafür
zum Beispiel einen kostenlosen Mobilfunkvertrag bekämen oder kostenlose Freiminuten
oder so etwas. Und wir mussten feststellen, dass die Bereitschaft, so etwas zu tun,
damit einherging, wie hoch das verfügbare Einkommen der Befragten war. Mit anderen
Worten, Menschen mit geringem Einkommen waren eher bereit, private Daten
herzugeben als jene mit höherem Einkommen. Diese Situation kann man sich auch mit
allen anderen digitalen Angeboten vorstellen. Mit anderen Worten, diejenigen, die wenig
Einkommen haben, müssen mit ihren Daten bezahlen, mit ihrer Privatsphäre und haben
dadurch dann möglicherweise auch die entsprechend daraus folgenden Nachteile.
Diejenigen mit einem hohen Einkommen müssen das nicht und haben nur die Vorteile
aus der Nutzung von digitalen Angeboten und das kann natürlich soziale Ungleichheit
verschärfen. Vielleicht auch mit Blick
00:10:51
SPEAKER_02
Blick auf die Arbeitswelt ist es, glaube ich, hinlänglich bekannt, dass gerade die
Entwicklung der Technologie, künstliche Intelligenz, einerseits dafür sorgt, dass
bestimmte Arbeitnehmer in Gruppen besonders gefragt sind, in Teilen dadurch auch
hofiert werden, würde ich mal nennen, andererseits natürlich auch gerade mit Blick auf
transnationale Gerechtigkeitsfragen Arbeitsverhältnisse ausgelagert werden in
Entwicklungsländern zum Beispiel, die mehr als prekär sind. Kann man auch da sagen,
dass sich dadurch KI im Prinzip soziale Ungleichheitslagen deutlich zeigen und vielleicht
sogar verschärfen?
00:11:29
SPEAKER_01
Das kann zumindest passieren. Auch das kann man, glaube ich, ganz gut an einem
Beispiel verdeutlichen. Die Daten, die genutzt werden, um Machine Learning Modelle
trainieren zu können, die sind ja nicht einfach dann schon fertig für das Training, wenn
man sie hat, sondern man muss sie annotieren. Man muss also der Maschine selbst
sagen, was zum Beispiel ein Bild zeigt, ob da ein Pferd zu sehen ist oder ein Hund oder
eine Katze oder sowas. Das ist eine mühsame, ziemlich ermüdende Arbeit. Trotzdem
muss sie gemacht werden, ansonsten kann man diese KI-Systeme nicht trainieren.
gemacht ansonsten kann man diese KI-Systeme nicht trainieren und sie ist wenn man
dafür Menschen potenziell auch je wo diese werden, Menschen Und gerade diese
Tätigkeit wird massiv ausgelagert natürlich, in Länder mit Niedriglöhnen und sie nutzt,
wird ausgelagert in teuer, wo die nachdem, arbeitsrechtliche Situation arbeiten. der dort
sagen wir mal bedenklich ist. Länder, Beschäftigten, vorsichtig, Das heißt also Hire and
Fire und ähnliches völlig normal ist. Krankenversicherung und solche Dinge meistens
nicht existieren. Mit anderen wir lagern den extrem lukrativen Aufbau von KI-Systemen,
Worten, die lagern wir in Niedriglöhne aus. Die dort lebenden Menschen und
arbeitenden Menschen haben nur sehr geringe Einkommen, wohingegen die
Unternehmen dann mit den entsprechenden Gewinnen
00:12:56
SPEAKER_02
dann mit den entsprechenden Gewinnen arbeiten können. Auch da kann man natürlich
feststellen, dass soziale Ungleichheiten nun aber auf globalem Niveau durchaus
verstärkt werden können. Frage, inwiefern das sozusagen materielle oder
arbeitsweltliche Verhältnisse beeinflusst, die Technologie der künstlichen Intelligenz,
Einsatz und Entwicklung. Jetzt kann man natürlich auch die Frage stellen, inwiefern trägt
KI eigentlich insgesamt zur Perpetuierung von diskriminierenden Mustern in der
Gesellschaft bei? Das ist eine
00:13:20
SPEAKER_01
eine Frage, die nicht ganz so einfach zu beantworten ist, weil man hier zumindest
unterscheiden muss zwischen bewusster Diskriminierung und
Diskriminierungsprozessen, die eigentlich nicht gewollt sind, aber trotzdem stattfinden.
Bewusst diskriminieren kann man beispielsweise, indem man manche Menschen gezielt
ausgrenzt aus der Nutzung von KI oder aber, dass eben die Nutzung von KI gezielt für
bestimmte Menschen, für bestimmte Gruppen von Menschen negative Konsequenzen
hat. Wenn man das gezielt herbeiführt, dann kann man natürlich über die moralische
Fragwürdigkeit eines solchen Handelns nachdenken, aber es kann eben passieren. Wo
Menschen gar nicht diskriminiert werden wollen, aber es trotzdem werden, weil sie
Eigenschaften haben, die eben bei der Nutzung von KI nachteilig sein Das kann. sind
dann solche Fälle, wo es dann auch nicht unbedingt um solche Produkte geht wie Chat
GBT oder Ähnlichem, sondern zum Beispiel bei Systemen, die man einsetzt bei der
Diagnose von Krankheiten. Das da meist diskutierte Thema ist die Erkennung von
Hautkrebs durch KI-Systeme. Und da hat man einfach in einigen Bereichen feststellen
müssen, dass diese Systeme zum Beispiel systematisch nur mit Bildern von
hellhäutigen Menschen trainiert wurden und dadurch eine systematisch schlechte
Erkennungsrate hatten bei Menschen mit dunkler Hautfarbe. Das ist eine
Diskriminierung, die niemand will, die aber trotzdem stattfindet, die aber auch so
schwer zu entdecken ist, weil da ganz viele Leute sehr genau nachdenken müssen, was
sie tun. Die erste Form, also die bewusste Diskriminierung, kann man möglicherweise
mit Regulierung in den Griff bekommen. Die zweite Form erfordert aber unglaublich viel
Aufmerksamkeit bei allen Leuten, die an der Entwicklung und an der Nutzung von KI
beteiligt sind und lässt sich beileibe nicht so einfach in den Griff bekommen.
00:15:14
SPEAKER_02
Im Kontext dieser Fragen kommt auch häufig der Begriff der Black Box ins Spiel, das
heißt der Intransparenz der Entscheidungsfindung im System der KI. Vielleicht auch
dahingehend mit Blick auf Macht- und Herrschaftsverhältnisse. Ist der Blackbox-Effekt
eigentlich ein technisches Problem oder ist der Blackbox-Effekt auch vielleicht ein
Problem der Macht- und Herrschaftsverhältnisse? Wir hatten vorhin schon den Begriff
des Wissensmonopolkapitalismus zum Beispiel. des Wissensmonopolkapitalismus
zum Beispiel?
00:15:42
SPEAKER_01
Vermutlich ist meine Antwort da auch ein bisschen außerhalb des Mainstreams. Es wird
ja in sehr vielen Diskussionen über KI die Forderung aufgestellt, KI darf eben keine
Blackbox sein. Es muss sowas wie Erklärbarkeit und Interpretierbarkeit gegeben sein,
wie eben zum Beispiel die Ergebnisse zustande kommen und warum man sie so oder so
interpretieren kann und muss. Ich halte von dieser Diskussion vergleichsweise wenig,
weil selbst wenn ich das im Prinzip verstehen könnte, wen interessiert es, weil man will
ja erstmal ein Ergebnis haben und einen Dienst nutzen können. In einer arbeitsteiligen
Gesellschaft halten wir es für völlig normal, dass wir bestimmte Dinge einfach nutzen
oder zur Kenntnis nehmen und nicht danach fragen, wie es zustande gekommen sind,
weil wir davon ausgehen, dass die Regeln, nach denen es zustande gekommen sind,
zum Beispiel recht und gesetzvoll. Ihre Frage zielt aber genau in die richtige Richtung.
Wir haben die Situation einfach, dass viele andere Bereiche in unserem Leben für uns
auch eine Blackbox sind. Zum Beispiel die Verwaltung einer Gemeinde ist für mich
persönlich eine ziemlich dunkle Box, in die ich nicht reingucken kann. Und das war ja
lange Zeit so, dass die Bürgerinnen und Bürger der Verwaltung zum Beispiel gegenüber
doch eher als Bittstellerinnen und Bittsteller gegenübergetreten sind und nicht wussten,
was da passiert. Im Moment ist ja Kafka gerade ganz groß in der Öffentlichkeit. Kafka hat
das ja nun in sehr dramatischer Form auch in seinen Geschichten aufgeschrieben. Da
kann man aber gegen vorgehen, indem man zum Beispiel solche Dinge erlässt wie
Informationsfreiheitsgesetze und ähnliches und tatsächlich an gegebenen
Machtstrukturen rüttelt. Und von daher würde ich Ihre Frage, die Frage einfach als
Aussage aufnehmen und sagen, in der Tat, die Frage der Blackbox ist nicht so sehr eine
technische, sondern ist eine Frage von Machtstrukturen und diese sind soziale, das
Produkt sozialer Interaktion und dann kann man sie auch in Form von sozialer
Interaktion vielleicht auch wieder abbauen. auch in Form von sozialer Interaktion
vielleicht auch wieder abbauen.
00:17:44
SPEAKER_02
Jetzt haben wir uns natürlich sehr darauf kapriziert, dass künstliche Intelligenz irgendwie
die sozialen Ungleichheitsverhältnisse verschärfen könnte oder zumindest perpetuieren
könnte. Die Frage stellt sich natürlich auch, was kann künstliche Intelligenz eigentlich
dazu beitragen, soziale Ungleichheiten zu verringern oder zu beseitigen?
00:18:03
SPEAKER_01
Richtig eingesetzt sind da sicherlich sehr große Chancen auch zu sehen. Nur ein
Beispiel, das kenne ich jetzt, weil ich die entsprechende Abschlussarbeit betreut habe.
Eine Studentin hat bei mir ihre Abschlussarbeit darüber geschrieben, wie im
Rekrutierungsprozess bei Unternehmen, wie dort KI eingesetzt werden kann. Wenn man
das richtig macht, dann kann man mithilfe von KI zum Beispiel
Diskriminierungsprozesse vielleicht sogar abschwächen, vielleicht sogar ganz aus der
Welt schaffen, weil man den menschlichen Faktor einfach ausschließen kann bei der
Entscheidung, wen lädt man zu einem Bewerbungsgespräch ein oder wen setzt man auf
eine Stelle. Denn die Diskriminierung kommt ja zunächst mal ohne KI von uns als
Personen. Wir haben vielleicht Vorurteile gegenüber Menschen, die Brillen tragen oder
die eine lange Nase haben oder irgendeine andere Eigenschaft haben, die uns nicht
gefällt. Wenn wir KI so einsetzen, dass solche Kriterien, die ja nichts mit dem Beruf zum
Beispiel zu tun haben, einfach nicht relevant sind bei der Entscheidung über eine
Einstellung, dann könnten wir was an Diskriminierung im positiven Sinne verändern.
Dafür braucht man aber wiederum Leute, die die KI-Systeme entsprechend gestalten
und versuchen, eben diese unbewussten Diskriminierungsprozesse von vornherein
auszuschalten. Das ist also technisch und organisatorisch machbar, aber man muss es
auch wollen und anstreben.
00:19:29
SPEAKER_02
Eine Chance, die vielleicht darüber hinaus auch zu sehen ist, ist natürlich die Frage,
inwiefern KI auch zur Inklusion oder zur Diversitätssensibilität beitragen kann. Vielleicht
auch darüber hinaus noch gedacht an Fragen wie Nachhaltigkeit oder Ähnliches. Wie
sehen Sie diese Aspekte?
00:19:47
SPEAKER_01
In Bezug auf Nachhaltigkeit bin ich mir nicht ganz welches Potenzial da sicher, weil das
einfach gerade existiert, eine Diskussion die gerade erst angefangen hat. ist, In Hinblick
auf Inklusion kann man dieselben Erwartungen hegen, die man schon seit langer Zeit in
Hinblick auf die Nutzung von digitalen Hilfsmitteln äußert, denn es gibt zumindest die
Chance, dass zum Beispiel KI-Systeme Menschen mit Handicaps beispielsweise, den
Zugang zu Informationen, die Teilhabe an sozialen Prozessen und ähnlichen
unterstützend dabei helfen kann, denken wir an Menschen, die eben in ihrer
Wahrnehmung eingesch so Menschen helfen und dadurch Inklusion unterstützen. Also
hier gibt es ein Riesenpotenzial. Das muss halt gehoben werden, insbesondere auch im
kommerziellen Bereich, denn da kann nicht nur zum Beispiel durch die öffentliche
Hand, kann das nicht nur erreicht werden.
00:20:59
SPEAKER_02
Wie wir ja gesehen haben, kann man viele Entwicklungen wahrscheinlich nicht einfach
nur den wirtschaftlichen Machtverhältnissen überlassen, sondern die Frage stellt sich
natürlich auch, inwieweit da politische Handlungsfelder sich eröffnen. Für mich stellt
sich oder für uns stellt sich prinzipiell erstmal, glaube ich, die Frage, inwiefern Politik
und KI als Technologie sich eigentlich gegenseitig beeinflussen? Also die Reziprozität,
einerseits die politische Meinungsbildung durch KI zu beeinflussen und gleichzeitig aber
auch durch politische Prozesse oder Gesetzgebungsprozesse und ähnliches eben auch
die Gestaltung von KI wiederum zu beeinflussen? Das ist eine extrem komplexe Frage
und deswegen ist sie auch nicht besonders einfach
00:21:38
SPEAKER_01
eine extrem komplexe Frage und deswegen ist sie auch nicht besonders einfach zu
beantworten. Wir haben natürlich gesehen, dass zum Beispiel rund um den Artificial
Intelligence Act sehr kontroverse Diskussionen geführt worden sind, sowohl auf
akademischer Ebene als auch insbesondere natürlich unter denjenigen, die man
vielleicht als politische Akteurinnen und Akteure bezeichnen könnte. Das sind natürlich
nicht nur Politikerinnen und Politiker, sondern alle, die sich einmischen in politische
Entscheidungsprozesse. Da hat man natürlich auch sehr deutlich sehen können, dass
die Frage, wie eben Regulierung Interessen stärken oder schwächen kann, wer eben
durch Regulierung Vorteile erlangt und wer davon vielleicht in negativer Weise betroffen
ist, dass das natürlich eine sehr wichtige Frage war. Und am Ende ist der Artificial
Intelligence Act, so wie er jetzt verabschiedet worden ist, sicherlich auch ein
Kompromiss zwischen all diesen Stakeholder-Interessen. Denn Politik ist letztendlich im
Kern auf Kompromisse aus, denn alle Stakeholder, alle, die in irgendeiner Weise eine
Rolle spielen, müssen letztendlich von ihren Individualinter ich ein bisschen die
Antwort. Denn einerseits haben wir natürlich diese Diskussion um Fake News, um
Deepfakes und ähnliches, die sehr Ebene Entscheidungsfindungsprozesse beeinflusst
hat in der Vergangenheit oder auch in der Gegenwart. befürchtet, dass da Dinge
passieren, die nicht passieren sollten. Aber ich glaube, das findet stärker auf der Ebene
von Wahlentscheidungen statt, also wie wir zum Beispiel unsere Stimme abgeben. Und
da wird natürlich sehr stark versucht, auch mit KI Manipulation auszuwirken. Ob das
aber in den Entscheidungsprozessen sozusagen unter dem politisch-professionell
Tätigen wirklich eine Rolle spielt, das vermag ich nicht zu beurteilen.
00:24:06
SPEAKER_02
Sie hatten es eben implizit sozusagen schon ein bisschen angesprochen. Der EU-AI-Act
reguliert ja unter anderem auch sowas wie Überwachungs- und Sicherheitstechnologie
mit KI. Und da stellt sich für mich die Frage, inwiefern wird eigentlich KI in diesem
Bereich Überwachungs- und Sicherheitsmaßnahmen eben auch von staatlichen
Akteuren bisher eingesetzt?
00:24:29
SPEAKER_01
in Richtung Strafverfolgungsbehörden geht und die legen natürlich und aus guten
Gründen im Übrigen auch nicht unbedingt immer ihre Karten auf den Tisch, denn wenn
man das täte, dann würde die Strafverfolgung mit technischen Mitteln sicherlich nicht
unbedingt erleichtert werden. Grundsätzlich sind der Nutzung von KI zum Beispiel zur
automatisierten Strafverfolgung, zum Beispiel zu Zwecken der Personenerkennung,
durch den Artificial Intelligence Act sehr enge Grenzen gezogen worden. Das heißt, wir
sind hier in Europa der Meinung, dass wir da keinen Wildwuchs möchten, auch nicht in
Bezug auf die Durchsetzung des staatlichen Gewaltmonopols. Damit sind wir aber bis
zu einem gewissen Grad eine Insel auf diesem Planet. Denn in vielen anderen Ländern
wird das sehr viel anders gesehen, sehr deutlich anders gesehen und das wird mit
Sicherheit Folgen für uns haben, beispielsweise wenn wir touristisch unterwegs sind.
dass natürlich die normative Kraft des Faktischen auch die Verhältnisse in Europa
nochmal verändern könnten, zumindest in the long Nach run. dem Motto, wenn sich
eben erweist, dass KI-Systeme massiv die Strafverfolgung erfolgreich verbessern
könnte, dann wird auch bei uns der Gesetz wir uns als Bürgerinnen und Bürger dazu
stellen, denn wir sind der Souverän. Man sollte das nicht nur als Schlagwort benutzen,
sondern wirklich ernst nehmen. Wir können über Wahlen und durch Einmischung in
politische Entscheidungsprozesse da auch wirklich etwas beeinflussen.
00:26:18
SPEAKER_02
Politische Entscheidungsprozesse sind natürlich häufig auch von öffentlichen Diskursen
geprägt. sind natürlich häufig auch von öffentlichen Diskursen geprägt. Und gerade der
öffentliche Diskurs um das Thema KI ist ja seit der Veröffentlichung von ChatGPT3
eigentlich sehr, sehr stark angewachsen. Die Frage, die sich natürlich im Kontext von
Macht- und Herrschaftsverhältnissen hier stellt, ist, welche Akteure dominieren
eigentlich zurzeit den KI-Diskurs und welche Interessen spiegeln sich vielleicht auch in
deren Diskursbeiträgen wieder?
00:26:48
SPEAKER_01
Naja, erstens sind es nicht so wahnsinnig viel die europäischen Akteure, weder auf der
politischen noch auf der wirtschaftlichen Ebene. Wir haben zwar jetzt gerade eben den
Artificial Intelligence Act bekommen und ich bin übrigens froh darum, auch wenn das
sicherlich noch nicht der Weisheit letzter Schluss ist und kein perfektes Regelwerk
darstellt. Trotzdem ist es gut, dass es es gibt, aber in der weltweiten Diskussion sind
natürlich andere Akteure mindestens ebenso wichtig wie die europäischen Akteure,
wenn nicht sogar wichtiger und dort sind natürlich entweder Staaten relevant, man sieht
das beispielsweise, wenn man Richtung China guckt oder aber eben Unternehmen, da
muss man dann in Richtung USA gucken. Und gerade in einem Land wie den USA, wo
der wirtschaftlichen Handlungsfreiheit sehr großer Raum gewährt wird, spielen natürlich
die Unternehmen beziehungsweise die Leute, die dort eben bestimmen, eine große
Rolle. beziehungsweise die die Leute, dort eben bestimmen, eine große Rolle. Und das
sieht man vielleicht daran, was in Europa, glaube ich, noch nicht so wirklich stark
gesehen worden ist, aber es entwickelt sich gerade eine Allianz zwischen Donald Trump
und Elon Musk. Es wird schon in amerikanischen Nachrichten darüber gesprochen,
dass man sich vorstellen könnte, dass Elon Musk womöglich sehr hohe
Regierungsfunktionen einnehmen würde, wenn Donald Trump zum Präsidenten wieder
gewählt werden würde. Daran sieht man, dass eben Politik und Wirtschaft an vielen
Stellen, sagen wir mal vorsichtig, starke Berührungspunkte hier haben.
00:28:16
SPEAKER_02
Um es nochmal ein bisschen zu spezifizieren, welche Rolle nehmen denn zum einen
diese KI-Leitfiguren, Elon Musk, Sam Altman und so weiter ein und vielleicht auch so
populärwissenschaftliche Akteure. Ich denke da an Harari zum Beispiel, die sich immer
wieder äußern, obwohl sie gar nicht aus dem KI-Feld unbedingt kommen. Eine
00:28:36
SPEAKER_01
fatale, würde ich sagen, denn sie setzen die Agenda auf eine im Übrigen sehr schräge Art
und Weise. Sowohl Elon Musk als auch Altman haben ja eben nach Regulierung gerufen
und sie haben auch vor den enormen Gefahren der KI gewarnt, sind aber gleichzeitig
diejenigen, die die Entwicklung massiv vorantreiben und natürlich auch massives
Lobbying betreiben. kriegt das tatsächlich nicht wirklich unter einen Hut. Ich verstehe es
auch nicht wirklich ganz. Aber sie setzen eben sehr stark die öffentliche
Diskussionsagenda, bestimmen damit auch, wie über KI diskutiert wird und zwar sehr
stark in polarisierender Form. Also man kann ja kaum noch eine mittlere Position
zwischen Euphorie und Apokalypse identifizieren und ich halte das für extrem
unfruchtbar, sowohl für eine akademische Diskussion, aber noch viel mehr natürlich für
eine öffentliche Diskussion.
00:29:50
SPEAKER_02
Ich möchte auch niemanden zu nahe aber die manchmal treten, den Eindruck dass die
Aufmerksamkeit erweckt, wichtiger ist als ein sachlicher Beitrag zur Diskussion. Jetzt
haben wir ja sozusagen wer besonders präsent besprochen, im Diskurs über KI Die
Frage stellt sich dann ist. wer ist eigentlich natürlich, ausgeschlossen vom KI-Diskurs?
Wer sollte aber doch eigentlich auch gehört werden vielleicht?
00:30:05
SPEAKER_01
werden vielleicht? Es sind eine ganze Menge Leute ausgeschlossen. Nicht jetzt in
bewusster dass wir nicht Form, die Stimme erheben aber sie können, wird halt nicht
gehört Also unbedingt. wir als Bürgerinnen und Bürger spielen im habe ich Moment, den
nur eine Eindruck, sehr untergeordnete Rolle in diesem aber eben Diskurs, auch die auf
sachlicher Leute, Basis und mit kritischen Argumenten gegen bestimmte Entwicklungen
argumentieren. Das Beispiel Timmy Gebru ist natürlich nur allen Fachleuten bekannt.
Timmy Gebru hat bei Google gearbeitet und ist dort mehr oder minder
herausgeschmissen worden, weil sie eben Kritik an der Entwicklung großer
Sprachmodelle geäußert hat, weil diese zum Beispiel eben sozusagen eingebaut
Diskriminierungsprozesse verstärken könnten. Das wollte Google als ihr Arbeitgeber
nicht unbedingt gerne hören. Das ist schade, denn tatsächlich sind die Kritikpunkte von
Gebru und anderen auch im Hinblick auf die Weiterentwicklung und die Stärkung der
Leistungsfähigkeit von KI-Systemen durchaus wichtig. Und hier hat meine Stimme ein
bisschen aus dem Diskurs herausgenommen, die zwar kritisch war, die vielleicht auch
an manchen Stellen lästig war, die aber letztendlich sich eingemischt hat, um die
Produkte besser zu machen, menschengerechter zu letztendlich also auch sowohl zum
Unternehmenserfolg, gestalten, aber eben auch zum Allgemeinwohl beizutragen.
00:31:33
SPEAKER_02
Wir hatten vorhin schon so ein bisschen darüber nachgedacht und gerade mit diesem
Verweis darauf, dass vielleicht auch deviante Stimmen in den Unternehmen oder auch
im Diskurs eher ausgeschlossen werden. den Unternehmen oder auch im Diskurs eher
ausgeschlossen werden. Welchen Regulierungsbedarf sehen Sie eigentlich jetzt auch
staatlicherseits oder auch von überstaatlichen Institutionen, um die negativen
Auswirkungen von KI auf gesellschaftliche Macht- und Herrschaftsverhältnisse vielleicht
zu minimieren oder ganz auszuschließen? Da
00:32:00
SPEAKER_01
muss ich gestehen, bin ich eher skeptisch, ob es da großartige Möglichkeiten gibt. Und
zwar aus zwei grundsätzlichen Erwägungen heraus. Auch wenn wir den Eindruck haben,
dass die Entwicklung von KI extrem schnelllebig ist und sich ständig irgendwas ändert
und wir kaum noch mit diesen Entwicklungen nachkommen in unserer Wahrnehmung,
verändern sich Macht- und Herrschaftsverhältnisse beileibe nicht so schnell, wie die
technische Entwicklung voranschreit. Mit anderen Worten, das, was jetzt angestoßen
wird, möglicherweise angestoßen wird, wird sichtbar werden in seinen Auswirkungen
nicht morgen und nicht übermorgen, sondern in Jahren. Und das ist bereits ein
Prognosezeitraum oder ein Voraussagezeitraum, der mit hohen Unsicherheiten
verbunden ist. Mit anderen Worten, wenn ich heute einigermaßen sinnvolle Regulierung
in die Wege leiten möchte, dann müsste ich das ja versuchen, auf eine einigermaßen
rationale Basis zu stellen. Dafür bräuchte ich aber Aussagen über die möglichen
Auswirkungen und die sind nicht leicht zu bekommen und eben mit hohen
Unsicherheiten verbunden. Schon das setzt der ganzen Sache enge Grenzen nach dem
Motto, wir wollen ja auch nicht die positiven Wirkungen von KI wegregulieren. die sich
nicht so ohne weiteres durch Regulierung in den Griff bekommen lassen, weil man nicht
wirklich ein sehr, sehr restriktives Regime aufbauen möchte. Wir möchten ja weiterhin
Freiheiten haben. Wir möchten wirtschaftliche Tätigkeiten so freigestalten, dass eben
Arbeitsplätze entstehen, dass Wohlstand entsteht, dass auch Gewinne entstehen, denn
davon werden eine ganze Menge Dinge finanziert, zum Beispiel Versicherungen und
Renten und solche Sachen. damit wir dann auch nicht besser dastehen. Und deswegen
muss man da, oder sollte man da nicht, also nicht euphorische Erwartungen an
Regulierung setzen. Man kann viele Stellschrauben, an denen kann man drehen, aber
man wird nicht irgendwie, im Englischen sagt man the silver bullet, man wird nicht die
silver bullet haben, mit der man alle Probleme auf einen Schlag erledigen kann.
00:34:25
SPEAKER_02
Jetzt haben wir uns viel mit den ökonomischen und mit den staatlichen Akteuren
beschäftigt. Man kann natürlich auch fragen, welche Rolle spielt eigentlich sowas wie
eine Zivilgesellschaft in der ganzen Frage von Entwicklung und Einsatz von künstlicher
Intelligenz oder auch, dazu gehöre ich natürlich, sowas wie NGOs?
00:34:42
SPEAKER_01
Sehr gute Frage und zwar auch noch eine Frage, die eine gewisse Aktualität für mich
besitzt, weil ich mit Kolleginnen und Kollegen zusammen gerade ein Projekt durchlaufe,
das vom Bundesfamilienministerium finanziert wird, in dem wir genau schauen, welche
Rolle könnten denn Nichtregierungsorganisationen bei der Nutzung von KI, nicht so sehr
bei der Entwicklung, sondern bei der Nutzung von KI spielen, beziehungsweise etwas
anders eigentlich. Welche Rolle kann KI für die Arbeit solcher
Nichtregierungsorganisationen spielen? Das ist eine Frage, die relativ ungewöhnlich ist,
weil sie kaum noch im akademischen Umfeld bisher betrachtet worden ist. Es gibt noch
nicht wahnsinnig viel. Die Rolle kann sehr groß sein, aber, und das muss man auch sehr
deutlich sagen, Nichtregierungsorganisationen sind in der Regel solche, die jetzt nicht
gerade im Geld schwimmen. Mit anderen Worten, ihre Möglichkeiten zum Beispiel
gezielt Selbstentwicklung zu betreiben und damit letztendlich auch die KI-Entwicklung
in eine bestimmte Richtung zu bringen, sind begrenzt. Da haben einfach Unternehmen
wie OpenAI und ähnliche ganz andere Ressourcen zur Verfügung und im Übrigen, das
muss man hinzufügen, auch ganz andere Datenbestände zur Verfügung. kann und
vielleicht sollte auch eine Rolle spielen. Aber auch hier muss man realistisch bei den
Erwartungen bleiben. Sie werden Möglichkeiten aber sie haben, werden die Entwicklung
nicht in grundstürzender Weise beeinflussen können.
00:36:14
SPEAKER_02
Sie hatten es vorhin schon so ein bisschen jetzt zum Abschluss auch unseres
Gesprächs angesprochen. Ich möchte es doch wagen, den Blick in die Glaskugel oder
Sie darum bitten. Welche Entwicklungen erwarten Sie mit Hinblick auf die
Veränderungen im gesellschaftlichen Machtgefüge im Kontext von KI in der näheren,
aber vielleicht auch in der etwas ferneren Zukunft? Ich würde zwischen zwei möglichen
Szenarien
00:36:34
SPEAKER_01
zwischen zwei möglichen Szenarien unterscheiden. Das eine Szenario ist, die
Erwartungen, die an KI gerichtet werden, sind erreichbar oder womöglich können auch
übertroffen werden. Was dann passiert, haben wir im Grunde genommen schon erlebt
durch die Entwicklung des Internets und der entsprechenden Unternehmen wie Google,
Meta und wie sie so alle heißen. Das heißt, wir werden eine Entwicklung wahrnehmen,
dass solche Unternehmen, die jetzt schon stark am Markt sind, vermutlich noch stärker
den Markt bestimmen werden, die technische Entwicklung und den Einsatz der Technik
bestimmen werden. Das ist im Großen und Ganzen das eine Szenario. Das wird sich mit
Sicherheit dann auch auf den Arbeitsmarkt auswirken oder aber auch eben auf die Art
und Weise, wie wir in Zukunft Entscheidungen treffen, sowohl im Großen wie im Kleinen.
Das kann Gesellschaften auf erhebliche Art und Weise verändern. Ein zweites von vielen
nicht diskutiertes Szenario ist schlicht und ergreifend, dass die KI-Diskussion, genauso
wie sie in den 70er und 80er Jahren plötzlich zu einem relativ abrupten Ende gekommen
ist, in gar nicht vielleicht so ferner Zukunft ein ähnliches Schicksal erleidet, nämlich,
dass man sieht, ja, man kann eine ganze Menge mit den KI-Systemen, die wir jetzt
haben, erreichen, man kann sie produktiv nutzen, aber möglicherweise gibt es
grundsätzliche Barrieren bei deren Weiterentwicklung. Sprachmodelle nicht beliebig
groß werden können und damit auch an bestimmte Leistungsgrenzen stoßen werden.
Und dann könnte es sein, dass KI zu einem Werkzeug wird, das wir in vielen, vielen
Situationen völlig selbstverständlich nutzen, uns dessen womöglich gar nicht bewusst
sind, was im Übrigen jetzt schon der Fall ist. Aber wir diese ganze, zum Teil ja auch
extrem aufgeregte Diskussion mit einer gewissen Verwunderung in der Rückschau
betrachten und uns fragen, warum wir eigentlich so völlig durcheinander argumentiert
haben. Ich weiß nicht, wie viel dafür spricht, dass dieses zweite Szenario eintreten kann.
Das wäre tatsächlich eine Untersuchung wert. Es ist aber nicht völlig aus der Welt und
von daher jede und jeder, der gerade plant, massiv zum Beispiel sein Spargroschen in
entsprechende realisiert wird, wie eben gerade gehofft wird. Das kann auch
wirtschaftlich ganz anders ausgehen.
00:39:14
SPEAKER_02
Zukunft entwickelt und wie sie sich natürlich auch auf gesellschaftliche Macht- und
Herrschaftsverhältnisse auswirken wird. Für den aktuellen Überblick über den Stand der
Entwicklung danke ich jetzt zum Abschluss Ihnen, Herrn Professor Weber, und freue
mich darauf, Sie auch in der nächsten Folge erneut als Gast begrüßen zu können, um
das Thema KI als Herausforderung für die Geistes- und Sozialwissenschaften genauer
unter die Lupe zu nehmen. Seien Sie, liebe Hörerinnen und Hörer, herzlich eingeladen,
auch diese Folge des KI-Insights-Podcasts des Projekts ZAKI der Hochschule
Magdeburg-Stendal dann anzuhören. Bis dahin, vielen Dank für Ihre Aufmerksamkeit,
bleiben Sie kritisch und bleiben Sie im Gespräch über KI und gesellschaftliche
Machtverhältnisse. Der KI-Insights-Podcast ist eine Initiative des Projekts
00:40:02
SPEAKER_00
ist eine Initiative des Projekts ZAKI, der zentralen Anlaufstelle für innovatives Lehren und
Lernen interdisziplinärer Kompetenzen der KI der Hochschule Magdeburg-Stendal,
gefördert vom Bundesministerium für Bildung und Forschung.