Transformationen

Der zweite Teil dieser kurzen Serie an Texten zu Künstlicher Intelligenz widmet sich aktuellen Transformationen durch Künstliche Intelligenz aus einer gesellschaftlichen Perspektive. Zu beobachten ist der gegenwärtige Einzug von KI in nahezu allen gesellschaftlichen Bereichen. Digitale Medien bestimmen die Informationskreisläufe des 21. Jahrhunderts, digitale Daten sind der Hauptrohstoff unserer Zeit. Die fortschreitende Digitalisierung der Gesellschaft bringt einen umfassenden technologischen, informationstheoretischen und kommunikativen Wandel mit sich. Auch wenn dieser aktuell in Schulen und Gesundheitsämtern teils noch auf sich warten lässt – Digitalisierung transformiert soziales Verhalten, Organisationsstrukturen und globale Ökonomien, Covid 19 hat diesen Prozess weltweit beschleunigt. Die Entwicklung der Computertechnologie ist offenbar mehr eine Bedingung als eine Ursache dieses umfassenden Strukturwandels.Basierend auf den Erkenntnissen der Quantenmechanik.1 lässt der Ausblick in die absehbare Zukunft in Richtung von Quantencomputern.2 bereits erahnen, dass längst noch nicht alle Verschiebungen vollzogen sind, kontinuierlich entstehen neue Möglichkeitsräume, man denke aktuell nur an cryptocurrencies und non-fungible token (NFT) in der Digitalen Kunst.3. Die Einführung von Quantencomputern wird weitere Entwicklungsschübe nach sich ziehen, nicht zuletzt in Bezug auf Künstliche Intelligenz, einen rechenintensiven Prozess.

Werkzeug und Arbeit

Einer der meistzitierten KI-Forscher innerhalb der akademischen Welt ist aktuell der junge deutsche Informatiker Richard Socher.4, in einem mehr als acht Stunden dauernden Interview antwortet er auf die Frage: Was denken Maschinen? (vgl. Socher, 2020) Er entmystifiziert Künstliche Intelligenz. Das exponentielle Wachstum von KI-Applikationen erklärt er simpel durch gesteigerte Effizienz. KI bewältigt Handlungen, zu denen wir als Menschen (noch) nicht in der Lage sind. Seit jeher bedingen und erzeugen technologische Entwicklungen auch ein sich wandelndes strukturelles Verständnis, zum Beispiel in Hinblick auf Mobilität oder Arbeit. Historisch vollzog sich dies u.a. beim Übergang vom Pferd zur Eisenbahn oder beim Einzug von Maschinen in der Feldarbeit. Aktuell gilt es anzuerkennen, dass repetitive Aufgaben effizienter durch KI als durch den Menschen ausgeführt werden. Hierbei zeigt sich, dass KI auf dem Weg zu einem allgemeinen Werkzeug ist. Das eigentliche dystopische Potential von KI sieht Socher in dem absehbaren Verlust einer Vielzahl an Arbeitsstellen, ein Aspekt, zu dem sich interessanterweise auch Bill Gates kritisch äußert. Der schwindende Bedarf an vom Menschen ausgeführter, repetitiver Arbeit greift das Grundanliegen der sozialen Marktwirtschaft an: wie kann es in Hinblick auf diese Verschiebungen gelingen, das soziale Gleichgewicht zu halten? Richard Socher argumentiert, es können neue, interessantere Berufsbilder kreiert werden, wie zum Beispiel Ethikarchitekt:innen. Auf andere Weise positiv scheint sich KI auf die Verteilung von Arbeit auszuwirken, ein sogenanntes smartes Job-Matching im Bereich Recruiting wird derzeit mittels Datenanalyse und Künstlicher Intelligenz erprobt. Kann der Einsatz von KI zu mehr Verteilungsgerechtigkeit in Bezug auf Arbeit führen? Ausgangspunkt der Überlegungen stellt die in vielen Branchen systemisch reproduzierte Diskriminierung ganzer Bevölkerungsgruppen bei der Vergabe von Stellen dar, Anonymisierung kann dem bekanntermaßen entgegenwirken. So belegt zum Beispiel eine Harvard-Studie, dass der Übergang von regulären Orchester-Auditions der 1970er Jahre hin zu blinden Orchester-Auditions der 1990er Jahre, bei denen die Kandidat:innen hinter einem Vorhang spielten, das Prinzip der geschlechtsspezifischen Einstellung bei Sinfonieorchestern in den USA reduziert haben. Die Anzahl der Musikerinnen erhöhte sich um erstaunliche 30 %. Die Firma IBM und Startups wie Truffls in Berlin und 8vance in den Niederlanden integrieren nun KI in Bewerber:innen-Management-Systeme. Auf ihrer Plattform Jobliebe nutzen letztere 39 Algorithmen, welche die Kandidat:innen anstatt nach Herkunft und Geschlecht vielmehr aufgrund ihrer Fähigkeiten kategorisieren (vgl. Miethge, 2021). Die Diskriminierung der bisher Benachteiligten kann hierbei ebenso wie das Aufkommen neuartiger Benachteiligungen zuvor dominanter Gruppen umgangen werden.

Es gibt eine wünschenswerte Digitalisierung, so auch der Philosoph Markus Gabriel (Gabriel, 2021). Als Folge wechselseitiger Bedingtheit von Digitalität und Materialität ermöglicht Künstliche Intelligenz wünschenswerte Entwicklungen in etlichen Bereichen jenseits der digitalen Welt, dazu zwei Beispiele. Obwohl das größte öffentliche Interesse an Bäumen den Wäldern gilt und Bäume außerhalb der Wälder nicht gut dokumentiert sind (Schnell et al., 2015), hat ein internationales Forschungsteam unter der Leitung der Universität Kopenhagen in Zusammenarbeit mit der NASA den westlichen Teil der Sahara, die Sahelzone und die subhumiden Zone Westafrikas auf mögliche Vegetation untersucht und sie sind fündig geworden (Spreer, 2021):                                             

Ein großer Teil der Bäume und Sträucher in Trockengebieten wächst isoliert, ohne Kronenschluss. [Kartiert wurde] die Kronengröße jedes Baumes, der größer als 3 m²  ist, über ein Landgebiet, das sich über 1,3 Millionen km² […] erstreckt, unter Verwendung von submetrisch aufgelösten Satellitenbildern und Deep Learning (LeCun, andere). Wir erkannten über 1,8 Milliarden einzelne Bäume (13,4 Bäume pro Hektar) mit einer mittleren Kronengröße von 12 m² entlang eines Niederschlagsgradienten von 0 bis 1.000 mm pro Jahr. […] Obwohl die Überdachung insgesamt gering ist, stellt die relativ hohe Dichte an isolierten Bäumen die vorherrschenden Erzählungen über die Wüstenbildung in Trockengebieten in Frage. […] Diese Nicht-Waldbäume spielen eine entscheidende Rolle für die Biodiversität und bieten Ökosystemleistungen wie Kohlenstoffspeicherung, Nahrungsressourcen und Schutz für Menschen und Tiere [ vgl. Bayala et. al., 2014 & Stringer, 2012]. (Brandt et al., 2020)

Das Forschungsteam initiiert nun eine Untersuchung der Rolle aller isolierten Bäume bei der Abschwächung von Degradation, Klimawandel und Armut. Denn was kann man aus dieser veränderten Sichtweise in Bezug auf Trockengebiete lernen? Nicht zuletzt vor dem Hintergrund der Erderwärmung und der damit einhergehenden Verödung ganzer Landstriche erweist sich das Vorhaben als zukunftsweisend.

Auch ein Forschungsprojekt zur Vorhersage von Proteinstrukturen im Bereich der Bioinformatik kann als Beispiel positiver KI-Applikationen angeführt werden:

Computational prediction of protein structure from sequence is broadly viewed as a foundational problem of biochemistry and one of the most difficult challenges in bioinformatics. Once every two years the Critical Assessment of protein Structure Prediction (CASP) experiments are held to assess the state of the art in the field in a blind fashion, by presenting predictor groups with protein sequences whose structures have been solved but have not yet been made publicly available. […] DeepMind's entry, AlphaFold, placed first in the Free Modeling (FM) category, which assesses methods on their ability to predict novel protein folds. (AlQuraishi, 2019)                                          

Das Industrielabor DeepMind nahm 2018 das erste Mal an dem CASP13-Wettbewerb teil und setzte sich durch. Anders als die konkurrierenden Forscherteams nutzte es KI für das Free Modeling der Proteine, basierend auf den Daten von 170.000 bereits öffentlich zugänglichen Proteinstrukturen. 2020 gewann DeepMinds Upgrade AlphaFold 2 den Wettbewerb erneut (CASP14). (vgl. Outeiral Rubiera, 2020) Welche Tragweite offenbart dieses Beispiel?:

We’ve also seen signs that protein structure prediction could be useful in future pandemic response efforts, as one of many tools developed by the scientific community. Earlier this year, we predicted several protein structures of the SARS-CoV-2 virus, including ORF3a, whose structures were previously unknown. At CASP14, we predicted the structure of another coronavirus protein, ORF8. Impressively quick work by experimentalists has now confirmed the structures of both ORF3a and ORF8. (DeepMind, 2020)                                             

Durch zielsichere Vorhersagen von Proteinstrukturen lässt sich die Entwicklung zukünftiger Impfstoffe bei Pandemien beschleunigen. Dabei sollte allerdings nicht unerwähnt bleiben, das es sich bei DeepMind Technologies um eine britische Tochtergesellschaft von Alphabet Inc. handelt, der Dachgesellschaft der Google LLC, welche 2015 durch eine Umstrukturierung von Google entstand. Ist es allgemein bekannt, dass das multinationale Unternehmen Google nicht nur mit seiner Suchmaschine die am häufigsten besuchte Website der Welt betreibt, sondern über seine Dachgesellschaft auch in der Bioinformatik erfolgreich ist oder zugespitzt formuliert: dass ehemals Google nun über Alphabet Inc. u.a. Einfluss in den ökonomischen Kreisläufen rundum das Thema Gesundheit aufbaut?

Agency

Fragen nach der Agency adressieren komplexe Zusammenhänge, die in einfachen Antworten zumeist nicht erfasst werden können. Zugegebenermaßen wurden neue Werkzeuge, so Richard Socher, schon immer von denen entwickelt, die bereits über mehr Mittel verfügten. Es ist schlüssig, dass hohe Gewinnspannen durch neue Werkzeuge bereits Privilegierte weiter privilegieren (Socher 2020), bemerkenswerte Aussagen eines Spezialisten, der selbst durch den Verkauf seiner auf KI basierten Firma MetaMind im Silicon Valley Kapital generiert hat. Anstatt das globale ökonomische Ungleichgewicht zu thematisieren, widmet sich Socher vielmehr ethischen Fragen zu KI. Auf welche Weisen wird KI als neuartiges allgemeines Werkzeug global eingesetzt? Ein Vergleich: mit einem Hammer lässt sich etwas zerschlagen oder etwas bauen. KI kann sowohl der automatisierten Tötung von Lebewesen dienen als auch der Brustkrebs- oder Proteinforschung.

Normative Grundlagen einer wünschenswerten Digitalisierung, das fordert Markus Gabriel. Er selbst ist aktuell an einem Projekt für KI-Zertifizierung in Zusammenarbeit mit Akteur:innen der Wirtschaft in NRW beteiligt, sie arbeiten an Empfehlungen u.a. für die Medizin wie auch die Juristik (legal tech). Ohne normative Grundlagen können laut Gabriel die Auswirkungen der negativen Digitalisierung überwiegen, z.B. durch Suchmaschinen mit Interessen und soziale Medien, die, wie sie derzeit aufgestellt sind, die Polarisierung der Gesellschaft bestärken. Im Interview sagt er: -Sie spielen gegen so ein System heutzutage Sozial-Schach als Google-Nutzer. Sie sind Opfer einer für sie nicht mehr erkennbaren Verhaltenssteuerung unterhalb ihrer Aufmerksamkeitsschwelle. (Gabriel, 2021).5

Einen konkreten Gegenentwurf zu Suchmaschinen mit Interessen stellt 2020 das von Richard Socher zusammen mit Bryan McCann gegründete KI-Startup SuSea dar. Dabei handelt es sich um eine Suchmaschine im Betastadium –A trusted search engine that summarizes the web for you.6, ein potentieller Konkurrent zu Google. Wodurch unterscheiden sich Suchmaschinen?

Trainingsdaten

Die Möglichkeiten und Grenzen von KI-Anwendungen ergeben sich abgesehen vom Datenschutz und Entscheidungen bezüglich kommerzieller Interessen hauptsächlich aus der Auswahl, sprich der Qualität der Trainingsdaten. Sogenannten Output kann ein neuronales Netzwerk jeweils nur auf Basis der Daten generieren, mit denen es trainiert wurde, treffend nannte Turing seinen Test anfangs Imitation Game. Jules LaPlace, Künstler und Programmierer, der u.a. auch mit Hito Steyerl arbeitet, beschreibt die Prozesse mittels KI wie folgt: 

When processing text for example, you could feed it [the neural network] the works of Shakespeare and then over time you would get a network, which could generate something which resembled Shakespeare, but didn’t make any sense. This is what makes these networks so strange, [… they can] only create a fuzzy representation of the same thing. The networks make a quasi realistic model of reality. So by experimenting with neural networks essentially we see, how they are limited by their training data. The network, that outputs Shakespeare, isn’t going to start outputting text that looks like Marcel Proust. It’s only going to output text like Shakespeare, because that is all it has seen. (LaPlace, 2018)

Die unreflektierte Übernahme von Trainingsdaten für KI-Anwendungen stellt ein häufig auftretendes Problem dar. Dies zeigt sich zum Beispiel bei der aufgetretenen, automatisiert generierten Kreditverweigerung für Personen in den USA, deren Postleitzahl auf einen Wohnort verweist, wo hauptsächlich Afroamerikaner:innen leben. In Denkt KI wie ein (weißer) Mann? stellt Anna Grubauer auf der Website der Ars Electronica Gegenentwürfe von Forscherinnen und Künstlerinnen vor. (Grubauer, 2020) So hinterfragt zum Beispiel eine wachsende Gemeinschaft von sich selbst identifizierenden Frauen unter der Leitung von Birgitte Aga und Coral Manton in ihrem andauernden Projekt Women Reclaiming AI die Darstellung von Frauen durch KI-Sprachassistentinnen wie z.B. Siri und Alexa.

© womenreclaimingai.com

Deren konkrete Umsetzung kritisieren sie als geschlechtsspezifisch, untergeordnet und dienend: 

Diese Systeme werden in der Regel von Teams entwickelt, denen es an Vielfalt mangelt; sie sind damit eingebettet in verzerrte Weltanschauungen und Stereotype, die traditionelle Geschlechterrollen verstärken. (Aga, Manton, 2020)                      

In einem anderen Projekt mit dem Titel Gender Shades (2018) untersuchen Joy Buolamwini und Timnit Gebru die Vorurteile von KI-Gesichtserkennungsprogrammen: 

Die Fehlerquote ist bei Frauen, insbesondere bei Frauen mit dunklerer Hautfarbe, deutlich höher. […] Dies kann etwa bei medizinischen Anwendungen ein Problem sein: Bereits einfache Convolutional Neural Networks sind fähig, auf Bildern Melanome (bösartige Hautveränderungen) genauso gut zu erkennen wie ExpertInnen. Informationen über die Hautfarbe sind dabei äußerst wichtig. (Buolamwini, Gebru, 2020) 

Basierend auf den Daten von 1.270 ParlamentarierInnen dreier afrikanischer und dreier europäischer Länder haben Buolamwini und Gebru nun einen neuen Trainigsdatensatz erstellt, der alle Hautfarbentypen enthält. Dieser kann zudem als Test für gesichtsbasierte Geschlechtserkennung dienen.

Decolonial AI

Auch der Einbezug der Indigenen Gemeinschaft  im Hinblick auf Vielfalt entgegen westlich weißer Vorherrschaft zeigt subversives Potential in Zusammenhang mit KI auf. Anstatt eines technologisch reproduzierten Kolonialismus und Monotheismus lässt sich hierbei eine Geschichte der Verbindung und des Überflusses durch KI imaginieren, so Jason Edgar Lewis in einem Panel zu Mutating Hazards: New Threats and Injustices in AI des diesjährigen CTM Festivals (vgl. Lewis, 2021) Was Lewis, Buolamwini, Gebru, Aga, Manton und viele mehr auf unterschiedliche Weisen stärken, ist Teil des derzeit vieldiskutierten Ansatzes einer Decolonial AI. (vgl. u.a. Mohamed et al., 2020) Geht man allerdings davon aus, dass colonial heute nicht mehr die westeuropäischen Länder, sondern genau genommen den kapitalistischen globalen Markt meint, müsste eine Entkolonialisierte KI konsequenter Weise außerhalb des kapitalistischen Marktes verortet sein. Von diesem Verständnis einer Decolonial AI sind die meisten in diesem Text angeführten Beispiele weit entfernt. Auch Richard Sochers alternative Suchmaschine SueSea ist als amerikanisches Start-Up zweifellos innerhalb des kapitalistischen Systems zu verorten.

Meine Erfahrung bei der Recherche ist, dass sich bei genauerem Hinsehen zunehmend Widersprüche und Reibungsflächen in Zusammenhang mit aktuellen Entwicklungen von Künstlicher Intelligenz offenbaren. Die Notwendigkeit einer grundlegenden Reflexion von KI als allgemeinem Werkzeug wie auch eine Reflexion der Agency derer, welche das Werkzeug anbieten, bleibt von großer Bedeutung.

Abschließend dazu ein paar Fragen als Diskussionsangebot:

Worin bestehen wesentliche Debatten zu den Bedingungen, Auswirkungen und Transformationen durch KI und wie lassen sich diese von potentiell ablenkenden Paralleldiskussionen differenzieren? Zweifellos ist es z.B. durch KI-Sprach- und -Bildgeneration möglich, Falschinformationen zu generieren. Doch misstrauen wir Fotos nicht schon seit Photoshop, bzw. sind wir uns wirklich sicher, dass Shakespeare seine Werke selbst verfasst hat? Ist somit das Hinterfragen von Informationen im digitalen Zeitalter nicht längst selbstverständlich geworden?

Wie können wir positiv auf die Agency von zukünftigen KI-Applikationen einwirken? Wenn Künstliche Intelligenz real existierende Machtstrukturen u.a. durch monopolistisch agierende Tech-Unternehmen nicht nur reproduzieren soll, werden heterogene Stimmen in Bezug auf Herkunft, Geschlecht etc. bei der Entwicklung zukünftiger KI-Systeme gebraucht. Wie lässt sich ein Gleichgewicht diesbezüglich fördern?

Wie kommt der/die Einzelne dazu, den eigenen Bias zu realisieren? In Hinblick auf die Analyse diskriminierender Elemente existierender KI-Applikationen stellt sich die Frage, inwiefern wir überhaupt in der Lage sind, unsere eigenen konditionierten Vorurteile erfassen zu können. Aktuell ist zum Beispiel einhergehend mit den massiven Einschnitten bedingt durch Covid19 eine zunehmende Diskriminierung von Asiat:innen zu beobachten.

Und schließlich liefert der Soziologe Armin Nassehi in seiner Theorie einer digitalen Gesellschaft einen ungewöhnlichen Denkansatz, indem er behauptet, dass die gesellschaftliche Moderne immer schon digital war, dass die Digitaltechnik also letztlich nur die logische Konsequenz einer in ihrer Grundstruktur digital gebauten Gesellschaft ist. Anstatt sich in Debatten zu den Konsequenzen von Digitalisierung zu verlieren, empfiehlt er daher vielmehr zu fragen: Für welches Problem ist die Digitalisierung eine Lösung? (Nassehi, 2019)

• 1

  Interessant dazu: Carroll, Sean. (2019). Something Deeply Hidden. Quantum Worlds and the
  Emergence of Spacetime. Oneworld Publications

• 2

  Quantencomputer versprechen die Grenzen der Recheneffizienz stark zu erweitern und damit Probleme zu lösen, mit denen heutige Systeme überfordert sind. […] In einem Quantencomputer werden Informationen quantenmechanisch behandelt; Register und Speicherinhalte können mehrere Werte gleichzeitig in Überlagerung enthalten und Befehle wirken sich simultan auf all diese Werte aus. Damit ist bereits ein einziger Quantenprozessor intrinsisch hoch parallel. Die einem universellen Quantencomputer zugrunde liegende Technologie ist noch offen – es werden aktuell fünf technologische Ansätze in der Forschung bearbeitet. Problem bei der Entwicklung von Quantencomputern ist die große Anfälligkeit von Quantenzuständen gegenüber Störungen. Dies erfordert umfangreiche Fehlerkorrekturen, die derzeit noch nicht möglich sind. In: Bundesministerium für Bildung und Forschung. https://www.bmbf.de/de/was-genau-ist-eigentlichquantencomputing-10786.html. Stand: 9.03.2021

• 3

  Ein prominentes Beispiel ist Everydays: The First 5000 Days, ein rein digitales, NFT-unterstütztes Kunstwerk des Digitalkünstlers Beeple, geprägt am 16. Februar 2021, verkauft für $69.346.250 vom Auktionshaus Christie´s.

• 4

  Eine Assistenzprofessur in Princeton lehnte Richard Socher ab und gründete stattdessen das Startup MetaMind zur automatischen Bilderkennung mit Hilfe von Künstlicher Intelligenz, inzwischen übernommen von Salesforce mit Sitz in Palo Alto. Siehe: MetaMind. https://einstein.ai/. Stand: 19.03.2021

• 5

  In dem Zusammenhang empfiehlt Markus Gabriel auch das vieldiskutierte Buch von Shoshana Zuboff über die Geschäftsmodelle des Überwachungskapitalismus. Siehe: Zubof, Shoshana. (2018). Das Zeitalter des Überwachungskapitalismus. Campus Verlag

• 6

  SuSea, siehe: https://you.com/. Stand: 19.03.2021