Systemtheorie, Digitalisierung und KI

Es gibt im Phaidros eine Stelle, an der Sokrates sagt: „Was aber die Frage über Angemessenheit und Unangemessenheit der Schrift betrifft, inwiefern ihr Gebrauch etwas Schönes sein möchte, und inwiefern etwas Unangemessenes, das ist noch übrig.“ (274a). Es geht um eine neue Technologie, um die Schrift. Platon hat kein Vertrauen darin, die Fähigkeit des Menschen, aus dem Gedächtnis zu memorieren (etwa die Ilias oder die Odyssee), einem Medium wie Schrift zu überantworten. Wird alles aufgeschrieben, dann leidet darunter das Gedächtnis. So nimmt Platon also eine Verteidigung des Menschen vor (denn nur der Mensch verfügt über ein Gedächtnis), den er von einer neuen Technologie bedroht sieht. Wenn die Inhalte des mündlichen, aus dem Gedächtnis vorgetragenen Epos an Instrumente delegiert würden, die „zu sprechen scheinen, als ob sie intelligent wären“, dann wäre damit eine Verkümmerung einer spezifisch menschlichen Fähigkeit verbunden.

Tatsächlich ist heute wohl kaum noch jemand in der Lage, die Odyssee aus dem Gedächtnis zu zitieren. Allerdings hat es uns das Medium Schrift ermöglicht, über ungleich längere Inhalte zu verfügen.

Diese Frontstellung hat sich mit der Einführung des Buchdrucks ähnlich wiederholt und man findet sie heute gegenüber der Künstlichen Intelligenz. Die Systemtheorie (s. Elena Esposito; Kommunikation mit unverständlichen Maschinen) schlägt vor, die Künstliche Intelligenz nicht (wie Platon es mit der Schrift tat) aus dem Vergleich über Intelligenz (als spezifisch menschliche) zu betrachten, sondern von der Seite der Kommunikation.

Spannendes Thema!

Besonders die Parallele zu Luhmann... KI wird demnach nicht mehr als „intelligenter oder selbstständig denkender Teilnehmer“ wie der Mensch eingeordnet, sondern lediglich als ein Teil eines Systems, das aber dennoch auf eigene Weise Informationen verarbeiten und kommunizieren kann. Ich denke, der Unterschied zur heutigen Auffassung besteht darin, dass dieser Systemteil allerdings dann keine Informationen replizieren kann.

Quote from Nauplios

Die Systemtheorie (s. Elena Esposito; Kommunikation mit unverständlichen Maschinen) schlägt vor, die Künstliche Intelligenz nicht (wie Platon es mit der Schrift tat) aus dem Vergleich über Intelligenz (als spezifisch menschliche) zu betrachten, sondern von der Seite der Kommunikation.

Das macht sehr viel Sinn. Mich interessiert, was eine KI leisten kann, nicht wie intelligent sie ist.

Quote from infinitum

Spannendes Thema!

Besonders die Parallele zu Luhmann... KI wird demnach nicht mehr als „intelligenter oder selbstständig denkender Teilnehmer“ wie der Mensch eingeordnet, sondern lediglich als ein Teil eines Systems, das aber dennoch auf eigene Weise Informationen verarbeiten und kommunizieren kann. Ich denke, der Unterschied zur heutigen Auffassung besteht darin, dass dieser Systemteil allerdings dann keine Informationen replizieren kann.

Ich zitiere mal eine Stelle aus Elena Espositos Kommunikation mit unverständlichen Maschinen, in der sie diese Umstellung von Intelligenz auf Kommunikation prägnant formuliert:

„Platons Fehler bestand darin, die Auswirkungen der Schrift zu bewerten, indem er sich auf die menschliche Intelligenz (die die Fähigkeit zu memorieren verliert) und nicht auf die Kommunikation (die es ermöglicht, viel mehr zu erinnern) bezog. Heute, angesichts der generativen KI, dürfen wir denselben Fehler nicht wiederholen. Dies erfordert jedoch ein radikales Umdenken: Wir müssen auf die Idee verzichten, daß es die Aufgabe von Maschinen ist, die Formen unserer Intelligenz zu reproduzieren, und unsere Analyse stattdessen an der Kommunikation orientieren - an der Idee, daß Maschinen gelernt haben, in Kommunikation zu intervenieren, und daß ihre Auswirkungen auf unsere Zivilisation davon abhängen, wie sie das tun.“ (S. 21)

Die Intelligenz ist so gesehen der falsche Maßstab, KI und Mensch in ein Verhältnis zu setzen. Der Vorschlag von Esposito läuft darauf hinaus, Kommunikation als Bezugsgröße zu nehmen, eben Kommunikation mit „unverständlichen Maschinen“.

Quote from Matthias

Das macht sehr viel Sinn. Mich interessiert, was eine KI leisten kann, nicht wie intelligent sie ist.

Ja, zumal wir nicht einmal so recht wissen, was menschliche Intelligenz genau ist. Will man auf Kommunikation umstellen, dann erfordert das allerdings einen hinreichend formalisierten Kommunikationsbegriff, der das oben zitierte „Intervenieren“ der Maschinen in Kommunikation auch einrechnen kann, einen systemtheoretischen.

Platon hat mit seiner Schriftkritik befürchtet, daß das Medium Schrift die (intelligente) Leistung des menschlichen Gedächtnisses verkümmern läßt. Das ist auch eingetreten. Aber etwas anderes ist ebenfalls eingetreten; das Gedächtnis in Form der Schrift ist um ein Vielfaches leistungsstärker geworden. Elena Esposito erwähnt eine Beobachtung Hans Blumenbergs, daß die Menschen die Fähigkeit zu fliegen erlernten als sie es aufgaben, Maschinen zu bauen, die den Flug von Vögeln nachahmen und wie diese mit den Flügeln schlagen. (s. Hans Blumenberg; Nachahmung der Natur: zur Vorgeschichte der Idee des schöpferischen Menschen) - Daß die generative KI nichts von dem versteht, was sie tut, die Bedeutung der Worte nicht kennt, wenn sie mit uns kommuniziert, wird ihr gern als Nachteil vorgeworfen. Dennoch rät sie sehr oft richtig, „und zwar nicht, weil sie gelernt [hat], wie wir zu denken - im Gegenteil, sie [funktioniert] so gut, weil sie das nicht mehr [versucht].“ (Elena Esposito; Kommunikation mit unverständlichen Maschinen; S. 26)

Quote from Nauplios

Die Intelligenz ist so gesehen der falsche Maßstab, KI und Mensch in ein Verhältnis zu setzen. Der Vorschlag von Esposito läuft darauf hinaus, Kommunikation als Bezugsgröße zu nehmen, eben Kommunikation mit „unverständlichen Maschinen“.

Luhmann betrachtet ja soziale Systeme auf Kommunikation basierend, und weniger auf Bewusstsein oder Intelligenz. Interessant ist dabei, dass Maschinen quasi wie Knotenpunkte in einem Kommunikationsnetzwerk agieren, ohne selbst zu verstehen, was sie kommunizieren. Dies erinnert daran, dass in sozialen Systemen nicht Menschen kommunizieren, sondern die Kommunikation selbst operiert oder an einen Switch im technischen Sinne.

Wenn Maschinen aber auf einmal „mitkommunizieren“ – auch wenn sie dabei nicht „verstehen“ –, beeinflussen sie das Kommunikationsgefüge und die Art, wie Sinn im System eigentlich erzeugt wird. Aber wie genau verändern nun diese Eingriffe die Autopoiesis von sozialen Systemen? Finde ich schwer, hier eine Messgrösse oder eine Ordnungseinheit zu finden, um die Kommunikation zu bewerten oder zu messen....Esposito erwähnt, zu vernachlässigen, dass Maschinen menschliche Fähigkeiten imitieren sollen. Also sollte man wohl erstmal Kommunikation in sozialen Systemen radikal anders denken... Es geht nicht mehr um den Vergleich zwischen menschlicher und künstlicher Intelligenz, sondern darum, welche neuen Kommunikationsformen durch KI möglich werden.

infinitum   sybok

Es ist natürlich so, daß Luhmanns Die Gesellschaft der Gesellschaft 1997 erschien, während Elena Espositos „Frühlingsvorlesung“ im November 2023 stattfand und kürzlich erst in Buchform erschien. Der Zeitraum dazwischen ist also beinahe so lang wie Luhmanns Laufzeit des Projekts Theorie der Gesellschaft. Ein akademisches Soziologenleben weiter haben Elena Esposito, Peter Fuchs, Dirk Baecker, Armin Nassehi u.a. die Systemtheorie Bielefelder Provenienz weiterentwickelt und natürlich auch kritisiert, ergänzt, verändert. (Diese innerhalb des systemtheoretischen Paradigmas sich vollziehende Kritik ist natürlich nicht zu verwechseln mit dem, was hier unter „Kritik an Luhmanns Systemtheorie“ eingebracht wird.)

Dabei ist der Grundriss der Systemtheorie wie Luhmann ihn in Soziale Systeme entwirft und in Die Gesellschaft der Gesellschaft ausführt, schon identisch geblieben, allerdings ist in den letzten 30 Jahren die Entwicklung der Künstlichen Intelligenz rasant fortgeschritten. - Elena Esposito spricht davon, daß Maschinen inzwischen gelernt haben, „in Kommunikation zu intervenieren“. Solche Interventionen können nach meinem Eindruck nur stattfinden, wenn diese Maschinen, die „stochastische Papageien“ sind, die „nur Informationen präsentieren (…), ohne sie zu verstehen“ als Kommunikationspartner auftreten. Zur Kommunikation gehört aber andererseits auch das Verstehen als dritte Selektion des Kommunikationsgeschehens. Nun ist das Ganze eine Vorlesung und wenn man Vorträge von Elena Esposito hört, dann sind diese oft frei vorgetragen. Meinte sie bei der Formulierung „ohne sie zu verstehen“ vielleicht nur, daß die Künstliche Intelligenz die Bedeutung von Informationen nicht „versteht“, sondern lediglich trainiert ist, Informationen zu sammeln, um die „richtigen“ Informationen dann zu erraten? Oder hatte sie bei „verstehen“ den dritten Selektionsschritt im Sinn?

Jedenfalls endet der entsprechende Abschnitt mit dem Gedanken, „daß die digitale Informationsverarbeitung in der Lage war, jene Ergebnisse zu erzielen, die wir heute sehen, als sie den Versuch aufgab, die Prozesse des menschlichen Geistes zu imitieren und sie in digitaler Form zu reproduzieren. Nun, da sie nicht mehr versuchen, unserem Geist zu ähneln, sind Algorithmen in der Lage, etwas zu tun, was Menschen auf der Grundlage ihrer Intelligenz tun: Diese spezielle Art von Maschinen hat jene Kompetenz erworben, die in unserer Interaktion mit ihr relevant geworden ist: Algorithmen haben gelernt als kompetente Kommunikationspartner zu fungieren.“ (Kommunikation mit unverständlichen Maschinen; S. 26f).

Das ist ein überraschender Befund, der ja eigentlich bedeutet, daß diese Algorithmen, obwohl sie nicht im menschlichen Sinne über Intelligenz verfügen (denn sie „präsentieren nur Informationen, ohne sie zu verstehen“), den dritten Selektionsschritt (Verstehen als Selektion zwischen Mitteilung und Information) durchaus vollziehen. Kommunikation beginnt ja nach Luhmann erst mit dem Verstehen!

„Also sollte man wohl erstmal Kommunikation in sozialen Systemen radikal anders denken …“ (Infinitum) Ja, Kommunikation ist sicher ein Schlüsselkonzept der Systemtheorie. Hier ist tatsächlich ein radikal anderes Denken erforderlich. Wenn die Algorithmen gelernt haben, als „kompetente Kommunikationspartner zu fungieren“, ist ja die Autopoiesis des Systems von den „Interventionen“ der Künstlichen Intelligenz auch gar nicht tangiert; die Kommunikationstheorie ist auf einem Niveau formalisiert, daß sie Kommunikation mit unverständlichen Maschinen toleriert.

“… ohne das psychische System des Users keine Kommunikation von den Maschinen.“ (Sybok) Ja, das sehe ich auch so. Allerdings, „nur die Kommunikation kann kommunizieren“. Das psychische System, Bewußtseinssystem, kann nicht kommunizieren; deshalb kommt es bei der Beteiligung Künstlicher Intelligenz an Kommunikation auch gar nicht darauf an, daß diese kein Bewußtsein hat. Sie ist ein „kompetenter Kommunikationspartner“. Das reicht.

„Kompetente Kommunikationspartner“ - das sind normalerweise Menschen. Ihnen schreiben wir Intelligenz zu, mal mehr, mal weniger. Worauf Elena Esposito hinauswill, das ist die Entkopplung von Intelligenz und Kommunikation. Gibt es nicht auch Normalfälle, bei denen wir diese Entkopplung vermuten? Was sich wie Polemik anhört, bedeutet, daß auch die Bewußtseinssysteme im Fall von Kommunikation nicht das Gleiche denken. Das betrifft zum Beispiel den Leser dieses Beitrags, der ja keinen Zugang zu meinem Bewußtsein hat. Was ich mir beim Abfassen dieses Beitrags gedacht hab´, weiß er beim Lesen nicht; so wenig wie ich als Verfasser dieses Beitrags wissen kann, was er sich beim Lesen gedacht hat - auch dann nicht, wenn er es mir mitteilt! Was auch immer wir uns mitteilen, wir bleiben füreinander intransparent, die Kommunikation mag kommunizieren so lang sie will.

Die Intransparenz, die wir bei der Künstlichen Intelligenz kritisch beäugen, ist jene Intransparenz, die wir bei jeder Kommunikation immer schon hatten. „Kommunikation gelingt nicht, weil die Empfänger:innen auf einen Teil der Gedanken des Senders Zugang haben, der unausweichlich eine Black Box ist, sondern wenn jeder von ihnen das Gesagte oder Geschriebene (oder Gezeichnete oder durch Musik Ausgedrückte) nutzt, um seine eigenen Gedanken und Informationen zu produzieren, die nur ihm gehören, von seiner Geschichte und individuellen Perspektive abhängen und sich unweigerlich von denen des Autors sowie aller anderen unterscheiden.“ (Elena Esposito; Kommunikation mit unverständlichen Maschinen; S. 33f) Elena Esposito benutzt hier (quasi aus didaktischen Gründen) die Sender/Empfänger-Terminologie, die sie kurz darauf wieder verwirft und durch Luhmanns Kommunikationsterminologie ersetzt. -

Wenn ich das lese, so habe ich manchmal das Gefühl, Du wollest gar keine vertrauensvolle Kommunikation erleben, weil sie Dir dann zu nahe käme.

Du schreibst z.B.: «Das betrifft zum Beispiel den Leser dieses Beitrags, der ja keinen Zugang zu meinem Bewusstsein hat.»

Natürlich haben wir keinen direkten Zugang auf das Bewusstsein unserer Gesprächspartner. Aber im Verlaufe eines längeren Gespräches auch mit jemand, den man zuvor nicht kannte, bildet sich – sagen wir einmal so – eine Atmosphäre des gegenseitigen Verstehens, die über die Sach-Seite der Kommunikation hinausgeht und auch die Selbstoffenbarungs-, die Appell- und Beziehungsseite (mit Schulz von Thun gesprochen) einschliesst.

Diese Atmosphäre bleibt nach Beendigung des Gespräches bei den Dialogpartnern erhalten und ermöglicht z.B. durch einen kurzen Telefonanruf eine Modifikation des Vereinbarten im Vertrauen, dass der andere ehrlich, offen und ohne Hintergedanken ist.

Aus meiner Sicht hinkt die Systemtheorie mit ihrer Trennung des psychischen Systems und der Kommunikation vom Menschen als solchem hinter der erlebbaren Wirklichkeit her und zeigt dadurch, was sie dem Namen nach auch ist, nämlich eine Theorie und dadurch ein wenig von der Praxis entfernt.

Kinder spielen bekanntlich mit ihren Kuscheltieren, sprechen mit ihren Puppen und Teddybären. Sie projizieren dabei ihre Erwartungen in diese Kuscheltiere, das Schäfchen kann krank werden und braucht Medizin usw. Sie lieben ihre Kuscheltiere. - Ich kenne mich auf dem Marktsegment Kinderspielzeug nicht aus, aber ich versuche mir gerade vorzustellen, wie korrumpierbar die menschliche Intelligenz wohl ist, wenn ein humanoider Roboter, sagen wir in der äußeren Gestalt einer attraktiven Frau, zu einem Menschen, sagen wir in der äußeren Gestalt eines älteren Herrn (s. links), sagt: „Ich liebe dich“. Wenn der humanoide Roboter ein „kompetenter Gesprächspartner“ ist, dann kann ich zwar in die Black Box nicht hineinschauen, d.h. ich kann die Authentizität des Satzes nicht überprüfen; das kann ich aber bei einer „richtigen Frau“ auch nicht. Warum sollte die künstliche „kompetente Gesprächspartnerin“ nicht auch an Kommunikationen eines Intimsystems teilnehmen können? - Anders als bei Kuscheltieren, könnten Künstliche Intelligenzen lernen, sich zu verlieben. Die Sexualität gehört in die Umwelt eines Intimsystems! Sie kann unberücksichtigt bleiben. Es geht nur darum, daß aus der „kompetenten Gesprächspartnerin“ die kompetente Liebhaberin wird.

Quote from Philodendron

Aus meiner Sicht hinkt die Systemtheorie mit ihrer Trennung des psychischen Systems und der Kommunikation vom Menschen als solchem hinter der erlebbaren Wirklichkeit her und zeigt dadurch, was sie dem Namen nach auch ist, nämlich eine Theorie und dadurch ein wenig von der Praxis entfernt.

Das nicht, sofern man sie als eine Antwort auf die Herausforderungen des Weltgeistes liest. In ihr findet sich eine sehr progressive Weise Gesellschaft zu verstehen, denn er nähert sich der Gesellschaft aus informationstheoretischer Hinsicht. Während zuvor die Handlungen, die Vergemeinschaftung oder die Arbeitsteilung Grundlage der Erklärungen waren, abgesehen von vertragsrechtlichen Konzeptionen, steht bei Luhmann die Gesellschaft in ihrer kommunikativen Ausprägung im Zentrum.

Diese Perspektive ist konform mit dem Weltgeist, ohne aber sich auf die Systematik einzulassen, die Hegel und Kant uns darbieten. Anders als Habermas, der seine Theorie auf eben dieser In-Eins-Setzung von Geist und Gesellschaft gründen möchte, um so die praktische Vernunft und normative Ordnung ins Zentrum zu setzen, möchte Luhmann ja über diese "klassische" Sicht hinaus. Er möchte nicht auf "Perfektibilität" und der "Ganze/Teil" Unterscheidung operieren, sondern fokussiert eine Art mit der Komplexität der Gesellschaft umzugehen, die neu ist - und als solche nicht nur kompatibel mit der Tradition (in die sich Luhmann bereitwillig eingliedert; allerdings als Speerspitze), sondern auch kompatibel mit der Postmoderne.

Seine Sicht ist also eine, die die Gesellschaft vollständig neu begreift - und damit einhergehend natürlich die Relation zwischen dieser und den vielen Einzelnen, sowie die Relation zwischen den Einzelnen, der Natur, der Gesellschaft.

Quote from Nauplios

Warum sollte die künstliche „kompetente Gesprächspartnerin“ nicht auch an Kommunikationen eines Intimsystems teilnehmen können?

In der gefühlsrestriktiven japanischen Kultur ist dies längst Alltag

Quote from sybok

Luhmann GdG (S.103) : «Weder mündliche noch schriftliche Kommunikation könnte ohne Wahrnehmungsleistungen funktionieren.» – GdG (S.117) : «... strukturellen Kopplung von Bewusstsein und Kommunikation»

[...]

Ist mir nicht ganz klar, "Alternative zur strukturellen Kopplung", "...auf Bewusstsein und Kommunikation einwirkt", also Thema strukturelle Kopplung, nicht Kommunikation selber.

Kommunikation vollzieht sich mündlich oder schriftlich, d.h. durch das gesprochene oder geschriebene Wort. Strukturelle Kopplung besteht aus der Kopplung von Bewusstsein an diese Kommunikation. Ein Computersystem kann akustisch oder visuell kommunizieren, wenn auch ohne Bewusstsein. Allerdings kann der menschliche Empfänger, (ich mag die Reduktion des Menschen auf ein psychisches System nicht), diese Kommunikation mit seinem Bewusstsein koppeln.

Quote from sybok

Ja , der Satz war mir beim Schreiben auch im Kopf, aber ich hätte halt versuchsweise vorerst mal infrage gestellt, ob die Interaktion mit der Maschine als "Kommunikation" im Sinne des autopoietischem System gesehen werden kann, d.h. ich würde die Autopoiese dieses Systems in Frage stellen. Man könnte in die Analyse ja z.B. ELIZA miteinbeziehen, resp. "Kommunikations"systeme die auf simplen (meinetwegen vlcht. stochastischen) Entscheidungsbäumen statt auf Netzen mit Milliarden von Parametern basieren, an der Analyse ändert sich da ja, glaube ich, nicht viel.
Aber ok, ich möchte darüber dann nochmals nachdenken.

Ich habe nochmals in GdG beim Unterkapitel zur struktureller Kopplung nachgeschaut. Erst schreibt Luhmann:

... allerdings ein paar Seiten weiter heisst es dann...:

Ist mir nicht ganz klar, "Alternative zur strukturellen Kopplung", "...auf Bewusstsein und Kommunikation einwirkt", also Thema strukturelle Kopplung, nicht Kommunikation selber. Andererseits scheint sich das ja gerade auf die zuvor zitierte Passage zu beziehen ("einzige Alternative zu 'ohne Bewusstsein keine Kommunikation'").

Er nennt Computer bei diesem Abschnitt "unsichtbare Maschinen". Das kam schon mal irgendwo vor, hatten wir hier ein Video oder Link mit Dirk Baecker, wo er das kurz thematisiert, dieses "unsichtbare Maschinen" von Luhmann? Jedenfalls kann ich das nicht mehr einordnen, weiss Jemand, was mit "unsichtbare Maschinen" genauer gemeint ist?

Und wieder mal hilft uns vermutlich ein Aufsatz von Elena Esposito weiter (vielleicht hast Du Dich von der Problemstellung dieses Aufsatzes bereits anregen lassen, „irritieren“ lassen).

https://www.researchgate.net/publication/30…baren_Maschinen

„Zusammenfassung: Können wir uns Computer tatsächlich als eine Alternative zur strukturellen Kopplung zwischen Bewußtsein und Kommunikation vorstellen? Dies würde bedeuten, daß Kommunikation durch das, was Niklas Luhmann „unsichtbare Maschinen" nennt, irritiert werden könnte, und würde die Notwendigkeit einer Revision grundlegender Konzepte der Theorie nach sich ziehen, wie etwa der Autopoiesis, der doppelten Kontingenz und nicht zuletzt der Kommunikation. Der Artikel untersucht diese Fragen und schlägt vor, Interaktion mit Computern als eine Form der Selbstirritation der Gesellschaft unter Bedingungen hoher Komplexität zu verstehen. Dies hätte die Konsequenz, von einer neuen Form der Intransparenz der Gesellschaft insgesamt sprechen zu können.“ (Hervorhebungen von mir)

Quote from Nauplios

Und wieder mal hilft uns vermutlich ein Aufsatz ...

Ich lese gerade: «Handlungssysteme benutzen die Zeit, um ihre kontinuierliche Selbstauflösung zu erzwingen; sie erzwingen ihre kontinuierliche Selbstauflösung, um die Selektivität aller Selbsterneuerung sicherzustellen; und sie benutzen diese Selektivität, um die Selbsterneuerung selbst zu ermöglichen in einer Umwelt, die kontinuierlich schwankende Anforderungen stellt.« Niklas Luhmann, Soziale Systeme, S.394

Für mich selber ist Luhmann interessant, weil er meine Existenzerhellung unterstütz.