weizenbaum light

5/10/2018 Weizenbaum Light - slidepdf.com

http://slidepdf.com/reader/full/weizenbaum-light 1/20

George Grosz: Republikanische Automaten (1920) Sammlung The Museum

of Modern Art, New York, Advisory Committee Fund

J oseph We iz enbaum

Die Macht der Computer und

die Ohnmacht der Vernunft

Obersetzt

von Udo Rennert

Suhrkamp



niche iibertragen werden sollten. Sie konnen sogar imstande

sein, in einigen Fallen zu »korrekten« Entsdieidungen zu

gelangen - aber immer und unausweidilidi auf einer Grund-

lage, die kein Mensch willenelidi akzeptieren sollte.

Es hat viele Diskussionen Iiber »Computer und mensch-

limes Denken« gegeben. Der SmluB, der sidi mir aufdrangt,

ist hier, daB die relevanten Probleme weder tedmisdier

nom mathematisdier, sondern ethisdier Natur sind. Sie

konnen nicht dadurdi gelost werden, daB man Fragen

stellt, die mit »konnen« beginnen. Die Grenzen in der An-

wendung von Computern lassen sidi letztlidi nur als Satze

angeben, in denen das Wort »sollten« vorkommt. Die widi-

tigste Grundeinsicht, die uns daraus erwadist, ist die, daB

wir zur Zeit keine Moglimkeit kennen, Computer audi

klug zu madien, und daB wir deshalb im Augenblick Com-

putern keine Aufgaben iibertragen sollten, deren Losung

Klugheit erfordert.

t. .. . .J .

I-. .I

1- .II

I

9. Unverstandliche Programme

In den vorangegangenen Kapiteln haben wir einiges dar-

tiber gehorr, was Computer sind, woher ihre Macht kommt

und wie sie beim Bau von Modellen und der Verkorperung

von Theorien eingesetzt werden konnen. Ich habe midimit den Versudien befaBt, wie ein intelligentes Verhalten

von Computern erzeugt werden kann, nidrt jedodi mit

deren Anwendbarkeit auf irdisdie Redienprobleme, 1m

habe einige der prominenten Forschungsarbeiten Iiber Pro-

blemlosung, Iiber die Simulation kognitiver Prozesse und

iiber das Verstehen natiirlidier Spradien durdi Computer

erortert und besdirieben, die Visionen der ktinstlidien In-

telligenz gesdiildert und des ofteren deren anerkannte Fuh-

rer zitiert. Die von den Forsdiern auf dem Gebiet der

ktinstlichen Intelligenz erlittenen Fehlsdilage habe idikaum erwahnt, da die MiBerfolge, von denen keine For-

schungsanstrengung unversdiont bleibt, nidit unbedingt

ein Grund zum Defatismus sein miissen, im Gegenteil: oft

dienen sie als Ddnger fUr einen Boden, der sparer verbes-

serte Ideen produziert. AuBerdem ist die Tatsadie, daB ein

Ziel bislang nom nidit erreidit worden oder daB sogar ein

versudisweiser Ansatz gesdieitert ist, kein Beleg dafUr, daB

es nidit zu verwirklidien ist. In meinem Bemiihen, sowohl

triviale als audi sterile Argumente zu vermeiden - z, B.

Erorterungen dariiber, ob es »prinzipiell« moglidi ist, Com-puter diese oder jene spezielle Aufgabe erledigen zu las-

sen -, habe im vielleidit sogar den Eindruck erweckt, im

sei der Ansicht, die potentielle (aber nom nidit voll ausge-

smopfte) Macht von Computern sei groBer als ich in Wirk-

lidikeit glaube. Mit meiner Ansidit, daB es Probleme gibt,

denen der Mensch sidi gegenuber sieht, die aber fur

Masdiinen nie relevant werden, und daB der Mensch des-

halb Dinge erfahrt, die eine Masdiine nie erfahren wird,

habe ic h vielleidit den Ansdiein erweckt, daB sidi alle Pro-

bleme, mit denen sowohl der Mensch als audi die Masdiinekonfrontiert werden konnen, potentiell von Masdiinen

losen lassen. Das war nidit meine Absidit.

iI. . . .I

--. .--I. .

i-:-

I. . .I. .I

--. . . .

. .

. .T, . .I

~I

. .- I

- 301

IiI. .



Die Leistungen der »kiinstlic:hen Intelligentsias sind in

erster Linie Triumphe der Tedmik, Weder zur kognitiven

Psydiologie nodi zum praktisdien Problemlosen haben sie

Wesentlic:hes beigetragen. GewiB, es hat so etwas gegeben,

das man als »Abfallprodukte« bezeidmen konnte, wie z. B.

Verfeinerungen der Programmierspradien hoherer Ebene,

die ursprdnglidi im Rahmen von Problemen der kiinst-

lichen Intelligenz entwickelt wurden und sparer in die all-

gemeine Computerwissensc:haft eingegangen sind. Aber das

sind kaum jene Resultate, die die »kilnstlidie Intelligentsia-

die ganzen Jahre fiir die »absehbare Zukunfl« vorausgesagt

hat. Von wenigen Ausnahmen abgesehen hat es in der

mehr als zwanzigjahrigen Gesdiidite der kiinstlidien Intel-

ligenz kein Ergebnis gegeben, das seinen Weg in die Indu-

strie im allgemeinen oder in die Computerindustrie im

besonderen gefunden hane,Zwei dieser Ausnahmen sind die bemerkenswerten Pro-

gramme DENDRALund MACSYMA,ie an der Stanford-Uni-

versitat bzw. am MIT vorliegen', Beide Programme iiber-

nehmen hodist tedmisdie Funktionen, deren Erorterung den

Rahmen dieses Buches vollig sprengen wiirde. Aber ein paar

Worte sollen wenigstens darilber gesagt werden.

DENDRALinterpretiert die Daten von Massenspektro-

metern, das sind Instrumente, die zur Analyse diemisdier

Molekularstrukturen dienen. In der gewohnlidien Praxis

werden Chemiker in der Zeit nadi dem Doktorexamen

darauf gedrillt, die diemisdien Strukturen von Moleki.ilenabzuleiten, die in dieses Instrument eingegeben werden,

und zwar aus den sich dabei bildenden Massenspektren.

Das Problem ist in etwa analog dem der Rekonstruktion

des Lebens in einem prahistorischen Dorf aus den von

I ZuDENDRAL. B. Buchanan,G. SutherlandundE. A. Feigenbaum,»HeuristicDENDRAL:A ProgramorGeneratingExplanatoryHypo-The-sesin OrganicChemistry«,n: B.Meltzerecl.), M4mine Intelligence, NewYork1969. ZuMACSYMA. J. Moses,»Symbolicntegration,he StormyDecade«,n: Communic4tions of the Associat ion for Computing M4minery,

Vol.XIV (1971), Nr. 8, undW. A. MartinundR. J. Fateman,»TheMACSYMAystem«,n:Proceedings of the Second Symposium on Symbolic

lind Algebr4ic M4nipul4tion, NewYork1971.

3 02

Ardiaologen freigelegten Oberresten. Es besteht jedodi einwesentlidier Untersdiied zwischen beiden Problemen: es

gibt eine Theorie der Massenspektrometrie, d. h., es ist

bekannt, wie das Instrument die Daten erzeugt, nadidem

man ihm eine bestimmte diemische Substanz zur Analyse

eingegeben hat. Man kann deshalb eine angebotene Losung

dadurdi einsdiatzen, daB man aus der Theorie ableitet,

welche s Spektrum das Gerat produzieren miiBte, wenn es

sich urn die in der versudisweisen Losung angegebene die-misdie Substanz handeln wiirde. Unglucklicherweise ver-

hindern -Beschrankungen in der Genauigkeit, daB dieser

Vorgang einer inversen Bestimmung absolut exakt ablauft.

Trotzdem befindet sidi der Analytiker in einer besseren

Lage als der Arc:haologe, dem keine strengen Methoden zu

Gebote stehen, urn seine Hypothese zu bestatigen. Allge-

mein ausgedriickt ist also DENDRALein Programm, das

Massenspektren analysiert und Strukturbesdireibungen der

Moleki.ile liefert, die mit sehr hoher Wahrsc:heinlic:hkeit zu

diesen Spektren gefUhrt haben. Die Fahigkeit dieses Pro-

gramms kommt der eines Chemikers gleidi oder iibersteigt

diese sogar, der bestimmte Klassen organischer Moleki.ileuntersudrt,

MACSYMAst nach gegenwartigen Standards ein enorm um-

fangreidies Programm, das mit mathematisdien Symbolen

arbeitet. Es kann mit mathematisdien Ausdriicken operie-

ren, die formale Variablen, Funktionen und Zahlen ent-

halten. Es kann integrieren, differenzieren, Grenzwerte

berechnen, Gleidiungen losen, Polynomfaktoren bestim-

men, Funktionen zu Potenzreihen umformen usw. All das

geschieht symbolisdi, nidit redmerisdi. Wenn z. B. der Aus-

druck berechnet werden soll

fdx

a + bx

so liefert es als Ergebnis den Ausdruck

In (a + bx)

b

Wenn man natiirlich fUr alle in Frage kommenden Varia-

blen Zahlenwerte einsetzt, so liefert das Programm fiir

303

Ii

t

I

!ItJ



den ganzen Ausdruck audi das redmerisdie Ergebnis, was

allerdings eine relativ triviale Angelegenheit ist, Aum hier

geht es nidrt um die Diskussion tedmisdier Einzelheiten,

Was in diesem Zusammenhang wichtig ist - genau wie bei

DENDRAL-, ist der Umstand, daB es stringente Theorien

dariiher gibt, wie die erforderlidien Transformationen

vonstatten gehen miissen. Was aber am wichtigsten ist: es

ist vor allem fiir die symbolisdie Integration moglidr

(durch Differenzieren), zu priifen, ob eine angebotene Lo-

sung tatsadilich eine Losung ist oder nidit, und im Fall der

Integration ist der Test vollkommen. Und wie DENDRAL

lost MACSYMArobleme, die normalerweise nur von hodi

spezialisierten Fachleuten gelost werden.

Diese beiden Programme sind in signifikanter Weise der

Forsdiung auf dem Gebiet der kiinstlidien Intelligenz ver-

pflichtet. Beide arbeiten mit heuristisdien Problemlosungs-

methoden auf zweierlei verschiedene Weise. Erstens waren

zu Beginn der Planung beider Programme die Theorien, auf

denen sie heute gegriindet sind, nidit geniigend gut ausfor-

muliert, um sie in effektive Verfahren umsetzen zu konnen.

Aber es gab Mensdien, die die betreffenden Probleme losen

konnten. Eines der Anfangsprobleme bestand deshalb dar-

in, aus Experten die Heuristik herauszubekommen, mit der

sie bei der Losung ihrer Probleme arbeiteten. Die Anfangs-

versionen beider Programme waren eine Mischung aus

Algorithmen, die jene Aspekte der Probleme enthielten, die

geniigend analysiert waren, sowie Verkodungen samtlidier

heuristisdier Tedmiken, die aus den Experten herauszuho-

len waren. Mit dem Fortsdireiten der Arbeit jedoch wudis

auch dis Verstandnis der heuristischen Komponenten der

Programme, so daB diese zu neuen Bestandteilen der rele-

van ten Theorien umgeformt werden konnten. Auf diese

Weise wurden beide Programme nach und nach modifiziert,

bis sie im wesentlidien vollstandig theoretisch untermauert

waren. Zweitens wurden und werden aus Effizienzgriinden

bei beiden Programmen heuristische Methoden eingesetzt.

Beide Programme erzeugen Unterprobleme, die zwar prin-zipiell mit einfachen algorithmischen Mitteln losbar sind,

aber eher zu einer Losung fiihren, wenn sie in einer Weise

304

klassifiziert sind, daB sie sich durdi eine Spezialfunktion

losen lassen, der sie dann zur LOsung zugefiihrt werden.

Die Entwicklung und Verfeinerung beider Anwendungs-

arten heuristisdier Methoden sowie viele der Methoden

selbst sind Ergebnisse der Forsdiung iiber ktinselidie In-

telligenz.

Diese heiden Programme untersdieiden sidi genau darin

von den meisten anderen Programmen auf dem Gebiet derkiinstlidien Intelligenz, daB sie fest in soliden Theorien

verankert sind. Den Hauptbeitrag zur theoretisdien Unter-

mauerung von DENDRALleistete Joshua Lederberg, der

Genetiker und Nobelpreistrager, wahrend die theoretisdie

Arbeit an MACSYMAauptsachlidi von Professor Joel Mo-

ses Yom MIT geleistet wurde, einem extrem begabten und

vollendeten Mathematiker.

Es gibt natiirlich nom viele andere widreige und erfolg-

reidie Anwendungen fiir Computer. So kontrollieren bei-

spielsweise Elektronenrediner ganze Erdolraffinerieanla-

gen, steuern Raumschiffe und iiberwachen und kontrollie-

ren die Umgebung, in der Astronauten ihre Tatigkeit

verriditen. Ihre Programme beruhen auf mathematischen

Regeltheorien und bewahrten physikalisdien Theorien.

Solche theoretisdi fundierten Programme haben den un-

sdiatzbaren Vorteil, daB beim Auftreten irgendwelcher

Fehler das menschlidie Bedienungspersonal feststellen

kann, daB ihr Verhalten nicheden Forderungen der Theorie

geniigt, Damit ist es imstande, aus der Theorie die Fehler-

quelle abzuleiten.

Aber die meisten gegenwartig ver/ugbaren Programme,

uor allem die um/angreichsten und wichtigsten unter ihnen,

sind in diesem Sinne nicht theoretisch /un4iert. Sie sind

heuristisdi, und zwar niche unbedingt in dem Sinne, daB sie

sidi in ihrem Inneren heuristisdier Methoden bedienen,

sondem daB ihre Bauweise Faustregeln folgt, Strategemen,

die unter den meisten vorhersehbaren Umstanden zu

»funktionieren« sdieinen, und auf anderen Ad-hoc-Media-

nismen beruht, die von Zeit zu Zeit zusatzlidi eingebautwerden.

Mein eigenes Programm ELIZAgehdrt zu genau diesem

305



Typus, ebenso Winogtads System zum Verstehen von

Spradten und - ungeaditet aller anderslautenden Anspriidte

- der GPS von Newell und Simon. Was jedodi viel widi-

tiger ist, ist der Umstand, daB fast alle groBen Computer-

programme, die Tag fur Tag in der Industrie, der Admini-

stration und den Universitaten zum Einsatz kommen, audi

dazu gehoren, Diese gigantisdien Computersysteme sind in

der Regel von Programmierteams zusammengestoppelt

worden (man kann wohl kaum sagen: konstruiert), deren

Arbeit sidi oft iiber einen Zeitraum von mehreren Jahren

erstreckt. Wenn das System dann endlich gebraudisfertig

ist, haben die meisten der urspriinglidten Programmierer

gekilndigt oder ihr Interesse anderen Projekten zugewandt,

so daB, wenn diese gigantischen Systeme sdilielllidi benutzt

werden, ihr innerer Ablauf von einem einzelnen oder

einem kleinen Team niche mehr verstanden werden kann.

Norbert Wiener, der Vater der Kybernetik, sagte dieses

Phanomen in einem bemerkenswert hellsiditigen Artikel

voraus, der VOtmehr als 15 Jahren veroffentlidit wurde.

Dort heiBt es:

"Es ist gut moglidt, daBwir aus prinzipiellen Griinden keine Masdtine

zu bauen vermogen, deren Verhaltenskomponenten wir nidit friiher

oder spater verstehen konnen. Aber das bedeuree nodt lange nidit,

daB wir in der Lage seinwerden, diese Komponenten innerhalb einer

wesentlidt geringeren Zeitspanne zu verstehen als sie erforderlidt ist,

um die Masc:ninezu installieren oder selbst innerhalb jeder vorgegebe-

nen Anzahl von Jahren oder Generationen ... Das wirklidt intelli-

gente Begreifen des Funktionierens (einer Masdtine) kann der Erledi-gung der Aufgabe, die ihr urspriinglidt gestellt war, weit nadthinken

•.. Das bedeuret audt, daB Masdtinen zwar theoretisdi der mensch-

lichenKritik unterliegen, die Kritik aber nidtt wirksam wird, wei! sie

zu spat kommt und nidtt mehr relevant istt.«

Was Norbert Wiener als Moglidikeit beschrieben hat, ist

langse Wirklichkeit geworden. Die Griinde hierfiir kann

der Laie wahrscheinlidi unmoglidi verstehen oder akzeptie-

ren. Seine falsdie Auffassung davon, was Computer sind,

was sie tun und wie sie das tun, verdankt sidi zum Teil der

.1 N. Wiener, "Some Moral and Tedmical Consequencesof Automation«, in:

Science, Vol. CXXXI (1960), S. 13H.

Durdisdilagkrafl der mechanistisdien Metapher sowie die

Tiefe, mit der sie das UnbewuBte unserer ganzen Kultur

durchdrungen hat. Dies ist ein Vermaditnis des Einflusses

der relativ einfadten Masdtinen auf die Phantasie, die das

Leben wahrend des 18. und 19. Jahrhunderts veranderthaben. Es wurde fur fast jeden zur »zweiten Nature, der in

den industrialisierten Landern lebte, daB das Verstandnis

einer Sadie bedeutete, sie als etwas Medianisdies zu ver-

stehen. Selbst groBe Naturwissensdiafller des spaten

19. Jahrhunderts teilten diese Auffassung. Lord Kelvin

(1824-1907) hat gesdirieben: »Ich bin erst dann zufrieden,

wenn ic h von einer Sache ein mechanisdies Modell herstel-

len kann. Bin ich dazu in der Lage, dann kann idi sie ver-

stehen. Wenn ich mir nicht in jeder Hinsidit ein Modell

madien kann, dann kann ic h sie audi nicht verstehent.«

Ein Ausdrudc fur die entsprediende moderne Auffassung

ist Minskys Ansidit, ein Verstandnis von Musik oder von

»sehr ausdrucksstarken Bildern« bedeute, in der Lage zu

sein, Computerprogramme zu sdireiben, die diese Dinge

erzeugen konnten. Aber wahrend Minsky sidi vollig dar-

tiber im klaren ist, daB Computer keine Medtanismen sind,

die mit denen aus der Zeit Kelvins gleidtgesetzt werden

konnen, gilt fur den Laien genau das Gegenteil. Fur ihn sind

Computer und Computerprogramme in demselben simplen

Sinne »medianisdi« wie Dampfmasdiinen und Getriebe

von Kraftfahrzeugen.

Diese Auffassung - sie ist unter Laien fast allgemein ver-

breitet - wird nodi verstarkt durdi den Slogan, der von

den Computerwissensdiafllern selbst oft wiederholt wird,

daB namlidr ein ProzeB erst mit perfekter Prazision formu-

liert sein mtisse, bevor ein Computer ihn simulieren konne.

Dieser Slogan ist jedodi nur bei einer sehr eingeengten und

hodtst ungewohnlidien Interpretation dessen moglidi, was

es heiBt, »einen ProzeB zu formulieren«. Wenn man Z. B.

den Speicher eines Computers mit einer Zufallsreihe von

Bit-Elementen futtern wiirde, die der Computer als Pro-

gramm interpretieren muBte, dann ware unter der Voraus-

3 W. T. Kelvin, zit. nam P. W. Bridgeman, The Logic of Modern Physics,

New York 19..6, S... 5.

307



setzung, daB das Ganze iiberhaupt Hiuft,diese ZufalIsreihe

von Bit-Elementen eine »Pormulieruag« eines Prozesses.

Aber in der normalen Umgangssprache wird unter einer

Programmierformulierung verstanden, daB zunachse ein

Agent (wahrscheinlich ein Mensch) das organisiert hat, was

ein Computerprogramm werden solI, bevor esin den Com-

puter eingegeben wird. Der Laie, der den betreffenden Slo-

gan gehort hat, glaubt, daB allein schon die Tatsache, daB

ein Programm einen Computer durchlauft, eine Garantie

dafiir ist, daB ein Programmierer jede Einzelheit des Pro-

zesses, der durch das Programm verkorpert wird, formu-

liert hat und versteht.

Aber die Tatsachen sprechen gegen diese Annahme. Ein

groBes Programm ist, um eine Analogie zu verwenden, die

auch Minsky gem heranzieht, ein kompliziert gekniipftes

Netzwerk von gerichtlichen Instanzen, d. h. von Unter-

programmen, denen das Beweismaterial von anderen Un-

terprogrammen iibermittelt wird. Diese Instanzen »wiir-

digen« die zugefiihrten Daten und iibermitteln ihr Urteil

wiederum weiteren Instanzen. Die von diesen Instanzen

gefallten Urteile konnen - und tatsadilid; tun sie dies oft

auch - Entscheidungen dariiber enthalten, welche Instanz

die »Rechtsprechungc iiber die Zwischenergebnisse hat, die

dann weiter verarbeitet werden. Somit kann der Program-

mierer nicht einmal den Weg der Entscheidungsfindung in

seinem eigenen Programm kennen, geschweige denn wis-

sen, welche Zwischen- oder Endergebnisse es hervorbringenwird. Die Formulierung eines Programms gleicht somit

eher der Schopfung einer Biirokratie als der Konstruktion

einer Maschine von der Art, wie Lord Kelvin sie verstand.

Minsky driidtt das Problem so aus:

,.Der Programmierer selbst legt ••• >legale( Prinzipien fest, die •..

>Appellationen( ermoglichen. Es ist gut moglich, daB er nur ein sehr

unvollstiindiges Verstiindnis davon hat, wann und wo im Verlauf der

Abarbeitung desProgramms dieseVerfahren einander anrufen. Und fur

eine bestimmte sInstanz, hat er nur eine sehr schemenhafte Vorstel lung

von nur sehr wenigen jener Bedingungen, unter denen sie angerufenwerden wird. Kurz gesagt, wenn sie die Zeit als Anfanger hinter sich

haben ..• dann schreiben Programmierer keine Sequenzen (von Be-

fehlen), sondern Einzelauftrage fur die Individuen kleiner Gesell-

schaften. Auch wenn er sich nach so bemuht, oft ist er nicht in der

Lage, im voraus aIle Einzelheiten ihrer Interaktionen abzusehen. Denn

das ist ja schliefilich der Grund, warum er einen Computer benotigt4 ••

Minsky fahrt mit den folgenden, fiir uns auBerst wichtigen

Beobachtungen fort:

, .Wenn die Leisnmgsfahigkeit eines Programms durch eine Evolutionreilweise verstandener Einzelteile und Verbindungsstudte wac:hst, ver-

liert der Programmierer nac:h und nac:h die inneren Details aus dem

Auge, reduziert seine Fahigkeit, das Verhalten des Computers zu

prognostizieren, setzt auf seine Hoffnung statt auf sein Wissen und

beobac:htet die Ergebnisse, als sei das Programm ein Individuum, dessen

Repertoire moglicher Verhaltensweisen nic:ht bestimmbar ist.

Das gilt bereits fiir einige GroBprogramme ••• die Tendenz wird im-

mer deutlic:her •.. grofie heuristische Programme werden von ver-

sc:hiedenen Programmierern entwidtelt und modifiziert, die sie an

unterschiedlic:hen Testaufgaben prufen und von versc:hiedenen (ene-

femt gelegenen) Bedienungspulten aus und unabhangig voneinanderInformationen eingeben. Das Programm wird immer leistungsfahiger,

aber keiner der Programmierer wird es iiberhaupt verstehen. (Natiir-

lic:h lauft das nic:ht immer erfolgreic:h ab - die Interaktionen konnen

eine Verschlechterung bewirken, und moglic:herweise ist niemand in

der Lage, die Sac:hew ieder in Ordnung zu bringen!) Damit sind wir

auf das eigentlidie Problem gestollen, das in der Aussage enthalten

ist: >Er tut nur das, was ih m sein Programmierer gesagt hat.( Den

einen Programmierer gibt es gar nic:hi' .c

Wir verstehen nicht, um fiir einen Augenblidt auf einen

friiheren Punkt zurdckzukommen, wie ein Programm vonder Art, die Minsky hier beschreibt - eines, das etwa

»groBec Musik komponiert -, uns zu einem Verstandnis

von Musik verhilft, wenn das Programm selbst auBerhalb

unseres Verstandnisses liegt,

Was aber noch wichtiger ist, wenn das Programm das Ver-

standnis der Personen iiberschritten hat, von denen es ge-

schaffen wurde, was kann esdann bedeuten, wenn es »immer

leistungsfahiger« wird oder auch, im anderen FalIe, eine\

4 M. Minsky, ,.Why Programming is a Good Medium for ExpressingPoorly

Understood and Sloppily Formulated Idease, in: M. Krampen und P. Seitz(eds.), Design and Planning 11, New York 1967, S. rae,

5 Ibid., S.U.



»Verschlediterung« erfahrt) Als Lehrer (und wir sind alleLehrer) hoffen wir natiirlich andauernd, daB diejenigen,

die von uns unterrichtet werden, immer leistungsfahiger

werden, soweit es den Gegenstand dessen betrifft, worin

wir sie unterweisen. Und fur gewohnlidi verlangen wir

auch nicht von uns, daB wir alle »Prozesse« verstehen, de-

ren Leistungsfahigkeit wir bei unseren SchUlern verbessern

wollen, d. h. daB wir sie auf dieselbe Weise verstehen wol-

len, wie wir etwa das Funktionieren einer Uhr verstehen.

Dariiber hinaus setzen wir in unsere Schuler unsere Hoff-

nung, verlassen uns auf sie und vertrauen ihnen.

Zweifellos ist es jene Art von Vertrauen, die wir nach

Minsky auch in die komplizierten Programme der kiinst-

lichen Intelligenz setzen sollen, die zwar dauernd ihre Lei-

stungsfahigkeit steigern, aber mit der Zeit den Horizont

unseres Verstandnisses ubersteigen. Seine Empfehlung ist

durchaus sinnvoll, solange sie sich auf Programme bezieht,

fur die wir iiber Leistungskriterien verfiigen, die es uns er-

moglidien, innerhalb eines geniigend kurzen Zeitraums

festzustellen, wenn diese Programme sich nicht mehr im

Rahmen eines akzeptablen Verhaltensbereichs bewegen

oder aus sonstigen Grunden unser Vertrauen ungerechtfer-

tigt erscheinen lassen. Wie wir zuvor schon beobachtet hat-

ten zahlen hierzu Programme, die durch und durch Modelle

von bis ins einzelne geklarten Theorien sind, selbst wenn -

wie es gelegentlich vorkommt - keine Gruppe von Pro-

grammierern uber ein eingehendes Verstandnis des Innen-

lebens der Programme selbst verfiigt, Ferner gehoren

Programme dazu, deren Abweichung von bestimmten Lei-

stungskriterien sich durch Beobachtung ihres Verhaltens

von einem Moment zum nadisten feststellen laBt, voraus-

gesetzt natdrlidi, daB erstens die Beobachtungen von je-

mandem vorgenommen werden, der verantwortlich ist und

der zweitens schnell genug eingreifen kann, um ein Ungliickzu verhindern.

Minskys vdllig korrekte Darstellung ist somit von entschei-

dender Bedeutung. Aus ihr geht hervor, daB Norbert Wie-ners Beschreibung einer Moglidikeit aus dem Jahr 1960 in

kurzer Zeit Realitat geworden ist. Dariiber hinaus gewin-

310

nen Minskys Aussagen noch aus dem Grund eine besondere

Bedeutung, daB sie von einem der Hauptautoren und -ver-

treter der ktinstlidien Intelligenz stammen und dazu ge-

dacht waren, das verschwommene Denken von Humanisten

dadurch zureditzurticken, daB sie die Leistungsfahigkeit

von Computern in den Vordergrund stellten und nicht

deren Grenzen.

DaB unsere GesellschaA: sich zunehmend auf Computer-

systeme verlaBt, die ursprunglidi den Menschen beim Er-

stellen von Analysen und Treffen von Entscheidungen

»helfen« sollten, die jedoch seit langem das Verstandnis

derjenigen iibersteigen, die mit ihnen arbeiten und ihnen

dabei immer unentbehrlicher werden, das ist eine sehr ernste

Entwicklung. Sie hat zwei wichtige Konsequenzen. Erstens

werden mit zum Teil ausschlieBlicher Unterstiitzung durch

Computer Entscheidungen getroffen, deren Programme

kein Mensch mehr explizit kennt oder versteht. Somit ist

es ausgeschlossen, daB jemand die Kriterien oder Regeln

kennt, auf die solche Entscheidungen sich griinden, Zwei-

tens werden die Systeme von Regeln und Kriterien, die

durch diese Computersysteme verkorpert sind, gegeniiber

einer Xnderungimmun, da angesichts des Fehlens eines ein-

gehenden Verstandnisses der inneren Ablaufe eines Com-

putersystems jede wesentliche Modifikation aller Wahr-

scheinlichkeit nach das ganze System lahmgelegt, ohne daB

eine Reparatur moglich ist. Aus diesemGrund konnen solche

Computersysteme nur noch wachsen. Und ihr Wachstum

samt der damit verbundenen gesteigerten Abhangigkeit

wird begleitet von einer zunehmenden Legitimation ihrer

»Wissensgrundlage«.

Professor Philip Morrison vom MIT hat dazu eine tref-

fende Parabel geschrieben:

lOInmeinem Biiro hangt eine Weltkarte an der Wand. Sie ist von

einem Computer gezeichnet und deshalb nicht so schon, wie wenn ein

Zeichner sie angefertigt hatte. Auf ih r befinden sich in markanten

Umrissen, durch acht- bis zehntausend Punkte dargestellt, die riesigen

Platten, aus denen die Erdkruste besteht und die, wenn sie sich aus-dehnen, einander beriihren oder iibereinander zu liegen kommen,

fast immer gewaltige Erdbeben erzeugen. Die Karte verkdrpert diesen

3II



Vorgang, denn die einzelnen Punkte, die den UmriB der Platten bil-

den, stellen jeweils einenErdbebenherd dar.

Das Eigenartige an der Same ist das: Die Seismologen, von denen

die Karte stammt, sagen etwas entsdiuldigend, daB ihre eigenen Auf-

zeidlnungen von Erdbeben in einer standardisierten Form vorliegen,

in der sie einem Computer leidit eingegebenwerden konnen, so daB

sie zur Lokalisierung der Punkte auf der Karte nur ihre eigenenDaten

verwenden konnten. Natiirlidi waren sie sim bewuBt, daB die Seis-mologie sdlon sehr viel alter ist als die letzten zehn Jahre, aber die

Anstrengung des Versudis, die Vergangenheit mit einem standardi-

sierten Koordinatensystem der Gegenwart zu verkniipfen, die um-

fangreime und untersdiiedliche Literatur von 1840 bis 1961 ihrem

Computer in lesbarer Form einzugeben - das alles lag ihnen vollig

fern. So lieBen sie jeden Bezug zu ihrer Wissensmaft vor 1961 unter

den Tisdl fallen und verwendeten lediglim die Erdbeben, die von

1961 bis 1967 von ihrem weltweiten Nett von Detekroren registriert

worden waren. Das waren allerdings genausoviel Erdbeben, wie vor

diesem Zeitraum insgesamt aufgezeidlnet worden sind. Ihnen fehIte

also die Halfte der verfiigbaren Daten, was statistism gesehen kaumins Gewimt fallti dafiir versdiafften sie sim den Vorteil, nidrt diese

ganzen sdlwierigen deutsdien Famzeitsdlriften lesenund interpretieren

zu miissen.

Das ist eine Parabel fiir den Computer. Wie aIle Parabeln enthalt sie

eine innere Spannung: Freunde wie Feinde des Computers konnen sie

in ihrem Sinne deuten. Fiir die Freunde ist es offenkundig, daB diese

groBartige Sammlung von Erdbeben, aus denen sim die Umrisse tek-

tonisdier Platten ergeben, wahrsdieinlid; die groBte Leistung einer

soldien synoptisdien Untersudiung ist. Fiir einen AuBenseiter ist es

faszinierend, die Konturen der Risse und Spalten zu sehen. Gleim-

zeitig versdilagt einem die Nonchalance den Atem, mit der hier diegesamte Gesmimte einer Wissensmafteinfam iibergangen wird.

Um was es geht, steht auBer Zweifel: Niemand, aum nimt der eif-

rigste Verfemter einer elektronisdien Datenverarbeitung, wiirde be-

haupten, alles hatte erst 1961 angefangen, selhst wenn erst ab diesem

Zeitpunkt die moderne Erhebung der Daten erfclgt ist. Die Vergan-

genheit war der unentbehrlidie Prolog. In ihr wurden Begriffeformu-

liert, Tedmiken entwidtelt, Instrumente eingefiihrt, der Gedanke einer

systematisdien Erfassung kam auf und usw. All das wies den Weg,

ohne den sidierlid; der amerikanisdie Coast and Geodetic Survey und

dessenFreunde nidtt in der Lage gewesenwaren, eine so smone Karte

herzuseellens,«6 P. Morrison, -The Mind of the Machinec, in: Technology Ref/iew (MIT),

Januar 1973, S. 13.

Damit hat der Computer begonnen, ein Instrument zur

Zerstorung von Geschichte zu werden. Denn wenn eine Ge-

sellschaft nur jene »Daten« als legitim anerkennt, die »in

standardisierter Form« vorliegen, so daB sie »einem Com-

puter leicht eingegeben werden konnen«, dann ist Ge-

schichte, dann ist Erinnerung iiberhaupt ausgelosdit, Die

»New York Times« hat bereits damit begonnen, eine »Da-

tenbank« der laufenden Ereignisse aufzubauen. Natiirlich

sind nur solcheDaten fiir das System zulassig, die sichleicht

als Nebenprodukte aus den Setzmaschinen gewinnen lassen.

Da die Anzahl der Teilhaber an diesem System standig

wadist und diese sichmehr und mehr auf »alle Nachrichten

(verlassen), die (einmal) fiir den Druck in Frage (ge)kom-

men (sind)«, wie die »Times« stolz ihre Herausgeberpraxis

umschreibt, wie lange wird es dann noch dauem, bis das,

was als Faktum gilt, von diesem System bestimmt wird,

bis alles andere Wissen, jede Erinnerung einfach als illegitimerklart wird? Bald wird ein Supersystem errichtet, das auf

der Datenbank der »New York Times« (oder einer anderen

Bank derselben Art) aufbaut, aus der »Historiker« Schliisse

dariiber ziehen werden, was »wirklidi« geschah, wer mit

wem in Verbindung stand und welches die »wirklidie« Lo-

gik der Ereignisse war. Es gibt heute viele Menschen, die

daran nichts Falsches finden konnen,

Wir brauchen nicht auf kiinftige Systeme zu blicken, um

Morrisons Parabel einen Sinn zu geben. 1m Krieg der USA

gegen Vietnam wurden Computer von Offizieren bedient,die nicht die geringste Ahnung davon hatten, was in diesen

Maschinen eigentlich vorging, und die Computer trafen

die Entscheidung, welche Dorfer bombardiert werden soll-

ten und welche Gebiete eine geniigend hohe Dichte von

Vietkongs aufwiesen, daB sie »legitimerweise« zu Zonen

erklart werden konnten, in denen »Feuer frei« gegeben

wurde, d. h. weite geographische Gebiete, iiber denen Pilo-

ten das »Redit« hatten, auf alles zu schieBen, was sich be-

wegte. Selbstverstandlidr konnten nur solche Daten in die

Maschine eingegeben werden, die »masdiinell lesbar« wa-ren, also weitgehend Zielinformationen, die von anderen

Computem stammten. Und als der amerikanische Prasident

313



beschloB, Kambodscha zu bombardieren und diese Ent-

scheidung vor dem KongreB geheimzuhalten, da wurden

die Computer des Pentagon darauf »getrimmt«, die ur-

sprdnglidien Einsatzberichte, die aus dem Kampfgebiet

hereinkamen, in die falschen Berichte umzuformulieren, die

dann den fiihrenden Mannern des Staates zuganglidi ge-

macht wurden. George Orwells Informationsministerium

war mechanisiert worden. Man hatte die Geschichte nicht

nur zerstort, sondern sogar neu geschrieben. Und die hohen

Regierungsbeamten, die sich als Privilegierte empfanden,

denen man erlaubte, die Geheimberichte zu lesen, die in

Wirklichkeit den Computern des Pentagon entstammten,

glaubten diesen natiirlich. SchlieBlich hatte der Computer

selbst gesprochen. Ihnen war nicht klar, daB sie zu »Skla-

ven« des Computers geworden waren, urn Admiral Moo-

rers eigene Worte zu gebrauchen, bis die Liigen, die die

Computer anderen erzahlen sollten, sie selbst, die Herren

der Computer, zu Fall brachten.*

1m modernen Krieg operiert der Soldat, sagen wir ein

Bomberpilot, gewohnlidi in einer enormen psychologischen

Distanz von seinen Opfern. Er ist nicht fiir verbrannte Kin-

der verantwortlich, weil er weder ihr Dorf noch seine Bom-

ben geschweige denn die brennenden Kinder seIber sieht.

Moderne technische Rationalisierungen in der Kriegsfiih-

rung, der Diplomatie, Politik und im Handel (z. B. durch

Computerspiele) haben sogar einen noch heimtiickischeren

EinfluB auf die Gestaltung der Politik. Nicht nur, daB diepolitischen Fiihrungskrafle ihre Verantwortung beim Tref-

fen von Entscheidungen an eine Technik abgetreten haben,

die sie nicht verstehen - sich aber immer noch standig der

* Nadt einem Beridtt in der »New York Timesc vom 10. August 1973 von

Seymour Hersdi erklarte Admiral Thomas Moorer, Vorsitzender der Ver-

einigten Stabsdtefs, gegeniiber dem US-Senatskomitee fiir die Streitkrafl:e,

daB Lufl:angriffegegen Kambodsdta im »DatengroBspeidter des Pentagonc als

Einsatze gegen Siidvietnam firmierten. 1m Zusammenhang mit dem Beridtt

zeigte die »Timesc die Photokopie eines Kampfberidtu, der die Bemerkung

enthielt: »Alle Feindfliige mit dem Ziel Kambodsdta werden im Programm

jeweils als Einsatze gegen Orte in Siidvietnam gekennzeidmet.e Dem Beridttzufolge 5011 Admiral Moorer dem Komitee gegeniiber geauBert haben: »Es

ist einUngliick, daBwir zuSklaven der verfludttenComputer geworden sind.«

314

Illusion hingeben, daB sie es sind, die politisdi relevante

Fragen stellen und beantworten-, sondern die Verantwort-

lichkeit schlechthin ist verschwunden. Nicht nur, daB der

dienstalteste Admiral der US-Navy in einem lichtenAugen-

blick einsichtig feststellt, daB er zum »Sklaven der verfluch-

ten Computer« geworden ist, daB er gar nicht anders kann,

als sein Urteil darauf zu gninden, »was der Computer

sagt«, sondern es ist iiberhaupt niemand dafiir verantwort-

lich, was der Computer an Daten ausgibt. Die riesigen

Computersysteme im Pentagon und ihre Gegenstiicke an-

derswo in unserer Zivilisation haben in einem hochst realen

Sinne keine Autoren. Somit lassen sie gar keine Fragen

tiber »riditig« oder »falsdi« zu, iiber Gerechtigkeit oder

irgendeine Theorie, auf der sich Zustimmung oder Wider-

spruch aufbauen lieBe. Sie liefern keine Grundlage, von der

aus das, »was die Maschine sagt«, angezweifelt werden

konnte. Mein Vater berief sich stets auf eine letzte Autori-

tat mit der Bemerkung »Es steht gedruckt«. Aber da konnte

ich lesen, was geschrieben stand, etwa von einem Autor,

konnte dessen Wertvorstellungen nachvollziehen und ibm

schlieBlich zustimmen oder niche, Computersysteme regen

nicht zum Nachdenken an, das zu einer wirklich mensch-

lichen Beurteilung fiihren konnte.Kein Wunder, daB Menschen, die tagaus, tagein mit Ma-

schinen leben und sich nach und nach als deren Sklaven

empfinden, schlieBlich glauben, auch Menschen seien bloBe

Masdiinen, daB es, wie ein bedeutender Naturwissen-

schaftler einmal gesagt hat,

"moglien (ist), den Mensdien selhst als das Produkt . .. eines evolutio-

naren Prozesses sien entwickelnder Roboter anzusehen, erzeugt von

einfacheren Robotem, his zuriick zum Ursdilelm: .•• sein ethisdies

Verhalten ist erwas, das als Sdialekreisfunkcion des Mensdien in seiner

Umwelt interpretiert werden kann - eine Turingmaschine mit nur

zwei festen Riickkopplungen, namlich dem Bediirfnis zu spielen und

dem Bediirfnis zu gewinnen-".

7 Die Quelle dieses Zitau modtte idt hier nidtt angeben. Es wurde 19S~

niedergesdirieben. Als idt den Autor viele Jahre spater kennenlernte, war er

ein freundlidter und liebenswiirdiger alter Mann. Idt kann mir nidtt vor-stellen, daB er zu dieser Zeit nodr dieselbeAuffassung vertrat - wenige Jahre

vor seinemTod -, die aus dem angefUhrten Zitat spricht.

31



Man sollte annehmen, daB eine groBe Anzahl von Indivi-

duen, die in einer Gesellsdiafl leben, in der anonyme, d. h.

nidit verantwortliche Krafte die drangenden Fragen der

Zeit stellen und den Bereich der moglidien Antworten um-grenzen, ein Gefiihl der Machtlosigkeit empfindet und

einer sinnlosen Wut zum Opfer falle, Und ohne Zweifel

wird diese Erwartung von unserer Umwelt stets aufs Neue

bestatigt, auf dem Universitatsgelande und in Fabriken, zu

Hause und im Biiro. Die Wut manifestiert sich in Sabotage-

akten von Arbeitem an ihren eigenen Produkten, innerer

Unruhe und Ziellosigkeit bei den Studenten, Strallenkrimi-

nalitat, Flucht in die von Drogen erzeugte Traumwelt usw.

Aber es gibt nodi eine zweite Reaktion, die ebenfalls weit

verbreitet ist; von der einen Seite betraditet wirkt sie wie

eine Resignation, aber von der anderen Seite ersdieint sie

als das, was Erich Fromm vor langerer Zeit einmal die

»Furdit vor der Freiheit« genannt hat.Die »guten Deutsdiene unter Hitler konnten ruhiger sdila-

fen, weil sie von Dadiau »nidits wuBtene. Sie wuBten es

deshalb niche, wie sie sparer erzahlt haben, wei! das hodi-

organisierte Nazisystem ihnen das Wissen vorenthaIten

hatte. (Seltsam genug, daB ich als Heranwachsender im sel-

ben Deutschland von Dadiau Kenntnis hatte. Ich hatte

wohl Grund genug, mich davor zu furdrten.) Natiirlidi ist

der wahre Grund dafdr, daB die guten Deutsdien von nichts

wuBten, daB sie sich nie fiir die Frage veranrwortlidi fUhl-

ten, was mit ihren jddisdien Nadibarn passiert war, derenWohnungen plotzlidi leerstanden. Der Universitatsdozent,

dessen Traum von einer Beforderung zum ordentlidien

P~ofesso~ sidi unvermittelt erfiilIte fragte nidit danadi,wieso sem wertvoller Lehrstuhl so sdmell frei geworden

war. SchlieBlich wurden alle Deutsdien Opfer dessen, wo-

von sie befallen waren.

Heute stellen sidi selbst die hodisten Spitzenmanager als

unsdiuldige Opfer einer Tedmik dar, fUr die sie sidi nidit

veranrwortlidi fiihlen und die sie angeblidi nidit einmal

verstehen. (Trotzdem muB man sidi dariiber wundem,warum es Admiral Moorer nie in den Sinn gekommen ist

zu fragen, weldie Wirkung die Millionen Tonnen Bomben

316

hatten, die nadr Aussage des Computers iiber Vietnam ab-

geworfen wurden.) Der amerikanisdie AuBenminister Dr.

Henry Kissinger erklarte, er konne kaum von den »Skan-

dalen im WeiBen Hause gewuBt haben und klagte zugleidi

iiber »die Absdieulidikeit der Ereignisse und die Tragodie,

die sidi bei so vielen Menschen zugetragen hat,e

»Die derart besdiriebene TragOdie harte eine Handlung, aber keine

handelnden Personen. Nur .Ereignisse' waren .absd1eulim" nimt Ein-

zelpersonen oder Staatsbeamte. In diesemleblosen Rahmen waren die

Verhohnung des Remts und die Tiusmung des Volkes nimt geprobt

und praktiziert worden: sie hatten sim einfam ,zugetragen,·...

Der Mythos von der technisdien, politisdien und gesell-

sdiafllichen Zwangslaufigkeit ist ein wirksames Beruhi-

gungsmittel fUr das Bewufltsein. Seine Funktion besteht

darin, die Verantwortung jedem von den Schultern zu neh-

men, der an ihn glaubt.Aber in Wirklichkeit gibt es handelnde Personen!

So heiBt es z. B. in einem Planungspapier, das vom Direk-

tor eines groBeren Computerlaboratoriums an einer groBe-

ren Universitat an samtlidie Mitarbeiter der Fakultat ver-

teilt wurde9:

»Der groBte Teil unserer Forsdiung ist bisher von der Regierung der

Vereinigten Staaten, vor allem vom Verteidigungsministerium unter-

stutzt worden. Das wird wahrscheinlidi aum weiterhin der Fall sein.

Das Verteidigungsministerium wie aum andere Stellen innerhalb der

Regierung arbeiten an der Entwicklung und dem Einsatz komplexer

Systeme, die ein sehr groBes zerstorerismes Potential enthalten und

die zunehmend von Digitalredmern gesteuert und kontrolliert wer-den konnen. Diese Systeme sind weitgehend verantwortlich fur die

Aufremterhaltung des gegenwartigen Friedens und der Stabilitit in

der Welt, und gleimzeitig sind sie in der Lage, eine Zerstorung in

einemAusmaBfreizusetzen, das fur einenMensmen kaum faBbar ist...

Man beadite, daB nidit Menschen, sondem Systeme die

Verantwortung tragen. Soviel jedenfalls zu ihrem zersto-

rerisdien Potential; nun zu den wirklichen Problemen:

8 J. E. Hughes, ,.The Wide World of Watergate«, in: Newsweek, 10. Aug.

1973. S. 13.9 Die Zitate erfolgen mit Genehmigung des Autors. Die Hervorhebungen

stammen von mir.

317



"Die entsdleidende Rolle des Computers laBt sim eher am Beispiel

seiner militirismen Anwendung verdeutlidien als an seinem Einsatz in

den nimt-militarismen Bereidien der Gesellsmaft, aber die meisten

von uns haben genug iiber die immer starker werdende Abhangigkeit

von Computern in Industrie und Handel nadigedadit, um sim ein

Bild vorstellen zu konnen, in dem das gesamte Funktionieren einer

Gesellsmafl: von einer geordneten und sinnvollen Ausfiihrung von Mil-

liarden elektronisdier Anweisungen pro Sekunde abhangt .. • wir wer-

den in Organisationen riesige Systeme aller Art haben, die in einem

Sdmellspeidier mit direktem Zugriff Millionen von Wortern enthalten

und zig Millionen Anweisungen in der Sekunde befolgen konnen. Die

meisten dieser Computer werden untereinander in komplizierten

Netzwerken verbunden sein, wodurdi sie (durdi Steuerungsmedianis-

men kontrolliert, an deren Entwicklung einige von Ihnen gerade arbei-

ten) zu jeder verfiigbaren Information iiber alles und jedes Zugang

haben. Und dieser Trend in der Entwicklung 'Von Computern ist un-

aufhaltsam ...

In der Beherrsdiung der Programmierung und der Kontrolle von

Computern konnten vor allem wir eine kritisdie Rolle spielen. Es ist

sehr wahrsc:heinlim, daB keine andere Organisation in der Lage ist,

dieselbe Rolle zu iibernehmen, nom dazu gibt es keine widitigere Rolle

in der Naturwissensmafl: und der Tedmik von heute.

Die groBe Bedeutung dieser Rolle riihrt aus dem Umstand, daB der

Computer sich zlIm festen Bestandteil der meisten Funktionen ge-

macht hat, und dies aum in Zukunfl: tun wird, die fiir die Unterstiit-

zung, Verteidigung und Entwicklung unserer Gesellsdiafl wesenrlidi

sind. Bereits heute gibt es keinen Weg zUTuck, und in ein paar Jahren

wird deutlid; geworden sein, daB wir ebenso vital von der Informa-

tionsverarbeitung unserer Computer abhangig sind wie vom Wamsen

des Getreides auf den Feldern und vom Sprudeln der Erddlquellen ...

In diesen Ausfiihrungen finder sichnicht der geringste Hin-

weis auf die Frage, ob wir diese Zukunfl: iiberhaupt wollen.

Wir sind hilflos angesichts der Flut, die unaufhaltsam ist,

ohne daB dies in irgendeiner Weise begriindet wird. Es gibt

keinen Weg zuriick. Die Frage wird nicht einmal einer Dis-

kussion fUrwert eraditet.

"Das allgemeine Problein von Steuerung und Kontrolle kann unter

versdiiedenen Gesimtspunkten betraditet werden. Das Spektrum

reidit von im wesentlidien philosophisdien Problemen, in denen es

um Bedeutung, Absimten und die Herstellung von Konformitat zwi-

schen einem geplanten und dem tatsadilidien Verhalten eines komple-

31 8

xen Systems geht, bis zu dem fast aussc:nlieBlim tec:hnismen Problem,

wie man Wanzen in Unterprogrammen findee.. .

(1m Computerjargon ist ,.Wanze« ein Programmierfehler.)

Man beachte den bomierten, namlidi technisch ausgerichte-

ten Begriff von Philosophie, der hier zum Ausdruck kommt.

Der Text fahrt fort:

"Man sollte sim nimt mit Programmiermethoden zufrieden geben, bei

denen sim Wanzen in die Programme einsc:hmuggeln konnen. Wahr-

sdieinlidi besteht der beste Weg zur Aussc:naltung von Wanzen in der

Entwicklung wanzenfreier Programmiennethoden. Niditsdestoweni-

ger sollte das Entwanzen (die Entfernung von Wanzen aus Program-

men, J. W.) im Mittelpunkt der Forsdiungsbemiihungen stehen, mit

denen wir die Programmiertedinik in den Griff bekommen wollen.

Der Grund ist darin zu sudien, daB die Forsdiung iiber das Entwanzen

zu Einsiditen in viele Probleme im Hinblick auf die Formulierung und

Losung eines Problems fiihren wird. Es handelt sim niche nur um den

Kodierungsvorgang bei der Formulierung und Ldsung eines Problems.

In dem MaBe, in dem wir die Programmiertedinik beherrsdien, wird

der Bereich der Problemlosungen sidi bestandig ausweiten und unser

Gegenseandsbereidi sim vergroBern. Das Ziel sollte eine Programmier-

methode sein, die auf diesen hoheren Ebenen ebenso frei von Wanzen

und Fehlern ist wie auf den unteren ...

Daran ist vor allem bemerkenswert, daB das hauptsadi-

liche - eigentlich das einzige - Hindernis fur eine »Pro-

blemlosung«, selbst auf diesen »hoheren Ebenen«, aus-

schlieBlich als Frage von technischen Fehlem betrachtet

werden soll. Innerhalb der Gesellschafl: gibt es keine wirk-

lichen Konflikte. Sobald wir »mensdiliche Absiditen« selbst

als technisches Problem ansehen, ist auch alles andere tech-nischer Natur.

"Es kann als simer angenommen werden, daB Computer in fast allem,

was sie tun, fehlerfreier sind als Mensc:nen. Wenn wir ein Programm

erfinden konnen, das selbst Programme sdireibt, hatten wir also einen

widitigen Sc:hritt auf dem Weg zu einer fehlerfreien Software" zuriick-

gelegt. Es ist jedodt wimtig, nimt einfad; iiber die Probleme hinweg-

zugehen, die zwischen der mensdilidien Formulierung eines Problems

und dem Verstandnis liegen, das der Computer davon hat. Der Com-

puter wird kaum ein geeignetes Programm sdireiben konnen, wenn

er das Problem vollig falsm verstanden hat ...

" S. FuBnote auf S. 247.

319



Ein moglic:herweise wic:htiger Ansatz zur Beherrsc:hung der Program-

miertec:hnik und der Entwanzung griindet sic:hauf den Bau von Mo-

dellen •.• Zu Anfang bedient sic:hder mensc:hlic:heProgrammierer der

Modelle, die ihm als Hilfsmittel zur Verfiigung stehen. Am Ende iiber-

nehmen die Modelle, in einem umfassenden Modell kombiniert, den

groBten Teil der Programmierarbeit und der Entwanzung, aber der

mensc:hlic:heProgrammierer ist immer noc:h auf der Bildflac:he, sei es

zur Kontrolle, zur Aushilfe, zur heuristisc:hen Anleitung oder was

auc:h immer. Wenn die Bemiihungen erfolgreic:h waren, wird das Mo-

dell sc:hlieBlic:hzum automatisc:hen Programmierer •••

Es ist hOc:hstenszwei Jahre her, da muBte man das WOrt ,Wissenc im-

mer noc:hmit Anfiihrungsstric:hen versehen, wenn es in einem Kontext

wie dem unsrigen ersc:hien•• . Aber es besteht (innerhalb eines kleinen

Kreises von Computerwissensc:haftlern) Obereinst immung dariiber,

daB wir die Sc:hwelle erreic:ht haben, hinter der man Computer sic:h

als Trager von Wissen vorstellen kann, das sie sinnvoll und effektiv in

entsprec:hender Weise wie der Mensc:h einsetzen - wenn die Zeit ge-

kommen ist, sogar in einer dem Mensc:hen iiberlegenen Weise •.•

Gesprac:he mit und innerhalb (unserer) Fakultat lassen das starke Ge-

fiihl einer Konvergenz aufkommen, die in eine neue Ric:htung geht.

Viele empfinden ansc:heinend dieselben Probleme als vordringlic:h. Die

Umsetzung dieser Gefiihle in Worte hat viel niic:hternes Denken, Re-

flektion und viele ausgedehnte Diskussionen erfordert.

Die Konvergenz der Ric:htungen ••• enthalt die Forderung, Computer

nic:ht nur einfac:h in der Bedienung, sondem, wie bier betont wurde,

auc:h 'CJertrauenswiirdig zu mac:hen ••.

Unsere auBerordentl ic:hen Hilfsquellen werden besser geniitzt , wenn

fiir sie die vollkommene Garantie besteht, daB die computerbeherrsc:hte

Zukunfl: eine Zukunfl: ist, die w ir wollen. Vielleic:ht sind nu r wir in der

Lage, die Verwirklic:hung dieses Ziels anzusteuern.«

Der Autor dieses Dokuments - nebenbei bemerkt niemand,

der noch an anderer Stelle dieses Buches erwahnt worden

ware - sdilagt hier lediglich die Realisierung des Pro-

gramms vor, das so oft von anderen Vertretem eines tech-

nischen Optimismus hinausposaunt wurde. Seine Ausfiih-

rungen sind z , B. vollig konsistent mit der Prognose, die

H. A. Simon 1960 getroffen hat, daB

»wir innerhalb einer sehr nahen Zukunfl: - viel weniger als 2S Jahre

- tec:hnisc:h in der Lage sein werden, jede mensc:hlic:heFunktion in

Organisationen von Masc:hinen iibernehmen zu lassen. 1m selben Zeit-

raum werden wir eine umfassende und empirisc:h abgesic:herte Theorie

3 20

der kognitiven Prozesse des Mensc:hen und deren Interaktion mit

mensc:hlic:hen Emotionen, Einstellungen und Werten entwidtelt

haben* 10.«

Aber der hier zur Schau getragene »Optimismuse ist kei-

neswegs nur auf Computer besdirankt, Professor B. F.

Skinner, Haupt der behavioristischen Schule innerhalb der

Psychologie, von dem oft gesagt wird, er sei der einflu~-

reichste heute lebende Psychologe, hat vor kurzem gesdirie-

ben:

,.Die verheerenden Resultate des gesunden Mensc:henverstandes in der

Organisierung des mens<hlic:hen Verhaltens kommen in jeder Lebens-

lage zum Vorsc:hein, in den internationalen Beziehungen wie bei der

Sauglingspflege, und unser Ungeniigen in all diesen Bereic:hen wird so

lange andauern, bis eine wissensc:haft lic:he Analyse die VorteiIe einer

effektiveren Tec:hnik deutlic:h werden la£t.

In den Augen des Behaviorismus kann der Mensc:h nunmehr sein eige-

nes Gesc:hidt kontrollieren, da er weiB, was zu tun ist und wie dies zu

gesc:hehenhatll

.«

Der letzte Satz kann doch wohl nur so verstanden werden:

»Ich, B. F. Skinner, weiB was zu tun ist und wie dies zu

geschehen hate, genau wie der letzte Satz des von ~ir

zitierten Planungspapiers nur bedeuten kann, daB »wir«,

deren Aufgabe es ist, alle Krafte einzusetzen, urn die com-

puterbeherrschte Zukunft sicherzustellen, die »wire wiin-

schen, nur aus dem kleinen Kreis von Computerwissen-

.. In derselben Arbeit prophezeit Simon: ,.Eine Verdopplung der Fahigkciten

des Gehirns im Hinblick.auf Problemlosung und Informationsverarbeitung istabzusehen; es ware verwunderlich, wenn dies nicht innerhalb der nachsten

zehn Jahre erreicht wiirde... Nun, inzwischensind mehr als zehn Jahre ver-

gangen, und das Gehim ist so rauelhaft geblieben wie immer. Wir diirfen

davon ausgehen, daB Dr. Simon jetzt iiberrascht ist. Wer manchmal im Kino

eine besonders schlimmeHorrorszene sieht und sich nicht davon iiberwaltigen

lassen will, der Macht sichvielleicht bewuBt, daB die Personen auf der Lein-

wand schlieBlichnur schauspielen. Aber mit diesem Verfahren kommt man

hier nicht weiter. Professor Simon ist einer der einfluBreichstenFunktionare

der Naturwissenschaft im heutigen Amerika. Was er sagt wird wirklich ernst

genommen.10 H. A. Simon, ,.The Shape of Automation.. (1960), Neuabdr. in: Z. W.

Pylyshyn (ed.), Perspectives on the Computer RtfJolution, Englewood CliffslN. J. 1970.II B. F. Skinner, About Behaviorism, New York 1974, S. z34 u. S. zp.



smaftlem bestehen, innerhalb dessen »wirc aufriditig spre-

men konnen und ohne euphemiseisdie Anfllhrungszeidien

zu verwenden. Es ist kein Zufall, daB die beiden Satze

jeweils am Ende der beiden Dokumente stehen. Offensidit-

lim enthalten sie die absdilieliende und widitigste Bot-schafl ,

Aber die tedinokratisdien Erloser, die es fiir unmoglidi

halten, dem mensdilichen Denken zu vertrauen und sidideshalb verpflichtet fiihlen, »vertrauenswiirdige« Compu-

ter zu bauen, die in der Lage sind, mensdilidie Absiditen

zu verstehen und menschliche Probleme zu losen, haben

audi von anderer Seite Konkurrenz bekommen. Einer der

prominentesten davon ist Professor J. W. Forrester vom

MIT, der geistige Vater der »kybemetisdien Systemtheo-

rie«. In einer Aussage vor einem VS-KongreBkomiteeU

bemerkter:

, .Meine Hauptthese lautet , daB das menschlidie Denken nidtt geeignet

ist, das Verhalten sozialer Systeme zu erklaren . .. Bis vor kurzem hat

es keine andere Moglidtkeit gegeben, das Verhalten sozialer Systeme

abzusdiatzen als durch Beobadnung, Diskussion, Behauptungen und

Vermutungen ...

Mit anderen Worten, die Art und Weise wie Plato, Spinoza,

Hume, Mill, Gandhi und so viele andere iiber soziale

Systeme nachgedacht haben, ist offensiditlidi der Methode

der Systemanalyse unterlegen. Das Problem besteht darin,

daB das menschlidie Denken auf Denkmodellen beruht.

Vnd

, .ein Denkmodell ist unklar. Es ist unvollstandig, Es is t ungenau for-

muliert. AuBerdem verlindert sidt ein Denkmodell in einem Indivi-

duum mit der Zeit und sogar im Ablauf einer Unterhaltung .•. Die

Ziele sind uneersdiiedlidi und bleiben unausgesprodten. Kein Wunder,

daB Kompromisse so viel Zeit in Ansprudt nehmen ...

1mKlartext: Es miissen Ziele und damit audi Denkmodelle

festgelegt werden, denn wie konnen wir sonst die Opera-

J2 Die folgenden Zitate von Forrester sind entnommen seinem .Testimony

before the Subcommittee on Urban Growth of the Committee on Banking

and Currency of the United States House of Representatives«, given inWashington, D. C., October 7, 1970, 91. Congress, zweite Sitzung, Teil III,

S. zoS-z6S.Zu bestelleniiber das Government Printing Office.

toren bestimmen (urn die GPS-Sprame zu verwenden), die

auf die Gegenstande angewandt werden sollen, die wir in

»erwiinschte Objekte« transformieren wollen? Und die

Vnklarheit von Denkmodellen riihrt nadi der BeobachtungForresters weitgehend aus der Vnklarheit der mensdilichen

Spradie selbst. Aum dem muB abgeholfen werden., .Computermodelle untersdteiden sidr in wesentlidter Hinsidit von

Denkmodellen. Computermodelle sind explizit formuliert. Die -mathe-matische- Begriffssdtrift, die zur Besdireibung des Modells verwendet

wurde, ist unzweideutig. Sie ist klarer und praziser als eine gespro-

diene Spradie wie etwa Englisdt oder Franzdsisdr, Computermodell-

spradten sind einfadter. Ihr Vorteil besteht in der Klarheit der Bedeu-

tung und der Einfadtheit ihrer Syntax. Die Spradie eines Computer-

modelles kann von fast jedem verstanden werden, gleidigiil tig weldie

Sdtulbildung er hat . AuBerdem konnen alle Begriffe und Beziehungen,

die sich in einer normalen Spradie klar formulieren lassen, in die

Computerspradie iibersetzt werden.«

Man muB sich wundern, warum sidi diese normale Spradie

mit all ihren Dysfunktionalitaten so lange am Leben ge-halten hat. Und wenn sie so klar ist, daB aIle Begriffe und

Beziehungen in Computerbegriffe iibersetzt werden kon-

nen, warum strengen sidi dann Linguisten wie Halle,

Jakobson und Chomsky immer noch so maditig an? Und

warum gibt es dann immer nom Dichter? Was jedodi das

eigentlidie Thema angeht: Es stimmt einfach nidit, daB

»fast jeder« die Sprache z. B. der Forrestersdien Compu-

termodelle verstehen kann. Die letzteren sind hauptsachlich

deshalb so weitgehend akzeptiert worden, wei! sie von

einem beriihmten Wissenschafl:ler von einer Prestige-Uni-

versitat stammen und weil ihre Resultate etwas sind, »was

der Computer sagt«. Die meisten Spitzenpolitiker, Ge-

werkschafl:sfiihrer und Gesellsdiaflskritiker, die sidi an der

Diskussion iiber die »Grenzen des Wamstumsc beteiligt

haben, konnten die der Kontroverse zugrunde liegenden

Computerprogramme ebensogut verstehen, als harte man

ihnen die Grundgleidiungen der Quantenphysik vorgelegt.

Aber genau wie Admiral Moorer hielten sie es fiir zweck-

maBig, der Masdiine zu »vertrauen«.Am Ende versidiert Forrester seiner Zuhorersdiafl, daB die

»Mittel in Sidirweite« sind (fiir ihn, selbsrverstandlich),

3 . 1 3



mit denen der Unsicherheit langsam ein Ende gemachtwerden kann.

»Die groBe Unsidierheit bei Denkmodellen besteht darin, daB sie

unmoglidl die Interaktionen zwischen einzelnen Bestandteilen eines

Systems vorhersehen konnen. Bei Computermodellen ist diese Un-

sieherheitvollig beseitigt. Sobald eine Matrix von Annahmen formu-

liert isr, liefert der Computer die daraus resultierenden Konsequenzen,

und zwar fehlerlosund ohne Unsicherheitsspielraum.«Er sagt dann weiter, daB es zwar in unserem sozialen

System «keine Utopien« und keine tragbaren Verhaltens-

weisen gibt, die frei von Druck und Zwang sind, daB aber

trotzdem einige Verhaltensweisen »erwiinsdrter« als andere

sind. Und wie werden diese erwiinschten Verhaltenswei-sen ermogliduj

,.Sie sind wohl nur moglidl, wenn wir iiber ein ridrtiges Verstandnis

der Theorie dynamisdier Systeme verfiigen und bereit sind, uns der

Selbstdisziplin zu unterziehen und die Zwange zu ertragen, die die

erwiinsdlteVerhaltensweisebegleiten miissen,«

Es gibt fraglos eine Interpretation der Worte »System«

und »dynamisch«, bei der dieser Beobachtung ein richtiger

Sinn zukame, Aber in dem Zusammenhang, in dem diese

Worte stehen, haben sie die besondere Bedeutung, die For-

rester ihnen verliehen hat. Es ist also klar, daB keinerlei

Unterschied besteht zwischen Forresters Botschafl:und der

von Skinner und den anderen: der einzige Weg zur Gewin-

nung jenes Verstandnisses, das allein zu »erwiinschten Ver-

haltensweisen« fiihrt, ist die Methode einer »wissensdiafl-

lichen Analyse« nach Forrester (oder Skinner oder GPSusw.).

Die verschiedenen von uns behandelten Systeme und

Programme haben einige sehr bedeutsame Kennzeichen

gemeinsam: sie sind aIle in gewissem Sinne einfach, sie aIle

entstellen und miBbrauchen die Sprache, und sie behaupten

aIle, nichts Normatives zu enthalten, befiirworten indessen

einen Autoritarismus gegeniiber dem Expertentum. Ihre

Parteinahme wird natiirlich kaschiert durch die Verwen-

dung einer scheinbar neutralen, mit Fachausdriicken ge-

spickten Sprache (d. h. einer Sprache, die ein normalerMensch als »Bockmist« bezeichnen wiirde). Diese gemein-

324

samen Eigenschafl:en lassen sichbis zu einem gewissen Grad

voneinander trennen, aber sie sind voneinander nicht unab-

hangig.Die oberfladilidisten Aspekte der Einfachheit dieser Syste-

me - wie sie in der simplizistischen Konstruktion ihrer

behandelten Gegenstande zum Ausdruck kommt - sind

unmittelbar ersichtlich. Fiir Simon z. B. ist der Mensch

»ganz einfach«. Die »offensichtlidie« Komplexitat seinesVerhaltens verdankt sich der Komplexitat seiner Umwelt.

Jedenfalls kann er durch ein System simuliert werden, das

nur auf »ein paar einfache Parameter« reagiert, eines, das

aus nur wenigen (bestimmt sehr viel weniger als, sagen wir,

10000) »elementaren Informationsprozessen« besteht.

Der von mir zitierte Laboratoriumsdirektor ist der An-

sidit, daB es am zweckmalligsten ist, das Problem der

menschlichen Intentionalitat durch Forschungsarbeiten iiber

Techniken zur »Entwanzung« von Computern einer Lo-

sung naher zu bringen, eine Ansicht, die von vielen seinerKollegen geteilt wird. Skinner sieht den Menschen als im

wesentlichen passives Produkt seiner genetischen Ausstat-

tung und seiner Geschichte von Verscarkungskontingenzen.

Der Hauptunterschied zwischen Skinners System und GPS

sdieint der zu sein, daB Skinner nur das »input-output-

Verhaltene betraditen modite (um im Computerjargon zu

spredien), wahrend die Schopfer von GPS und ahnlidien

Systemen der Ansidit sind, sie konnten auch einige Aussa-

gen dariiber machen, was innerhalb des Organismus selbst

vor sidi geht. Aber die philosophischen Unterschiede zwi-schen beiden Einstellungen sind geringfiigig. Fiir Forrester

besteht die ganze Welt budistablidi aus lauter Riickkopp-

lungssdileifen."Riidtkopplungssdlleifen sind die Grundbausteine von Systemen••.

Eine Riidtkopplungssdlleife besteht aus zwei Arten von Variablen, die

hier als Niveaustands- und FlieBgesdlwindigkeitsvariablebezeidinet

werden. Diese beiden Arten von Variablen sind notwendig und hin-

reidiend ..• Die Niveaustandsvariablen sind Akkumulationen oder

Integrationen •.• Veranderte FlieBgesdlwindigkeiten bewirken eine

Veranderung des Niveaustandes. Die Niveauseande liefern die Ein-gabeinformationen fiir die Gesdrwindigkeitsgleidmngen, die den

DurdlfluBregeln.



Die FlieBgleichungen sind die Formulierungen der Systempoli tik. Sie

legen fest, auf welche Weise die erhaltene Information in einen Hand-

lungsfluB umgewandelt wird .•. Eine FlieBgleichung stel lt die Diskre-

panz fest zwischen dem Soll- und dem Istzustand. Und schlieBlich

formuliert sie die Aktion, die aus dieser Diskrepanz folgen wirdll.«

Man beachte die sprachlichen Oberschneidungen zwischen

dieser Aussage und der Diskussion von Newell und Simon

von Problemen und Problemlosungen (6. Kap.). Die Letzt-

genannten sprechen von »vorhandenene und »erwiinsdi-

ten« Gegenstanden, tiber Unterschiede zwischen beiden,

Operatoren, die diese Unterschiede reduzieren, tiber Ziele

usw. Der Unterschied zwischen ihrem System und dem

von Forrester liege hauptsachlidi in den unterschiedlichen

Klassen der »elementaren informationsverarbeitenden«

Bausteine, die beide verwenden und natiirlich in der Tat-

sache, daB GPS sich heuristischer Methoden bedient, mit

denen die Suche nach Operatoren etc. verkiirzt werden

kann, wahrend in Forresters System alles explizit algorith-

miert ist, und zwar als Flieflgeschwindigkeits- und Niveau-

standsvariable in Verbindung mit Riickkopplungsschleifen.

Aber die Auffassungen von der Welt, die in beiden Syste-

men zum Ausdruck kommen, sind im Grunde dieselben.

Und sie sind sehr einfach.

Aber diese Systeme sind auch in einem tieferen und widi-tigeren Sinne einfach. Sie haben die Vemunft selbst ledig-

lich auf deren Rolle bei der Beherrschung von Dingen,

Menschen und letztlich der Natur reduziert.

sDie Begriffe wurden auf Zusammenfassungen von Merkmalen redu-

ziert, die mehrere Exemplare gemeinsam haben. Indem sie eine ~hn-

lichkeit bezeidinen, entheben die Begriffe der Miihe, die Quali taten

aufzuzahlen, und dienen so dazu, das Material der Erkenntnis besser

zu organisieren. Man sieht in ihnen bloBe Abbreviaturen der einzelnen

Gegenstllnde, auf die sie sich beziehen. Jeder Gebrauch, der iiber die

behelfsmaBige, technische Zusammensetzung faktischer Daten hinaus-

gehe, ist als eine letzte Spur des Aberglaubens geti lgt , Begriffe sind zu

widerstandslosen, rationalisierenden, arbeitssparenden Mitteln gewor-

den .. , (das) Denken selbst (ist) auf das Niveau industrieller Prozesse

13 J. W. Forrester, Urban Dynamics, CambridgelMass. 1969, S. 13 if.

326

reduziert worden .•. kurz, zu einem festen Bestandteil der Produktion

gemachtu.«

Keiner, dem die technische Grundlage der Systeme nicht

vertraut ist, von denen ich rede, kann vermutlich nadiemp-

finden, wie deprimierend genau diese Worte darauf zutref-

fen. Sie stammen von dem Philosophen und Soziologen

Max Horkheimer, der sie 1947 niedergeschrieben hat, Jahre

bevor die Kdifte, die bereits damals die Vemunft verfin-srerten, um mit Horkheimer zu sprechen, schlieBlich budi-

stablich in Maschinen verkorpert wurden.Diese Passage - insbesondere angesichts der Tatsache, wannund von wem sie geschrieben wurde - belehrt uns noch ein-

mal, daB der Computer, wie er gegenwartig von den tech-

nischen Eliten eingesetzt wird, fUr nichts die Autorenschaft

hat. Er ist vielmehr ein Instrument, das in den Dienst ge-

zwungen wurde, um die konservativsten, ja reaktionarsten

ideologischen Stromungen des gegenwartigen Zeitgeistes zu

rationalisieren, zu unterstiitzen und am Leben zu erhalten.An den von uns untersuchten Systemen hat sich eindeutig

gezeigt, daB Bedeutung vollig in Funktion transformiert

worden ist. Die Sprache, und damit auch die Vernunft, ist

zu nichts anderem gemacht worden als zu einem Instru-

ment, mit dem die Dinge und Ereignisse in der Welt beein-

fluBt werden konnen. Nichts von dem, was diese Systeme

tun, hat eine immanente Bedeutung. Es gibt nur Ziele, die

von Fluten diktiert werden, die unaufhaltsam sind. Es gibt

nur noch Zweck-Mittel-Analysen zum Aufspiiren von

Diskrepanzen zwischen dem »beobachteten Zustand« unddem Zustand, den uns das Schicksal, das uns zustoBt, als

den erwiinschten bezeichnet. 1m Prozef unserer Anpassung

an diese Systeme haben wir uns, einschlieBlich der Admi-

rale unter uns, nicht nur selbst entmannt (d. h. uns der Im-

potenz iiberlassen), sondern auch unsere ganze Sprache.

Denn nun, da die Sprache lediglich zu einem Werkzeug

unter vielen gemacht worden ist, haben alle Begriffe, Ideen

und Phantasien, die von Klinstlern und Schriftstellem nicht

14 M. Horkheimer, Zur Kritik Jer instrumtntellen Vemunf/, Frankfurt 1967,

S. 30 f.



in eine computerverstandliche Spradie gebradit werden

konnen, ihre Funktion und ihre Potenz verloren. Forrester

sagt uns das mit wilnschenswerter Deutlichkeit - aber man

sieht im Geiste die andern beifallig nicken: »Alle Begriffe

und Beziehungen, die sidi in einer normalen Spradie klar

formulieren lassen, konnen in die Computerspradie tiber-

setzt werden.« Die Beweislast dafiir, daB etwas »klar for-

muliert« ist, tragt der Dichter, Kein Wunder, daB bei die-sem Begriff von Spradie die Untersdieidung zwischen dem

Lebendigen und dem Leblosen, zwischen Mensdien und

Masdiinen, aus der Welt des Realen verdrangt wurde. 1m

besten Fall handelt es sidi um Untersdiiede in der Nuan-cierung.

In der Rhetorik der tedmisdien Elite ist die korrumpierte

Spradie fest verankert. Wir haben bereits auf die Trans-

formation der Bedeutung des Wortes »versrehen« hinge-

wiesen, aus dem Minsky einen rein instrumentellen Begriff

gemadit hat. Und nattirlidi ist es diese Interpretation, diein aIle Systeme einflieBt, iiber die wir gesprodien haben.

Newells und Simons Gebraudi des Wortes »Probleme ist

ein anderes Beispiel und nidit minder signifikant,

Zur Zeit der Studentenunruhen an den amerikanisdien

Universitaten konnte man oft von wohlwollenden Red-

nern horen, die Unruhe, zumindest die an der eigenen

Universitat, sei hauptsadilich auf eine ungeniigende Kom-

munikation zwischen den versdiiedenen Teilen der Univer-

sitat zuriickzufUhren, z. B. den Fakultaten, Fachschaflen,

der Administration usw. Somit wurde das »Problem« imPrinzip unter dem Aspekt der Kommunikation, d. h. als

tedmisdies gesehen. Aus diesem Grund konnte es mit

technisdien Mitteln gelost werden, indem man z. B. ver-

sdiiedene ,.heiBe Drahte« etwa zwischen den Biiros des

Prasidenten und der Dekane legte, Vielleidit gab es Kom-

munikationssdrwierigkeiten, die gibt es an fast allen Uni-

versitaten, Aber diese Sidit des »Problemse - vollig in

Einklang mit Newells und Simons Sidit des »mensdilichen

Problemlosens« und ihrer instrumentellen Argumentation

- verbirgt und versdiiitret effektiv die Existenz realer Kon-flikte. Es kann z. B. sein, daB Studenten genuin ethisdie,

3 z 8

moralisme und politisdie Interessen haben, die mit den

Interessen in Widersprum stehen, die die Universitats-

administration als die ihrigen ansieht, und daB jede Gruppe

die Interessen der anderen genau versteht. Dann besteht

ein edites Problem und keine Kommunikationssdrwierig-

keit, jedenfalls keine, die sidi durdi das tedmisdie Mittel

heiBer Drahte beheben laBt. Aber die instrumentelle Ver-

nunft verkehrt jedes nodi so genuine Dilemma in ein bIoBesParadox, das dann durch Anwendung von Logik und Be-

rechnung aufgehoben werden kann. AIle konfligierenden

Interessen werden allein durch die Interessen der Tedmik

ersetzt.Wie die Gesdiidite von Philip Morrison ist audi diese eine

Parabel. Ihre weitergehende Bedeutung liegt darin, daB die

Korruption des Wortes »Problem« in ihrem Gefolge die

Mystik des »Problemlosens« hatte - mit katastrophalen

Folgen fUr die ganze Welt. Wenn jedes Problem auf dem

Feld der internationalen Politik von den »besten und intel-Iigentesten« Problemlosern als bIoBes tedmisdies Problem

diagnostiziert wird, dann werden Kriege wie der in Viet-

nam wirklidi unvermeidlidi, Die Anerkennung zutiefst

konfligierender, aber legitimer Interessen von nebeneinan-

der existierenden Gesellsdiaflen - und fraglos ist diese

Anerkennung eine Vorbedingung fiir eine Konfliktlosung

oder -regelung - wird von Anfang an unmoglidi gemadit,

Statt dessen werden die einfadisten Kriterien angewandt,

um Differenzen festzustellen, nadi Mitteln zur Reduktion

dieser Differenzen zu sudien und sdilielllich auf die »vor-liegenden Objekte« Operatoren anzusetzen, um aus ihnen

»erwiinsdrte Objekte« zu madien. In der Tat ist es vollig

verniinftig, wenn mit» Vernunfl« eine »instrumentelle Ver-

nunfl« gemeint ist, gegeniiber einem »kommunistisdi be-

herrsditen« Vietnam (eindeutig ein »unerwiinsdites Ob-

jekte) amerikanisdier Streitkrafle, Bomber vom Typ B-52,

Napalm und alles andere einzusetzen, um es vermittels

dieses »Operators« in ein »erwiinschtes Objekt« zu trans-

formieren, namlidi in ein Land, das den amerikanisdien

Interessen dient.Die Medianisierung von Vernunft und Spradie hat Kon-

3Z9



sequenzen, die weit jenseits von denen liegen, die von den

zitierten Problemlosern gesehen werden. Lange bevor

Computer zum Fetisch wurden und der Verfinsterung der

Vemunft eine konkrete Gestalt gaben, hat Horkheimer

uns die notwendige Perspektive eroffnet:

»Gerechtigkeit, Gleichheit, Gliidt, Toleranz, aIle die Begriffe, die ..•

in den vorhergehenden Jahrhunderten der Vernunft innewohnen

oder von ihr sanktioniert sein sollten, haben ihre geistigen Wurzelnverloren. Sie sind noch Ziele und Zwedte, aber es gibt keine rationale

Instanz, die befugt ware, ihnen einen Wert zuzusprechenund sie mit

einer objektiven Realitat zusammenzubringen. Approbiert durdr ver-

ehrungswiirdige historisdie Dokumente, mdgen sie sidi noch eines

gewissenPrestiges erfreuen, und einigesind im Grundgesetz der groB-

ten Lander enthalten. Nichtsdestoweniger ermangeln sie der Bestati-

gung durdr die Vernunft in ihrem modernen Sinne.Wer kann sagen,

daB irgendeines dieser Ideale enger auf Wahrheit bezogen ist als sein

Gegenteil? Nadi der Philosophie des durdisdmirrlidien modernen

InteIlektueIlen gibt es nur eine Autoritat, namlidi die Wissenschaft,

begriffen als Klassifikation von Tatsachenund Berechnungvon Wahr-scheinlichkeiten.Die Feststellung, daB Gerechtigkeit und Freiheit an

sich besser sind als Ungerechtigkeit und Unterdriidtung, ist wissen-

schaftlichnidit verifizierbar und nutzlos. An sich klingt sie mittler-

weile gerade so sinnlos wie die Feststellung, Rot sei schoner als Blau

oder ein Ei besseralsMilch15.«

Wie wir selbst ebenfalls beobachtet haben, erlaubt die

Verdinglichung komplexer Systeme, die keine Autoren

haben und iiber die wir lediglich wissen, daB sieuns irgend-

wie von der Naturwissenschaft geschenkt wurden und daB

sie mit deren Autoritat sprechen, keinerlei Fragen iiberWahrheit oder Gerechtigkeit.

Ich weiB nicht, warum die von mir angefiihrten Fiirspre-

cher moditen, daB die von ihnen vorausgesagten Entwidt-

lungen auch eintreten. Einige von ihnen haben mir als

Begriindung angegeben: »Wenn wir es nicht tun, tut es

jemand anderer«, was einer moralischen Bankrotterkla-

rung gleichkommt. Sie befiirchten, daB schlechte Menschen

superintelligente Maschinen bauen und sie zur Unterdriik-

kung der Menschheit einsetzen, und daB die einzige Ab-

If Ibid., S. 32 f.

330

wehr gegeniiber diesen feindlichen Maschinen in der Ent-

widtlung superintelligenter Maschinen besteht, die von

»uns« kontrolliert werden, d. h. von Personen mit lauteren

Absichten. Andere gestehen ein, daB sie ihre Autonomie

unter Berufung auf das »Prinzip« der technischen Zwangs-

laufigkeit aufgegeben haben. Aber letzten Endes ist alles,

was ich von diesen Leuten mit Sicherheit sagen kann, daB

sienicht dumm sind. Alles iibrige bleibt ein Ratsel.Es ist fast genauso sdiwer einzusehen, warum die Offent-

lichkeit auf solche Ideen hodistens gleichgiiltig, mandimal

jedoch sogar enthusiastisch reagiert. Die Rhetorik der tech-

nischen Intelligenz ist vielleicht attraktiv, da sie an die

Vemunft zu appellieren scheint. Das tut sie fiirwahr. Aber

was sie herausfordert, ist eine instrumentelle Vernunft,

keine wirkliche menschliche Rationalitat, Sie preist leichte

und »wissensdiafllidi« verbramte Antworten auf alle er-

denklichen Probleme an. Sie macht sich den Mythos des

Expertentums zunutze, Auch hier spielt die Korruption derSprache eine wichtige Rolle. Die Sprache der »kilnstlidien

Intelligentsia«, der Verhaltensmodifizierer und der Sy-

stemanalytiker ist mystifizierend. Menschen, Dinge, Ereig-

nisse werden »programmiert«, man spricht von »inputs«

und »ouputs«, von Riidtkopplungsschleifen, Variablen,

Parametem, Prozessen usw., bis schlieBlich jede Verbin-

dung mit konkreten Situationen zur Abstraktion ver-

dampft ist. Was iibrig bleibt, sind Schaubilder, Datenmen-

gen und Ausdrucke, Und nur »wir«, die Experten, konnen

sie verstehen. »Wir« sind es - und sei es auch nur zu Zwek-ken unserer Imagep£1egein der Offenlichkeit -, die sich urn

die gesellschaftlichen Konsequenzen »unserer« Handlungen

und Plane Gedanken machen. Planungspapiere wie das von

mir zitierte enthalten fast immer einen einleitenden Ab-

schnitt, in dem beilaufig auf das zerstorerisdie Potential

unserer Gerate eingegangen wird. Und »wir« schreiben

Aufsatze iiber die gesellschaftlichen Implikationen unserer

Erfindungen. Aber wie ich an anderer Stelle bemerkt habe,

stellen sich diese Artikel als bemerkenswerte N abelschau

heraus.

331



»Typische Aufsatze zum Thema -Der Einflufi von Computern auf die

Gesellsc:hafl:csind gewohnHd!. so aufgebaut: Zunad!.st gibt es ein .Einer-

seitse-Statement, Darin wird von all dem Guten gesprod!.en, das die

Computer sdion fiir die Gesellschaft geleistet haben, und oft wird sa-

gar zu beweisen versudit, daB die soziale Ordnung langst aus den

Fugen geraten ware, hatte die -Computer-Revolution- nidit statt-

gefunden. Sodann folgt eine .Andererseits<-Warnung, in der von

bestimmten Problemen die Rede ist, die die Einfiihrung von Compu-

tern mit sid!. bringt, Die Bedrohung der Privatsphare durdi groBe

Datenbanke, die Gefahr einer Arbeitslosigkeit groBen Seils durdi die

Automatisierung der Industrie werden gern angefiihrt. Sd!.lieBlid!.

preist man die grandiosen gegenwartigen und zukiinftigen Errungen-

sd!.aften der Computertedmik und fiihrt den Nachweis, daB aud!. die

Gefahren, auf die man im zweiten Teil anspielte, durdi tedmisdie

Kniffe behoben werden kdnnen. Der Sd!.luBteil besteht aus einem an

die Gesellschaft geriditeten Pladoyer fiir groBziigige Unterstiitzung

weiterer und umfassenderer Computerforschung und -entwiddung.

Dies ist fiir gewohnlid!. mit der mehr oder weniger bemantelten Be-

hauptung verbunden, daB nur die Computer- Wissensd!.aft, das heillt

also, nur der Computerwissensd!.aftler, die Welt vor dem zugegebe-

nermaBen gefahrlidien Eingriff der angewandten Computer-Tedmik

bewahren konne1'.«

Die wirkliche Botschaft solch typischer Aufsatze besteht

deshalb darin, daB der Experte sich um alles kiimmem

wird, sogar um die Probleme, die er selbst erst schafft. Er

braucht mehr Geld, und zwar standig, Aber er beruhigt

nur ein Publikum, das sowieso nichts Naheres wissen will.

Und welche Antwort haben die Technologen auf die hiervorgebrachten Vorwiirfe? .

Erstens tun sie sie als blolle philosophische Fragen abo Soerhielt ich nach dem Erscheinen meines Artikels iiber den

EinfluB von Computem auf die Gesellschaft Hunderte von

Briefen, aber nur einen aus den Reihen der kiinstlichen

Intelligenz. Er stammte von einem ehemaligen Schiiler

Simons, und in ihm hieBes:

»Soweit es um die Gesellsd!.aft als Ganzes geht, sind die Haupteffekte

der Computerted!.nik wid!.tiger als ihre (sic) Nebenwirkungen. Nur der-

jenige, der eher philosophisd!.e Neigungen verspiirt, wird die mdg-

16 J. Weizenbaum, »Der Einflu6 von Computern auf die Gesellsdtaft:cin:Psyr:he, Vol. XXIX (1973), S. 171-83, hier S. '7'.

lichen Nebenwirkungen fiir wid!.tiger halten .•• Man md sd!.on lange

sud!.en, um jemanden zu finden, der mehr als nur ein paar Stunden

iiber die philosophisd!.en Implikationen nad!.denkt17.«

Das steht natiirlich vollig in Einklang mit Horkheimers

Beobachtung, daB die Sprache sogar ihr Recht verloren hat,

in nicht-instrumentelIen, d. h. philosophischen Begriffen zu

sprechen. Aber eine Antwort, deren Bedeutung unmittel-

barer einzusehen ist, wurde von Dr. Kenneth B. Clark aufeiner Tagung gegeben, die vor nicht allzu langer Zeit am

MIT stattfand. Er hatte gerade seiner Besorgnis dariiber

Ausdruck verliehen, daB das MIT seine Moglidikeiten

nicht starker fiir die Losung sozialer Fragen einsetzte. Er

sagte (ich zitiere aus dem Gedachtnis): »Hier ist ein groBes

Institut, das sich der Naturwissenschaft und Technik ver-

schrieben hat und auf diesem Gebiet hodise kompetent ist.

Warum setzen Sie in dieser schweren Zeit Ihre Instrumente

und Techniken nicht fiir die brennenden sozialen Fragen

der Zeit ein?«Ich behauptete dagegen, daBAntworten auf die drangenden

Fragen unserer Zeit nicht ausschlieBlich in Naturwissen-

schaft und Technik zu finden seien. Ich sagte, seine Suche

nach technischen Losungen groBer Probleme, z, B. sein

Vorschlag, die grofsen Manner der Weltpolitik regelmallig

mit Tranquilizem zu versorgen, fiihre moglidierweise ganz-

lich in die Irre."

Er erwiderte darauf: »Idi bin seit langem zu dem SchluB

gekommen, daB Antworten auf die groBen Fragen, denen

sich die Menschen aller Zeiten gegeniiber sahen, nur einemrationalen Denken entspringen konnen. Die einzige Alter-

native ist jene Art von Geistlosigkeit, die, wie wir gesehen

haben, nur in Gewalt und Zerstorung ausartet.«

Man konnte diese Auffassung gewiB unterstiitzen, aber

nur, wenn mit Rationalitat etwas anderes gemeint ist als

die bloBe Anwendung von Naturwissenschaft und Technik,

wenn Rationalitat nicht implizit und automatisch mit Be-

rechenbarkeit und logischem Denken gleichgesetzt wird.

17 L. s . Coles, »Brief an denHerausgeberc, in Science, 10. Nov. 197Z.18 K. B. Clark, »Leadership and Psydtotedtnologyc, in: New York Times,

9· Nov. '97'.

333



Die Alternative zu der Art Rationalitat, die die Losung

der Weltprobleme in der Psychotedmik erblickt, ist nicht

Geistlosigkeit. Es ist eine VemunA:, die sich wieder auf

ihre menschliche Wiirde besinnt, auf Echtheit, Selbstadi-

tung und individuelle Autonomie.

Die instrumentelle VemunA: hat aus Worten einen Fetisch

gemacht, der von schwarzer Magie umgeben ist. Und nur

die Magier haben die Rechte der Eingeweihten. Nur siekonnen sagen, was die Worte bedeuten. Und sie spielen mit

Worten und betriigen uns. Wenn Skinner die Naturwissen-

schaA:dem »common sense« gegeniiberstellt und behauptet,

die erstere sei diesem weit iiberlegen, dann meint er seine

»Verhaltenswissensdiafl«, und das Wort »common« in

»common sense« hat bei ihm eine abwertende Bedeutung.

Er meint keinen »common sense«, dem eine gemeinsame

kulturelle Perspektive eignet, noch einen, der ohne »ver-

niinfligen« Grund bei dem Gedanken ersdirickt, Freiheit

und Wiirde seien absurde und iiberholte Begriffe.Der Technologe behauptet immer wieder, Ansichten wie

die hier vorgetragenen seien anti-tedmisdi, anti-wissen-

schaA:lichund schlieBlich anti-intellektuell. Er wird versu-

chen, alle Argumente gegen seine groBenwahnsinnigen

Visionen als Argumente fiir die Abkehr von VemunA:,

Rationalitat, NaturwissenschaA: und Technik auszugeben,

als Pladoyer fiir pure Intuition, Gefiihl, drogen-induzier-

tes Bewuiltsein usw. In Wirklichkeit spreche ich fu r eine

Rationalitat, Aber ic h behaupte, daB man Rationalitat

nicht von Intuition trennen kann. Ich pladiere fUr denrationalen Einsatz von NaturwissenschaA: und Tedmik,

nicht fiir deren Mystifikation und erst recht nicht fiir deren

Aufgabe. Ich fordere die EinfUhrung eines ethischen Den-

kens in die naturwissenschaA:liche Planung. Ich bekampfe

den Imperialismus der instrumentellen VernunA:, nicht dieVernunA:an sich.

Es wird behauptet, man konne immer Manner finden, die

der Ansicht waren, ihre Zeiten seien voll der emstesten An-

zeichen bevorstehender Katastrophen, ja, daB ihre Zeit die

schlechteste aller moglidien Zeiten fUr die ganze Menschheitsei. Zugegeben, wir, die wir die Zeit erlebt und bewuBt er-

334

fahren haben, als der Faschismus iiberall den Sieg davon-

zutragen schien, wir sahen bereits das Ende aller Zivilisa-

tion auf uns zukommen. Irgendwie hat die Zivilisation

diese Bedrohung iiberlebt - eine Bedrohung, die die heutige

Generation nicht mehr verstehen kann. Aber damit ist

nicht gesagt, daB die Zivilisation sie oder den Weltkrieg,

der nur zwei Jahrzehnte zurllcklag, unversehrt iiberstanden

hat. Wir haben wie niemals zuvor erfahren, was der Menschseinen Mitmenschen antun kann. Deutschland verwirk-

lichte die »Endlosung« des »judenproblemse wie ein Lehr-

stiick in instrumenteller VernunA:. Die Menschheit befiel ein

kurzes Schaudem, als sie ihren Blick nicht langer von dem

Gesdiehenen abwenden konnte, als die von den Mordern

selbst aufgenommenen Bilder die Runde machten und als

die traurigen Uberlebenden wieder aus dem Dunkel auf-

tauchten, Aber am Ende machte es keinen Unterschied.

Dieselbe Logik, dieselbe kalte und erbarmungslose Anwen-

dung rechenhaA:er VemunA: sdilachtete in den folgendenzwanzig Jahren mindestens ebenso viele Menschen ab wieden Technikem des Tausendjahrigen Reiches zum Opfer

gefallen waren. Wir haben nichts dazugelemt. Die Zivilisa-

tion ist noch genauso gefahrdet wie damals.

Aber wie jede Zeit dieselben Kassandrarufe vemommen

hat, so hat auch jede Zeit gelemt, als wie wenig prophe-

tisch sie sich stets herausstellen sollten. Es sind sehr viele

Zivilisationen vemichtet worden, doch nie die ganze

Menschheit. Aber diesmal ist es anders. Vielleicht konnen

wir es nicht mehr horen, aber es ist nicht zu leugnen: diesesMal ist der Mensch in der Lage, alles zu vernichten. Nur

seine eigenen Entscheidungen konnen ihn davor be-

wahren.

Man kann auch oA:vemehmen, Religion sei das Opium des

Volkes gewesen. Ich vermute, daB damit gesagt werden

sollte, daB man Menschen mit Visionen vom guten Leben

betaubte, das sie sicher erwarten wiirde, wenn sie nur gedul-

dig in der irdischen Holle ausharrten, die ihre Herren

ihnen bereitet hatten. Andererseits kann es sein, daB Reli-

gion iiberhaupt kein Suchtmittel war. Ware sie das gewe-sen, dann ware vermutlich Gott nicht gestorben, und die

335



neue Rationalitat harte nicht ihren Sieg iiber die Gnade

Gones davongetragen. Aber eine instrumentelle Vernunft

eine triumphierende Technik und eine ziigellose Natur-

wissenschaft s ind Sudirmittel. Sie schaffen eine konkrete

Wi~kl~~keit, einen sich selbst erfullenden Alptraum. Dieoptimistisdien Technologen haben moglicherweise doch

recht: vielleicht haben wir den Punkt erreicht, an dem es

kein Zuriick. mehr gibt. Aber ist das ein Grund fUr dieMannschaft, die uns so weit gebracht hat, in Jubelrufe aus-

zubrechen? Warum sehen die Passagiere nicht von ihren

Spielbrettern auf? Und schlieBlich, da endlich wir anstelle

G?ttes .mit dem Universum Wiirfel spielen, wie schaffenwir es, immer nur Gewinnwiirfe hinzulegen?

10.Gegen den Imperialismus derinstrumentellen Vernunft

DaB der Mensch durch die Mittel seiner Naturwissenschaft

und Technik eine enorme Macht angehaufl hat, ist eine der-

art banale Platitude, daB sie zwar paradoxerweise nochgenauso verbreitet ist wie eh und je, in einer ernsthaften

Unterhaltung jedoch nicht mehr so oft wiederholt wird. Zu

dem Paradoxon kommt es, wei! eine Planheit, die aufhort,

Allgemeinplatz zu sein, nicht mehr als Plattheit wahr-

genommen wird. In bestimmten Kreisen, wo sie des lange-

ren nicht mehr vorgebracht wurde, kann sie sogar als ihr

Gegenteil aufgefaBt werden, namlidi als profunde Wahr-

heit. Auch darin liegt eine Parabel: die Macht, die der

Mensch durch seine Naturwissenschaft und Technik erwor-

ben hat, hat sichin Ohnmacht verkehrt.Von Arbeiten wird das bestimmt so empfunden. In einer

Untersuchung der Alltagsarbeit in Amerika schreibt Studs

Terkel:

-B e i den meisten z eig t s ic h kaum verhohlene Unzufriedenheit . .. )Im

bin eine Masdiine-, sagt der Punktsdrweiiier. >I m bin in einem Kiifig

eingesperrt<, sagt der Bankbeamte, der damit nur dem Hotelportier

aus dem Mund spridn, )Im bin ein Packesels , sagt der Stahlarbeiter.

)Meine Arbeit konnte genausogut ein Affe madien- , sagt die Emp-

fangsdame. )Im bin weniger als ein landwirtschafllidier ZubehOr-

artikel-, sagt der Wanderarbeiter. )Im bin ein Objekt-, sagt das Man-

nequin. Ob sie im blauen oder im weillen Kittel arbeiten, bei allen

kommt es auf dasselbe heraus: )Im bin ein Roboter.e«

Vielleicht glauben die einfachen Leute, daB sie zwar madit-

los sind, daB es aber eine Macht gibt, namlidi die, die von

ihren Fiihrern ausgeiibt wird. Aber wie wir gesehen haben,

ist der amerikanische AuBenminister der Ansicht, daB Er-

eignisse sich einfach »zutragen«, und der Vorsitzende der

Vereinigten Stabschefs der USA bekennt, ein Sklave der

Computer geworden zu sein. Auch unsere Fuhrer suchen

vergeblich danach, wo die Macht geblieben ist.I s. Terkel, Working, New York 1974, S.XI.

337

weizenbaum light

Documents