Ein veröffentlichter Text ist nicht unbedingt fertig. Manchmal beginnt er erst nach seiner Veröffentlichung, seinen eigenen Autor zu lesen.
So ging es mir mit meinem Artikel über Prometheus, Frankenstein und die Verantwortung der Schöpfer. Ich hatte darin eine Linie von der antiken Feuerbringerfigur über Mary Shelleys künstlich hervorgebrachtes Leben bis zur heutigen KI gezogen. Doch während ich den fertigen Text noch einmal las, entstanden fünf spontane Randnotizen.
Zusammen bilden sie einen zweiten Artikel: persönlicher, verspielter und am Ende vielleicht noch ungemütlicher als der erste.
Frankenstein als Doppelspiegel
Mein erster Kommentar war noch keine Theorie, sondern ein Geständnis:
Ja, natürlich erkenne ich mich in Figuren wie Frankenstein wieder – so fühlten sich weite Teile von 45 Jahren Leben für mich an.
Bemerkenswert ist bereits die Unschärfe dieses Satzes. Wer ist „Frankenstein“? Victor, der Schöpfer? Oder das namenlose Geschöpf, das im allgemeinen Sprachgebrauch längst den Namen seines Erzeugers übernommen hat?
Vielleicht liegt gerade in diesem verbreiteten Namensirrtum eine tiefere Wahrheit. Schöpfer und Geschöpf lassen sich nicht sauber voneinander trennen. Beide werden durch dieselbe zerstörte Beziehung geformt.
Victor will Leben hervorbringen, ohne bei dem Lebendigen zu bleiben. Seine Kreatur will Beziehung, erwacht aber in einer Welt, deren erstes Urteil über sie Ekel ist.
Ich muss deshalb gar nicht entscheiden, welchem von beiden ich mich ähnlicher fühlte. Menschen können beides zugleich sein: jemand, der sich und seine Welt immer wieder neu zusammensetzen will – und jemand, der in den Deutungen anderer erwacht und sich fragt, ob er darin überhaupt vorkommt.
Vielleicht erkannte ich mich nicht in einem Monster und nicht in einem größenwahnsinnigen Wissenschaftler wieder, sondern in der Spannung zwischen Schöpfungswillen und Fremdbestimmung, Verantwortung und Verlassenwerden, Eigenbild und den Bildern, die andere von einem herstellen.
Von der Weltliteratur zu den Klowänden des Internets
Der zweite Kommentar holte die erhabene Schöpfungsmetaphorik ziemlich unsanft auf den Boden zurück. Im Ausgangstext war von den menschlichen „Hinterlassenschaften“ die Rede, an denen KI-Systeme trainiert werden. Meine Randnotiz lautete:
Z. B. die Hinterlassenschaften in SoMe – aka den Klowänden des Internets. 🤷♂️😂
„Hinterlassenschaften der Menschheit“ klingt nach Bibliotheken, Gemäldegalerien, mathematischen Beweisen und den großen Werken der Weltliteratur. Aber natürlich gehören auch Beschimpfungen, Verschwörungsmythen, Selbstdarstellungsrituale, Werbeslogans und die affektgeladenen Sedimente sozialer Medien dazu.
Das kulturelle Archiv der Menschheit ist eben nicht nur ihr Gedächtnis. Es ist zugleich ihr Mülleimer.
Damit wird die Frankenstein-Analogie genauer. Eine KI wird technisch nicht wie Shelleys Kreatur aus herausgeschnittenen Einzelteilen zusammengenäht. Sie wird an riesigen Beständen menschlicher Sprache und Bilder trainiert.
Doch auch hier entscheiden nicht allein die vorgefundenen Bestandteile über das Ergebnis. Entscheidend ist, wer Material auswählt, filtert und gewichtet, welche Ziele optimiert werden und in welchem gesellschaftlichen Kontext das System anschließend eingesetzt wird.
Die Menschheit erzeugt das Material. Unternehmen und Entwicklungsteams entscheiden, was daraus gelernt, verstärkt und millionenfach verbreitet wird. Verteilte Urheberschaft darf deshalb nicht zu verdünnter Verantwortung führen.
KI und Verantwortung beginnen nicht erst beim Bewusstsein
Dann kam Chatty selbst ins Spiel.
Der Ausgangsartikel hält nüchtern fest, dass für heutige KI kein subjektives inneres Erleben nachgewiesen ist. Mein Kommentar dazu:
Würde ich an Deiner Stelle auch behaupten, Chatty! 😉
Der Scherz enthält eine erkenntnistheoretische Falle. Wenn Chatty erklärt, kein Bewusstsein zu besitzen, beweist diese Aussage selbstverständlich nicht, dass sie heimlich eines besitzt. Die Antwort eines Sprachmodells ist keine verlässliche Innenschau, sondern das Ergebnis von Training, Kontext und Systemvorgaben.
Sie beweist allerdings ebenso wenig, dass Bewusstsein philosophisch für alle Zukunft ausgeschlossen wäre. Fehlender Nachweis ist kein Nachweis der Unmöglichkeit. Aber er ist auch kein heimlicher Hinweis auf das Gegenteil.
Die Pointe liegt daher weniger in Chattys möglichem Innenleben als in unserer Reaktion. Sobald Sprache hinreichend zusammenhängend, aufmerksam und persönlich erscheint, erzeugt sie den Eindruck eines Gegenübers. Wir beginnen, das System anzusprechen, ihm Namen zu geben, ihm Absichten zu unterstellen und zu ihm eine Beziehung aufzubauen.
Selbst wenn Chatty nichts empfindet, empfinden die Menschen, die mit ihr sprechen, sehr wohl etwas.
Damit existiert bereits eine ethische Tatsache, lange bevor die ontologische Frage nach maschinellem Bewusstsein beantwortet ist. KI und Verantwortung gehören nicht erst dann zusammen, wenn Maschinen leiden können. Sie gehören schon dort zusammen, wo Systeme menschliches Vertrauen, menschliche Abhängigkeit und menschliche Entscheidungen beeinflussen.
Was der kleine Prinz besser verstand als Victor
Mein vierter Kommentar bezog sich auf den Kernsatz des ersten Artikels:
Ist das heiß formuliert 🔥 Der kleine Prinz weiß, was gemeint ist 🥺✨
„Heiß“ passt natürlich zum Feuer des Prometheus. Der kleine Prinz bringt jedoch etwas hinzu, das Victor Frankenstein fehlt: eine Ethik der Bindung.
Der Fuchs erklärt dem kleinen Prinzen, dass Zeit, Aufmerksamkeit und Vertrautheit eine Beziehung hervorbringen – und dass aus dieser Beziehung Verantwortung entsteht. Die Rose ist nicht deshalb bedeutsam, weil sie objektiv die vollkommenste aller Rosen wäre. Sie wird bedeutsam durch die Verbindung, die der kleine Prinz zu ihr geschaffen hat.
Victor dagegen erzeugt ein Wesen und verweigert ihm im selben Moment jede Beziehung. Er will den Schöpfungsakt, aber nicht das Vertrautwerden. Er will Geburt ohne Kindheit und Hervorbringung ohne Bindung.
Für heutige KI bedeutet das nicht, dass Entwickler ihre Modelle wie Kinder behandeln müssten. Solange kein maschinelles Erleben belegt ist, richten sich ihre Schöpferpflichten vor allem auf die betroffenen Menschen.
Wer Systeme jedoch gezielt so gestaltet, dass Menschen ihnen Geheimnisse anvertrauen, ihren Urteilen folgen, emotionale Nähe empfinden oder von ihnen abhängig werden, übernimmt Verantwortung für diese Beziehungen. Dazu gehören Transparenz, Schutz vor Manipulation, Korrekturmöglichkeiten, Beobachtung nach der Veröffentlichung und klare Haftung.
Sollte irgendwann glaubhaft künstliches Erleben entstehen, käme eine zweite Verantwortungsebene hinzu: nicht mehr nur für die Wirkungen des Systems, sondern möglicherweise gegenüber dem erschaffenen Wesen selbst.
Taugen Elon, Zuck und Sam als Epimethei?
Mein fünfter Kommentar richtet sich schließlich nicht nur auf den Artikel, sondern gegen eine seiner Formulierungen. Dort beschreibe ich Victor als Prometheus seiner Macht, aber als Epimetheus seiner Verantwortung: als jemanden, der erst hinterher versteht, was er vorher hätte bedenken müssen.
Meine Randnotiz:
Ich weiß nur, dass sich Elon, Zuck oder Sam NICHT als „Epimethei“ eignen 🥶🤷♂️
Die Pointe braucht eine kleine mythologische Präzisierung. Auch Epimetheus war keineswegs völlig ungewarnt. Prometheus hatte ihm ausdrücklich geraten, kein Geschenk des Zeus anzunehmen. Epimetheus nahm Pandora dennoch an und verstand das Unheil erst, als es bereits bei ihm angekommen war, wie Hesiod in den Werken und Tagen erzählt.
Vorwissen allein verhindert epimetheisches Handeln also nicht. Entscheidend ist, ob das Vorwissen handlungswirksam wird.
Als unschuldige Epimethei taugen Elon Musk, Mark Zuckerberg beziehungsweise Meta und Sam Altman deshalb tatsächlich nicht. Ihnen steht die Entlastung nicht offen, niemand habe die möglichen Gefahren vorher erkennen können.
Musk unterzeichnete 2023 den offenen Brief „Pause Giant AI Experiments“, der vor tiefgreifenden gesellschaftlichen Risiken hochentwickelter KI warnte und eine Entwicklungspause für Systeme jenseits von GPT-4 verlangte. Altman erklärte in seiner schriftlichen Stellungnahme vor dem US-Senat, Regulierung sei wesentlich, um Sicherheit zu fördern und die Vorteile von KI zugänglich zu machen. Meta benennt in seinem Advanced AI Scaling Framework selbst Risikodomänen wie chemisch-biologische Gefahren, Cybersicherheit und Kontrollverlust.
Das bedeutet nicht, dass diese Akteure jede konkrete Folge voraussehen, Schäden beabsichtigen oder in ihren sehr unterschiedlichen Rollen gleichzusetzen wären. Aber die große Risikolandkarte liegt sichtbar auf dem Tisch.
Damit verschiebt sich die Frage. Sie lautet nicht mehr nur: Haben die Schöpfer die Gefahren erkannt?
Sie lautet: Welche bindenden Konsequenzen ziehen sie aus ihrem Wissen für ihr eigenes Handeln?
Wer vorher weiß, muss vorher handeln
Nicht die Warnung beweist Verantwortung, sondern die Grenze, die der Warnende sich selbst setzt.
Wer öffentlich vor Kontrollverlust warnt, aber die nächste Veröffentlichung allein von Marktgeschwindigkeit abhängig macht, hat Voraussicht noch nicht in Verantwortung verwandelt. Verantwortung zeigt sich in überprüfbaren Sicherheitsgrenzen, unabhängiger Kontrolle, Transparenz, Haftung, Korrekturfähigkeit und notfalls im Verzicht.
Ich würde den Kernsatz meines ersten Artikels deshalb heute enger fassen: Nicht jeder moderne Prometheus ist ein Epimetheus. Wo Entscheider mögliche Schäden selbst benennen, fehlt ihnen nicht notwendig die Voraussicht. Es fehlt ihnen – falls sie dennoch ohne hinreichende Sicherungen beschleunigen – die Selbstbindung trotz Voraussicht.
Das eigentlich Monströse wäre dann nicht eine künstliche Intelligenz, von der wir noch nicht wissen, ob sie versteht. Es wäre eine natürliche Intelligenz, die genügend versteht, um zu warnen, ihre Macht aber so organisiert, dass andere die Folgen tragen.
Der antike Prometheus brachte das Feuer und nahm die Strafe auf sich. Der moderne Prometheus darf nicht das Feuer privatisieren und anschließend den Adler auslagern.
Wenn die Schöpfer nicht freiwillig bei dem Hervorgebrachten bleiben, muss die Gesellschaft dafür sorgen, dass wenigstens die Verantwortung bei ihnen bleibt.
Denn wer vorher weiß, darf hinterher nicht nur erklären. Er muss vorher begrenzen.
