Das Blog im Apfelpürée

Wenn aus einer technischen Entwicklung eine Drohkulisse wird

Da taucht auf Instagram ein Beitrag auf, der verkündet, OpenAI würde neuerdings unsichtbare Wasserzeichen in ChatGPT-Texte einbauen. Software könnte diese Markierungen erkennen, selbst wenn der Text völlig unauffällig aussieht. Und schon steht die nächste Drohung im Raum: Wer mit ChatGPT Newsletter, Blogartikel oder Social-Media-Beiträge schreibt, könnte möglicherweise rechtliche Schwierigkeiten bekommen. Das klingt erst einmal beunruhigend. Und genau darauf setzen solche Beiträge.

Das Muster kennen wir inzwischen zur Genüge. Irgendeine technische Neuerung, eine gesetzliche Regelung oder eine angeblich bevorstehende Änderung bei ChatGPT wird aufgegriffen, dramatisch zugespitzt und mit der unausgesprochenen Botschaft versehen: Pass bloß auf, sonst bekommst du ein Problem! Und weiter: Ich habe übrigens (gegen Bezahlung) eine Lösung für dich.

Mal drohen angeblich Abmahnungen wegen KI-generierter Texte, mal soll die EU die Nutzung künstlicher Intelligenz drastisch einschränken, mal wird behauptet, ChatGPT würde heimlich sämtliche Gespräche auswerten und weitergeben. Oft steckt irgendwo ein wahrer Kern dahinter. Aber der wird so lange aufgeblasen, bis daraus eine Geschichte wird, die möglichst viele Menschen verunsichert.

Und natürlich lässt sich mit Angst Aufmerksamkeit erzeugen. Aufmerksamkeit bringt Klicks, Reichweite und gegebenenfalls Kunden für irgendwelche zweifelhaften Beratungsangebote.

Ein Wasserzeichen in einem Text? Wie soll das funktionieren?

Als ehemaliger ITler hat mich zunächst eine ganz praktische Frage beschäftigt: Wie will man eigentlich ein unsichtbares Wasserzeichen in einen gewöhnlichen Text einbauen?

Ich übernehme Texte aus ChatGPT grundsätzlich in einen reinen Texteditor, der den Text als ASC-II-Zeichenfolge ausgibt. Da gibt es keine versteckten Formatierungen, keine eingebetteten Bilder und keine geheimen Metadaten. Übrig bleibt eine Folge von Zeichen.

Natürlich lassen sich in Unicode-Texten unsichtbare Zeichen unterbringen. Die kann man aber erkennen und entfernen. In einem auf gewöhnliche ASC-II-Zeichen beschränkten Text ist dafür ohnehin kaum Platz.

Etwas raffinierter sind statistische Wasserzeichen. Dabei beeinflusst das Sprachmodell seine Wortwahl nach einem bestimmten mathematischen Muster. Die Markierung steckt gewissermaßen in der Verteilung der verwendeten Wörter. Wer den Text mit einem geeigneten Verfahren untersucht, kann unter Umständen feststellen, dass er von einer bestimmten KI erzeugt wurde. Und mitunter ist die KI-Sprache anhand typischer Floskeln auch ohne jedes Toll zu identifizieren.

Solche Verfahren werden tatsächlich erforscht. Allerdings sind sie keineswegs unfehlbar. Je kürzer ein Text ist und je stärker er nachträglich verändert wird, desto schwieriger wird die Erkennung.

Und damit sind wir bei einem grundsätzlichen Problem: Ein Text ist kein unveränderliches digitales Objekt. Man kann Wörter austauschen, Sätze umstellen, Absätze neu formulieren oder den gesamten Text von einer anderen KI überarbeiten lassen. Und schon ist das ursprüngliche statistische Muster möglicherweise verschwunden.

Ein dauerhaftes, unter allen Umständen nicht entfernbares Wasserzeichen in einem frei bearbeitbaren Text ist technisch nicht machbar. Wer etwas anderes behauptet, müsste erst einmal erklären, wie das funktionieren soll.

Anmerkung: Bei Bild- oder Videomaterial ist das etwas völlig anderes, aber darum geht es hier nicht.

Und dann kommen die Wasserzeichen-Entferner

Man braucht nicht viel Fantasie, um sich vorzustellen, was als Nächstes passiert.

Sobald ein Verfahren zur Kennzeichnung von KI-Texten größere Verbreitung findet, werden Programme auftauchen, die solche Markierungen entfernen sollen. Dafür müssen sie das ursprüngliche Muster nicht einmal kennen. Es genügt, den Text sprachlich so zu verändern, dass die statistischen Eigenschaften nicht mehr zu dem ursprünglichen Wasserzeichen passen. Im Grunde kann aber bereits ein zweites Sprachmodell diese Aufgabe übernehmen: Text in ChatGPT oder Claude erstellen und dann mit Apple Intelligence überarbeiten. Oder so ähnlich.

Die Hersteller werden ihre Verfahren verbessern, die Entwickler entsprechender Gegenmaßnahmen werden nachziehen. Ein technisches Wettrüsten, dessen Nutzen man durchaus hinterfragen darf.

Denn selbst wenn ein Wasserzeichen zuverlässig erkannt wird, bleibt die entscheidende Frage offen: Was genau wurde damit eigentlich nachgewiesen?

Von Menschen gedacht, von KI geschrieben

Mit dieser Frage habe ich mich bereits in meinem Beitrag „Von Menschen gedacht, von KI geschrieben“ beschäftigt.

Wer KI lediglich als Automaten betrachtet, dem man ein Thema vorgibt und der anschließend einen fertigen Artikel ausspuckt, hat von ernsthafter KI-unterstützter Textarbeit wenig verstanden.

Meine Arbeitsweise bei der Texterstellung sieht anders aus: Ich entwickle Gedanken, diskutiere mit ChatGPT Thesen, hinterfrage Argumente und lasse mir von ChatGPT Gegenpositionen aufzeigen. Manchmal dauert ein solcher Dialog Stunden oder sogar Tage. Dabei entstehen neue Überlegungen, andere werden verworfen, manche grundlegend verändert.

Irgendwann bitte ich ChatGPT, aus dem Gespräch einen zusammenhängenden Text zu formulieren. Den überarbeite ich anschließend, ergänze ihn, streiche Passagen oder lasse einzelne Abschnitte neu formulieren.

Wer ist nun der Urheber dieses Textes?

Die Frage ist schon deshalb schwierig, weil sich geistige Arbeit und sprachliche Formulierung nicht sauber voneinander trennen lassen. Hinzu kommt, dass die rechtliche Urheberschaft noch einmal eine andere Frage ist. Das Urheberrecht schützt menschliche schöpferische Leistungen und nicht jede Idee, die jemand entwickelt hat.

Aber für die Beurteilung der geistigen Eigenleistung ist entscheidend, wer die Gedanken entwickelt, die Argumentation aufgebaut und die inhaltlichen Entscheidungen getroffen hat.

Und darüber sagt ein Wasserzeichen überhaupt nichts aus.

Wenn das Wasserzeichen die falsche Geschichte erzählt

Ich würde diese Überlegung sogar noch zuspitzen:

Ein Wasserzeichen kann bei der Beurteilung menschlicher Eigenleistung geradezu in die Irre führen.

Nehmen wir zwei Autoren:

Der erste gibt ChatGPT die Anweisung, einen ausführlichen Artikel über ein bestimmtes Thema zu schreiben. Er übernimmt das Ergebnis, ohne sich weiter damit zu beschäftigen, und veröffentlicht es unter seinem Namen.

Der zweite beschäftigt sich seit Jahren mit dem Thema. Er bringt sein Wissen und seine Erfahrungen ein, diskutiert mit ChatGPT über verschiedene Aspekte, entwickelt neue Argumente und lässt schließlich aus diesem Arbeitsprozess einen Artikel formulieren.

Beide Texte könnten dasselbe technische Wasserzeichen tragen - theoretisch zumindest.

Nun lässt der erste Autor seinen vollständig KI-generierten Artikel durch ein anderes Sprachmodell umschreiben. Das ursprüngliche Wasserzeichen ist anschließend möglicherweise nicht mehr nachweisbar.

Der zweite Autor veröffentlicht seinen sorgfältig entwickelten Text dagegen weitgehend in der Form, die ChatGPT nach der gemeinsamen Arbeit formuliert hat. Sein Text trägt weiterhin ein erkennbares Wasserzeichen.

Und jetzt?

Ausgerechnet der Autor, der die größere geistige Leistung erbracht hat, könnte anhand des Wasserzeichens als vermeintlicher KI-Autor identifiziert werden. Während der andere, der praktisch keine eigene Arbeit investiert hat, möglicherweise unbehelligt bleibt. Das ist keine besonders überzeugende Methode, um menschliche Eigenleistung zu beurteilen.

Natürlich kann ein Wasserzeichen unter geeigneten Bedingungen einen technischen Hinweis auf die Beteiligung eines Sprachmodells liefern. Aber daraus lässt sich weder die Originalität eines Textes noch der Umfang der menschlichen Arbeit ableiten.

Wer das trotzdem tut, verwechselt die technische Entstehung einer Formulierung mit der geistigen Entstehung ihres Inhalts.

Die Angst vor der Abmahnung

Zurück zu den Instagram-Beiträgen.

Besonders wirkungsvoll wird die Geschichte natürlich dann, wenn man das Wasserzeichen mit möglichen rechtlichen Konsequenzen verknüpft.

Ja, die EU hat mit dem AI Act tatsächlich Transparenzpflichten für bestimmte KI-generierte Inhalte vorgesehen. Dabei muss man allerdings unterscheiden, welche Pflichten die Anbieter von KI-Systemen treffen und welche die Personen, die solche Systeme verwenden.

Auch ist keineswegs jeder Text, bei dessen Entstehung ChatGPT beteiligt war, automatisch kennzeichnungspflichtig. Die Vorschriften unterscheiden nach Art der Inhalte, ihrem Verwendungszweck und weiteren Voraussetzungen. Für bestimmte Veröffentlichungen gibt es ausdrücklich Ausnahmen, etwa bei menschlicher Überprüfung und redaktioneller Verantwortung.

Wer aus diesen Regelungen die pauschale Behauptung ableitet, jeder mit ChatGPT formulierte Newsletter müsse künftig als KI-Text gekennzeichnet werden, macht es sich reichlich einfach.

Und die Vorstellung, irgendein Abmahnanwalt könne anhand eines statistischen Wasserzeichens zweifelsfrei feststellen, wer einen Artikel geschrieben hat und ob dessen Veröffentlichung rechtswidrig ist, gehört eher ins Reich der Fantasie. Obwohl, bei Abmahnanwälten weiß man nie...

Das bedeutet selbstverständlich nicht, dass man die gesetzlichen Vorschriften ignorieren sollte. Aber zwischen einer konkreten rechtlichen Verpflichtung und einer auf Instagram verbreiteten Drohung besteht ein erheblicher Unterschied.

Die Bürokratie wird es schon richten

Damit ist die Geschichte mit den Wasserzeichen allerdings noch lange nicht vom Tisch.

Wir Deutschen verfügen schließlich über eine hochentwickelte Skepsis gegenüber nahezu jeder technischen Innovation (man denke an die Magnetschwebebahn, die wir an China verscherbelt haben oder an die Angst vor der Kernenergie, in deren Folge wir lieber ein ganzes Land wirtschaftlich an die Wand fahren - ich will das nicht weiter vertiefen, sonst schreibe ich mich in Rage...). Sobald etwas Neues auftaucht, stellt sich weniger die Frage, welche Möglichkeiten sich daraus ergeben, sondern zunächst einmal, welche Gefahren damit verbunden sein könnten und wie man diese möglichst umfassend reguliert.

Ich bin deshalb ziemlich sicher, dass sich auch für KI-generierte Texte noch ein entsprechendes bürokratisches Regelwerk entwickeln lässt. Mit Kennzeichnungspflichten, Dokumentationsvorgaben, Ausnahmeregelungen und selbstverständlich einer zuständigen Aufsichtsbehörde.

Vielleicht braucht es dafür sogar eine neue Behörde. Mit einem Bundesbeauftragten für die Kennzeichnung KI-generierter Texte, einer entsprechenden Verordnung und einem mehrseitigen Antragsformular. Einzureichen in dreifacher Ausfertigung, vorzugsweise per Fax. Schließlich wollen wir bei aller Digitalisierung bewährte Verwaltungsverfahren nicht leichtfertig aufgeben.

Und die EU scharrt vermutlich ebenfalls schon mit den Hufen. Dort hat man schließlich reichlich Erfahrung darin, aus gut gemeinten Absichten umfangreiche Regelwerke zu entwickeln, die keinem wirklich einen Vorteil bringen.

Die Vorstellung, dass Menschen mithilfe künstlicher Intelligenz plötzlich schneller, produktiver und vielleicht sogar besser schreiben können, dürfte manchen Regulierer eher beunruhigen als begeistern. Da muss doch etwas zu verbieten sein!

Ganz so weit ist es bislang nicht. Der AI Act verbietet selbstverständlich nicht generell das Schreiben mit künstlicher Intelligenz. Aber die Richtung, in die sich die Regulierung entwickeln könnte, gibt durchaus Anlass zur Sorge. Man erinnere sich an das Datenschutzmonster, das kein kleineres Unternehmen bewältigen kann. Immerhin wurde ein Markt für eine ganze Beraterbranche geschaffen.

Denn je komplizierter die Vorschriften werden, desto größer wird die Gefahr, dass am Ende ausgerechnet diejenigen benachteiligt werden, die KI offen und verantwortungsbewusst einsetzen. Während andere ihre Texte einfach durch ein zweites Sprachmodell schicken und anschließend behaupten, alles selbst geschrieben zu haben.

Man kann sich schwerlich eine widersinnigere Entwicklung vorstellen.

Ein echtes Problem: Wenn KI die Prüfungsleistung übernimmt

Bei aller Kritik an Wasserzeichen und Kennzeichnungspflichten gibt es allerdings einen Bereich, in dem ich tatsächlich ein ernsthaftes Problem sehe: schriftliche Arbeiten, die als Nachweis einer persönlichen Befähigung dienen sollen.

Das betrifft vor allem die akademische Ausbildung und Laufbahn. Hausarbeiten, Bachelor- und Masterarbeiten, Dissertationen und andere wissenschaftliche Arbeiten sollen schließlich belegen, dass jemand in der Lage ist, sich selbstständig mit einem Thema auseinanderzusetzen, Informationen auszuwerten, wissenschaftlich zu arbeiten und daraus eigene Schlussfolgerungen zu ziehen.

Wenn nun eine KI wesentliche Teile dieser Arbeit übernimmt, stellt sich durchaus die Frage, was mit einer solchen Prüfungsleistung eigentlich noch nachgewiesen wird.

Allerdings hilft uns auch hier das Wasserzeichen nicht weiter. Denn wie soll ein Prüfungsamt unterscheiden, ob ein Student seine Arbeit vollständig von ChatGPT schreiben ließ oder ob er über Wochen hinweg mit einer KI diskutiert, recherchiert, Argumente entwickelt und seine Ergebnisse anschließend sprachlich ausarbeiten lassen hat? Ein KI-Detektor kann diese Unterscheidung nicht treffen. Und ein Wasserzeichen schon gar nicht.

Vielleicht sollten wir deshalb eine grundsätzlichere Frage stellen:

Sind umfangreiche schriftliche Arbeiten überhaupt noch ein zeitgemäßes Mittel, um die Befähigung eines Menschen nachzuweisen?

Das Problem ist keineswegs erst mit ChatGPT entstanden. Ich war selbst einmal Krankenpfleger, bevor ich in die IT-Welt wechselte. Meine damalige Abschlussarbeit war jedenfalls detaillierter und aufwendiger als das Gros der ärztlichen Doktorarbeiten, die ich später kennengelernt habe (andere Fakultäten haben tatsächlich andere und ernsthaftere Anforderungen).

Natürlich gibt es anspruchsvolle medizinische Dissertationen, hinter denen jahrelange Forschungsarbeit steckt. Aber es gibt eben auch Arbeiten, bei denen sich der wissenschaftliche Erkenntnisgewinn in recht überschaubaren Grenzen hält – und das sind leider die meisten. Gerade in der Medizin ist der Doktortitel teilweise zu einer Art akademischem Standard geworden, obwohl die Anforderungen an die zugrunde liegenden Arbeiten höchst unterschiedlich sind. Und das alles lange bevor ChatGPT auf der Bildfläche erschien.

Vielleicht zwingt uns die KI nun endlich dazu, darüber nachzudenken, was wir mit solchen Arbeiten eigentlich überprüfen wollen.

Geht es darum, dass jemand möglichst viele Seiten Text produziert? Dass er wissenschaftliche Literatur zusammenfassen kann? Dass er die Regeln wissenschaftlichen Zitierens beherrscht? Oder geht es darum, dass er ein Problem versteht, eigenständig darüber nachdenken und seine Ergebnisse fachlich vertreten kann?

Wenn Letzteres das Ziel ist, wären andere Prüfungsformen möglicherweise geeigneter. Ein ausführliches Fachgespräch beispielsweise, in dem der Kandidat seine Arbeit erläutern, seine Entscheidungen begründen und auf kritische Nachfragen reagieren muss. Oder eine praktische Aufgabenstellung, die unter kontrollierten Bedingungen bearbeitet wird.

Auch eine Kombination wäre denkbar: Die schriftliche Arbeit darf ausdrücklich mit KI-Unterstützung entstehen, anschließend muss der Verfasser aber nachweisen, dass er die Inhalte verstanden hat und fachlich vertreten kann. Das wäre zumindest ehrlicher, als mit immer ausgefeilteren Detektionsprogrammen nach vermeintlichen KI-Spuren zu suchen.

Für eine wissenschaftliche Laufbahn bleiben eigenständige Forschung, methodische Sorgfalt und nachvollziehbare Ergebnisse selbstverständlich unverzichtbar. Aber vielleicht sollten wir die Fähigkeit, einen langen Text zu verfassen, nicht länger mit wissenschaftlicher Befähigung gleichsetzen.

Die eigentliche Gefahr: Wenn niemand mehr genau hinschaut

Was mich an solchen Instagram-Beiträgen, wie eingangs erwähnt, zunehmend stört, ist die Art, wie technische und rechtliche Entwicklungen präsentiert werden.

Da wird eine Nachricht aufgegriffen, ein wenig zugespitzt, mit möglichen Konsequenzen versehen und anschließend so dargestellt, als müsse sich nun jeder ChatGPT-Nutzer ernsthafte Sorgen machen.

Eine vernünftige Einordnung findet häufig kaum statt. Dabei wären gerade bei solchen Themen einige Fragen angebracht: Was wurde tatsächlich beschlossen? Was ist technisch möglich? Welche Einschränkungen gibt es? Wen betrifft eine Vorschrift überhaupt? Und was davon ist bislang lediglich eine Vermutung?

Stattdessen werden aus Möglichkeiten Gewissheiten und aus theoretischen Risiken unmittelbar bevorstehende Katastrophen.

Das Problem ist keineswegs auf künstliche Intelligenz beschränkt. Ähnliche Mechanismen begegnen uns bei Gesundheitsthemen, politischen Entscheidungen, Datenschutzfragen oder neuen EU-Verordnungen. Die Empörung ist oft schon fertig, bevor sich jemand die Mühe gemacht hat, die ursprüngliche Quelle zu lesen.

Natürlich können Warnungen in sozialen Netzwerken auch berechtigt sein. Gerade deshalb sollte man sorgfältig unterscheiden, ob jemand tatsächlich informiert oder lediglich Aufmerksamkeit erzeugen will.

Und es wäre durchaus hilfreich, wenn sich diejenigen, die sich öffentlich als KI-Experten präsentieren, gelegentlich etwas intensiver mit den technischen Grundlagen beschäftigen würden, bevor sie ihre nächste Warnung veröffentlichen.

Wer hat den Text geschrieben?

Vielleicht sollten wir uns ohnehin von der Vorstellung verabschieden, man könne die Qualität und Eigenständigkeit eines Textes daran messen, ob bei seiner Entstehung künstliche Intelligenz verwendet wurde.

Ein schlechter, oberflächlicher Artikel wird nicht dadurch besser, dass ihn ein Mensch mühsam selbst getippt hat. Und ein fundierter, eigenständiger Gedankengang verliert nicht automatisch seinen Wert, weil ChatGPT bei seiner sprachlichen Ausarbeitung geholfen hat.

Entscheidend ist für mich, ob der Autor weiß, wovon er spricht, ob er seine Aussagen begründen kann und ob er die Verantwortung für das Geschriebene übernimmt.

Bei Prüfungsleistungen kommt hinzu, dass der Verfasser die geforderten Fähigkeiten tatsächlich selbst nachweisen muss. Wie wir das künftig überprüfen, wird uns vermutlich noch länger beschäftigen. Dabei hilft uns jedenfalls kein Wasserzeichen.

Übrigens ist auch dieser Artikel mit Unterstützung von ChatGPT entstanden. Die Überlegungen, Fragen und Argumente haben wir zuvor ausführlich diskutiert. Auch die Kritik an Wasserzeichen, die Überlegungen zur Bürokratie und die Frage nach dem Sinn akademischer Abschlussarbeiten stammen aus dieser Diskussion.

Wer jetzt herausfinden möchte, welche Sätze von mir und welche von der KI stammen, darf sich gerne daran versuchen.

Ich halte die Frage allerdings für ziemlich nebensächlich.