Self-Publisher sollen KI-Einsatz offenlegen – Wie sinnvoll ist Amazons neue Richtlinie?

Von ChatGPT geschriebene E-Books überschwemmen Amazons Self-Publishing-Plattform und werden zu Bestsellern. So suggerierten es Berichte in Online-Medien. Wer als Self-Publisher Manuskripte bei Amazon hochlädt, soll nun Auskunft geben, in welchem Umfang eine KI geholfen hat. Dabei wird zwischen »KI-generiert« und »KI-assistiert« unterschieden.

Neue Inhaltsrichtlinien zum KI-Einsatz

Derzeit berichten verschiedene Online-Medien, dass Amazon von mangelhaften E-Books überflutet werde, die mit einer KI wie beispielsweise ChatGPT erstellt wurden. Es gibt Screenshots der Amazon E-Book-Charts, die zeigen, dass einige der meistgekauften Bücher nicht von Menschen geschrieben wurde. Die Cover dieser Bücher sind meist mit dem Amazon-eigenen Cover-Generator erstellt.

Amazon self publishing is going through a thing right now…. pic.twitter.com/Cp1qr3HO0K

— Wesley Chu (@wes_chu) June 27, 2023

Nach Beschwerden hat Amazon begonnen, diese minderwertigen Titel aus der Datenbank zu löschen.

Außerdem gibt es in den Inhaltsrichtlinien für Self-Publisher nun einen eigenen Abschnitt, der definiert, wann und wie der Einsatz von KI kenntlich gemacht werden sollte – nicht muss.

KI-generiert oder KI-assistiert?

Amazon unterscheidet dabei zwischen »KI-generiert« und »KI-assistiert« und bezieht dies auf Texte, Bilder (auch Cover!) und Übersetzungen. Bei KI-generierten Inhalten bittet (sic!) Amazon darum, die Inhalte entsprechend zu kennzeichnen. Verpflichtend ist dies jedoch nicht. Ebenso wenig schreibt Amazon derzeit vor, wie genau die Kennzeichnung erfolgen soll.

KI-generiert bedeutet nach Amazons Definition, dass der ursprüngliche Inhalt von einer KI erstellt wurde, unabhängig davon, ob Text oder Bild anschließend von Menschen nachbearbeitet wurden.

KI-assistiert bedeutet, dass die Inhalte von Menschen erstellt wurden und die KI zur Optimierung eingesetzt wurde. Das kann ein Lektorat oder Korrektorat durch die KI sein oder die Ideenfindung mittels KI im Vorfeld.

Beim Upload eines Manuskripts fragt Amazon zudem über ein Formularfeld ab, in welchem Umfang eine KI für Texte, Bilder und Übersetzungen zum Einsatz kam. Hier jedoch tauchen in der Auswahl die beiden obigen Unterscheidungen nicht auf. Abgefragt wird stattdessen, ob Abschnitte oder das gesamte Werk durch eine KI erstellt wurden und ob dies »umfangreich« oder »minimal« geschah. Ebenso sollen die verwendeten Tools (ChatGPT, DALL-E, …) genannt werden.

Überprüfung derzeit unmöglich

Überprüfen kann Amazon den Einsatz einer KI ohnehin nicht zuverlässig. Selbst Erkennungstools des ChatGPT-Herstellers OpenAI können aktuell nicht zweifelsfrei herausfinden, ob ein Text von einem Menschen oder von ChatGPT stammt.

Wer mit billig zusammengeschusterten KI-Büchern andere abzocken will, wird seine Werke auch weiterhin nicht kennzeichnen. Amazons Abfragen sind daher nicht mehr als Symbolpolitik, um nach Beschwerden von Autorenverbänden etwas vorweisen zu können. Im besten Fall könnten nachgewiesene Falschangaben zu juristischen Konsequenzen führen.

Kann eine KI überhaupt Bücher schreiben?

Die Beiträge über KI-generierte Bestseller suggerieren mit ihren Überschriften, dass sich Programme wie ChatGPT schon mit menschlichen Urhebern messen können. Erst bei näherer Lektüre erfährt man, dass die von der KI geschriebenen Liebesromane oder Krimis große inhaltliche Schwächen aufweisen, keinen zusammenhängenden Plot haben und einfach nur Schrott sind.

Tatsächlich ist die öffentliche und kostenfreie Version 3.5 von ChatGPT nicht in der Lage, ganze Bücher kohärent zu verfassen. Dies liegt daran, dass die Software aufgrund der Rechenleistung maximal 3 bis 4 Seiten überblicken kann. Danach »vergisst« sie das zuvor Geschriebene, sodass die Handlung alles andere als logisch wird und Beschreibungen von Charakteren oder Orten plötzlich ganz anders ausfallen. Findige Autorinnen und Autoren versuchen, dies mit Kurzzusammenfassungen zu umgehen, aber für die Romanstrecke reicht dies nicht – vielmehr: noch nicht, denn bereits die Version 4 von ChatGPT überblickt das Doppelte an Textmenge, und es ist nur eine Frage der Zeit, bis die KI eine komplette Romanhandlung überschauen kann.

Anders sieht es aus, wenn es um Plottstruktur und inhaltliche Ideen geht, für die 4 Seiten ausreichen. Eben das, was Amazon »KI-assistiert« nennt.

Drei bis vier Seiten reichen aber auch, um »KI-generiert« eine ansprechende Leseprobe schreiben zu lassen, um Käuferinnen und Käufer zu täuschen. Dass der Rest des Textes zusammengemurkst ist, merkt man dann erst nach dem Kauf.

Problematischer ist der KI-Einsatz bei Ratgebern oder gar Kochbüchern. Hier kann die KI sehr schnell eine überzeugende Inhaltsstruktur erstellen und anschließend Kapitel für Kapitel schreiben, da diese weniger eng aufeinander aufbauen. Lesen Sie dazu auch diesen Beitrag: »So wie Passmann für Männer: »Pick me Boys« als KI-Experiment«.

Hierzulande hat unlängst der Burda-Verlag eine Zeitschrift mit 99 Pasta-Rezepten für Genießer am Kiosk verkauft, die komplett KI-generiert« war. Gekennzeichnet hat Burda dies ebenfalls nicht.

Wolfgang Tischer