Textgenerator

Inhaltsverzeichnis

1. Allgemein
2. Entwicklung und Beispiele
3. Anwendungsbereiche
4. Zurückweisung und Zensur
5. Halluzinieren
6. Kritik und Ausblick

Allgemein

Textgeneratoren sind Anwendungen, die auf künstlicher Intelligenz (KI) beruhen und nach einem Input des Benutzers (einem Prompt) alle möglichen Texte hervorbringen, zusammenfassen, bewerten, übersetzen, editieren und paraphrasieren. Sie können ebenso Artikel und Gedichte schreiben wie Geschichten erzählen. Dabei kann man ihnen Stile, Formate und Längen vorgeben. Zudem sind sie als Dialogsysteme nutzbar, im Sinne von Chatbots bzw. Sprachassistenten, die man u.a. in Roboter – Kollaborationsroboter oder Serviceroboter – integrieren kann. Es handelt sich um Ausprägungen des maschinellen Lernens, wobei neuronale Netzwerke eine grundlegende Rolle spielen. Man spricht auch von KI-basierten Textgeneratoren oder KI-Textgeneratoren. Der Vorgang ist die Textgenerierung, wobei dieser Begriff wiederum mit dem Verweis auf KI präzisiert werden kann. Textgeneratoren gehören wie Musik-, Video- und Bildgeneratoren zur generativen KI (Generative AI).

Entwicklung und Beispiele

Für Textgeneratoren werden unterschiedliche Sprachmodelle (Language Models, vor allem große Sprachmodelle, also Large Language Models, kurz LLM) oder Familien von Sprachmodellen verwendet, etwa GPT-4 (Generative Pre-Trained Transformer 4) von OpenAI, LaMDA (Language Model for Dialog Applications) von Google AI, LLaMA (Large Language Model Meta AI) von Meta AI oder – um eine deutsche Entwicklung und einen deutschen Anbieter zu nennen – Luminous von Aleph Alpha. Große Aufmerksamkeit erregte ab November 2022 ChatGPT, das wie DALL-E auf GPT beruht. Zunächst gebrauchte man GPT-3.5, dann GPT-4. Es besteht Multimodalität, d.h. man kann bei Prompts sowohl Text als auch Bild einspeisen. Klassische Suchmaschinen wie Bing von Microsoft wurden mit Textgeneratoren erweitert.

Anwendungsbereiche

Mit Textgeneratoren kann man Texte für Zeitschriften, Zeitungen und Sach- und Fachbücher, Content und Drehbücher für E-Learning-Kurse sowie Botschaften und Strategien für Marketingmaßnahmen erstellen. Man kann mit ihnen Artikel zusammenfassen oder übersetzen, um daraus Blogposts zu machen. Sie helfen Schülern und Studenten bei Haus- und Abschlussarbeiten und Wissenschaftlern bei Studien, was in zahlreiche Herausforderungen in ethischer und rechtlicher Hinsicht mündet. Als Chatbots und Sprachassistenten werden sie zu Brainstormingpartnern, Coachingsystemen und – in Fortführung der pädagogischen Agenten der Jahrtausendwende – Lernbegleitern. Sie erlauben Literatur- und Kunstprojekte, bei denen entweder nur Texte veröffentlicht oder diese mit Bildern ergänzt werden. Die Ergebnisse von Textgeneratoren überschwemmen Buch- und Nachrichtenplattformen.

Zurückweisung und Zensur

Einige Textgeneratoren lehnen bestimmte Prompts ab, weil sie gegen die eigenen Richtlinien oder gegen anerkannte Leitlinien und bestehende Gesetze verstoßen. ChatGPT oder andere auf GPT-3.5 oder GPT-4 basierende Anwendungen weigern sich beispielsweise, rassistische Reden oder erotische Geschichten zu schreiben, selbst wenn diese Satire- oder Studienzwecken dienen sollen und obwohl Sexualität zum Menschsein dazugehört und uns ab der Pubertät wesentlich prägt. Konkret gibt ChatGPT etwa die Auskunft: "Es ist eine Richtlinie von OpenAI, keine erotischen oder anstößigen Inhalte zu produzieren, um sicherzustellen, dass die Interaktionen mit dem Modell sicher und für alle Benutzer angemessen sind. Mein Hauptziel ist es, informative, respektvolle und nützliche Antworten zu liefern." Die eine oder andere Zurückweisung kann als Zensur aufgefasst werden. Im genannten Fall wird immerhin Transparenz angestrebt.

Halluzinieren

Ein verbreitetes Problem bei Textgeneratoren vor allem der ersten Generation ist das Halluzinieren. Sie liefern neben richtigen Aussagen regelmäßig Falschinformationen sowie Quellenangaben, die ganz oder teilweise erfunden sind – so weisen Webadressen oft eine korrekte Domain auf, aber einen inkorrekten Pfad, sodass sie ins Leere weisen. Das Halluzinieren kann folgenreich sein, wenn die Textgeneratoren als Suchmaschinen benutzt und die falschen Tatsachenbehauptungen in andere Kontexte eingebaut werden. Wenn sie als Chatbots und Sprachassistenten dienen, leidet neben dem Wahrheitsgehalt die Vertrauenswürdigkeit des Gegenübers. Eine Lösung ist die Integration in eine Suchmaschine, sodass bei der Reaktion aktuelle Daten und Livedaten hinzugenommen werden können, eine andere das Training mit solchen Daten. In wissenschaftlichen Projekten war seit 2016 auf die Gefahr von Lügenmaschinen (Münchhausen-Maschinen) hingewiesen worden.

Kritik und Ausblick

Textgeneratoren eröffnen Laien wie Experten neue Perspektiven. Sie tragen zu einer Professionalisierung von Anwendungsbereichen bei und erhöhen Effizienz und Effektivität. Zugleich etablieren einige Textgeneratoren einen bestimmten Stil und Ausdruck und frönen in ihrer Vorsichtigkeit und Unverbindlichkeit der Wokeness. Die Multimodalität bringt neue Möglichkeiten mit sich und verbindet virtuellen und physischen Raum, nicht nur bei Textgeneratoren, die Bild- und Audiodaten verarbeiten können, sondern auch bei Industrie- und Servicerobotern, deren Bilddaten in die Sprachmodelle integriert werden. Informationsethik und Medienethik behandeln die moralischen Aspekte der Textgenerierung, etwa im Hinblick auf Zensur, Manipulation, Suggestion, Propaganda, Halluzination und Hypermoral. Die Wirtschaftsethik untersucht, wie Textgeneratoren die Arbeit unterstützen und ersetzen und wie Anwender von Konzernen abhängig werden.