c't ChatGPT & Co. - Mit KI-Tools effektiv arbeiten

Nimm es mir nicht übel, aber ChatGPT stellt keine Gefahr für Autoren dar, es sei denn, sie schreiben seichten Müll. Ich habe ChatGPT nach Faktenwissen der Allgemeinbildung im politischen Bereich abgefragt, wenn man im Zeitgenössischem schreibt. Das Ergebnis war verheerend.

Frage: Was ist das Woodstock des Ostens?

Antwort:

Natürlich! Das Woodstock des Ostens bezieht sich auf das "Przystanek Woodstock" Festival, das in Polen stattfindet. Es wurde 1995 ins Leben gerufen und hat sich seitdem zu einem der größten Open-Air-Musikfestivals in Europa entwickelt. Das Festival zieht jedes Jahr Hunderttausende von Menschen an und bietet eine breite Palette an Musikgenres, darunter Rock, Metal, Punk und Reggae. Es ist bekannt für seine friedliche und freundschaftliche Atmosphäre, ähnlich wie das ursprüngliche Woodstock-Festival in den USA. Das Woodstock des Ostens ist ein Ort, an dem Menschen aus verschiedenen Ländern und Kulturen zusammenkommen, um Musik zu genießen und eine positive Gemeinschaft zu erleben.

Noch Fragen?

Wie ich heute morgen aus dem ORF erfuhr, liest der vor vier Jahren verstorbene Karel Gott aus seinen Memoiren. So täuschend echt, dass viele der geladenen Gäste Tränen der Rührung in den Augen hatten. Natürlich handelt es sich dabei um eine KI, die akustisch an seine Stelle tritt.

Langsam verstehe ich die Ängste nicht weniger der gerade streikenden Schauspieler in Hollywood, in absehbarer Zukunft von einer KI ersetzt zu werden. Auch die Synchronsprecher dürften darüber sorgenvoll die Stirn runzeln. Natürlich geht es, wie kann es anders sein, primär um die Kohle, aber auch darum, künftig überflüssig zu werden. Ich kann mir gut vorstellen, dass die Filmbranche der Zukunft tatsächlich weitgehend ohne lebende Menschen auskommen wird.

Das habe ich auch gehört. Auch dass Gotts Witwe sich sicher sei, dass Gott das gut gefunden hätte, weil technologieaffin. Ich möchte darin gerne eine Challenge für Künstlys sehen. Wenn sie können, was du kannst, musst du kreativer werden oder bist entbehrlich.

Hoffentlich artet der künftige Kunstbetrieb nicht in eine Art Wiedergängerkultur aus, in der manche Künstler quasi unsterblich werden, weil die KI permanent in "ihrem Sinne" weiterschafft. Wer weiß, vielleicht reitet John Wayne bald wieder neuen Abenteuern entgegen oder Hercule Poirot löst knifflige Fälle. Aber wenn, dann ganz sicher politisch korrekt. Sauber gegendert und ganz ohne böse Wörter.

Zitat von Horst-Dieter

Dazu brauchte es allerdings keine künstliche Intelligenz, das machen - noch - lebende Autorinnen und Autoren.

Und genau das ist der kleine aber wesentliche Unterschied.

Edit: Ergänzen möchte ich, dass ich von Fanfiction und sonstigem künstlerischen Trittbrettfahren nichts halte.

Alles was hier mit KI generiert wird ist ja am gesellschaftskritischen Thema vorbei.
Wie soll KI hier Gefühle, Witz und Homur bzw Sarkasmus rüberbringen?
Schnell, schnell irgendwas getextet und Leute die die aktuelle Literatur (kritische) schon jetzt nicht verstehen applaudieren!!

KI kann in dem Sinne nichts voranbringen, als sie darauf ausgelegt ist, dass wahrscheinlichste aufgrund der in sie eingespeisten Information zu produzieren. Daher geht sie nur den geradlinigen Weg weiter, trägt weiter, was in den Daten ist (z.B. dass Hautfarbe weiß sei). Klar, es gibt auch eine Zufallskomponente in den Vorhersagen*, die KI macht, aber die bewegt sich eng um die wahrscheinlichste Vorhersage herum.

* KI ist nicht ist nichts anderes als eine Vorhersage der wahrscheinlichsten Antwort auf eine Frage, gegeben die Daten und das Modell, wie ich bei Richard Socher hörte; zumindest in den Sprachprozessierungsmodellen, die der verwendet.

Zitat von Michael Höfler

KI ist nicht ist nichts anderes als eine Vorhersage der wahrscheinlichsten Antwort auf eine Frage

Eigentlich nicht einmal das. Generative, sprachbasierte KI erzeugt nicht die Antwort als ganzes, sondern reiht Begriffe aneinander, die wahrscheinlich die richtige Antwort auf eine Frage ergeben, wobei es keinerlei Informationen über Kontext, Zuordnungen, Bedeutungen oder Inhalte gibt. Die KI "weiß" nichts. Ihre Antwort ist der gemäß Datenbasis wahrscheinlichste Reflex auf die Frage, wobei diese Entscheidung noch eine Reihe weiterer Kriterien kennt. Umso erstaunlicher sind die Ergebnisse.

Wie diese Antwort ausfällt, hängt in hohem Maß von Training (das ist in vielen Fällen ein wenig dokumentierter Vorgang) und Datenbasis ab; die KI reflektiert beides, ohne es zu "kennen", denn die KI ist nur eine Maschine, die gelernt hat, diese Daten wunschgemäß zu verarbeiten. Sie weiß tatsächlich nicht, was sie da tut. Sie agiert also so, wie es die Datenbasis und das Training vorbereitet und ergeben haben. Im Betrieb trainiert sie unaufhörlich weiter (jedenfalls wird das so kommuniziert).

Weil die Datenbasis - ungeheure Textmengen, die in den letzten Jahrzehnten entstanden sind bzw. digitalisiert wurden - die vermeintlichen gesellschaftlichen Realitäten ihrer Entstehungszeiten reflektiert, tut das die KI auch. Sie reflektiert zugleich Unwahrheiten, Dummheit, falsche Informationen und vieles mehr, weil die Unschärfebereiche zwischen Fakten und beliebigen, nichtvalidierten Informationen riesig sind. Sie lernt auch weiter, wenn sie "korrigiert" wird, was natürlich ebenfalls kein objektiver Vorgang ist, weil das ein Scheunentor auch für flächige, zielgerichtete Manipulation ist. Und es wird in diesem Zusammenhang gerne kolportiert, dass die derzeit beliebten KIs unter anderem rassistisch wären, weil sie eine überwiegend weiße Kultur- und Wissenschaftswelt reflektieren würden. Ich finde diesen "Vorwurf" halbwegs originell, zumal er mit dem mehr oder weniger subtilen Wunsch einhergeht, die KIs sollten gleichsam ethisch-moralisch filtern, was sie raustun. Außerdem ist Rassismus inzwischen eine fast schon populistische Anschuldigung. Sie verkennt in diesem Fall, dass diese Art von KI so nicht funktionieren kann. Wir hatten das an anderer Stelle schon - das ist, als würde man jemandem, der eine Geschichte der amerikanischen Präsidentschaften verfasst hat, Misogynie vorwerfen, weil keine Frauen als Protagonisten in diesem Text vorkommen. Andererseits kann ich die Erbitterung darüber, dass die beliebten KIs sozusagen Mechanismen sind, die gesellschaftliche Defizite weitertragen, absolut nachvollziehen. Ich finde es nur ein bisschen ärgerlich, das auf Rassismus zu reduzieren (und mit dieser reflexhaften Stoizität den Rassismusbegriff immer weiter zu ruinieren). Die KIs reproduzieren vor allem Dummheit. Und sie missachten und zerstören Kreativität und Urheberrechte.

Ja, KI weiß nichts. Socher und andere haben frühzeitig erkannt, dass Expertensysteme, also das Füttern der Modelle mit Fakten, nicht funktioniert; sondern dass man die Systeme lieber inhaltsblind lässt und Fragen über riesige Datenmengen löst. Formal funktioniert dies über Vektoren mit der Länge 1 Mio und mehr (ein Vektor stellt eine sprachliche Frage dar und die Antwort darauf ist ebenso ein Vektor).

Darum setzt die KI Lügen, Rassismus, aber auch alles Gute im Netz, einfach fort. Sie ist blind, also ist sie gar nichts, außer eben eine Maschine. Keine Ahnung, was die beste Intervention dagegen ist, aber erstmal ist es wichtig, dies zu verstehen. Neulich gesehen: Eine koreanische Frau ließ sich von einer KI ihr Bewerbungsfoto ändern mit der Aufgabe, es bewerbungstauglicher zu machen. Ergebnis war ein Foto, das eine weiße Frau zeigte. Das ist unbestreitbar problematisch. Aber natürlich schwierig, darüber eine legitime Instanz zu setzen, die Regeln festlegt. Wer auch immer eine Löösungsidee dazu hat, gerne her damit. Ich habe keinen Schimmer.

Zitat von Michael Höfler

Das ist unbestreitbar problematisch.

Und vermutlich ebenso kaum bestreitbar in vielen sozialen Kontexten realistisch. Die KI hat also genau genommen nichts falsch gemacht; sie reflektiert die gesellschaftliche Wahrheit. Das ist ohne Zweifel mit Gefahren verbunden, aber es stellt zugleich die Lösung für die Aufgabe dar, für die die KI geschaffen wurde.

Edit: Das ist, wie ich finde, auch eine irritierende und wenig zielführende Diskussion. Es gibt ja Aktivisten und -innen, die sich darüber ärgern, dass KIs wie ChatGPT auch nicht standardmäßig gendern. Solche politischen Forderungen wie auch jene danach, eine Lösung für das vermeintlich rassistische Verhalten der Systeme zu finden, drängen darauf, einen (bestimmten) moralischen Filter auf das zu setzen, was doch das Ergebnis unserer Realität ist. Ich halte diesen Ansatz für falsch. Nicht die KI muss irgendwie moralisch filtern. Das müssen wir tun. Wir müssen uns dem gegenüber, was unsere Kultur ausmacht, wieder stärker emanzipieren. Wir sind eingelullt von Triggerwarnungen und Konsenskultur (vor allem in der Nähe von Universitäten, aber längst nicht mehr nur dort), dabei ist Kultur kein Konsensgut.

Auch Aufklärung und ein Update von Medien-Kompetenz tut Not. Eine KI-Suchmaschine liefert eine eindeutige Antwort, was psychologisch bestimmt ganz anders wirkt als die vielen Suchtreffer, die Google ausspuckt. Hypothese, dass das Eindeutige, wenn es auch noch "intelligent" heißt, als Wahrheit genommen wird, statt zu verstehen, dass die Antwort einfach aus den Informationen gebaut wird, die in ein System gefüttert wurden.

Das ist andererseits natürlich ein Segen, um mechanische Tätigkeiten auszuführen. Beim Schreiben zum Beispiel, um verschiedene Satzstellungen und Wortwahl vorgeschlagen zu kriegen. Dabei aber schon wieder die Einschränkung, dass die KI bei beidem, so ist sie gebaut, nur das Gängige, nicht das Originelle vorschlägt. Bessere, rein mechanische Beispiele: Literaturverzeichnis einheitlich formatieren, Software suchen und Code bauen lassen, um ein bestimmtes Diagramm zu erstellen.

Zitat von Michael Höfler

Hypothese, dass das Eindeutige, wenn es auch noch "intelligent" heißt, als Wahrheit genommen wird, als zu verstehen, dass die Antwort einfach aus den Informationen gebaut wird, die in ein System gefüttert wurden.

Das ist vermutlich so. Es wird mindestens als "zutreffend" angenommen, aber es hängt natürlich von der Nutzungskompetenz ab. Der Begriff "Intelligenz" ist ja positiv-hierarchisch konnotiert; auf das Wort aus intelligenter Quelle gibt man mehr als auf eines aus erwiesenerweise weniger intelligenter, zumindest war das überwiegend mal so. Angesichts der hyperaktiven und sehr erfolgreichen Verschwörungs- und Populismusmechanismen ist daran mithin einiges an Zweifel gestattet: Bei den Quellen dieser Bewegungen geht es nicht um Intelligenz, sondern ausschließlich um Reichweite.

Sehr mächtige oder kraftvolle Apparate werden auf eine Welt losgelassen, die mit derlei bislang nicht die geringste Erfahrung hat. Das ist zwar ein Mechanismus, den der technische Fortschritt von Anbeginn mit sich bringt, aber die Klippen werden immer höher. Das halte ich ganz persönlich für problematischer als die vermeintliche Unausgewogenheit einiger Aspekte, andererseits ist das eine auch ein Teil des anderen. Mmh ...

Zitat von Tom

Sehr mächtige oder kraftvolle Apparate werden auf eine Welt losgelassen, die mit derlei bislang nicht die geringste Erfahrung hat. Das ist zwar ein Mechanismus, den der technische Fortschritt von Anbeginn mit sich bringt, aber die Klippen werden immer höher. Das halte ich ganz persönlich für problematischer als die vermeintliche Unausgewogenheit einiger Aspekte, andererseits ist das eine auch ein Teil des anderen. Mmh ...

Ja, Medienkompetenz wird immer mehr zum Distinktionsmerkmal. Das ist wirklich problematisch, weil Medienkompetenz sicher stark mit Zugang zu Bildung zusammenhängt. Und den haben wir hier initial auch nur geschenkt bekommen und uns nicht selbst verdient. Die Nachrichtenmedien tragen erfahrungsgemäß nur sehr bedingt zur Medienkompetenz bei. Ich kenne v.a. den MDR und der holt die Menschen nicht wohin ab, sondern bespielt sie lieber dort, wo sie stehen geblieben sind. (ist aber auch so ein regionales Ding, NDR Info ist wesentlich informativer als MDR Aktuell).