c't ChatGPT & Co. - Mit KI-Tools effektiv arbeiten

  • Das neue Sonderheft aus der Redaktion der IT-Zeitschrift c't bietet einen kritischen Rundumschlag zum Thema KI. Im Themenblock "Arbeiten mit KI" wird untersucht, wie Wirklichkeit und Anspruch derzeit noch auseinander klaffen (KI zwischen Effizienz und Wunschdenken), und die Themen Urheberrecht und Datenschutz angeschnitten und gefragt, ob KI beim Klima hilft oder nicht. Das Fazit dazu lautet: derzeit noch offen.


    Der Themenkomplex "Schreiben mit KI" ist für "Schreibende" besonders interessant. Es wird nicht nur untersucht, wie ChatGPT eingesetzt und ausgereizt werden kann, sondern auch noch andere KI-Schreibhelfer vorgestellt und getestet. Besonders interessant ist das Eingehen auf die Schwachstellen der KI.


    Im Themenblock "Suchen mit KI" ist der dritte Artikel (Wie sich Autoren gegen KI-Bots wehren) am interessantesten. Der macht da weiter, wo der Artikel zum Urheberrecht zu Beginn des Heftes aufgehört hat. Allerdings verspricht der Titel mehr, als er halten kann. Letztendlich ist die Situation noch offen.


    Die Themenblöcke "Kunst mit KI" und "Musik mit KI" handeln Bild- und Musikgestaltung durch KI ab. Interessant, aber für Bild- und Musikschaffende insgesamt zu dünn. Die Schreiberlinge haben da in den vorangegangenen Artikeln deutlich mehr Stoff bekommen.


    Hochinteressant, aber nicht ohne Vorkenntnisse zu genießen, ist der letzte Themenblock: "Hacken mit KI", der allerdings mit zwei Artikeln etwas schmal besetzt ist.


    Eine hochinteressante Zusammenstellung, die viel Information zum Thema "Künstliche Intelligenz im praktischen Einsatz" liefert. Als Ersteinstieg oder Ergänzung vorhandenen Halbwissens sehr gut geeignet. Für eine tiefergehende Beschäftigung mit dem Thema nicht ausreichend.

    BLOG: Welt der Fabeln


    Die schönsten Schlösser und Burgen in Oberbayern und Bayerisch-Schwaben

    ASIN/ISBN: 3831335559


    Verengung des freien geistigen Horizontes ist eine Gefahr in Zeiten des Massenkultes.
    Emanuel von Bodmann


    Einmal editiert, zuletzt von Horst-Dieter ()

  • Nimm es mir nicht übel, aber ChatGPT stellt keine Gefahr für Autoren dar, es sei denn, sie schreiben seichten Müll. Ich habe ChatGPT nach Faktenwissen der Allgemeinbildung im politischen Bereich abgefragt, wenn man im Zeitgenössischem schreibt. Das Ergebnis war verheerend.


    Frage: Was ist das Woodstock des Ostens?

    Antwort:

    Natürlich! Das Woodstock des Ostens bezieht sich auf das "Przystanek Woodstock" Festival, das in Polen stattfindet. Es wurde 1995 ins Leben gerufen und hat sich seitdem zu einem der größten Open-Air-Musikfestivals in Europa entwickelt. Das Festival zieht jedes Jahr Hunderttausende von Menschen an und bietet eine breite Palette an Musikgenres, darunter Rock, Metal, Punk und Reggae. Es ist bekannt für seine friedliche und freundschaftliche Atmosphäre, ähnlich wie das ursprüngliche Woodstock-Festival in den USA. Das Woodstock des Ostens ist ein Ort, an dem Menschen aus verschiedenen Ländern und Kulturen zusammenkommen, um Musik zu genießen und eine positive Gemeinschaft zu erleben.


    Noch Fragen?

  • Noch Fragen?

    Es gibt eine ganze Menge Fragen zur KI. Das man ChatGPT derzeit noch in die Irre führen kann ist kein Beleg für deren Ungefährlichkeit (für wen auch immer). Es wird geradezu verdrängt, das KI weniger aufmerksamgeil in viele Bereiche des täglichen Lebens vorgedrungen ist. Die Beschäftigung damit scheint mir eine Notwendigkeit zu sein. Deshalb habe ich diese aktuelle Veröffentlichung vorgestellt. Die hilft schon, ein wenig über seine eigenen Vorurteile hinauszukommen.

    BLOG: Welt der Fabeln


    Die schönsten Schlösser und Burgen in Oberbayern und Bayerisch-Schwaben

    ASIN/ISBN: 3831335559


    Verengung des freien geistigen Horizontes ist eine Gefahr in Zeiten des Massenkultes.
    Emanuel von Bodmann


  • Wie ich heute morgen aus dem ORF erfuhr, liest der vor vier Jahren verstorbene Karel Gott aus seinen Memoiren. So täuschend echt, dass viele der geladenen Gäste Tränen der Rührung in den Augen hatten. Natürlich handelt es sich dabei um eine KI, die akustisch an seine Stelle tritt.

    Langsam verstehe ich die Ängste nicht weniger der gerade streikenden Schauspieler in Hollywood, in absehbarer Zukunft von einer KI ersetzt zu werden. Auch die Synchronsprecher dürften darüber sorgenvoll die Stirn runzeln. Natürlich geht es, wie kann es anders sein, primär um die Kohle, aber auch darum, künftig überflüssig zu werden. Ich kann mir gut vorstellen, dass die Filmbranche der Zukunft tatsächlich weitgehend ohne lebende Menschen auskommen wird.

    Was sie will, ist wahr. Ihre Befehlshaber erzeugen, verwandeln, vertauschen Wahrheiten. Drei Wochen Pressearbeit und alle Welt hat die Wahrheit erkannt. Man will nur noch denken, was man soll, und eben das empfindet man als seine Freiheit.

    (Oswald Spengler, 1918, "Der Untergang des Abendlandes")

    2 Mal editiert, zuletzt von Manuela ()

  • Hoffentlich artet der künftige Kunstbetrieb nicht in eine Art Wiedergängerkultur aus, in der manche Künstler quasi unsterblich werden, weil die KI permanent in "ihrem Sinne" weiterschafft. Wer weiß, vielleicht reitet John Wayne bald wieder neuen Abenteuern entgegen oder Hercule Poirot löst knifflige Fälle. Aber wenn, dann ganz sicher politisch korrekt. Sauber gegendert und ganz ohne böse Wörter.

    Was sie will, ist wahr. Ihre Befehlshaber erzeugen, verwandeln, vertauschen Wahrheiten. Drei Wochen Pressearbeit und alle Welt hat die Wahrheit erkannt. Man will nur noch denken, was man soll, und eben das empfindet man als seine Freiheit.

    (Oswald Spengler, 1918, "Der Untergang des Abendlandes")

  • …oder Hercule Poirot löst knifflige Fälle. …

    Das ist ja nichts Neues. Sherlock Holmes wird auch fleißig weitergeschrieben und Elben und Orks gibt es nicht nur in Tolkiens Büchern. Auch die Richter Di-Romane haben ihre Fortsetzung gefunden und sogar Kommissar Maigret ermittelt wieder. Auch von Old Shatterhand, Winnetou und Kara Ben Nemsi gibt es laufend neue Abenteuer. Dazu brauchte es allerdings keine künstliche Intelligenz, das machen - noch - lebende Autorinnen und Autoren.


    Dahinter steht der Wunsch, von der gleichen Speise und vom gleichen Geschmack immer weiter etwas zu bekommen. Sich auf neue Kost und andere Geschmäcker einzulassen fällt vielen offensichtlich schwer.

    BLOG: Welt der Fabeln


    Die schönsten Schlösser und Burgen in Oberbayern und Bayerisch-Schwaben

    ASIN/ISBN: 3831335559


    Verengung des freien geistigen Horizontes ist eine Gefahr in Zeiten des Massenkultes.
    Emanuel von Bodmann


  • Dazu brauchte es allerdings keine künstliche Intelligenz, das machen - noch - lebende Autorinnen und Autoren.

    Und genau das ist der kleine aber wesentliche Unterschied. ;)

    Edit: Ergänzen möchte ich, dass ich von Fanfiction und sonstigem künstlerischen Trittbrettfahren nichts halte.

    Was sie will, ist wahr. Ihre Befehlshaber erzeugen, verwandeln, vertauschen Wahrheiten. Drei Wochen Pressearbeit und alle Welt hat die Wahrheit erkannt. Man will nur noch denken, was man soll, und eben das empfindet man als seine Freiheit.

    (Oswald Spengler, 1918, "Der Untergang des Abendlandes")

    Einmal editiert, zuletzt von Manuela ()

  • Alles was hier mit KI generiert wird ist ja am gesellschaftskritischen Thema vorbei.
    Wie soll KI hier Gefühle, Witz und Homur bzw Sarkasmus rüberbringen?
    Schnell, schnell irgendwas getextet und Leute die die aktuelle Literatur (kritische) schon jetzt nicht verstehen applaudieren!!

  • KI kann in dem Sinne nichts voranbringen, als sie darauf ausgelegt ist, dass wahrscheinlichste aufgrund der in sie eingespeisten Information zu produzieren. Daher geht sie nur den geradlinigen Weg weiter, trägt weiter, was in den Daten ist (z.B. dass Hautfarbe weiß sei). Klar, es gibt auch eine Zufallskomponente in den Vorhersagen*, die KI macht, aber die bewegt sich eng um die wahrscheinlichste Vorhersage herum.


    * KI ist nicht ist nichts anderes als eine Vorhersage der wahrscheinlichsten Antwort auf eine Frage, gegeben die Daten und das Modell, wie ich bei Richard Socher hörte; zumindest in den Sprachprozessierungsmodellen, die der verwendet.

  • KI ist nicht ist nichts anderes als eine Vorhersage der wahrscheinlichsten Antwort auf eine Frage

    Eigentlich nicht einmal das. Generative, sprachbasierte KI erzeugt nicht die Antwort als ganzes, sondern reiht Begriffe aneinander, die wahrscheinlich die richtige Antwort auf eine Frage ergeben, wobei es keinerlei Informationen über Kontext, Zuordnungen, Bedeutungen oder Inhalte gibt. Die KI "weiß" nichts. Ihre Antwort ist der gemäß Datenbasis wahrscheinlichste Reflex auf die Frage, wobei diese Entscheidung noch eine Reihe weiterer Kriterien kennt. Umso erstaunlicher sind die Ergebnisse.


    Wie diese Antwort ausfällt, hängt in hohem Maß von Training (das ist in vielen Fällen ein wenig dokumentierter Vorgang) und Datenbasis ab; die KI reflektiert beides, ohne es zu "kennen", denn die KI ist nur eine Maschine, die gelernt hat, diese Daten wunschgemäß zu verarbeiten. Sie weiß tatsächlich nicht, was sie da tut. Sie agiert also so, wie es die Datenbasis und das Training vorbereitet und ergeben haben. Im Betrieb trainiert sie unaufhörlich weiter (jedenfalls wird das so kommuniziert).


    Weil die Datenbasis - ungeheure Textmengen, die in den letzten Jahrzehnten entstanden sind bzw. digitalisiert wurden - die vermeintlichen gesellschaftlichen Realitäten ihrer Entstehungszeiten reflektiert, tut das die KI auch. Sie reflektiert zugleich Unwahrheiten, Dummheit, falsche Informationen und vieles mehr, weil die Unschärfebereiche zwischen Fakten und beliebigen, nichtvalidierten Informationen riesig sind. Sie lernt auch weiter, wenn sie "korrigiert" wird, was natürlich ebenfalls kein objektiver Vorgang ist, weil das ein Scheunentor auch für flächige, zielgerichtete Manipulation ist. Und es wird in diesem Zusammenhang gerne kolportiert, dass die derzeit beliebten KIs unter anderem rassistisch wären, weil sie eine überwiegend weiße Kultur- und Wissenschaftswelt reflektieren würden. Ich finde diesen "Vorwurf" halbwegs originell, zumal er mit dem mehr oder weniger subtilen Wunsch einhergeht, die KIs sollten gleichsam ethisch-moralisch filtern, was sie raustun. Außerdem ist Rassismus inzwischen eine fast schon populistische Anschuldigung. Sie verkennt in diesem Fall, dass diese Art von KI so nicht funktionieren kann. Wir hatten das an anderer Stelle schon - das ist, als würde man jemandem, der eine Geschichte der amerikanischen Präsidentschaften verfasst hat, Misogynie vorwerfen, weil keine Frauen als Protagonisten in diesem Text vorkommen. Andererseits kann ich die Erbitterung darüber, dass die beliebten KIs sozusagen Mechanismen sind, die gesellschaftliche Defizite weitertragen, absolut nachvollziehen. Ich finde es nur ein bisschen ärgerlich, das auf Rassismus zu reduzieren (und mit dieser reflexhaften Stoizität den Rassismusbegriff immer weiter zu ruinieren). Die KIs reproduzieren vor allem Dummheit. Und sie missachten und zerstören Kreativität und Urheberrechte.

  • Ja, KI weiß nichts. Socher und andere haben frühzeitig erkannt, dass Expertensysteme, also das Füttern der Modelle mit Fakten, nicht funktioniert; sondern dass man die Systeme lieber inhaltsblind lässt und Fragen über riesige Datenmengen löst. Formal funktioniert dies über Vektoren mit der Länge 1 Mio und mehr (ein Vektor stellt eine sprachliche Frage dar und die Antwort darauf ist ebenso ein Vektor).


    Darum setzt die KI Lügen, Rassismus, aber auch alles Gute im Netz, einfach fort. Sie ist blind, also ist sie gar nichts, außer eben eine Maschine. Keine Ahnung, was die beste Intervention dagegen ist, aber erstmal ist es wichtig, dies zu verstehen. Neulich gesehen: Eine koreanische Frau ließ sich von einer KI ihr Bewerbungsfoto ändern mit der Aufgabe, es bewerbungstauglicher zu machen. Ergebnis war ein Foto, das eine weiße Frau zeigte. Das ist unbestreitbar problematisch. Aber natürlich schwierig, darüber eine legitime Instanz zu setzen, die Regeln festlegt. Wer auch immer eine Löösungsidee dazu hat, gerne her damit. Ich habe keinen Schimmer.

  • Das ist unbestreitbar problematisch.

    Und vermutlich ebenso kaum bestreitbar in vielen sozialen Kontexten realistisch. Die KI hat also genau genommen nichts falsch gemacht; sie reflektiert die gesellschaftliche Wahrheit. Das ist ohne Zweifel mit Gefahren verbunden, aber es stellt zugleich die Lösung für die Aufgabe dar, für die die KI geschaffen wurde. :achsel


    Edit: Das ist, wie ich finde, auch eine irritierende und wenig zielführende Diskussion. Es gibt ja Aktivisten und -innen, die sich darüber ärgern, dass KIs wie ChatGPT auch nicht standardmäßig gendern. Solche politischen Forderungen wie auch jene danach, eine Lösung für das vermeintlich rassistische Verhalten der Systeme zu finden, drängen darauf, einen (bestimmten) moralischen Filter auf das zu setzen, was doch das Ergebnis unserer Realität ist. Ich halte diesen Ansatz für falsch. Nicht die KI muss irgendwie moralisch filtern. Das müssen wir tun. Wir müssen uns dem gegenüber, was unsere Kultur ausmacht, wieder stärker emanzipieren. Wir sind eingelullt von Triggerwarnungen und Konsenskultur (vor allem in der Nähe von Universitäten, aber längst nicht mehr nur dort), dabei ist Kultur kein Konsensgut.

  • Auch Aufklärung und ein Update von Medien-Kompetenz tut Not. Eine KI-Suchmaschine liefert eine eindeutige Antwort, was psychologisch bestimmt ganz anders wirkt als die vielen Suchtreffer, die Google ausspuckt. Hypothese, dass das Eindeutige, wenn es auch noch "intelligent" heißt, als Wahrheit genommen wird, statt zu verstehen, dass die Antwort einfach aus den Informationen gebaut wird, die in ein System gefüttert wurden.


    Das ist andererseits natürlich ein Segen, um mechanische Tätigkeiten auszuführen. Beim Schreiben zum Beispiel, um verschiedene Satzstellungen und Wortwahl vorgeschlagen zu kriegen. Dabei aber schon wieder die Einschränkung, dass die KI bei beidem, so ist sie gebaut, nur das Gängige, nicht das Originelle vorschlägt. Bessere, rein mechanische Beispiele: Literaturverzeichnis einheitlich formatieren, Software suchen und Code bauen lassen, um ein bestimmtes Diagramm zu erstellen.

  • Hypothese, dass das Eindeutige, wenn es auch noch "intelligent" heißt, als Wahrheit genommen wird, als zu verstehen, dass die Antwort einfach aus den Informationen gebaut wird, die in ein System gefüttert wurden.

    Das ist vermutlich so. Es wird mindestens als "zutreffend" angenommen, aber es hängt natürlich von der Nutzungskompetenz ab. Der Begriff "Intelligenz" ist ja positiv-hierarchisch konnotiert; auf das Wort aus intelligenter Quelle gibt man mehr als auf eines aus erwiesenerweise weniger intelligenter, zumindest war das überwiegend mal so. Angesichts der hyperaktiven und sehr erfolgreichen Verschwörungs- und Populismusmechanismen ist daran mithin einiges an Zweifel gestattet: Bei den Quellen dieser Bewegungen geht es nicht um Intelligenz, sondern ausschließlich um Reichweite.


    Sehr mächtige oder kraftvolle Apparate werden auf eine Welt losgelassen, die mit derlei bislang nicht die geringste Erfahrung hat. Das ist zwar ein Mechanismus, den der technische Fortschritt von Anbeginn mit sich bringt, aber die Klippen werden immer höher. Das halte ich ganz persönlich für problematischer als die vermeintliche Unausgewogenheit einiger Aspekte, andererseits ist das eine auch ein Teil des anderen. Mmh ...

  • Sehr mächtige oder kraftvolle Apparate werden auf eine Welt losgelassen, die mit derlei bislang nicht die geringste Erfahrung hat. Das ist zwar ein Mechanismus, den der technische Fortschritt von Anbeginn mit sich bringt, aber die Klippen werden immer höher. Das halte ich ganz persönlich für problematischer als die vermeintliche Unausgewogenheit einiger Aspekte, andererseits ist das eine auch ein Teil des anderen. Mmh ...

    Ja, Medienkompetenz wird immer mehr zum Distinktionsmerkmal. Das ist wirklich problematisch, weil Medienkompetenz sicher stark mit Zugang zu Bildung zusammenhängt. Und den haben wir hier initial auch nur geschenkt bekommen und uns nicht selbst verdient. Die Nachrichtenmedien tragen erfahrungsgemäß nur sehr bedingt zur Medienkompetenz bei. Ich kenne v.a. den MDR und der holt die Menschen nicht wohin ab, sondern bespielt sie lieber dort, wo sie stehen geblieben sind. (ist aber auch so ein regionales Ding, NDR Info ist wesentlich informativer als MDR Aktuell).