Ein geschickter Debattierer kann seine Argumente mit Zuversicht und Überzeugung vortragen, unabhängig davon, ob der Inhalt korrekt ist oder nicht. Schliesslich glauben wir Menschen eher an das, was wir hören, wenn es mit Zuversicht vorgetragen wird. In ähnlicher Weise vertrauen viele Leserinnen und Leser auch Artikeln, die von einer KI verfasst wurden – auch wenn die darin enthaltenen Aussagen nicht unbedingt wahr sind.
Die Überzeugungskraft ist eine bemerkenswerte Fähigkeit, die Menschen und künstliche Intelligenz (KI) gemeinsam haben.
Im sinnvollen Umgang mit neuen KI-Tools, die täglich wie Pilze aus den Boden spriessen, verlangt das von uns eine zunehmende Portion Skepsis. Doch wie zuversichtlich darf man sein, von Menschen diese Skepsis gegenüber KI-generierten Inhalten zu erwarten, wenn wir doch schon unsere grosse Mühe damit haben, uns von menschlichen Inhalten nicht in in die Irre leiten zu lassen?
Menschen haben schon immer beeinflusst
Einflussnahme und Überzeugen ist eine Kunstform, die seit den Anfängen der Zivilisation angewandt wird. Wir haben eine angeborene Fähigkeit, überzeugende Argumente zu formulieren. Sie gilt als überlebensnotwendig. Um unsere Argumente zu veranschaulichen, setzen wir verschiedene rhetorische Mittel ein, wie zum Beispiel Metaphern und Analogien. Wir nutzen eine Kombination aus Fakten, persönlichen Erfahrungen und Emotionen, um an die Logik und die Gefühle des Publikums zu appellieren, um eine Person oder eine Gruppe davon zu überzeugen, in einer bestimmten Weise zu denken, zu fühlen oder zu handeln. Denn schliesslich, wer überzeugende und glaubwürdige Sprache effektiv einsetzen kann, hat die Macht, die Welt um sich herum zu beeinflussen und zu gestalten. Das kennen wir. Das war schon immer so und wird vermutlich weiterhin so bleiben.
Was für uns jedoch neu ist, bzw. womit wir noch keine Erfahrung haben, ist, dass künstliche Intelligenz hochentwickelte Algorithmen in Kombination mit der Technologie zur Verarbeitung natürlicher Sprache einsetzt, um genau diese uns innewohnende Überzeugungskraft für sich zu nutzen.
KI lernt sprechen wie unser Nachbar
Mit Hilfe von NLP (Natural Language Processing) kann die KI lernen, überzeugende Sprachmuster zu erkennen und sie in ihrem eigenen Schreiben zu verwenden. Ein Algorithmus für maschinelles Lernen kann zum Beispiel darauf trainiert werden, bestimmte Überzeugungsstrategien zu erkennen, wie etwa die Verwendung von Wiederholungen oder rhetorischen Fragen. Die KI nutzt auch ihr Wissen über Sprachstruktur und Syntax, um überzeugende Argumente zu formulieren, indem sie präzise Wörter und Sätze auswählt, die die gewünschte Wirkung auf die Leser haben. Durch die Kombination von Überzeugungstaktiken mit sachlichen Informationen sind KI-generierte Artikel in der Lage, die Aufmerksamkeit der Leser auf ähnliche Weise zu fesseln wie Menschen.
Wenn Bullsh¡t eloquent klingt
Sie steht zwar noch in ihren Anfängen, aber sie beeindruckt jetzt schon ganz gewaltig, was sie alles kann. Wenn die künstliche Intelligenz gerade einen guten Lauf hat, kann sie den Lesern fast alles vorgaukeln – selbst wenn der verfasste Inhalt weit von der Wahrheit entfernt ist. Jeder, der in den vergangenen Wochen und Monaten von Chat Open AI Gebrauch gemacht und das Tool etwas gezielter ausgetestet hat, weiss, dass künstliche Intelligenz in der Lage ist, überzeugende Argumente mit einem starken Tonfall zu formulieren, so dass diese in manchen Fällen besonders glaubwürdig klingen. Die Ähnlichkeiten zwischen menschlichen und künstlichen Schreibtechniken sind bemerkenswert. Wie bei Menschen benutzt die KI eine überzeugende Sprache, um andere von ihrem Standpunkten zu überzeugen, und setzt rhetorische Strategien ein, um ihre Botschaft zu verdeutlichen.
Im Gegensatz zum Menschen kann die KI jedoch viel grössere Textmengen produzieren, die aufgrund ihrer logischen Struktur und ihrer überzeugenden Ausdrucksweise sehr glaubwürdig wirken. Die KI hat kein Problem damit, uns ein Stück Kohle als einen Diamanten zu verkaufen. Mit anderen Worten: Sie kann zuweilen «leidenschaftlichen» Bullsh¡t schreiben – Aussagen, die gefährlich trügerisch sind, weil sie auf den ersten Blick so glaubwürdig funkeln wie ein geschliffener Diamant. Eine gewisse Vorsicht ist deshalb zu empfehlen, wenn wir Aussagen von KI-generierten Texten bewerten.
Skepsis ist nicht alles – aber hilfreich.
Mal Hand auf's Herz: Wie wahrscheinlich ist es, dass Menschen diese nötige Skepsis KI-generierten Inhalten gegenüber tatsächlich aufbringen können, wenn sie doch schon ihre grosse Mühe damit haben, Inhalte, die aus menschlicher Feder stammen, ebenso skeptisch gegenüberzutreten?
Eine KI beantwortet mir diese Frage folgendermassen:
«Es gibt keine einfache Antwort auf diese Frage, da sie stark vom Kontext und der Art der konsumierten Inhalte abhängt. Allerdings neigen Menschen von Natur aus dazu, beim Konsum von KI-generierten Inhalten skeptischer zu sein als beim Konsum von Inhalten anderer Menschen. Das kann auf mangelndes Vertrauen in die Technologie oder mangelnde Vertrautheit mit ihr zurückzuführen sein, oder einfach darauf, dass wir es gewohnt sind, Menschen anhand unserer eigenen Standards und Erwartungen zu beurteilen. Letztlich kommt es auf die Wahrnehmung und die Bereitschaft des Einzelnen an, die dargebotenen Informationen aufzunehmen.»
Diese nicht-menschliche Antwort ist zugleich weise wie rhetorisch klug.
Weise ist sie deshalb, weil sich die KI (bzw. ihre Programmierer) an die analytische Philosophie hält, die uns lehrt, dass bewertende Attribute keine natürliche Eigenschaft von Dingen sind. Meine Frage impliziert eine Einschätzung als Antwort zu erwarten, die zwangsläufig mit bewertenden Attributen daher käme. Aus Sicht KI ist meine Frage jedoch weder logisch noch spezifisch, sondern emotional und abstrakt. Daher lässt sie sich auch nicht auf diese pauschalisierende Bewertung ein.
Womit sie auch recht hat.
Rhetorisch klug ist die Antwort jedoch deswegen, weil die KI in diesem Text von «wir» spricht. Das ist ein gutes Beispiel der Verwendung rhetorischer Stilmittel. Dieses «wir» soll emotionalisieren, verbinden und Gemeinsamkeit schaffen, weil wir (Menschen) ja eher bereit sind, Dinge anzunehmen, die von unseresgleichen kommen. Das hat uns die KI ja auch selber gesagt. Also spricht sie lieber von «wir» als von «ihr/euch». Ersteres schafft Nähe, letzteres Distanz.
So viele mögliche Stolpersteine
Dennoch glaube ich, dass wir als Menschen Schwierigkeiten haben werden, diese Skepsis KI-generierten Inhalten gegenüber langfristig in einem gesunden Masse aufrechtzuerhalten.
Auch diese Aussage ist selbstverständlich nicht logisch, sondern rein emotional – ich weiss.
Berücksichtig man jedoch, wie anfällig wir auf Wahrnehmungsverzerrungen sind, sollten wir unsere eigene Fähigkeit zur Skepsis nicht überschätzen.
In der Psychologie gibt es so etwas wie die sogenannte «positive Teststrategie». Diese besagt, dass es für unser Gehirn viel bequemer ist, das Vorhandensein von etwas zu akzeptieren, als sich mit dessen Abwesenheit auseinanderzusetzen. Wenn wir also versuchen, herauszufinden, welche Fakten zu einer bestimmten Situation passen, tendieren wir ganz natürlich zu Unterstützungsszenarien – wir suchen nach Bestätigung statt nach Widerlegung. Meines Wissens gibt es mittlerweile nahezu 200 solcher wissenschaftlich dokumentierter «Bias», die erklären, wie wir Menschen mit unserem Wahrnehmungs- und Denkapparat zu falschen Schlüssen und Urteilen kommen. Und zwar ständig und immer wieder.
Dass wir so anfällig für Wahrnehmungsverzerrung sind, liegt vor allem darin begründet, dass unser Gehirn andauernd versucht, Energie zu sparen, wenn es Probleme für uns löst. Deshalb kann man diese Wahrnehmungsverzerrungen auch als mentale Abkürzungen verstehen. Vier grosse Herausforderungen sind ständig im Fokus:
Die Bewältigung der Informationsüberflutung
Die Bedeutung in der erhaltenen Information zu verstehen
Die Notwendigkeit schnell zu handeln
Zu wissen, was man sich für später merken muss
Wann immer wir also Inhalte konsumieren, ist unser Gehirn mehr unbewusst als bewusst dabei, diese 4 Herausforderungen zu bewältigen. Ob diese Inhalte nun von einer KI oder von einem Menschen stammen, der Mechanismus im Gehirn bleibt der gleiche. Klar, mit Hilfe der KI wird sicherlich alles etwas schneller und etwas produktiver, aber vielleicht gerade deswegen auch alles etwas schneller und mehr anfälliger.
Es ist bekannt, dass man als Anwender von KI-basierter Lösungen voreingenommen sein kann, wenn man Inhalte konsumiert. Falsche Interpretationen oder, schlimmer noch, ein Missverständnis des Zwecks und der Botschaft dieser Inhalte können die Folge sein. Darüber hinaus können von KI generierte Inhalte oft Vorurteile enthalten, die durch ihre Nutzung unbewusst aufrechterhalten werden.
Einflussnahme: Selbstverständlich ist, was überzeugt.
Der Erfolg von KI steht und fällt mit ihrer «Menschlichkeit». Damit sie diese «Menschlichkeit» erreicht und wir dem Bedürfnis nicht widerstehen können, mit ihr zu interagieren, muss sie klingen wie ein Mensch. Umso menschlicher sie auf uns wirkt, umso anfälliger werden wir auf Wahrnehmungsverzerrungen sein. Wir fühlen uns von Natur aus zu kraftvoller und überzeugender Sprache hingezogen, da sie oft mit Vertrauenswürdigkeit und Fachwissen assoziiert wird. Wir neigen dazu, Aussagen zu glauben, die auf überzeugende, artikulierte Weise präsentiert werden, unabhängig davon, ob sie sachliche Informationen enthalten oder nicht. Das ist der Grund, warum überzeugende Texte in der ganzen Menschheitsgeschichte so erfolgreich waren – die Menschen wollen von jemandem überzeugt werden, der selbstbewusst nach menschlichen Massstäben spricht. Aber nicht nur das: Wir hören auch lieber Geschichten zu, die starke Emotionen hervorrufen, sei es nun Freude oder Traurigkeit.
Deshalb können KI-generierte Texte so reiz- und wirkungsvoll für uns sein, weil die KI es besonders gut beherrscht, durch Kombination aus Fakten und übertriebener Sprache direkt unseren Wunsch nach Emotionen und Bestätigung anzusprechen. Mit anderen Worten: Sie weiss immer besser, wie wir ticken.
Letztlich zeigt das, wie verletzlich wir als Menschen wirklich sind, wenn es um Überzeugung geht: Wenn etwas überzeugend genug klingt, werden wir in der Regel es als selbstverständlich ansehen.
Und gerade dann hat es sich mit der gesunden Portion Skepsis für die meisten von uns erledigt.
Onlinekurs:
Beim Reden auf den Punkt kommen und durch rhetorische Souveränität
mehr Wirkung vermitteln und Zustimmung erlangen.
