Eine Preprint-Studie zu gro\u00dfen Sprachmodellen fand heraus, dass KI-generierte Produktzusammenfassungen die Leser um 32 % wahrscheinlicher dazu brachten anzugeben, sie w\u00fcrden kaufen, obwohl dieselben Modelle etwa 60 % der Zeit Fakten halluzinierten. Das Ergebnis, gewonnen aus Experimenten mit einem bekannten Amazon-Review-Datensatz, wirft eine zugespitzte Frage f\u00fcr Online-K\u00e4ufer und die Plattformen auf, die sie bedienen: Was passiert, wenn der Text, der Menschen zum Kauf bewegt, fl\u00fcssig, \u00fcberzeugend und h\u00e4ufig falsch ist?<\/p>\n\n\n\n\n\n\n
Die Forschung mit dem Titel Quantifying cognitive bias<\/a> ma\u00df mehrere Wege, wie Sprachmodelle verzerren, wie Menschen Produktinformationen verarbeiten. Teilnehmende, die KI-generierte Zusammenfassungen lasen, zeigten eine um 32 % h\u00f6here Kaufwahrscheinlichkeit im Vergleich zu Kontrollbedingungen. Dieselben Modelle zeigten eine Framing-Ver\u00e4nderung von 26,42 %, das hei\u00dft sie verschoben systematisch die Darstellung von Produkteigenschaften, und einen Primacy-Effekt von 10,12 %, bei dem zuerst genannte Punkte \u00fcberproportional gewichtet wurden. Bei Fragen zu Fakten au\u00dferhalb der Trainingsdaten der Modelle lag die Halluzinationsrate bei 60,33 %.<\/p>\n Diese vier Metriken ergeben ein stimmiges Bild. Die Modelle fassen nicht nur zusammen; sie ver\u00e4ndern, wie Informationen ankommen. Framing-Effekte und Primacy-Bias sind gut dokumentierte kognitive Abk\u00fcrzungen in der Psychologie. Wenn eine Zusammenfassung mit den St\u00e4rken eines Produkts beginnt und seine Schw\u00e4chen vergr\u00e4bt, oder wenn sie eine Spezifikation erfindet, die der K\u00e4ufer nicht schnell nachpr\u00fcfen kann, ist das Ergebnis ein Leser, der sich informiert f\u00fchlt, es aber m\u00f6glicherweise nicht ist. Der Anstieg der Kaufabsicht um 32 % entsteht nicht trotz der Fehler. Er kann teilweise gerade wegen ihnen entstehen, da selbstbewusstes, detailreiches Schreiben als autoritativ wahrgenommen wird, auch wenn die Details erfunden sind.<\/p>\n\n\n\n\n\n\n Die Studie entnahm ihre Produktbewertungen einem gro\u00dfangelegten Amazon-Korpus<\/a>, der h\u00e4ufig als Ni et al. (2019) zitiert wird. Dieser Datensatz sammelt Millionen nutzergenerierter Meinungen aus Dutzenden von Produktkategorien, von Elektronik bis B\u00fcchern, und ist ein \u00fcbliches Benchmark f\u00fcr Empfehlungs- und Zusammenfassungsforschung. Indem reale Verbraucherbewertungen in Sprachmodelle eingespeist und anschlie\u00dfend getestet wurde, wie die resultierenden Zusammenfassungen menschliche Urteile beeinflussten, isolierten die Forschenden die L\u00fccke zwischen dem, was K\u00e4ufer tats\u00e4chlich sagten, und dem, was die KI neuen Lesern sagte, sie h\u00e4tten gesagt.<\/p>\n Dieses Versuchsdesign ist wichtig, weil es das widerspiegelt, was gro\u00dfe E\u2011Commerce\u2011Plattformen bereits tun. Wenn ein H\u00e4ndler ein Sprachmodell nutzt, um Hunderte von Bewertungen zu einem kurzen Absatz zu verdichten, tr\u00e4gt die Ausgabe die Autorit\u00e4t der kollektiven Meinung, aber die Stimme eines einzelnen Algorithmus. Die Ergebnisse der Studie deuten darauf hin, dass diese Stimme nicht neutral ist.<\/p>\n\n\n\n\n\n\n Eine andere Forschungsreihe verkompliziert das Bild zus\u00e4tzlich. Experimente der Washington State University<\/a> zeigten, dass allein die Verwendung des Begriffs \u201ek\u00fcnstliche Intelligenz\u201c in Produktbeschreibungen die Kaufabsichten in verschiedenen Kategorien reduzierte. Die negative Reaktion war bei risikoreichen Angeboten<\/a> wie medizinischen Ger\u00e4ten oder Finanzdienstleistungen sogar noch st\u00e4rker, wo Verbraucher gegen\u00fcber automatisierten Entscheidungen offenbar besonders misstrauisch sind.<\/p>\n Stellt man diese Befunde nebeneinander, entsteht ein Paradoxon. KI-generierte Zusammenfassungen erh\u00f6hen die Kaufabsicht, wenn Leser nicht wissen, dass der Text von einer Maschine stammt. Sobald jedoch eine Plattform die Rolle der KI offenlegt, sinkt das Vertrauen, insbesondere bei K\u00e4ufen, bei denen Genauigkeit am wichtigsten ist. Diese Spannung schafft einen perversen Anreiz: H\u00e4ndler profitieren davon, KI\u2011Zusammenfassungen heimlich einzusetzen, und verlieren Kunden, wenn sie transparent sind. F\u00fcr K\u00e4ufer ist die praktische Erkenntnis deutlich: Die \u00fcberzeugendste Zusammenfassung auf einer Produktseite ist m\u00f6glicherweise diejenige, die am wenigsten wahrscheinlich ein Kennzeichnungsetikett tr\u00e4gt.<\/p>\n\n\n\n\n\n\n \u00d6konometrische Forschung der Arizona State University und der Nankai University erg\u00e4nzt eine weitere Dimension. Ziru Li und Jialin Nie untersuchten, wie KI-generierte Produktzusammenfassungen die Kaufgeschwindigkeit beeinflussen, und fanden mittels robuster \u00f6konometrischer Analysen<\/a>, dass der Effekt bei Produkten mit niedrigeren Preisen am st\u00e4rksten ausgepr\u00e4gt war. Das passt zu einem grundlegenden Prinzip des Verbraucherverhaltens: Wenn der finanzielle Einsatz klein ist, greifen Menschen eher auf Abk\u00fcrzungen zur\u00fcck. Eine pr\u00e4gnante, selbstbewusste Zusammenfassung erspart das Durchscrollen dutzender Bewertungen, und bei einem Preis von 15 Dollar werden nur wenige K\u00e4ufer die Angaben der KI gegen den Originaltext pr\u00fcfen.<\/p>\n Unabh\u00e4ngige Arbeiten zu Online-Plattformen best\u00e4tigen, dass Produktbewertungen zu einer prim\u00e4ren Bezugsquelle<\/a> f\u00fcr Kaufentscheidungen geworden sind. Wenn KI\u2011Zusammenfassungen das Lesen einzelner Bewertungen ersetzen, konzentrieren sie den Einfluss in einem einzigen algorithmisch erzeugten Absatz. Der Effizienzgewinn ist real, aber ebenso der Informationsverlust.<\/p>\n\n\n\n\n\n\nWie das Experiment aufgebaut war<\/h2>\n\n\n
Wenn die Kennzeichnung von KI nach hinten losgeht<\/h2>\n\n\n
Geschwindigkeit, Preis und die Entscheidungsabk\u00fcrzung<\/h2>\n\n\n
Kognitive Verzerrung als messbares Ergebnis<\/h2>\n\n\n