Un estudio en preimpresi\u00f3n sobre modelos de lenguaje a gran escala hall\u00f3 que los res\u00famenes de productos generados por IA hicieron que los lectores tuvieran un 32% m\u00e1s de probabilidad de decir que comprar\u00edan, aunque los mismos modelos inventaron hechos en aproximadamente el 60% de los casos. El hallazgo, obtenido a partir de experimentos que usaron un conocido conjunto de datos de rese\u00f1as de Amazon, plantea una pregunta directa para los compradores en l\u00ednea y las plataformas que los sirven: \u00bfqu\u00e9 sucede cuando el texto que empuja a la gente hacia una compra es fluido, persuasivo y con frecuencia incorrecto?<\/p>\n
La investigaci\u00f3n, titulada Quantifying cognitive bias<\/a>, midi\u00f3 varias formas en que los modelos de lenguaje distorsionan c\u00f3mo las personas procesan la informaci\u00f3n sobre productos. Los participantes que leyeron res\u00famenes generados por IA mostraron una probabilidad de compra un 32% mayor en comparaci\u00f3n con las condiciones de control. Los mismos modelos exhibieron un cambio de encuadre del 26,42%, lo que significa que alteraron sistem\u00e1ticamente la forma en que se presentaban los atributos del producto, y un sesgo de primac\u00eda del 10,12%, donde los elementos mencionados primero recib\u00edan un peso desproporcionado. En preguntas sobre hechos fuera de los datos de entrenamiento de los modelos, la tasa de alucinaciones alcanz\u00f3 el 60,33%.<\/p>\n Esas cuatro m\u00e9tricas cuentan una historia coherente. Los modelos no solo resumen; reconfiguran c\u00f3mo se percibe la informaci\u00f3n. Los efectos de enmarcado y el sesgo de primac\u00eda son atajos cognitivos bien documentados en la psicolog\u00eda humana. Cuando un resumen encabeza con las fortalezas de un producto y oculta sus inconvenientes, o cuando fabrica una especificaci\u00f3n que el comprador no puede verificar r\u00e1pidamente, el resultado es un lector que se siente informado pero que puede no estarlo. El aumento del 32% en la intenci\u00f3n de compra no ocurre a pesar de los errores. Puede ocurrir en parte por ellos, ya que un texto confiado y rico en detalles se percibe como autoritario incluso cuando los detalles son inventados.<\/p>\n El estudio obtuvo sus rese\u00f1as de producto de un gran corpus de Amazon<\/a> com\u00fanmente citado como Ni et al. (2019). Ese conjunto de datos compila millones de opiniones escritas por usuarios en decenas de categor\u00edas de productos, desde electr\u00f3nica hasta libros, y se ha convertido en un referente est\u00e1ndar para la investigaci\u00f3n en recomendaci\u00f3n y resumen. Al alimentar rese\u00f1as reales de consumidores a modelos de lenguaje y luego probar c\u00f3mo los res\u00famenes resultantes afectaban el juicio humano, los investigadores aislaron la brecha entre lo que los compradores dijeron realmente y lo que la IA les dijo a nuevos lectores que dijeron.<\/p>\n Este dise\u00f1o experimental importa porque refleja lo que ya est\u00e1n haciendo las grandes plataformas de comercio electr\u00f3nico. Cuando un minorista usa un modelo de lenguaje para condensar cientos de rese\u00f1as en un p\u00e1rrafo breve, la salida lleva la autoridad de la sabidur\u00eda colectiva pero la voz de un \u00fanico algoritmo. Los resultados del estudio sugieren que esa voz no es neutral.<\/p>\n Una l\u00ednea separada de investigaci\u00f3n complica a\u00fan m\u00e1s el panorama. Experimentos de la Washington State University<\/a> encontraron que el simple uso del t\u00e9rmino \u201cinteligencia artificial\u201d en las descripciones de productos redujo la intenci\u00f3n de compra en diversas categor\u00edas. La respuesta negativa fue incluso m\u00e1s fuerte para ofertas de alto riesgo<\/a>, como dispositivos m\u00e9dicos o herramientas financieras, donde los consumidores parecen especialmente recelosos de la toma de decisiones automatizada.<\/p>\n Si se ponen estos hallazgos lado a lado emerge una paradoja. Los res\u00famenes generados por IA aumentan la intenci\u00f3n de compra cuando los lectores no saben que el texto proviene de una m\u00e1quina. Pero en el momento en que una plataforma revela el papel de la IA, la confianza cae, especialmente en compras donde la precisi\u00f3n importa m\u00e1s. Esa tensi\u00f3n crea un incentivo perverso: los minoristas se benefician de desplegar res\u00famenes de IA discretamente y pierden clientes cuando son transparentes al respecto. Para los compradores, la conclusi\u00f3n pr\u00e1ctica es contundente. El resumen m\u00e1s persuasivo en una p\u00e1gina de producto puede ser el que menos probabilidades tenga de llevar una etiqueta de divulgaci\u00f3n.<\/p>\n Investigaciones econom\u00e9tricas de la Arizona State University y la Nankai University a\u00f1aden otra dimensi\u00f3n. Ziru Li y Jialin Nie examinaron c\u00f3mo los res\u00famenes de productos generados por IA afectan la velocidad de compra y encontraron, mediante an\u00e1lisis econom\u00e9tricos robustos<\/a>, que el efecto fue m\u00e1s pronunciado en productos de menor precio. Eso se alinea con un principio b\u00e1sico del comportamiento del consumidor: cuando las apuestas financieras son peque\u00f1as, las personas dependen m\u00e1s de atajos. Un resumen conciso y seguro elimina la necesidad de desplazarse por docenas de rese\u00f1as, y a un precio de 15 d\u00f3lares, pocos compradores contrastar\u00e1n las afirmaciones de la IA con el texto original.<\/p>\n Trabajos separados sobre plataformas en l\u00ednea confirman que las rese\u00f1as de productos se han convertido en un punto de referencia principal<\/a> para las decisiones de compra. A medida que los res\u00famenes de IA reemplazan el acto de leer rese\u00f1as individuales, concentran la influencia en un \u00fanico p\u00e1rrafo generado algor\u00edtmicamente. La ganancia de eficiencia es real, pero tambi\u00e9n lo es la p\u00e9rdida de informaci\u00f3n.<\/p>\nC\u00f3mo se dise\u00f1\u00f3 el experimento<\/h2>\n
Cuando etiquetar la IA sale mal<\/h2>\n
Velocidad, precio y el atajo decisorio<\/h2>\n
El sesgo cognitivo como resultado medible<\/h2>\n