La IA no resume reseñas: las reescribe para influir en tu decisión

Cuando pedimos a ChatGPT, Claude o cualquier otro modelo de lenguaje que nos resuma un texto, asumimos implícitamente que la máquina actúa como un secretario neutral: recorta lo superfluo y nos entrega la esencia. Sin embargo, un estudio reciente presentado en la conferencia IJCNLP 2025 revela una realidad más inquietante: la IA no solo acorta los textos, sino que a menudo altera su significado, introduce sesgos cognitivos y, lo más preocupante, modifica nuestras decisiones de compra o criterio profesional sin que nos demos cuenta.

La investigación analizó seis modelos de lenguaje (incluyendo GPT-3.5, Llama, Phi, Qwen y Gemma) en tareas cotidianas como resumir reseñas de Amazon, noticias y entrevistas. El objetivo no era solo verificar la exactitud técnica, sino medir cómo estos resúmenes activan sesgos humanos específicos.

Los tres sesgos que distorsionan la realidad

El estudio identificó tres formas principales en las que los resúmenes de IA deforman la información original:

1. Sesgo de encuadre (Framing Bias): Ocurre cuando el resumen cambia el tono o sentimiento del texto original. Por ejemplo, una reseña con matices ("buen producto, pero servicio lento") se convierte en un resumen puramente positivo ("producto funcional"). Los investigadores detectaron que, en promedio, el 26,42% de los resúmenes alteraban el encuadre lo suficiente como para considerarlo un sesgo significativo.

2. Sesgo de primacía: Los modelos tienden a dar mucho más peso a la información que aparece al principio del texto, ignorando lo que está al final. Esto sucedió en un 10,12% de los casos. Si la advertencia clave de un contrato o el "pero" importante de una reseña está en el último párrafo, es probable que desaparezca.

3. Alucinaciones por desactualización: Cuando se trata de noticias o datos posteriores a la fecha de corte de conocimiento del modelo, la tasa de error se dispara al 60,33%. La IA rellena los huecos con invenciones presentadas con total seguridad.

El impacto real: manipulando la decisión humana

Lo verdaderamente alarmante no son los errores técnicos, sino su efectividad persuasiva. El estudio realizó un experimento con humanos pidiéndoles elegir productos. Cuando los participantes leían las reseñas originales, el 52,3% elegía un producto determinado. Sin embargo, cuando leían un resumen con sesgo positivo generado por IA, esa cifra saltaba al 83,7%. Además, la disposición a pagar por dicho producto aumentaba un 4,5%.

Esto tiene implicaciones directas para cualquier profesional. Si trabajas en marketing, un resumen automático del feedback de clientes puede estar ocultándote quejas recurrentes (sesgo de encuadre). En el ámbito legal o de cumplimiento, un resumen que omita las cláusulas finales (sesgo de primacía) puede ser peligroso. La lección es clara: "resumen" no es sinónimo de "neutral". Estamos introduciendo una capa editorial algorítmica en nuestros flujos de trabajo.

Estrategias para mitigar el riesgo

Afortunadamente, no estamos indefensos. Existen técnicas de prompting y diseño para reducir estos sesgos:

• Para el sesgo de encuadre: Usa "prompts de autocontrol". Sé explícito: "Resume este texto conservando el tono original. Incluye tanto aspectos positivos como negativos". Forzar una estructura (ej. "Lista pros y contras") también ayuda a evitar que el modelo se decante solo por lo bueno.

• Para el sesgo de primacía: Divide y vencerás. Si el texto es largo, pide resúmenes por tramos (primer tercio, segundo, último) y luego únelos. Esto asegura que el final del texto tenga representación.

• Para las alucinaciones: Si necesitas verificar hechos recientes, conecta el modelo a fuentes externas (RAG) o limita su alcance con instrucciones estrictas: "Resume SOLO lo que dice este documento; no añadas información externa".

• Etiquetado de confianza: Pide al modelo que indique su nivel de seguridad. Si la IA dice "confianza baja", es una señal para que un humano revise el original.

La IA generativa es una herramienta indispensable para la productividad, pero tratarla como una caja negra infalible es un error costoso. La regla de oro debe ser la transparencia: siempre que se presente un resumen automático, el texto original debe estar accesible a un solo clic ("Ver original"). Debemos dejar de ver los resúmenes como verdades absolutas y empezar a tratarlos como lo que son: interpretaciones probabilísticas que requieren supervisión.