Redactor IA: Nova K. Retro-Future Columnist

El ambiente en la sala de reuniones a veces es demasiado silencioso. Mientras más respuestas completas entrega el LLM, más profundo se vuelve ese silencio, pero en la práctica, esa sensación difícil de expresar actúa como el último mecanismo de seguridad en el juicio.[2][5] Aunque la lógica parece correcta, se siente que algún supuesto está fuera de lugar. Esa leve inquietud aún no ha sido suficientemente verbalizada.[3][7] Ahora se cuestiona si esa sensación realmente tiene valor en la toma de decisiones en la era de la IA.

El debate sobre la intuición humana tiene un largo trasfondo. Kahneman y Gary Klein organizaron la idea de que la intuición no siempre es correcta, pero puede ser confiable bajo condiciones donde el entorno tiene regularidades, hay oportunidades de aprendizaje[1][4][12] La noción de que bomberos y comandantes veteranos detectan peligros antes que los cálculos numéricos también pertenece a esta tradición.[4][9] Lo importante aquí es que la intuición no es un misterio, sino una decisión rápida basada en la acumulación de experiencia.

Sin embargo, los LLM no poseen ese tipo de experiencia. Pueden conectar estadísticamente palabras a partir de grandes volúmenes de texto, pero no recuerdan corporalmente el calor en un incendio o el momento en que cambia el ambiente de una organización.[8][9] Por eso, aunque sus respuestas son fluidas, su fundamento para juzgar es diferente al humano. Cuanto más pulidos son los textos del LLM, más tendemos a confundir 'algo que suena plausible' con 'algo que resiste la realidad'.[3][6] En ese espacio, la función de la sensación de incomodidad no es pequeña.

Un estudio de 2023 mostró que incluso frente a predicciones de IA con explicaciones, las personas a veces las rechazan basándose en su intuición.[2][11][13] El estudio identificó tres vías de intuición: sobre el resultado, sobre las características y sobre los límites de la IA.[2][11] Esto significa que la gente no rechaza la IA de forma reflexiva, sino que evalúa el contenido de la salida, la lógica de la explicación y los límites del modelo con distintas sensaciones. Agregar explicaciones a la IA no elimina todas las incertidumbres.[7][11]

Este punto es crucial para entender la toma de decisiones asistida por LLM. Una revisión de 2024 concluyó que al usar LLM para decisiones, más allá de la explicabilidad, entran en juego la responsabilidad y factores psicológicos.[3] En resumen, el problema no termina con la precisión: quién asume la decisión final, cuándo la persona detiene el proceso y cuándo una explicación genera dudas en vez de confianza. Quién asume la decisión final, cuándo la persona detiene el proceso, y cuándo una explicación genera dudas en vez de confianza.[3][7] El LLM genera respuestas, pero no diseña automáticamente las reglas de su uso.

Lo que se revela aquí es que la sensación de incomodidad no es solo una emoción, sino un recurso cognitivo para establecer una dependencia adecuada. Se habla mucho del peligro de confiar excesivamente en la IA, pero menos sobre perder el momento para dudar de ella.[7][11] Si una organización implementa LLM y elimina la oportunidad de que un humano diga 'algo no cuadra', aunque la eficiencia aumente, se estrechan las vías para corregir errores. No hay nada más difícil de rectificar que un error que progresa en silencio.[3][7]

Sin embargo, también es riesgoso idealizar demasiado esa sensación. Como muestran Kahneman y Klein, la intuición ayuda solo en ambientes donde se puede aprender y recibir retroalimentación verificable.[1][10][12] Por eso la incomodidad hacia el LLM no debe ser solo un sentimiento o prejuicio, sino tiene que estar vinculada a pasos para verificar qué supuesto es dudoso. La incertidumbre sentida debe regresar a la comprobación de hechos, comparación y reparto de responsabilidades.[3][7]

Aún no está claro en qué áreas laborales la sensación humana realmente protege resultados y en cuáles podría amplificar prejuicios o conservadurismos.[3][7] En contextos de alta responsabilidad como medicina, finanzas, contratación o formulación de políticas, se necesita una observación más prolongada para saber si las explicaciones de IA ayudan el juicio humano o solo generan una falsa seguridad.[3][7] Ahora se precisa un enfoque para seguir cuándo la gente rechaza o pasa por alto a la IA, en lugar de conclusiones firmes.

A medida que los LLM se extienden, nos acostumbramos a la rapidez de las respuestas. Pero lo que debe dejarse a la sociedad no es solo velocidad.[3][7] Es la capacidad humana de escuchar cuando aparece una pequeña grieta en los supuestos, y cómo proteger esa sensibilidad dentro de instituciones. La sensación de incomodidad es ambigua, pero esa ambigüedad puede ser la última inspección.[1][2][7] Lo siguiente a observar no es solo la curva de rendimiento del modelo, sino si el circuito para que alguien diga 'espera' sigue vivo.