La IA y el mito de la aleatoriedad: ¿Qué revela tu modelo de lenguaje?

El experimento: ¿Por qué las IAs siempre eligen el mismo número?

Es un fenómeno recurrente: al pedirle a un modelo de lenguaje que elija un número «aleatorio» entre 1 y 100, la respuesta suele ser 42 o 73. Lejos de ser una coincidencia, este comportamiento es una huella digital estadística que revela cómo se ha construido su base de conocimiento. Al realizar pruebas con seis modelos distintos (Claude, Gemini, Copilot, DeepSeek, GLM-5.1 y Grok), queda claro que lo que percibimos como una elección al azar es, en realidad, un proceso de predicción de tokens basado en la cultura humana.

Sesgos en la programación y el entrenamiento

Los modelos entrenados con datos centrados en la programación y comunidades técnicas tienden a elegir el número 42, una referencia directa a The Hitchhiker's Guide to the Galaxy. Por el contrario, aquellos con una exposición más amplia a la cultura mainstream se inclinan por el 73, el «número favorito» de Sheldon Cooper en The Big Bang Theory. Esto demuestra que los LLMs no calculan; simplemente replican patrones de texto humano.

«El modelo no está lanzando un dado; está prediciendo qué diría un humano en esa situación específica basándose en la probabilidad estadística de sus datos de entrenamiento.»

La trampa de la aleatoriedad en el desarrollo

Cuando intentamos forzar al modelo a ser más «objetivo» mediante prompts de contexto técnico, el resultado no mejora, solo cambia el sesgo. Algunos modelos, al ser advertidos de que se trata de una prueba de desarrollo, comienzan a arrojar potencias de 2 (como 64) o resultados basados en simulaciones matemáticas, pero siguen sin alcanzar una verdadera entropía.

Esto es un recordatorio crítico para cualquier desarrollador. Si tu sistema depende de una generación de números aleatorios segura, nunca utilices una IA. En su lugar, recurre a librerías estándar de javascript como crypto.randomInt(1, 101). Confiar la entropía a un modelo de lenguaje es un error de arquitectura que puede comprometer la seguridad de tus aplicaciones, al igual que ignorar los riesgos en Tus Pipelines CI/CD: La Mayor Superficie de Ataque No Vigilada.

La ilusión de la neutralidad

Incluso al solicitar explícitamente que eviten sesgos, los modelos luchan contra su propia naturaleza. Sus procesos de pensamiento muestran cómo descartan opciones por considerarlas «demasiado notables» o «demasiado humanas», lo cual es, en sí mismo, un sesgo.

Conclusión

Los modelos de lenguaje son espejos. Cuando una IA elige un número, no está realizando una operación matemática compleja de aleatoriedad, sino ejecutando un argmax sobre una distribución de probabilidad cargada de cultura pop y jerga de open source. Entender esto es fundamental para cualquier profesional que integre IA en su flujo de trabajo, ya que nos permite diferenciar entre una herramienta de razonamiento lógico y un predictor de lenguaje estadístico.

Fuente: Dev.to