El problema del pensament grupal en la Intel·ligència Artificial i els LLM

La il·lusió de l'aleatorietat en la Intel·ligència Artificial

Si demaneu a un model de llenguatge convencional com ChatGPT, Claude o Gemini que triï un número a l'atzar entre l'1 i el 10, és molt probable que la resposta sigui 7. Si insistiu amb un "un altre", els resultats solen oscil·lar entre el 3, 4, 8 o 9. Aquest fenomen no és una coincidència, sinó un símptoma d'un problema estructural que afecta la intel·ligència artificial moderna: el pensament grupal o groupthink.

Els LLM (Large Language Models) han estat entrenats amb vastes quantitats de dades provinents de la web, la qual cosa genera una tendència estadística a repetir patrons comuns. Encara que aquestes eines semblen capaces de raonar, la seva arquitectura de machine learning prioritza la probabilitat per sobre de la veritable creativitat o l'aleatorietat pura.

Per què els LLM estan atrapats en un bucle?

L'arquitectura actual dels models està dissenyada per minimitzar la incertesa. En predir el següent token més probable, el sistema evita respostes "estranyes" o atípiques, la qual cosa resulta en una homogeneïtzació dels resultats. Mentre empreses com OpenAI intenten avançar en la potència dels seus models, com es detalla a OpenAI desafía la regulación con el lanzamiento de su nueva Inteligencia Artificial GPT-5.6, el repte de la diversitat de pensament continua sent una assignatura pendent.

Cap a una IA menys predictible

Una nova startup està intentant trencar aquest cicle mitjançant tècniques que obliguen els models a explorar espais de probabilitat menys transitats. Els beneficis de superar aquest biaix inclouen:

• Més creativitat: Respostes menys mecàniques i més originals.
• Millor resolució de problemes: Evitar biaixos cognitius heretats de les dades d'entrenament.
• Diversitat de perspectives: Capacitat d'oferir punts de vista divergents en lloc d'una única "veritat" consensuada.

"Els models de llenguatge actuals estan atrapats en una rutina estadística que imita la previsibilitat humana, oblidant que la veritable intel·ligència requereix la capacitat de sorprendre."

Conclusió

El futur de la intel·ligència artificial no només depèn de la quantitat de paràmetres o de la capacitat de còmput, sinó de la nostra habilitat per injectar entropia i pensament crític en sistemes que, per naturalesa, prefereixen el camí de menor resistència estadística. Trencar el groupthink és el següent pas necessari per passar d'assistents útils a sistemes realment innovadors.

Fonts: MIT Technology Review - LLMs are stuck in a groupthink groove. This startup is trying to get them out.