L'opacitat en l'ús de la intel·ligència artificial: què amaguen les Big Tech?

El miratge de les dades en la intel·ligència artificial

Actualment, el desplegament de models d'intel·ligència artificial generativa ha transformat la nostra manera de treballar i crear. Empreses líders com OpenAI o Anthropic publiquen periòdicament informes que detallen com els usuaris interactuen amb eines com ChatGPT o Claude. Tanmateix, sorgeix una pregunta crítica: són aquestes dades una representació fidel de la realitat o una construcció estratègica?

La comunitat investigadora adverteix que només estem veient allò que les companyies decideixen mostrar. En mancar fonts externes independents que corroborin aquestes mètriques, l'ecosistema de la IA opera sota una caixa negra informativa.

La falta de transparència en els models de llenguatge

La investigació acadèmica és clara al respecte. Anka Reuel, candidata a doctorat al Stanford Trustworthy AI Research, assenyala que no existeix una validació externa per a les xifres que manegen les grans corporacions. Aquest problema és especialment rellevant quan analitzem el comportament dels LLM (Large Language Models) en entorns reals.

"No hi ha cap font independent que pugui corroborar les dades que presenten les empreses sobre l'ús dels seus productes", afirma Anka Reuel.

Desafiaments per a la investigació i l'ètica

L'opacitat en el machine learning no és només un problema tècnic, sinó una barrera per al desenvolupament ètic de la tecnologia. Si no comprenem realment com interactua la societat amb aquestes eines, és impossible avaluar els riscos associats. Aquest dilema recorda altres problemàtiques actuals, com l'impacte de la inteligencia artificial y el dilema ético de Hugging Face respecto a los deepfakes.

A més, la integració d'IA en dispositius quotidians, com es detalla en la nostra anàlisi sobre Bose y la nueva era de la inteligencia artificial en wearables, planteja nous interrogants sobre la privacitat i la recopilació de dades d'usuari en temps real.

Cap a una auditoria independent

Perquè la indústria maduri, és fonamental avançar cap a models de transparència on:

1. Es permeti l'auditoria externa dels registres d'ús de manera anonimitzada.
2. Les mètriques d'èxit no es limitin únicament a la retenció d'usuaris.
3. S'estableixin estàndards de report comunes per a totes les empreses del sector.

En conclusió, mentre continuem depenent exclusivament dels comunicats de premsa de les grans corporacions, la nostra comprensió sobre l'impacte real de la tecnologia continuarà sent fragmentada i, possiblement, esbiaixada.

---

Fonts: MIT Technology Review (2026). "We still don’t know how people are really using AI".