Com funciona el Function Calling: dels tokens a la programació

La màgia darrere del Function Calling

Quan sol·licitem a un model de llenguatge que compari el clima de dues ciutats, el LLM no navega per Internet per si mateix. En canvi, utilitza una tècnica anomenada function calling. Aquest mecanisme permet que el model decideixi quan i com utilitzar eines externes, actuant com un orquestrador intel·ligent que connecta la lògica de la programació tradicional amb la capacitat generativa de la IA.

Per entendre l'impacte d'aquesta tecnologia en l'ecosistema actual, és fonamental explorar com s'integra amb els models de Infraestructura para IA: El futuro de la programación y el Open Source. No es tracta només de rebre text, sinó d'obtenir dades estructurades i fiables.

Evolució cap a dades estructurades

Tradicionalment, extreure informació d'un LLM era una tasca fràgil basada en prompts que sovint fallaven. Avui, el function calling es posiciona com l'estàndard d'or:

1. Text pla: Resultats impredictibles que requereixen parsing manual.
2. Mode JSON: Força un format vàlid, però sense garantia d'esquema.
3. Function Calling: Defineix esquemes estrictes (tipus, enums, camps obligatoris) validats a nivell de token.

El function calling no és una capacitat "nativa" de lectura d'objectes; és una restricció en la generació de tokens que assegura que el resultat final sigui un JSON vàlid i conforme a l'esquema definit.

Orquestració: Paral·lelisme i Seqüència

El veritable poder sorgeix quan el model necessita executar múltiples tasques. El LLM pot decidir, pel seu compte, realitzar trucades paral·leles (ex. consultar el clima de diverses ciutats alhora) o seqüencials (ex. obtenir la capital d'un país per després consultar el seu clima).

Per implementar això en projectes de javascript o qualsevol altre llenguatge, es recomana evitar les cadenes d' if/else i optar per un patró de registre. Un diccionari que mapeja noms de funcions als seus respectius handlers fa que el codi sigui net, escalable i fàcil de mantenir.

La importància del control

El paràmetre tool_choice permet decidir el nivell d'autonomia del model:

• auto: El model decideix si utilitzar eines.
• required: Obliga a l'ús d'almenys una eina.
• none: Desactiva la capacitat de trucades, forçant una resposta de text estàndard.

Conclusió

El function calling ha tancat la bretxa entre la generació de llenguatge natural i l'execució de codi determinista. En restringir la generació de tokens mitjançant esquemes definits, els desenvolupadors poden construir agents robusts que interactuen amb APIs del món real amb una fiabilitat sense precedents. Aquesta evolució és un pilar clau en la maduració de l'open source aplicat a l'automatització intel·ligent.