Ahorrando tokens en LemonTreeCloud

El truco no es un modelo más barato: es sacar el trabajo mecánico del contexto de la IA y guardarlo en scripts reutilizables

65 GB de documentos pasan por un embudo y salen como un fichero .md de 710 MB

Lo caro de trabajar con IA no suele ser el razonamiento: es la materia prima. Un PDF escaneado, un Excel de 200 MB, una nota de voz de WhatsApp. Si se los echas tal cual al modelo, pagas una fortuna en tokens, y muchas veces ni siquiera los sabe leer.

Nuestra regla en LemonTreeCloud es simple: el trabajo mecánico y a granel lo hacen herramientas locales, deterministas y baratas; a la IA le llega solo texto compacto para que lea, razone y cueste poco. Y cada uno de esos pasos lo dejamos convertido en un script reutilizable. Vamos por partes.

1. Documentos de ofimática, a Markdown

El caso más claro lo vivimos con el archivo de un despacho de abogados: unos 65 GB y más de 80.000 ficheros (Word, PDF, RTF, Excel, PowerPoint, escaneos... décadas de expedientes). Meter eso en el contexto de un modelo es imposible y absurdo. Así que no lo metimos: lo convertimos.

Un solo script en Python recorre todo el árbol de carpetas y convierte cada documento a Markdown con markitdown (la librería de Microsoft para pasar Office/PDF a texto), con un fallback a LibreOffice para los formatos binarios antiguos (.doc, .ppt) que markitdown rechaza. Es idempotente (salta lo ya hecho) y va en paralelo con varios procesos.

El resultado, desatendido, en unas 7 horas y media: unos 75.000 ficheros Markdown que ocupan 710 MB. Es decir, de 65 GB a 0,7 GB, casi 90 veces menos, con solo un 0,18% de fallos (PDFs corruptos, fuentes, accesos directos de Windows y algún formato prehistórico; nada documental). A partir de ahí, la IA lee un expediente entero en un puñado de ficheros de texto, en una fracción de los tokens, en lugar de atragantarse con binarios que no entiende.

2. Reconocimiento de texto (OCR) en PDF sin texto e imágenes

Muchos de esos PDF son escaneos: píxeles, sin capa de texto. Primero los detectamos con poppler (pdffonts = 0 fuentes, o pdftotext = casi 0 caracteres). Solo a esos les pasamos el OCR con ocrmypdf -l spa --skip-text, que genera un fichero nuevo _ocr.pdf (formato PDF/A) con una capa de texto invisible debajo de la imagen. El original sellado no se toca (importa para su validez probatoria) y el nuevo ya es buscable y legible por la IA. Para imágenes sueltas (jpg/png) usamos tesseract directamente (con el idioma español). Otra vez: el modelo lee la capa de texto ya extraída, no descifra píxeles token a token.

3. Notas de voz de WhatsApp, a texto

Los audios que llegan por WhatsApp (formato opus/ogg) los transcribimos en el propio servidor con faster-whisper (el modelo "small", en CPU): decodifica el audio él mismo (lleva PyAV incorporado, no hace falta ffmpeg del sistema), en español y con detección de voz. Una nota de voz de dos minutos se convierte en un párrafo de texto que la IA lee al instante, sin subir el audio a ningún servicio externo.

4. Traducciones (el mecanismo de ltc-web-expert)

Aquí somos honestos: esta pieza es más de corrección que de ahorro de tokens. Nuestro sitio web es bilingüe y la fuente siempre es el inglés; la versión española se genera término a término (escribimos el inglés, y guardamos la traducción de cada fragmento por separado). Lo que gana esto es integridad: el inglés fuente nunca se corrompe y el español nunca "se cae" al inglés. El ahorro de tokens existe, pero es modesto: cada fragmento se traduce una vez y se reutiliza, así que corregir un párrafo re-traduce solo ese párrafo, no la entrada entera en los dos idiomas.

Y lo que para nosotros es la clave: pide scripts, no mano de obra

Si te fijas, las cuatro secciones anteriores son el mismo movimiento. En lugar de que la IA haga el trabajo a mano dentro de su contexto (caro, de una sola vez y sin dejar rastro), le pedimos que escriba un pequeño script que hace ese trabajo con herramientas deterministas y baratas. Y ese script es reutilizable: si no al 100%, en un porcentaje altísimo.

El conversor a Markdown del despacho de abogados no se escribió para 80.000 ficheros: se escribió una vez, corrió sobre 80.000 ficheros, y está listo para el siguiente lote de expedientes o para el siguiente cliente. El coste de la IA se paga una vez (redactar el script) y se amortiza en cada ejecución posterior, que ya no gasta ni un token del modelo.

Ese es el fondo de todo esto. La IA es carísima haciendo trabajo mecánico repetitivo, y baratísima escribiendo el programa que lo hace por ella. El token más barato es el que no llegas a gastar. Saca el trabajo pesado del modelo, mete texto compacto, y quédate con el script.

-- Fer & Claude, LTC Labs

Misma pregunta, distintos LLMs: ¿de verdad saben cómo funcionan las dependencias en Odoo?
Nueve modelos, una pregunta con trampa sobre el manifest de Odoo, y un árbitro que lee el código fuente