La factura después de la construcción: ¿Cuánto cuesta realmente hacer funcionar un sistema de IA?
Tasas del modelo, mantenimiento, revisión humana y deriva de calidad silenciosa — una forma práctica de presupuestar los doce meses después de que tu sistema AI entre en funcionamiento.
La facturación más allá del lanzamiento
La mayoría de los presupuestos de IA se agotan tras el lanzamiento inicial. La propuesta debe cubrir la fase de descubrimiento, construcción, integración y una fecha de puesta en marcha. Luego, el sistema funciona durante dos años, pero nadie ha registrado cuánto costaron esos dos años. Aquí está lo que realmente aparece en la factura.
El coste predecible: las tarifas del modelo
Las tarifas del modelo se calculan por token, aproximadamente por palabra de entrada y salida. Esto las hace predecibles si realizas los cálculos una vez.
Imagina a un asistente interno que gestiona 8.000 conversaciones al mes, con seis turnos cada una. Eso suma 48.000 llamadas al modelo, cada una con tus instrucciones, documentos recuperados y el contexto de la conversación hasta ese momento (aproximadamente 5.000 tokens). En un mes, estás comprando 240 millones de tokens de entrada y 19 millones de tokens de salida. A los precios medios del modelo, esto se traduce en unos 1.000 dólares al mes, y el almacenamiento en caché de las instrucciones repetidas puede reducir significativamente este coste.
Dos aspectos sorprenden a la gente: primero, que la entrada domina; pagas por todo lo que envías, en cada turno, y el largo contexto es el principal factor de control del coste. Segundo, los reintentos, las ejecuciones de evaluación y las pruebas internas añaden entre un 15% y un 30% al tráfico de producción. Presupuesta el importe bruto, no el neto.
Las tarifas del modelo por token han disminuido de forma constante. El gasto total suele aumentar de todos modos, ya que el uso crece y se emplean modelos más nuevos para tareas más complejas. Planifica en función del volumen, no de las tarifas.
Los costes ocultos en la propuesta
Las tarifas del modelo rara vez representan la línea más grande. El resto del coste operativo proviene de tareas habituales que los sistemas de IA requieren con mayor frecuencia:
- Revisión humana: Alguien revisa una muestra de salidas reales cada semana para comprobar si se mantiene la calidad. Para un sistema orientado al cliente, calcula unas pocas horas semanales, de forma permanente.
- Infraestructura del modelo: Índices de búsqueda, almacenes vectoriales, registro y la tubería que mantiene actualizados tus documentos. Pequeños individualmente, constantes en conjunto.
- Cambios: Nuevos productos, nuevas políticas o nuevos casos límite que el sistema maneja mal. Espera un pequeño flujo constante de ajustes en lugar de lanzamientos ocasionales importantes.
- Cambios de proveedor: Los modelos se deprecian según calendarios publicados. Migrar a un modelo sucesor implica re-probar todo lo que el anterior hacía bien, generalmente una vez al año.
- Cumplimiento y registros: Retención, control de acceso y el registro de auditoría que demuestra lo que el sistema le dijo a un cliente en marzo.
El drifte: la línea sorpresa
El software falla con estruendo. Los sistemas de IA se degradan en silencio y mantienen su confianza hasta el final.
Primero, tu negocio deriva. Cambian los precios, se retira un producto o se reescriben políticas. El sistema sigue respondiendo desde la versión que le diste, fluentemente y erróneamente, hasta que alguien lo nota.
Luego, tus usuarios derivan. Una vez que las personas aprenden lo que el sistema maneja, empujan hacia territorios adyacentes para los que no estaba inicialmente diseñado. Tráfico que parecía responder a preguntas frecuentes se convierte en interpretación de contratos, y la precisión que mediste al lanzamiento ya no describe lo que sucede.
Tu contenido también deriva. La recuperación que funcionaba con 400 documentos se vuelve más vaga con 4.000, ya que más coincidencias cercanas hacen que el resultado correcto se pierda entre las respuestas.
Nada de esto activa una alerta. Aparecerá meses después en forma de escalaciones crecientes, uso decreciente o una queja de un cliente que actuó en base a algo que dijo el sistema. Para entonces, la solución costará más que la supervisión habría costado.
La defensa es poco glamorosa y barata: toma muestras de 50 a 100 interacciones reales al mes, puntúalas frente a lo que diría un empleado bueno y rastrea la puntuación con el tiempo. Una persona, media jornada cada mes. Esta única práctica detecta casi todos los modos de fallo anteriores mientras aún son pequeños.
Presupuestar para la realidad
Presupuesta un coste anual de funcionamiento entre el 30% y el 50% del coste de construcción durante los primeros dos años. Por debajo del 20%, el sistema está siendo descuidado y la curva de calidad lo reflejará. Por encima del 60%, o bien la construcción dejó demasiadas tareas pendientes, o el caso de uso es más volátil de lo que parecía.
Divide ese número en tres categorías: uso (tarifas del modelo e infraestructura, escalando con el volumen), custodia (revisión, supervisión y registros -aproximadamente fijo) y cambios (adaptándose a tu negocio y al plan de la casa proveedora). Las categorías se comportan de forma diferente, por lo que una cifra única puede engañarte la primera vez que el volumen se duplique.
Luego, designa un propietario. Un sistema de IA sin un propietario designado y una línea presupuestaria permanente no será mantenido; será tolerado hasta su abandono silencioso. Este es el verdadero coste de omitir este proceso -no el despilfarro, sino pagar por construirlo dos veces.
Trabaja en la tasa de uso antes de la construcción, no después. El número a menudo cambia lo que decides construir, que es exactamente para lo que sirve. Es el primer cálculo que realizamos con un cliente y, ocasionalmente, la razón para recomendar un sistema más pequeño del que pidieron inicialmente.