La Factura Después de la Construcción: Cuánto Cuesta Realmente Operar un Sistema de IA
Cuotas del modelo, mantenimiento, revisión humana y deriva de calidad silenciosa — una forma práctica de presupuestar los doce meses después de que tu sistema de IA entre en funcionamiento.
La facturación más allá del lanzamiento
La mayoría de los presupuestos de IA se agotan al momento del lanzamiento. La propuesta debe cubrir la fase de descubrimiento, construcción, integración y una fecha de puesta en marcha. Luego, el sistema opera durante dos años, pero nadie registra los costos reales de esos dos años. Aquí es donde realmente se refleja lo que se cobra en la factura.
El costo calculable del modelo
Las tarifas del modelo se miden por token, aproximadamente por palabra de entrada y salida. Esto las hace predecibles si realizas los cálculos una vez.
Imagina un asistente de soporte interno que maneja 8,000 conversaciones al mes, con seis turnos cada una. Eso suma 48,000 llamadas al modelo. Cada llamada incluye tus instrucciones, los documentos recuperados y el contexto de la conversación hasta ese momento, lo que equivale a unos 5,000 tokens de entrada; y genera aproximadamente 400 tokens de salida. Estás comprando 240 millones de tokens de entrada y 19 millones de tokens de salida al mes. A un precio medio del modelo, esto se traduce en unos $1,000 mensuales, y el almacenamiento en caché de las instrucciones repetidas puede reducir significativamente este costo.
Dos aspectos sorprenden a la gente: primero, que los tokens de entrada dominan; pagas por todo lo que envías, en cada turno, y el largo contexto es el principal factor de control de costos. Segundo, los reintentos, ejecuciones de evaluación e internos pruebas añaden entre un 15% y 30% al tráfico de producción. Presupuesta el monto bruto, no el neto.
Las tarifas del modelo por token han disminuido constantemente. El gasto total suele aumentar, ya que el uso crece y se emplean modelos más nuevos para tareas más complejas. Planifica en base al volumen, no a las tarifas.
Los costos ocultos en la propuesta
Los cargos del modelo rara vez representan la línea más grande. El resto de los gastos operativos son tareas comunes que los sistemas de IA requieren con mayor frecuencia:
- Revisión humana: Alguien revisa una muestra de salidas reales cada semana para determinar si se mantiene la calidad. Para un sistema orientado al cliente, considera unas pocas horas semanales, de manera permanente.
- Infraestructura del modelo: Índices de búsqueda, almacenes vectoriales, registro y la tubería que mantiene tus documentos actualizados. Modestas individualmente, constantes en conjunto.
- Cambios: Nuevos productos, nuevas políticas o nuevos casos límite que el sistema maneja mal. Espera un pequeño flujo constante de ajustes en lugar de lanzamientos ocasionales grandes.
- Cambios de proveedor: Los modelos se deprecian según cronogramas publicados. Migrar a un sucesor implica re-probar todo lo que el antiguo hacía bien, generalmente una vez al año.
- Cumplimiento y registros: Retención, control de acceso y el registro de auditoría que demuestra lo que el sistema le dijo a un cliente en marzo.
El costo inesperado del "drift"
El software falla con ruido. Los sistemas de IA se degradan en silencio y mantienen su confianza hasta el final.
Primero, tu negocio deriva. Cambian los precios, se retira un producto o se reescriben políticas. El sistema sigue respondiendo desde la versión que le dieron, fluentemente y erróneamente, hasta que alguien lo nota.
Luego, tus usuarios derivan. Una vez que las personas aprenden lo que el sistema maneja, empujan hacia territorios adyacentes para los que no estaba escopado. Tráfico que parecía responder preguntas frecuentes se convierte en interpretación de contratos, y la precisión que mediste al lanzamiento ya no describe lo que sucede.
Tu contenido también deriva. La recuperación que funcionaba con 400 documentos se vuelve más vaga con 4,000, ya que más coincidencias cercanas sacan del resultado la respuesta correcta.
Nada de esto genera una alerta. Aparece meses después en forma de escalaciones crecientes, uso decreciente o una queja de un cliente que actuó basado en algo que el sistema dijo. Para entonces, la solución cuesta más que la supervisión habría costado.
La defensa es poco glamorosa y barata: toma muestras de 50 a 100 interacciones reales al mes, puntúalas contra lo que diría un empleado bueno y rastrea la puntuación con el tiempo. Una persona, media jornada cada mes. Esta simple práctica detecta casi todos los modos de fallo anteriores mientras aún son pequeños.
Presupuestar para la realidad
Presupuesta un costo operativo anual del 30-50% del costo de construcción para los primeros dos años. Por debajo del 20%, el sistema está siendo descuidado y la curva de calidad lo reflejará. Por encima del 60%, o bien la construcción dejó demasiado sin terminar, o el caso de uso es más volátil de lo que parecía.
Divide ese número en tres categorías: uso (tarifas del modelo e infraestructura, escalando con el volumen), custodia (revisión, supervisión y registros -aproximadamente fijo) y cambios (adaptándose a tu negocio y al plan de ruta de tu proveedor). Las categorías se comportan de manera diferente, por lo que una cifra combinada única puede engañarte la primera vez que el volumen se duplique.
Luego, asigna un propietario. Un sistema de IA sin un propietario nombrado y una línea presupuestaria permanente no será mantenido; será tolerado hasta que sea abandonado silenciosamente. Este es el verdadero costo de omitir este ejercicio -no gastar demasiado, sino pagar por construirlo dos veces.
Trabaja la tasa de ejecución antes del lanzamiento, no después. El número a menudo cambia lo que decides construir, y eso es exactamente para lo que sirve. Es el primer cálculo que realizamos con un cliente, y ocasionalmente es la razón por la que recomendamos un sistema más pequeño al que vinieron pidiendo.