LIMITACIONES Y AVISOS DE INTELIGENCIA ARTIFICIAL
Versión: CO-2026.10.02-AILIM1
Fecha de vigencia: 2 de octubre de 2026
Entidad: DataCred Tech S.A.S.
NIT: 902112751-6
Contacto: app@datacred.org · +57 302 668 4956
1. Principio general
Los sistemas de IA pueden equivocarse.
La salida de un modelo no se considera verdadera únicamente porque haya sido generada con alta confianza o por un modelo avanzado.
2. Tipos de error
Los modelos pueden:
- alucinar;
- omitir información;
- confundir entidades;
- interpretar mal documentos;
- clasificar incorrectamente;
- generar explicaciones no sustentadas;
- producir resultados distintos ante entradas similares;
- fallar por cambios del proveedor;
- degradarse con datos fuera de distribución.
3. Confianza
Un score de confianza es una señal técnica.
No es una probabilidad matemática garantizada de que una salida sea correcta salvo que el modelo haya sido específicamente calibrado para esa interpretación.
4. Datos de entrada
La calidad de una salida depende de la calidad de los datos de entrada.
Datos incompletos, falsos, duplicados o mal atribuidos pueden producir resultados incorrectos aunque el modelo funcione según diseño.
5. Modelos de terceros
DataCred no controla completamente:
- pesos;
- entrenamiento;
- disponibilidad;
- políticas;
- actualizaciones;
- filtros;
- comportamiento emergente;
de modelos suministrados por terceros.
Por ello, DataCred utiliza validaciones, fallbacks y controles de producto alrededor del modelo.
6. Asistente
El asistente puede utilizar herramientas autorizadas.
Una respuesta de texto por sí sola no modifica:
- saldo;
- score;
- deuda;
- KYC;
- payout;
- contrato;
- permiso;
- consentimiento.
La modificación válida debe pasar por la herramienta o endpoint autorizado y quedar persistida.
7. Crédito
La IA no puede sustituir los hard gates de DataCred Cash.
Una recomendación de IA favorable no garantiza aprobación.
Una recomendación desfavorable debe poder contextualizarse y no debe ocultar los factores determinísticos relevantes.
8. Puntaje
La IA puede ayudar a clasificar transacciones o explicar cambios, pero el Puntaje DataCred se calcula mediante lógica estructurada del motor de scoring.
No debe afirmarse que un LLM decide libremente el número final.
9. OCR y visión
Los modelos de visión pueden:
- confundir caracteres;
- leer montos incorrectos;
- perder signos;
- mezclar filas;
- confundir fecha de corte y fecha de pago;
- identificar mal el titular.
Las salidas sensibles deben validarse antes de producir efectos irreversibles.
10. Sesgo
Los modelos pueden reflejar sesgos de datos, diseño o contexto.
DataCred no debe usar una salida de IA para inferir o discriminar por categorías sensibles de forma ilícita.
11. Idioma y contexto
El rendimiento puede variar por:
- idioma;
- regionalismo;
- abreviaturas;
- calidad de imagen;
- tipo de documento;
- país;
- formato bancario.
12. Actualizaciones
Un proveedor puede cambiar un modelo sin que el usuario perciba una diferencia visual.
DataCred registra versión/modelo cuando es técnicamente posible y debe revisar cambios materiales en tareas de riesgo alto.
13. Disponibilidad
Un proveedor puede fallar o devolver timeout.
Según el flujo, DataCred puede:
- usar reglas;
- usar plantillas;
- reintentar;
- enviar a revisión;
- detener la operación.
14. Explicaciones
Una explicación generada automáticamente debe basarse en factores reales.
Cuando no exista evidencia suficiente, es preferible decir que no hay información suficiente que inventar una causa.
15. Revisión
El usuario puede solicitar corrección o revisión cuando un resultado relevante se base en información incorrecta.
16. Ley aplicable
Estos avisos complementan la Política de Gobernanza de IA, la Política de Decisiones Automatizadas y la legislación colombiana de protección de datos.
DataCred Tech S.A.S.
NIT 902112751-6