LIMITACIONES DE IA, DIVULGACIONES SOBRE ALUCINACIONES Y EXENCIÓN DE RESPONSABILIDAD SOBRE INTELIGENCIA ARTIFICIAL DE DATA CRED
AVISO CRÍTICO: ESTE DOCUMENTO CONTIENE DIVULGACIONES, EXENCIONES DE RESPONSABILIDAD Y LIMITACIONES INTEGRALES RELACIONADAS CON LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL Y APRENDIZAJE AUTOMÁTICO UTILIZADOS POR DATA CRED. LEA ESTE DOCUMENTO DETENIDAMENTE, EN SU TOTALIDAD Y MÁS DE UNA VEZ. EL USO DE LA PLATAFORMA CONSTITUYE SU RECONOCIMIENTO Y ACEPTACIÓN DE TODAS LAS EXENCIONES DE RESPONSABILIDAD RELACIONADAS CON LA IA ESTABLECIDAS EN EL PRESENTE DOCUMENTO.
1. DESCRIPCIÓN GENERAL DE LOS SISTEMAS DE IA Y LIMITACIONES FUNDAMENTALES
1.1 Definición de los Sistemas de IA
DataCred emplea un conjunto de tecnologías de inteligencia artificial y aprendizaje automático (colectivamente, los "Sistemas de IA") que realizan diversas funciones dentro de la Plataforma, incluyendo pero no limitándose a: puntuación de reputación conductual, evaluación y clasificación de confianza, identificación de patrones financieros, análisis y categorización de transacciones, ingesta de documentos basada en OCR y extracción de datos, detección de anomalías, detección de fraude, evaluación de riesgos, soporte de verificación de identidad, análisis de biometría conductual, análisis de huella digital de dispositivos y generación de lenguaje natural para Insights de IA.
1.2 Naturaleza Fundamental de la IA
USTED RECONOCE Y ACEPTA EXPRESAMENTE QUE:
(a) Los Sistemas de IA NO son inteligentes en ningún sentido humano. No comprenden, razonan, piensan, creen, saben, tienen intención ni emiten juicios. Realizan emparejamiento de patrones estadísticos y análisis de correlación sobre grandes conjuntos de datos. Los resultados que parecen reflejar comprensión o razonamiento son productos de computación estadística, no procesos cognitivos. Cualquier lenguaje antropomórfico utilizado en las Comunicaciones de la Plataforma (como "la IA piensa", "el modelo cree", "el sistema determinó" o frases similares) se utiliza solo por conveniencia y no debe interpretarse como que sugiere que los Sistemas de IA poseen conciencia, sensibilidad, comprensión o intencionalidad.
(b) Los Sistemas de IA son inherentemente falibles y propensos a errores. Pueden producir y producen errores, inexactitudes, inconsistencias, sesgos y resultados sin sentido. Estos errores no son "bugs" que puedan eliminarse por completo, sino características inherentes de los sistemas estadísticos de IA que operan en la frontera actual de la tecnología.
(c) Los Sistemas de IA son opacos. Muchos de los Sistemas de IA de DataCred dependen de redes neuronales profundas y otras arquitecturas complejas cuyas operaciones internas no son completamente explicables, incluso para sus creadores. Este problema de "caja negra" significa que en muchos casos, DataCred no puede explicar completamente cómo o por qué se generó una Puntuación, clasificación o insight en particular.
(d) Los Sistemas de IA dependen de los datos de entrenamiento. La calidad, representatividad y equidad de los resultados de los Sistemas de IA están fundamentalmente limitadas por la calidad, cantidad, representatividad y equidad de los datos con los que fueron entrenados. Los datos de entrenamiento pueden contener sesgos, inexactitudes, vacíos y patrones históricos que no son representativos de todos los usuarios o todas las situaciones.
(e) Los Sistemas de IA son probabilísticos, no determinísticos. Con los mismos datos de entrada, un Sistema de IA puede producir resultados diferentes en distintos momentos, bajo diferentes versiones del modelo o en diferentes contextos. Esta variabilidad es inherente a los sistemas probabilísticos y no necesariamente indica un error o mal funcionamiento.
2. DIVULGACIONES SOBRE ALUCINACIONES Y CONFABULACIONES DE LA IA
2.1 Definición y Naturaleza de la Alucinación de IA
"Alucinación de IA" (también denominada "Confabulación" o "Fabricación") se refiere al fenómeno en el cual un Sistema de IA genera contenido que es factualmente incorrecto, lógicamente incoherente, sin sentido o completamente fabricado, a menudo con alta confianza y de una manera que parece plausible para un lector humano. La Alucinación de IA es una limitación bien documentada y generalizada de los modelos de lenguaje extenso (LLMs) actuales y otras tecnologías de IA generativa, incluidas las utilizadas por DataCred. La Alucinación de IA no es un defecto o mal funcionamiento de un Sistema de IA en particular, sino una característica fundamental de la tecnología subyacente.
2.2 Tipos de Alucinación de IA que Pueden Ocurrir en la Plataforma
#### 2.2.1 Fabricación Factual
El Sistema de IA puede generar declaraciones que son completamente falsas y no están respaldadas por ningún dato. Por ejemplo, el Sistema de IA puede afirmar que usted realizó una transacción de un monto específico en una fecha específica con una contraparte específica, cuando dicha transacción no existe, o puede fabricar patrones financieros, tendencias o comportamientos que no tienen base en sus datos enviados.
#### 2.2.2 Fabricación Numérica
El Sistema de IA puede generar números específicos, montos, porcentajes, fechas, horas, frecuencias u otros valores numéricos que son completamente fabricados. Por ejemplo, el Sistema de IA puede afirmar que "sus gastos aumentaron un 47.3% en marzo" cuando el cambio real fue diferente o inexistente.
#### 2.2.3 Alucinación de Patrones
El Sistema de IA puede identificar patrones, tendencias, correlaciones o relaciones que no existen en sus datos o que son artefactos de ruido estadístico en lugar de señales significativas. Por ejemplo, el Sistema de IA puede identificar un "patrón" de aumento de gastos antes de los fines de semana cuando dicho patrón no existe, o puede atribuir relaciones causales donde solo existe correlación coincidente.
#### 2.2.4 Alucinación de Entidades
El Sistema de IA puede hacer referencia a entidades, contrapartes, comercios, instituciones financieras, transacciones o eventos que no existen o que no tienen relación con usted. Por ejemplo, el Sistema de IA puede hacer referencia a un "préstamo con Banco X" cuando usted no tiene dicho préstamo.
#### 2.2.5 Alucinación Temporal
El Sistema de IA puede generar declaraciones que involucran fechas, plazos, secuencias o relaciones temporales incorrectas. Por ejemplo, el Sistema de IA puede afirmar que un aumento en los ingresos precedió a un aumento en los gastos cuando lo contrario es cierto.
#### 2.2.6 Alucinación Causal
El Sistema de IA puede afirmar o implicar relaciones causales entre eventos, comportamientos o patrones donde no existe tal causalidad o no puede inferirse de los datos disponibles. Por ejemplo, el Sistema de IA puede afirmar que "su Puntuación mejorada se debe al aumento de ahorros" cuando la relación es meramente correlacional y otros factores pueden ser más significativos.
#### 2.2.7 Alucinación de Contraparte
El Sistema de IA puede generar información incorrecta sobre las contrapartes de las transacciones. Por ejemplo, al analizar una confirmación de Pago Móvil o Zelle, el Sistema de IA puede identificar incorrectamente al remitente, destinatario, monto, fecha o propósito de la transacción.
#### 2.2.8 Alucinación de Interpretación
El Sistema de IA puede generar interpretaciones plausibles pero incorrectas de documentos financieros, comportamientos o patrones. Por ejemplo, puede interpretar un bono único como ingreso recurrente, un desembolso de préstamo como ingreso, o una transferencia entre sus propias cuentas como un pago a un tercero.
2.3 No Detección ni Corrección de Alucinaciones
DATA CRED NO GARANTIZA Y NO DECLARA QUE LAS ALUCINACIONES DE IA SERÁN DETECTADAS, SEÑALADAS, CORREGIDAS O PREVENIDAS. LA PLATAFORMA PUEDE PRESENTAR CONTENIDO GENERADO POR IA SIN INDICAR EL NIVEL DE CONFIANZA, INCERTIDUMBRE O RIESGO DE ALUCINACIÓN ASOCIADO CON DICHO CONTENIDO. USTED ES EL ÚNICO RESPONSABLE DE EVALUAR LA EXACTITUD, CONFIABILIDAD Y VERACIDAD DE TODO EL CONTENIDO GENERADO POR IA. USTED DEBE VERIFICAR INDEPENDIENTEMENTE TODO EL CONTENIDO GENERADO POR IA ANTES DE CONFIAR EN ÉL. USTED RECONOCE Y ACEPTA QUE DATA CRED NO TENDRÁ NINGUNA RESPONSABILIDAD POR CUALQUIER PÉRDIDA, DAÑO, COSTO O GASTO QUE SURJA O SE RELACIONE CON CUALQUIER ALUCINACIÓN DE IA.
2.4 Ejemplos y Escenarios de Alucinación
Los siguientes escenarios ilustran los tipos de Alucinaciones de IA que pueden ocurrir en la Plataforma. Estos ejemplos son ilustrativos, no exhaustivos:
Escenario A - Fabricación de Transacciones
Un usuario carga tres meses de extractos bancarios. El Sistema de IA genera un insight que indica: "Usted realizó 14 transferencias a exchanges de criptomonedas entre enero y marzo, por un total de $8,420." En realidad, el usuario realizó solo 3 transferencias de este tipo por un total de $1,200. El Sistema de IA alucinó las 11 transferencias adicionales y el monto total más alto.
Escenario B - Invención de Patrones
Los datos de gastos de un usuario muestran gastos mensuales relativamente estables. El Sistema de IA genera un insight que indica: "Sus gastos siguen un patrón cíclico con aumentos significativos en la última semana de cada mes, lo que sugiere un comportamiento de gasto vinculado al día de pago." En realidad, los gastos del usuario se distribuyen uniformemente a lo largo del mes sin un patrón de fin de mes.
Escenario C - Lectura Incorrecta de Documentos
Un usuario carga una captura de pantalla de confirmación de Pago Móvil. El OCR del Sistema de IA lee incorrectamente el monto como 15.000 Bs. cuando el monto real es 1.500 Bs., y el Insight de IA luego discute el "patrón de transacciones de alto valor" del usuario basándose en esta lectura errónea.
Escenario D - Inversión Temporal
El Sistema de IA analiza la línea de tiempo financiera de un usuario y afirma: "Tras un aumento significativo en los ingresos a partir de marzo, usted aumentó sus gastos discrecionales en abril y mayo." En realidad, el aumento de ingresos ocurrió en mayo, después del aumento de gastos.
Escenario E - Atribución Causal Incorrecta
El Sistema de IA observa una correlación entre la frecuencia de inicio de sesión del usuario en la plataforma y la Puntuación, y genera un insight que indica: "Su Puntuación mejorada de 78 (antes 62) está impulsada por su participación constante en la plataforma, lo que demuestra diligencia financiera." En realidad, la mejora de la Puntuación se debe principalmente a que el usuario cargó documentos financieros adicionales, no a la participación en la plataforma, pero el Sistema de IA atribuyó incorrectamente la causalidad.
ESTOS ESCENARIOS NO SON HIPOTÉTICOS. Alucinaciones de IA similares han sido documentadas en todas las principales plataformas y sistemas de IA, incluidos los más avanzados y mejor financiados. Son inherentes a la tecnología y ocurrirán en la Plataforma de DataCred con cierta frecuencia. Usted reconoce y acepta este riesgo.
3. LIMITACIONES DEL MODELO DE IA Y DE LOS DATOS DE ENTRENAMIENTO
3.1 Limitaciones de los Datos de Entrenamiento
#### 3.1.1 Representatividad
Los Sistemas de IA están entrenados con datos que pueden no ser representativos de sus circunstancias demográficas, geográficas, socioeconómicas, culturales, lingüísticas o financieras. Los datos de entrenamiento pueden sobrerrepresentar ciertas poblaciones y subrepresentar otras, lo que conduce a disparidades sistemáticas en la exactitud, confiabilidad y equidad de los resultados del Sistema de IA entre diferentes grupos de usuarios. DataCred no garantiza que sus datos de entrenamiento sean representativos de todas las poblaciones de usuarios.
#### 3.1.2 Sesgos Históricos
Los datos de entrenamiento reflejan el período histórico del cual fueron recopilados, incluidos los patrones económicos, sociales y de comportamiento de ese período. Los Sistemas de IA entrenados con dichos datos pueden no reflejar con precisión las condiciones actuales, las tendencias emergentes o los comportamientos cambiantes. Por ejemplo, los Sistemas de IA entrenados con datos anteriores a un evento económico significativo pueden no analizar con precisión el comportamiento durante o después de dicho evento.
#### 3.1.3 Calidad de los Datos
Los datos de entrenamiento pueden contener errores, inexactitudes, inconsistencias, duplicados, valores faltantes, errores de etiquetado y otros problemas de calidad. Los Sistemas de IA entrenados con datos imperfectos pueden producir resultados imperfectos. DataCred no garantiza que sus datos de entrenamiento estén libres de errores o problemas de calidad.
#### 3.1.4 Corte de Datos
Los Sistemas de IA están entrenados con datos disponibles hasta un cierto punto en el tiempo (el "Corte de Datos de Entrenamiento"). El Corte de Datos de Entrenamiento varía según el Sistema de IA y la versión del modelo. Los Sistemas de IA pueden no estar al tanto de eventos, patrones o comportamientos que ocurrieron o surgieron después del Corte de Datos de Entrenamiento.
3.2 Limitaciones de la Arquitectura del Modelo
#### 3.2.1 Problema de Caja Negra
Muchos Sistemas de IA utilizados por DataCred, particularmente las redes neuronales profundas, son sistemas de "caja negra" cuyos procesos internos de toma de decisiones son inherentemente opacos. DataCred puede ser incapaz de explicar, incluso a solicitud: (a) por qué se asignó una Puntuación particular; (b) qué factores influyeron más en un resultado particular; (c) cómo se ponderaron diferentes entradas; o (d) la cadena de razonamiento que condujo a un insight particular. Esta falta de explicabilidad es una limitación fundamental de la tecnología, no una negativa a proporcionar información.
#### 3.2.2 Sobreajuste y Subajuste
Los modelos de IA pueden sobreajustar (memorizar ruido y patrones específicos de los datos de entrenamiento que no se generalizan a nuevos datos) o subajustar (no capturar patrones significativos en los datos). Tanto el sobreajuste como el subajuste pueden conducir a Puntuaciones, evaluaciones e insights inexactos, particularmente para usuarios cuyas características difieren de las más representadas en los datos de entrenamiento.
#### 3.2.3 Deriva de Concepto
El rendimiento del modelo de IA se degrada con el tiempo a medida que la distribución de datos subyacente cambia debido a la evolución del comportamiento del usuario, las condiciones económicas u otros factores (un fenómeno conocido como "deriva de concepto" o "deriva de modelo"). Los modelos que experimentan deriva de concepto pueden producir Puntuaciones e insights menos precisos que cuando se implementaron por primera vez. DataCred puede no detectar o remediar la deriva de concepto de manera oportuna, o en absoluto.
#### 3.2.4 Deriva de Calibración
La calibración del modelo de IA (la alineación entre las probabilidades predichas y los resultados reales) puede degradarse con el tiempo (un fenómeno conocido como "deriva de calibración"). Las puntuaciones y evaluaciones de riesgo de modelos descalibrados pueden ser sistemáticamente sobreconfiadas o infraconfiadas.
#### 3.2.5 Opacidad de Conjuntos
Cuando DataCred utiliza métodos de conjunto (combinando múltiples modelos para producir un solo resultado), el resultado resultante es aún más opaco que el de los modelos individuales. Los efectos de interacción y la lógica de agregación de los sistemas de conjunto son particularmente difíciles de explicar.
4. DIVULGACIONES SOBRE SEGURIDAD DE IA Y VULNERABILIDAD ADVERSARIAL
4.1 Vulnerabilidad Adversarial
Los Sistemas de IA, incluidos los utilizados por DataCred, son vulnerables a "ataques adversariales", manipulaciones deliberadas, a menudo sutiles, de los datos de entrada diseñadas para hacer que el Sistema de IA produzca resultados incorrectos, sesgados o manipulados. Los ataques adversariales pueden tomar muchas formas:
(a) Perturbaciones Adversariales: Modificaciones pequeñas, a menudo imperceptibles, a los datos de entrada (como alteraciones sutiles de imágenes, cambios menores de texto o imágenes de documentos manipuladas) que hacen que el Sistema de IA produzca resultados dramáticamente diferentes o incorrectos.
(b) Inyección de Prompts: La inserción de texto o instrucciones elaboradas en las entradas del usuario diseñadas para anular, eludir o manipular el comportamiento previsto del Sistema de IA, haciendo que produzca resultados que violan las restricciones de diseño del Sistema o las políticas de la Plataforma.
(c) Envenenamiento de Datos: El envío de datos deliberadamente elaborados diseñados para corromper los datos de entrenamiento del Sistema de IA o su comprensión del comportamiento de un usuario en particular, lo que conduce a Puntuaciones, evaluaciones o insights incorrectos o manipulados.
(d) Inversión de Modelo: Ataques sofisticados que intentan reconstruir o extraer información sobre los datos de entrenamiento del Sistema de IA, potencialmente revelando información sobre otros usuarios cuyos datos fueron incluidos en el conjunto de entrenamiento.
(e) Extracción de Modelo: Intentos de replicar o clonar la funcionalidad del Sistema de IA consultándolo sistemáticamente y analizando los resultados, potencialmente permitiendo a los competidores construir sistemas similares o descubrir vulnerabilidades.
(f) Inferencia de Pertenencia: Ataques que intentan determinar si los datos de un individuo en particular fueron incluidos en los datos de entrenamiento del Sistema de IA, potencialmente violando la privacidad.
DATA CRED IMPLEMENTA MEDIDAS DE SEGURIDAD PARA RESISTIR ATAQUES ADVERSARIALES, PERO NINGUNA DEFENSA ES PERFECTA. LOS SISTEMAS DE IA SIGUEN SIENDO FUNDAMENTALMENTE VULNERABLES A LA MANIPULACIÓN ADVERSARIAL. DATA CRED NO TENDRÁ NINGUNA RESPONSABILIDAD POR CUALQUIER PÉRDIDA, DAÑO, COSTO O GASTO QUE SURJA O SE RELACIONE CON ATAQUES ADVERSARIALES EN O A TRAVÉS DE LA PLATAFORMA, INCLUYENDO PERO NO LIMITÁNDOSE A PUNTUACIONES MANIPULADAS, INSIGHTS INCORRECTOS O VIOLACIONES DE DATOS RESULTANTES DE DICHOS ATAQUES.
4.2 Manipulación de Sistemas de IA por Parte de Usuarios
Usted reconoce que los usuarios pueden intentar manipular los Sistemas de IA para obtener Puntuaciones infladas, evaluaciones engañosas u otros beneficios inmerecidos. Dicha manipulación es una violación de los Términos de Servicio y resultará en la cancelación de la Cuenta. Sin embargo, DataCred no puede garantizar que toda manipulación será detectada. Los usuarios que manipulan los Sistemas de IA no solo violan los Términos de Servicio, sino que también degradan la exactitud y confiabilidad de la Plataforma para todos los usuarios.
5. EXENCIONES DE RESPONSABILIDAD ESPECÍFICAS SOBRE INSIGHTS GENERADOS POR IA
5.1 Definición de Insights de IA
"Insights de IA" son las observaciones en lenguaje natural, interpretaciones, resúmenes, descripciones de patrones, notificaciones de anomalías, análisis de tendencias conductuales y otros resultados basados en texto generados por los Sistemas de IA de DataCred y presentados a los usuarios a través de la Plataforma. Los Insights de IA pueden aparecer como: descripciones narrativas que acompañan las Puntuaciones, resúmenes de tendencias conductuales, alertas de anomalías, observaciones de patrones financieros, explicaciones de categorización de transacciones, descripciones de hábitos de gasto, evaluaciones de estabilidad de ingresos, comparaciones con grupos de referencia y otro contenido textual generado por los Sistemas de IA.
5.2 Insights de IA como Solo Informativos
TODOS LOS INSIGHTS DE IA SE PROPORCIONAN SOLO CON FINES INFORMATIVOS Y EDUCATIVOS. NO CONSTITUYEN ASESORAMIENTO FINANCIERO, ASESORAMIENTO DE INVERSIÓN, ASESORAMIENTO LEGAL, ASESORAMIENTO FISCAL, ASESORAMIENTO CREDITICIO NI ASESORAMIENTO PROFESIONAL DE NINGÚN TIPO. SON GENERADOS COMPLETAMENTE POR SISTEMAS AUTOMATIZADOS, SIN REVISIÓN, EDICIÓN, VERIFICACIÓN O APROBACIÓN HUMANA (A MENOS QUE SE INDIQUE EXPLÍCITAMENTE LO CONTRARIO). PUEDEN SER FACTUALMENTE INCORRECTOS, LÓGICAMENTE INCOHERENTES, ENGAÑOSOS, INCOMPLETOS O IRRELEVANTES PARA SU SITUACIÓN FINANCIERA REAL. USTED NO DEBE CONFIAR EN LOS INSIGHTS DE IA PARA NINGUNA DECISIÓN MATERIAL.
5.3 Variabilidad de los Insights de IA
Los Insights de IA pueden variar significativamente entre diferentes consultas, sesiones o períodos de tiempo, incluso cuando se basan en los mismos datos subyacentes. Una pregunta formulada en una sesión puede recibir un Insight de IA diferente que la misma pregunta formulada en una sesión diferente. Esta variabilidad es inherente a los sistemas probabilísticos de IA y no necesariamente indica un error.
5.4 Sin Apoyo Emocional ni Consejería
Los Insights de IA pueden usar lenguaje empático, de apoyo o conversacional que podría interpretarse como apoyo emocional o consejería. Los Insights de IA NO son apoyo emocional, consejería psicológica, terapia o coaching de vida. El Sistema de IA no comprende sus emociones, no tiene empatía y no se preocupa por su bienestar. Cualquier lenguaje que parezca empático o de apoyo es un artefacto estadístico del entrenamiento del modelo de lenguaje, no una expresión de preocupación o comprensión genuina.
6. DIVULGACIONES SOBRE IA Y SESGO
6.1 Sesgo Inherente en los Sistemas de IA
Todos los sistemas de IA, incluidos los utilizados por DataCred, exhiben sesgo. El sesgo en los sistemas de IA se refiere a errores sistemáticos, disparidades o injusticias en los resultados que afectan desproporcionadamente a ciertos grupos. El sesgo de IA puede surgir de múltiples fuentes: datos de entrenamiento sesgados, arquitecturas de modelo sesgadas, selección de características sesgada, etiquetado sesgado y métricas de evaluación sesgadas. DataCred toma medidas para identificar y mitigar el sesgo en sus Sistemas de IA, pero el sesgo no puede eliminarse por completo y puede afectar la exactitud, equidad y utilidad de las Puntuaciones, evaluaciones e insights para ciertas poblaciones de usuarios.
6.2 Tipos de Sesgo que Pueden Afectar la Plataforma
(a) Sesgo Demográfico: Las puntuaciones y evaluaciones pueden diferir sistemáticamente para usuarios de diferentes grupos demográficos (basado en factores como nacionalidad, idioma, edad o género) incluso cuando el comportamiento financiero real es comparable.
(b) Sesgo Cultural: Los Sistemas de IA pueden reflejar suposiciones occidentales, centradas en EE. UU. u otras culturalmente específicas sobre el comportamiento financiero que no se aplican por igual a usuarios de diferentes orígenes culturales, incluidos pero no limitándose a contextos culturales venezolanos, latinoamericanos, caribeños, africanos, del Medio Oriente, asiáticos u otros.
(c) Sesgo Socioeconómico: Los Sistemas de IA entrenados predominantemente con datos de usuarios en economías desarrolladas con sistemas financieros formales pueden no analizar con precisión el comportamiento de usuarios que operan en economías informales, basadas en efectivo o con alta presencia de criptomonedas, o en economías con alta inflación, controles de divisas o infraestructura bancaria limitada.
(d) Sesgo Lingüístico: Los Sistemas de IA pueden funcionar de manera diferente para usuarios que interactúan con la Plataforma en diferentes idiomas, dialectos o estilos lingüísticos. Las entradas en idiomas distintos del inglés pueden procesarse con menos precisión que las entradas en inglés. El procesamiento en español, aunque compatible, puede exhibir diferentes tasas de error y características que el procesamiento en inglés. El uso de lenguaje coloquial, regional o no estándar puede ser malinterpretado.
(e) Sesgo Temporal: Los Sistemas de IA entrenados con datos históricos de un período económico particular pueden reflejar patrones y suposiciones de ese período que no se mantienen bajo condiciones económicas cambiantes.
(f) Sesgo de Plataforma: Los Sistemas de IA pueden favorecer comportamientos y patrones que están bien representados en la Plataforma y perjudicar aquellos que están poco representados, creando un ciclo que se autorefuerza.
6.3 Sin Garantía de Equidad
DataCred no ofrece ninguna garantía, declaración o garantía de que sus Sistemas de IA sean justos, imparciales o equitativos. Si bien DataCred puede implementar pruebas de equidad, mitigación de sesgos y medidas relacionadas, estas medidas son experimentales y pueden no ser efectivas en todos los casos o para todos los grupos. Las Puntuaciones y evaluaciones de DataCred pueden reflejar y amplificar sesgos y desigualdades sociales existentes.
7. LIMITACIONES ESPECÍFICAS DE LA TECNOLOGÍA DE IA
7.1 Limitaciones de IA de OCR y Procesamiento de Documentos
Los sistemas de IA de OCR y procesamiento de documentos están sujetos a las limitaciones específicas detalladas en el documento de Exenciones de Responsabilidad y Limitaciones de OCR de DataCred, que se incorpora aquí por referencia. Las limitaciones clave incluyen: errores de reconocimiento de caracteres (especialmente para escritura a mano, fuentes no estándar, imágenes de baja resolución y diseños complejos); errores de extracción de campos; clasificación incorrecta de tipos de documentos; incapacidad para procesar ciertos formatos, diseños o idiomas de documentos; y degradación del rendimiento para imágenes con mala iluminación, sesgo, distorsión de perspectiva o artefactos de compresión.
7.2 Limitaciones del Procesamiento de Lenguaje Natural
Los Sistemas de IA que procesan lenguaje natural (incluidas las consultas de usuarios, texto de documentos y descripciones de transacciones) están sujetos a limitaciones que incluyen: malentendido de sarcasmo, ironía, humor o lenguaje figurado; mala interpretación de lenguaje ambiguo o dependiente del contexto; dificultad con alternancia de código, texto multilingüe o contenido en idiomas mixtos; incapacidad para comprender referencias culturales, modismos o jerga; y degradación del rendimiento para dialectos no estándar, coloquialismos o uso regional.
7.3 Limitaciones de Visión por Computadora
Los Sistemas de IA que procesan imágenes (incluidas imágenes de documentos, capturas de pantalla y documentos de identificación) están sujetos a limitaciones que incluyen: sensibilidad a la calidad de imagen, resolución, iluminación y ángulo; dificultad con imágenes que contienen ruido, artefactos de compresión, marcas de agua o superposiciones; incapacidad para distinguir de manera confiable entre documentos originales y reproducciones de alta calidad o falsificaciones; y vulnerabilidad a ataques adversariales basados en imágenes.
8. RESUMEN DE NO DECLARACIÓN NI GARANTÍA DE IA
8.1 Exención Integral de Responsabilidad de IA
EN LA MÁXIMA MEDIDA PERMITIDA POR LA LEY APLICABLE, DATA CRED RECHAZA TODAS LAS GARANTÍAS, DECLARACIONES Y GARANTÍAS CON RESPECTO A LOS SISTEMAS DE IA, INCLUYENDO PERO NO LIMITÁNDOSE A:
(a) CUALQUIER GARANTÍA DE QUE LOS SISTEMAS DE IA FUNCIONARÁN SIN ERRORES, INTERRUPCIONES O FALLOS;
(b) CUALQUIER GARANTÍA DE QUE LOS RESULTADOS DE IA SERÁN EXACTOS, COMPLETOS, CONFIABLES, INSESGADOS, JUSTOS O APTOS PARA CUALQUIER PROPÓSITO PARTICULAR;
(c) CUALQUIER GARANTÍA DE QUE LAS ALUCINACIONES DE IA SERÁN DETECTADAS, CORREGIDAS O PREVENIDAS;
(d) CUALQUIER GARANTÍA DE QUE LOS SISTEMAS DE IA SON SEGUROS CONTRA ATAQUES ADVERSARIALES, INYECCIÓN DE PROMPTS, ENVENENAMIENTO DE DATOS U OTRA MANIPULACIÓN;
(e) CUALQUIER GARANTÍA DE QUE LOS SISTEMAS DE IA FUNCIONARÁN DE MANERA CONSISTENTE ENTRE DIFERENTES USUARIOS, GRUPOS, IDIOMAS O JURISDICCIONES;
(f) CUALQUIER GARANTÍA DE QUE LOS SISTEMAS DE IA CUMPLEN CON CUALQUIER NORMA LEGAL, REGULATORIA O DE LA INDUSTRIA EN PARTICULAR; Y
(g) CUALQUIER GARANTÍA, YA SEA EXPRESA, IMPLÍCITA O LEGAL, CON RESPECTO A LOS SISTEMAS DE IA, INCLUYENDO PERO NO LIMITÁNDOSE A GARANTÍAS DE COMERCIABILIDAD, IDONEIDAD PARA UN PROPÓSITO PARTICULAR, NO INFRACCIÓN, EXACTITUD, CONFIABILIDAD Y SEGURIDAD.
LOS SISTEMAS DE IA SE PROPORCIONAN "TAL CUAL" Y "SEGÚN DISPONIBILIDAD", CON TODAS LAS FALLAS, ERRORES, DEFECTOS, ALUCINACIONES, SESGOS Y LIMITACIONES. EL USO QUE USTED HAGA DE LOS SISTEMAS DE IA Y LA CONFIANZA EN LOS RESULTADOS DE IA ES BAJO SU PROPIO Y EXCLUSIVO RIESGO.
9. RECONOCIMIENTO
AL ACCEDER O UTILIZAR LA PLATAFORMA, USTED RECONOCE Y ACEPTA EXPRESAMENTE QUE:
(A) HA LEÍDO ESTAS LIMITACIONES Y EXENCIONES DE RESPONSABILIDAD DE IA EN SU TOTALIDAD Y COMPRENDE TODAS ELLAS;
(B) ENTIENDE QUE LOS SISTEMAS DE IA DE LA PLATAFORMA SON EXPERIMENTALES E INHERENTEMENTE FALIBLES;
(C) ENTIENDE QUE LOS SISTEMAS DE IA PUEDEN Y DE HECHO ALUCINAN, CONFABULAN Y GENERAN RESULTADOS FACTUALMENTE INCORRECTOS, ENGAÑOSOS O SIN SENTIDO;
(D) ENTIENDE QUE LOS SISTEMAS DE IA SON OPACOS Y SUS DECISIONES PUEDEN NO SER EXPLICABLES;
(E) ENTIENDE QUE LOS SISTEMAS DE IA SON VULNERABLES A ATAQUES ADVERSARIALES Y MANIPULACIÓN;
(F) ENTIENDE QUE LOS SISTEMAS DE IA EXHIBEN SESGO Y PUEDEN NO SER JUSTOS O EQUITATIVOS PARA TODOS LOS USUARIOS;
(G) ENTIENDE QUE LOS INSIGHTS DE IA NO CONSTITUYEN ASESORAMIENTO FINANCIERO, LEGAL, FISCAL O PROFESIONAL;
(H) ACEPTA TODOS LOS RIESGOS ASOCIADOS CON EL USO DE LOS SISTEMAS DE IA Y ACEPTA QUE DATA CRED NO TENDRÁ NINGUNA RESPONSABILIDAD POR CUALQUIER CONTENIDO GENERADO POR IA; E
(I) ACEPTA VERIFICAR INDEPENDIENTEMENTE TODO EL CONTENIDO GENERADO POR IA ANTES DE CONFIAR EN ÉL.
*© 2026 DataCred. Todos los derechos reservados.*