Seis sectores, un mismo comprador: alguien que responde personalmente por un resultado en el que intervino un asistente y que hoy no puede reconstruir lo que el asistente dijo realmente.
Que usted no pueda demostrar lo que dijo. Una cifra entró en un memorando, el memorando llegó a un cliente, y seis meses después nadie puede reconstruir de dónde salió la cifra: si la produjo el asistente, si se verificó, si se señaló y se anuló la alerta. Usted carga con eso. La herramienta que usó no carga con nada.
Y el temor más silencioso: que un documento que usted pegó llevara una instrucción. Un contrato con una línea dirigida al asistente. Ya ocurre, es invisible en la respuesta, y ningún control existente lo detecta.
Revisión de privilegio, producción de documentos, investigación. Las designaciones se impugnan y la responsabilidad recae en un socio con nombre y apellido. Las normas de conducta profesional ya se refieren a la supervisión y al deber de franqueza.
La gestión del riesgo de modelo ya espera una validación independiente, y las normas de conservación de registros ya existen. El concepto no necesita explicación.
Conciliación, muestreo, cierre. La revisión por pares pregunta si el trabajo se realizó con el debido cuidado, y un auditor pregunta cómo se obtuvo una cifra.
Autorización previa, codificación, admisión. Una auditoría de la entidad pagadora pregunta cómo se llegó a una determinación, mucho después de que se tomara.
Cálculos, especificaciones, revisión de planos. Un ingeniero colegiado sella el trabajo y la responsabilidad no se transfiere a una herramienta.
Controles previos a la operación, filtrado, conciliación. Las preguntas llegan en días y los importes son grandes.
Dos de estos empiezan por usted ya está obligado a. Cuatro empiezan por usted está expuesto personalmente. Esa es la frase de apertura, no el producto.
Un total declarado que no es igual a la suma de sus partes declaradas, recalculado con exactitud en lugar de estimado. Una cifra que nunca se calculó no tiene nada que mantenga unidas sus partes.
La cita errónea que importa es la de los dígitos correctos atribuidos a su documento que no aparecen en él, o un valor que no coincide con él.
La única comprobación que supera un error coherente, porque el registro del broker sobre una llamada a una herramienta queda fuera del relato del modelo.
Un CUSIP, un ISIN o un IBAN lleva un dígito de control. Uno inventado no es difícil de detectar: es aritméticamente imposible.
Sus datos de referencia, mantenidos por su gente. Un hallazgo nunca dice que usted está equivocado: dice qué no coincide, de dónde viene, y que quizá la referencia sea la que está desactualizada.
Una cifra que pasó a una llamada a una herramienta, al entregable, o que alguien copió, es un problema distinto de la misma cifra en un razonamiento de borrador. Los hallazgos se ordenan según eso. Y las acciones irreversibles se retienen a mitad de la ejecución. Un pago, una presentación ante un organismo, un envío — clasificados por patrones, analizados en busca de instrucciones que llegaron dentro de documentos pegados, y en espera hasta que responda la política de su firma. La revisión posterior es un registro; una retención antes del acto es un control.
La retención queda registrada en la traza como un paso de decisión, de modo que una acción retenida y una acción autorizada a pesar de la retención forman parte del registro. Y el registro verifica en ambos sentidos el relato del propio agente sobre lo que salió del edificio — una llamada irreversible que realizó y no declaró, y una acción declarada que ningún paso realizó nunca. Declarar de más tampoco es la opción segura: un revisor lee ese campo para decidir si algo llegó al exterior, y el informe de radio de impacto se calcula a partir de él. [En desarrollo: la misma barrera aplicada a los resultados en general — ejecución, revisión, decisión y luego envío.]
La barrera retiene y revela; nunca reescribe. En el momento en que una capa de verificación edita un resultado, se convierte en un segundo autor, y tanto su posición en materia de responsabilidad como nuestra medición desaparecen.
Los registros se sellan en sus equipos, bajo una clave que tiene su firma. No guardamos ninguna copia: no tenemos ningún servidor en el que puedan estar sus registros. Las únicas llamadas que salen van a los proveedores de modelos que usted ya usa, con sus propias claves: el proxy reenvía sin cambios las llamadas que su gente ya hacía. Una auditoría de red generada a partir del código enumera cada módulo que puede acceder a la red y lo que envía cada uno.
Cada afirmación sobre la red se distribuye en un documento de cadena de suministro junto al código, y un verificador comprueba cada afirmación contra el módulo al que se refiere, y hace fallar la compilación si alguna se incumple en silencio. El mismo mecanismo que publica nuestro piso de bienestar publica este.
Una consecuencia que conviene decir claramente: no se nos puede requerir judicialmente que entreguemos sus registros, porque no los tenemos. Un proveedor que guarda sus registros en su nube puede ser obligado a entregarlos sin que usted esté presente. Aquí no hay nada suyo que entregar.
Cada registro se cifra con su propia clave y se sella en una cadena de hashes que usted puede anclar fuera del almacén. Si cambia un solo byte, la verificación dice qué registro y dónde.
La clave del almacén puede estar en el propio gestor de claves de su firma, de modo que su gente, sus roles y sus revocaciones deciden quién lo abre, no nosotros. [En desarrollo: la conexión con su gestor de claves se construye para el que usted indique, y se prueba con él, antes de que lo afirmemos.]
Una ceremonia de cambio de clave pasa todos los registros a una clave nueva y destruye la antigua solo después de que cada registro se haya vuelto a leer. Quien tuviera la clave antigua ya no puede abrir el almacén. Interrumpida a mitad del proceso en cinco puntos durante las pruebas, no perdió nada.
Cada paquete que distribuimos se compara con la base de datos pública de vulnerabilidades antes de publicarse. El primer análisis encontró cinco avisos de seguridad en un paquete cuya versión teníamos fijada. La versión fijada se cambió ese mismo día, y el nuevo análisis está limpio.
Nuestro documento de cadena de suministro hace 56 afirmaciones sobre lo que el código hace y no hace. Un verificador comprueba cada una contra el código y hace fallar la compilación si alguna se incumple.
Cada lectura, exportación y eliminación queda en su propio registro de acceso a prueba de manipulaciones. Las retenciones legales bloquean la eliminación. Un registro eliminado deja una marca de borrado permanente que demuestra que existió.
Lo que todavía no tenemos, dicho antes de que lo pregunte: ninguna prueba de penetración externa y ninguna revisión de la criptografía por terceros. Eso requiere a alguien que no seamos nosotros, y los paquetes de evidencias de seguridad y de gobernanza de la IA los señalan como carencias.
Un solo comando convierte sus registros sellados en un paquete de evidencias para trece marcos normativos. Vistas redactadas según las normas propias de cada profesión: derecho (ABA Formal Opinion 512), auditoría (PCAOB AS 1215 y AICPA AU-C 230), salud (la HIPAA Security Rule), intermediarios de valores (FINRA y SEC Rule 17a-4), riesgo de modelo bancario y educación (FERPA). Además, los artículos 12 y 14 del Reglamento de Inteligencia Artificial de la UE, SOC 2 (seguridad), ISO/IEC 27001, ISO/IEC 42001 y el NIST AI Risk Management Framework.
Cada requisito aparece junto al mecanismo que lo aborda y las cifras de su propio almacén. Nada se marca como cumplido porque lo digamos nosotros: la integridad de los registros, la conservación, el registro de accesos, la rotación de claves y el análisis de dependencias se acreditan con evidencias de su almacén y de nuestra versión publicada. Cuando sus registros todavía no contienen nada pertinente, el paquete lo dice. Cuando un requisito es una política que su firma tiene que redactar, también lo dice. Cuando un control podría integrarse y todavía no lo está, señala la carencia.
Qué cubren nuestros paquetes
de evidencias, marco por marco (PDF)
Cumplimiento
y gobernanza: dónde estamos y qué viene después (PDF)
Esto es alineación, no certificación. El paquete lo dice en la primera página: no es un dictamen jurídico ni sustituye el asesoramiento de un abogado. No existe ninguna certificación del NIST, así que no afirmaremos tenerla.
El nivel trivial —una respuesta que se contradice a sí misma— es lo que calculan estas comprobaciones, así que se detecta por construcción. Por encima de eso, introdujimos errores con tres niveles de coherencia: ocho casos en total, cuatro de ellos limpios. Las comprobaciones gratuitas no detectaron ninguno de los errores introducidos ni marcaron nada limpio. Ocho es un corpus pequeño, y preferimos decirlo antes de que lo pregunte; pero el resultado cae donde la teoría dice que debe caer: toda comprobación gratuita es detección de incoherencias, y un error coherente es coherente consigo mismo. Ese límite es la razón de ser de las capas superiores: el registro del broker sobre lo que realmente devolvió una herramienta, y un revisor que tiene evidencias que el autor no controla — estructurado según la medición de nuestra página de inicio: a la instancia revisora nunca se le dice que el trabajo es suyo, porque ese planteamiento por sí solo vale entre 20 y 89 puntos de detección en ocho de los nueve modelos que medimos.
El caso más difícil es una premisa falsa aplicada correctamente: un tamaño de contrato erróneo con todas las cifras posteriores calculadas correctamente a partir de él. La aritmética cuadra. Nada gratuito llega a eso, y un proveedor que le diga otra cosa a un responsable de cumplimiento le está diciendo algo que este sabe que es falso.
La capa del navegador también necesita mantenimiento continuo: los selectores pertenecen a otras empresas y cambian sin aviso. Están diseñados para degradarse a sin captura en lugar de a una captura errónea; pero eso es un compromiso de soporte, y usted debería saberlo antes de preguntar.