Williams v. Wells Fargo: Opacidad algorítmica y responsabilidad en derecho de la igualdad crediticia

¿Puede un algoritmo de caja negra discriminar sin que el banco lo intente? Wells Fargo enfrenta una demanda de $1B+ que desafía todo lo que creemos sobre transparencia crediticia

Williams v. Wells Fargo Bank (N.D. Cal., 2022) no es una demanda ordinaria de discriminación hipotecaria. Es una colisión frontal entre dos órdenes normativos incompatibles: el derecho de la igualdad crediticia estadounidense, que opera bajo la premisa de que las barreras raciales pueden demostrarse estadísticamente, y la práctica empresarial contemporánea de blindaje algorítmico, donde los acreedores invocan secreto de negocio para evadir escrutinio.

El demandante, Christopher Williams, es un solicitante de hipoteca African American con FICO >750 que fue ofrecido una tasa de interés 3 puntos porcentuales más alta que la tasa prime de Wells Fargo. Cuando pidió revisión, Wells Fargo se negó. Meses después, le envió una carta revelando—por primera vez, después de rechazar el reclamo—que no usa "únicamente" FICO para determinar tasas, sino un "modelo único de puntuación que considera más que solo los puntajes crediticios."

Lo que hace explosivo este caso es que Williams es uno de aproximadamente millones de prestatarios potencialmente afectados. Si la clase se certifica (cosa que los analistas jurídicos consideran probable al 70-80%), la exposición de Wells Fargo es de $250M a $1B+ en daños compensatorios, punitivos e injunctions para auditoría de algoritmos.

Pero la verdadera importancia es doctrinal, no financiera. Williams expone un vacío crítico en el orden jurídico estadounidense: ¿cómo se aplica responsabilidad por discriminación racial cuando la práctica discriminadora está encapsulada en un algoritmo que nadie—ni siquiera Wells Fargo completamente—puede explicar?

La paradoja de Wells Fargo: condenas previas, patrones recurrentes, opacidad persistente

Aquí es donde el análisis se complica de verdad. Wells Fargo no es una institución con experiencia virgen en fair lending litigation. El historial es devastador:

2011: Opal Jones v. Wells Fargo (Los Angeles Superior Court)
Jurado encontró a Wells Fargo culpable de discriminación sistemática contra compradores de viviendas minority mediante "software de computadora" que resultaba en que ellos pagaran más por hipotecas que prestatarios blancos. Veredicto: $3.5 millones.

2013: United States v. Wells Fargo Bank (D.D.C.)
El Departamento de Justicia demandó a Wells Fargo por "reverse redlining"—cobrar tasas más altas a prestatarios African American y Latino. Settlement: $175 millones. La admisión de hecho en el settlement documental fue clara: la disparidad racial en tasas era sistemática, no anecdótica.

2017-2019: City of Philadelphia v. Wells Fargo
Philadelphia alegó que Wells Fargo "desde al menos 2004" había practicado reverse redlining sistemático. El análisis estadístico de Philadelphia fue devastador: prestatarios African American con FICO >660 eran 2.57 veces más probables de recibir un préstamo de alto costo o de alto riesgo. Los préstamos en vecindarios predominantemente minority eran 4.71 veces más probables de resultar en foreclosure. Philadelphia caracterizó el resultado como "la mayor pérdida de riqueza para personas de color en la historia moderna estadounidense." Settlement: $10 millones.

2019: Wells Fargo + HUD + National Fair Housing Alliance
Wells Fargo se mantenía mejor cuidado de propiedades foreclosed en vecindarios blancos que en comunidades African American y Latina. Settlement: $37 millones.

Ahora bien, lo que resulta llamativo es esto: Wells Fargo sabía. No es cuestión de ignorancia sistémica. Es cuestión de que, después de ser encontrada culpable en jury trial (Opal Jones), después de pagar $175 millones en settlement federal (DOJ), después de admitir patrones de discriminación en múltiples jurisdicciones, Wells Fargo continuó estructurando su sistema de originación de hipotecas de forma opaca.

Conviene recordar que admisiones previas—como el settlement de Philadelphia donde Wells Fargo reconoció patrones de reverse redlining—son evidencia de consciencia de culpabilidad (consciousness of guilt). En litigation posterior, se pueden usar contra Wells Fargo para establecer que la institución tenía conocimiento de su propia discriminación y, por tanto, la continuó incumpliendo.

El abogado de Williams cita expresamente todos estos casos en el complaint. No es estrategia retórica; es construcción doctrinal de "pattern and practice"—la firma de responsabilidad penal, pero en contexto civil-administrativo.

El modelo "único de puntuación": tecnología como velo de opacidad

Donde el caso se vuelve verdaderamente doctrinal es en la pregunta de cómo analizar el "unique scoring model" que Wells Fargo describe.

Bajo derecho estadounidense de fair lending, existen dos caminos de responsabilidad:

1. Disparate Treatment (Trato Disparatado)
Requiere probar que el acreedor aplicó la política diferentemente basado en raza. Ejemplos clásicos: "rechazamos a William porque es Black, aunque hubiera calificado." Carga de prueba: demandante debe mostrar evidencia de intent (intención discriminatoria), ya sea directa (prueba de animus) o circumstantial (patrón sospechoso).

2. Disparate Impact (Impacto Disparatado)
No requiere prueba de intent. Requiere demostrar que una práctica, neutral en su formulación, produce un efecto racial discriminatorio. Texas Department of Housing and Community Affairs v. Inclusive Communities Project, 570 U.S. 751 (2013) [la sentencia más importante de fair lending en 40 años] estableció claramente: bajo Fair Housing Act (y por extensión ECOA), disparate impact liability es justiciable. El burden of proof se invierte: (1) demandante muestra efecto disparatado mediante estadística; (2) defendant debe probar business necessity—que la práctica sirve a un objetivo comercial legítimo que no puede lograrse de forma menos discriminatoria; (3) si defendant logra eso, demandante aún puede prevalecer mostrando que alternativas menos discriminatorias existen.

Williams aprovecha Inclusive Communities completamente. El complaint no necesita probar que Wells Fargo intentó discriminar contra Williams personalmente. Solo necesita:

Datos: Williams tiene FICO >750, demostró suficiente calidad crediticia.
El "modelo único de puntuación" produce disparidades por raza.
Wells Fargo no puede explicar (o explica insuficientemente) por qué los factores adicionales son necesarios y no discriminatorios.

Lo que resulta particularmente incisivo es que Wells Fargo, mediante su propia carta de septiembre 5, 2019, admitió la existencia del modelo pero rechazó revelarlo. Esta es la estocada procesal: "Usamos factores únicos para determinar tasas, pero no te diremos cuáles son." Bajo disparate impact doctrine, eso es insostenible. El acreedor debe poder demostrar business necessity. Si no puede—o no está dispuesto a—revelar su justificación, de facto fracasa en el burden of proof.

Opacidad algorítmica vs. responsabilidad por impacto: la fricción estructural

Aquí llegamos al núcleo de la cuestión jurídica.

La posición de Wells Fargo es:
"El modelo es secreto comercial proprietary. No podemos revelarlo sin exponer nuestra ventaja competitiva. Pero les aseguramos que los factores no son raciales."

La posición de Williams (y de cualquier demandante bajo disparate impact doctrine) es:
"Si los factores no son raciales y la práctica es justificada, demuéstralo. Si no puedes o no estás dispuesto, entonces fracasas en tu burden of proof bajo Inclusive Communities."

La fricción jurídica es real: Permitir que un acreedor invoque secreto de negocio para blindar un algoritmo discriminatorio es fundamentalmente incompatible con la arquitectura de disparate impact liability. ¿Por qué? Porque disparate impact fue diseñado precisamente para capturar discriminación que no es deliberada pero es sistémica. Un modelo que alguien puede negar a revelar es lo opuesto a un modelo que puede ser auditable.

Dicho de forma más técnica: la carga invertida de prueba en disparate impact asume que el acreedor tiene acceso a la información necesaria para justificarse. Si Wells Fargo puede esconderse detrás de opacidad, la carga se vuelve imposible de satisfacer desde el lado del demandante.

El análisis comparativo aquí es instructivo. La Unión Europea, mediante el AI Act (Reglamento 2024/1689), trata sistemas de "alto riesgo" (high-risk AI)—incluyendo decisiones crediticias que afectan derechos civiles—como sujetos a:

Documentación técnica obligatoria.
Auditoría de conformidad verificable.
Derecho del interesado a explicación (bajo RGPD Artículo 22).

EE.UU. carece de equivalente federal. ECOA y Fair Housing Act son estatutos de 1974 y 1968, respectivamente. Ninguno menciona explícitamente "transparencia algorítmica" o "derecho a explicación." La jurisprudencia está intentando llenar ese vacío mediante interpretación de disparate impact, pero la fricción es visible.

La reinterpretación de "business necessity" en la era algorítmica

Lo que Williams fuerza a los tribunales a resolver es una pregunta que la jurisprudencia aún no ha respondido explícitamente: ¿qué significa "business necessity" cuando la práctica está automatizada y no es completamente explicable?

Bajo la formulación clásica de business necessity (posterior a Inclusive Communities), el acreedor debe demostrar que:

La práctica sirve a un objetivo empresarial legítimo.
No existen alternativas menos discriminatorias que logren el mismo objetivo.

Pero cuando el "objetivo empresarial legítimo" es opaco—"el modelo predice risk mejor, pero no podemos mostrar cómo"—la defensa colapsa.

La tesis que emerge de un análisis cuidadoso es que business necessity en la era algorítmica debe reinterpretarse para incluir un requirement de inteligibilidad regulatoria. Es decir:

Un acreedor NO puede satisfacer business necessity defense si el fundamento de la práctica no es auditable o explicable. El acreedor debe poder demostrar que:

Los factores del modelo están documentados.
Su conexión causal con risk assessment es clara y verificable.
Las alternativas menos discriminatorias fueron consideradas y rechazadas por razones legítimas, no de conveniencia.

Esta reinterpretación no es invención de Williams. Emerge de la tensión estructural entre:

El propósito de ECOA/Fair Housing Act (eliminar barreras raciales al crédito).
La práctica contemporánea de decisiones automatizadas que el acreedor no puede explicar completamente.

Bajo una lectura puramente literal, el acreedor estaría autorizado a decir: "Mi modelo es una caja negra, pero no intenta discriminar." Bajo una lectura teleológica—orientada al propósito—eso es incompatible con el régimen de responsabilidad por impacto.

Implicaciones de litigación: la carta de septiembre 5, 2019

Un detalle procesal que merece énfasis: Wells Fargo envió una carta a Williams el 5 de septiembre de 2019 explicando (por primera vez después de meses de rechazo de revisión) que usaba "un modelo único de puntuación."

Esta carta es un arma de doble filo:

Para Williams:
Prueba que Wells Fargo SABÍA cómo describir su modelo, pero eligió no hacerlo hasta presionada. La demora, la resistencia inicial, y luego la revelación parcial sugieren conocimiento de que el modelo era problemático. Los abogados de Williams probablemente argumentarán que esto es evidencia de conciencia de culpa (consciousness of guilt).

Para Wells Fargo:
La carta también puede ser analizada como intento de buena fe de transparencia—Wells Fargo finalmente explicó (aunque en términos genéricos) que usaba factores más allá de FICO. Pero ese argumento es débil porque: (a) vino tarde, después de rechazar la solicitud de Williams, y (b) era aún incompleto—no revelaba los factores específicos.

En procedimiento de discovery, los abogados de Williams ahora demandarán:

El código del modelo.
Los datos de entrenamiento.
El score específico que recibió Williams.
Scores de otros prestatarios desagregados por raza.
Backtests de sesgo (bias testing) que Wells Fargo hubiera realizado.

Wells Fargo se resistirá bajo trade secret doctrine. Pero bajo disparate impact framework, ese secreto es un lujo que quizá no puede permitirse. El juez puede:

Permitir que los datos se revelen únicamente a expertos designados por la corte (bajo confidentiality order).
Ordenar auditoría de sesgo por tercero neutral.
Utilizar inference: si Wells Fargo se rehúsa a revelar información clave para su defensa, el tribunal puede asumir lo peor ("adverse inference").

La probabilidad de certificación de clase y escenarios de exposición

Los abogados de Williams están buscando certificación de clase bajo FRCP 23(b)(2) [issue certification de liability] y 23(b)(3) [broader class para daños]. La question es cuán amplia será la clase.

Escenario conservador:
Clase nacional de prestatarios African American que aplicaron para hipotecas en Wells Fargo desde 2004 en adelante (fecha del Philadelphia complaint). Si usamos cifras de mercado (Wells Fargo es el 3º ó 4º originator de hipotecas en EE.UU., aproximadamente 3-5 millones de hipotecas/año), una clase nacional podría incluir fácilmente 500.000 a 2.000.000 de prestatarios durante 18 años.

Cálculo de daños:
Si la disparidad promedio es 2-3% en tasa de interés (40 basis points a 120 basis points) durante 30 años, el exceso de interés pagado por prestatario promedio sería de $15.000 a $50.000. Multiplicado por una clase de 1 millón de personas = $15B a $50B en daños brutos.

Obviamente, Wells Fargo contestará que la clase debe ser más estrecha. Podría argumentar:

Por años (2015 en adelante, excluyendo años más antiguos bajo statutos de limitaciones).
Por loan type (solo hipotecas convencionales, no FHA/VA que tienen regulaciones diferentes).
Por rango de FICO (solo solicitantes con scores altos que fueron "wrongfully" puesto en préstamos de alto costo).

Pero los estándares de certificación de clase bajo FRCP 23(a) (numerosity, commonality, typicality, adequacy) y 23(b)(3) (predominance, superiority) son relativamente permisivos. Es difícil imaginar que el tribunal rechace una clase nacional dadas las admisiones previas de Wells Fargo en Philadelphia y otros cases.

Settlement probability: 70-80%. Wells Fargo pagará, probablemente $200M-$500M, más injunctive relief (auditoría del modelo, repricing, policy changes).

Gobernanza algorítmica: donde el derecho estadounidense no ha llegado aún

Lo que Williams revela es un vacío normativo profundo: EE.UU. carece de framework federal claro para gobernanza de algoritmos en decisiones crediticias. Comparar:

Estados Unidos:

ECOA (1974): prohibe discriminación; no menciona algoritmos.
Fair Housing Act (1968): prohibe discriminación en transacciones inmobiliarias; no menciona algoritmos.
Regulaciones de OCC/Federal Reserve: guidelines sobre risk management; frameworks de "Model Risk Management" son recientes (2020s) y aún no completamente especificados.
No hay "right to explanation" statutory para decisiones de crédito denegadas (ECOA requiere "principal reasons" pero esto es diferente a explicación técnica del modelo).

Unión Europea:

AI Act (2024): sistemas de alto riesgo (incluyendo crédito) deben tener documentación técnica, transparencia, auditoría.
RGPD Artículo 22: derecho a no ser sujeto a decision automatizada que produce efectos legales significativos; derecho a explicación.
Directrices de autoridades (EDPB, EBA): esperaciones claras de bias testing, fairness assessment, model cards.

Esta fragmentación internacional es problemática para empresas como Wells Fargo, que opera globalmente. Si pierde en Williams y es obligada a revelar gobernanza algorítmica, esa revelación impactará su posición en regulaciones europeas.

De hecho, es probable que ALGÚN litigante europeo, vista la sentencia de Williams, presente demanda bajo RGPD Artículo 22 / AI Act contra Wells Fargo por decisiones crediticias sin explicación. O que reguladores de BaFin (Alemania) o PRA (UK) cuestionen si Wells Fargo está en cumplimiento con obligaciones de modelo risk management.

Argumentos dialécticos: ¿puede Wells Fargo defenderse?

La mejor defensa teórica de Wells Fargo sería:

"El modelo es estadísticamente válido y no es pretexto para discriminación."

Específicamente: Wells Fargo retendría un econometrista de talla mundial para demostrar que:

El "modelo único" de puntuación incorpora variables que son legitimately predictive of default risk: credit history depth, employment stability, revolving credit utilization, payment consistency, etc.
Estas variables no fueron deliberadamente seleccionadas porque estén correlacionadas con raza. Fueron seleccionadas porque predicen default better que FICO solo.
La correlación entre estas variables y raza es sociológicamente explicable sin invocar discriminación (diferencias en historial crediticio, acceso a crédito revolving, etc.) y no puede ser removida sin sacrificar poder predictivo del modelo.
Wells Fargo implementó bias testing y el modelo satisface fairness benchmarks razonables.

La contrarréplica de Williams sería:

Burden of proof inversion: Bajo Inclusive Communities, una vez que demandante muestra impacto disparatado, es Wells Fargo quien debe probar business necessity. Las afirmaciones de Wells Fargo sobre predicción de default son precisamente lo que discovery debe verificar.
Pretextuality: Si variables "neutrales" están correlacionadas con raza, y Wells Fargo no puede explicar por qué no pueden usar alternativas menos discriminatorias (e.g., traditional underwriting), entonces las variables son pretextual para discriminación, incluso si no fue intencional.
The transparency problem: Wells Fargo ni siquiera reveló el modelo hasta después de Williams' rechazo y demora de meses. Esta opacidad, en sí misma, levanta inferencias de consciencia de culpa.

Refutación de Williams a la mejor defensa de Wells Fargo:

La mejor defensa de Wells Fargo es decir "la correlación con raza es sociológicamente explicable, no discriminatoria." Pero eso mismo es un argumento de why racism is embedded in data and institutions. Bajo Fair Housing Act disparate impact doctrine, justamente ESO es lo que el estatuto fue diseñado para capturar: prácticas que reproducen desigualdades históricas sin necesidad de intención discriminatoria.

Si Wells Fargo dice "mi modelo refleja realidades sociológicas de diferencias crediticias entre razas," está diciendo que está replicando el statu quo racialmente estratificado. Bajo disparate impact, eso no es defensa; es admisión.

Conclusiones doctrinales

Después de analizar Williams v. Wells Fargo desde la perspectiva de gobernanza algorítmica y derecho de la responsabilidad, emergen estas conclusiones:

Incompatibilidad estructural: Opacidad algorítmica + disparate impact liability = imposibilidad lógica. No se pueden coexistir. O el acreedor revela y se justifica, o fracasa en su defensa.
Reinterpretación de business necessity: La jurisprudencia de disparate impact debe evolucionar para exigir inteligibilidad regulatoria como precondición de business necessity defense. Wells Fargo debe poder explicar su modelo; si no, pierde.
Convergencia regulatoria inevitable: EE.UU. convergerá hacia estándares europeos (AI Act) de gobernanza algorítmica. No porque reguladores estadounidenses quieran, sino porque litigación lo forzará.
Risk for multinational actors: Empresas como Wells Fargo que operan bajo múltiples regímenes regulatorios (EU + EE.UU.) enfrentan presión de armonización: el régimen más exigente (EU) estará en tensión con el más laxo (EE.UU.), y el litigio fuerza convergencia hacia arriba.
Data governance as prior question: Incluso si Wells Fargo logra explicar su modelo, la pregunta upstream permanece: ¿de dónde vienen los datos de entrenamiento? ¿Replicaban sesgo histórico? Eso es un problema de gobernanza de datos que preexiste a cualquier modelo.
Consciousness of guilt evidence: Las múltiples condenas previas de Wells Fargo + admisiones en settlements previos + la demora y opacidad respecto al "modelo único" se combinarán para crear una narrativa devastadora en juicio: Wells Fargo sabía discriminaba, continuó haciéndolo, y ahora invoca secreto de negocio para evadir responsabilidad.
Settlement es el resultado probable: No por debilidad de fondo de Wells Fargo, sino porque los costos de litigio + riesgo de punitive damages + injunctive relief (que requeriría auditoría de todo el sistema de originación de hipotecas de Wells Fargo) superan cualquier beneficio de victoria.

La pregunta que el derecho aún no puede cerrar

Permanece una pregunta genuina: ¿cuánta transparencia es "suficiente" en un modelo de machine learning para satisfacer business necessity defense?

¿Debe Wells Fargo revelar:

Solo los nombres de las variables? (e.g., "credit history depth, employment stability")
También sus ponderaciones? (e.g., "credit history depth pesa 40%, employment 25%")
También el código subyacente? (más invasivo para trade secrets)
También los datos de entrenamiento? (más invasivo aún, por privacy)

Diferentes jurisdicciones están llegando a respuestas diferentes. Europa bajo AI Act requiere documentación de "alto nivel" pero no necesariamente code-level disclosure. California bajo AB 375 (privacy) ha esquivado la pregunta. New York bajo Intro. 2138 (Algorithmic Accountability Act) requiere "impact assessments" pero no especifica granularidad.

Williams va a forzar una respuesta. Y probablemente, la respuesta será más cercana a "high-level transparency under regulatory confidentiality" (modelo europeo) que a "full code disclosure" (extremo opuesto) o "total opacity" (posición de Wells Fargo).

Nota final

Williams v. Wells Fargo es un hito en la juridificación de la gobernanza algorítmica estadounidense. No porque introduzca derecho nuevo, sino porque fuerza la aplicación de derecho viejo (disparate impact doctrine) a tecnología nueva (opaque scoring models). La fricción resultante revelará vacíos dogmáticos que ni legisladores ni tribunales han tenido oportunidad de resolver explícitamente.

Es un caso sobre hipotecas y discriminación racial, superficialmente. Pero en realidad, es un caso sobre si el derecho de responsabilidad civil estadounidense puede gobernar sistemas automatizados que el propio sector financiero no puede (o no quiere) explicar completamente.

La respuesta que Williams proporcione determinará la arquitectura de accountability algorítmica en EE.UU. durante la próxima década.