full adjustment

This commit is contained in:
2026-04-09 14:03:06 -07:00
parent 75ecb00a94
commit 092a7048d8
21 changed files with 416 additions and 118 deletions

113
README.md
View File

@@ -27,6 +27,115 @@ una vez importado el model, lo lee, lo pasa por la logica en la que se descratan
`notas de Gerardo`
se quedaron implementadas los servicios crud de las funciones que seran publicos, ajustados a el tipo de usuario ('Root', 'Admin')
lo mas dificil de implementar para el back va a ser, implementar las funciones de ajuste "automatico" de cargado de files, con un url, desde las listas, del sat y las publicaciones del diario.
lo mas dificil de implementar para el back va a ser, implementar las funciones de ajuste "automatico" de cargado de file con un url, desde las listas del sat y las publicaciones del diario.
si el tiempo nos cae encima (que es lo mas seguro, voy a concentrarme en trabajar en las listas de el sat(edos, efos y creditos), para tratar de dejar enpoints funcionales).
si el tiempo nos cae encima (que es lo mas seguro, voy a concentrarme en trabajar en las listas de el sat(edos, efos y creditos), para tratar de dejar enpoints funcionales).
# Flujo del tomado automatico de las listas del sat
┌─────────────────────────────────────────────────────────────────────────────────────┐
│ PIPELINE DE TRANSFORMACIÓN │
│ (CSV → JSONB → Base de Datos) │
└─────────────────────────────────────────────────────────────────────────────────────┘
┌─────────────────┐
│ SAT ORIGEN │
│ archivo.csv │
└────────┬────────┘
┌─────────────────────────────────────────────────────────────────────────────────────┐
│ LECTOR POR LOTES (chunks) │
│ ┌──────────────────────┐ │
│ │ Bloque 1: filas 1-100│ │
│ │ Bloque 2: filas 101-200│ │
│ │ ... │ │
│ │ Bloque N: últimas │ │
│ └──────────────────────┘ │
└─────────────────────────────────────────────────────────────────────────────────────┘
┌─────────────────────────────────────────────────────────────────────────────────────┐
│ TRANSFORMADOR POR BLOQUE │
├─────────────────────────────────────────────────────────────────────────────────────┤
│ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │
│ │ 1. Agrupar │───▶│ 2. Limpiar │───▶│ 3. Armar │───▶│ 4. Validar │ │
│ │ por RFC │ │ fechas │ │ JSONB │ │ esquema │ │
│ └─────────────┘ └─────────────┘ └─────────────┘ └─────────────┘ │
│ │
│ ┌─────────────────────────────────────────────────────────────────────────────┐ │
│ │ FUNCIONES REUTILIZABLES │ │
│ │ • normalize_date() → convierte números Excel y strings a ISO │ │
│ │ • get_latest_status() → identifica el estatus más reciente │ │
│ │ • build_jsonb() → construye la estructura final │ │
│ └─────────────────────────────────────────────────────────────────────────────┘ │
└─────────────────────────────────────────────────────────────────────────────────────┘
┌─────────────────────────────────────────────────────────────────────────────────────┐
│ OUTPUT: JSONB POR RFC │
├─────────────────────────────────────────────────────────────────────────────────────┤
│ { │
│ "rfc": "ASA110718HJ5", │
│ "nombre": "ASESORÍA Y SERVICIOS ACANTO, S.A. DE C.V.", │
│ "ultimo_estatus": { │
│ "situacion": "definitivo", │
│ "fecha": "2020-06-24", │
│ "oficio": "500-05-2020-13598" │
│ }, │
│ "historial": [...], │
│ "raw_metadata": {...} │
│ } │
└─────────────────────────────────────────────────────────────────────────────────────┘
┌─────────────────────────────────────────────────────────────────────────────────────┐
│ REPOSITORIO / SERVICE LAYER │
├─────────────────────────────────────────────────────────────────────────────────────┤
│ │
│ ┌─────────────────────────────────────────────────────────────────────────────┐ │
│ │ interface EfosRepository │ │
│ │ ┌─────────────────────┐ ┌─────────────────────┐ │ │
│ │ │ save_batch() │ │ find_by_rfc() │ │ │
│ │ │ update_status() │ │ search_by_name() │ │ │
│ │ │ get_statistics() │ │ count_by_status() │ │ │
│ │ └─────────────────────┘ └─────────────────────┘ │ │
│ └─────────────────────────────────────────────────────────────────────────────┘ │
│ │ │
│ ┌─────────────────┼─────────────────┐ │
│ ▼ ▼ ▼ │
│ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │
│ │ PostgreSQL │ │ SQLite │ │ MongoDB │ │
│ │ (producción) │ │ (dev/local) │ │ (alternativa│ │
│ └─────────────┘ └─────────────┘ │ JSON nativo)│ │
│ └─────────────┘ │
└─────────────────────────────────────────────────────────────────────────────────────┘
┌─────────────────────────────────────────────────────────────────────────────────────┐
│ FRONT-END API (FastAPI) │
├─────────────────────────────────────────────────────────────────────────────────────┤
│ │
│ GET /contribuyentes/{rfc} → consulta por RFC │
│ GET /contribuyentes?q={nombre} → búsqueda por nombre │
│ GET /contribuyentes?status={x} → filtrar por situación │
│ GET /stats → contar por status (rojo/amarillo/verde) │
│ │
└─────────────────────────────────────────────────────────────────────────────────────┘
# 09/04/2026 - queda pendiente;
- revisar, verificar y tabajar todos los cruds.
- los que trabajan completamente bien, son los de usuarios y los de clients.
- la bd, funciona correctamente y las migraciones estan en su top.
- en este punto el endpoint de tomado automatico de las listas del sat, ya funcionan con el url del CSV. falta ajustar que detecte en que bd escriba, por el momento solo funciona con EDOS.
@ @
* Nota importante *
- !para hacer chunks del cargado de la lista de Efos(articulo69-b) usar una libreria y no hacerle caso al ENFERMO DE HUGO, para hacerlo a mano!
urls importantes:
https://wu1agsprosta001.blob.core.windows.net/agsc-publicaciones/Datos_abiertos/Documents_AGAFF/Listado_completo_69-B.csv
* https://wu1agsprosta001.blob.core.windows.net/agsc-publicaciones/Datos_abiertos/Documents_AGGC/Listado_69_B_Bis_Completo.csv
* https://www.sat.gob.mx/minisitio/DatosAbiertos/contribuyentes_publicados.html#collapseTwo1