Compare commits

...

13 Commits

Author SHA1 Message Date
Colin Maudry 65e0f4c5f0 Gestion des montants inexistants 2025-10-10 18:25:08 +02:00
Colin Maudry bc7652f336 Merge branch 'main' into dev 2025-10-10 17:48:47 +02:00
Colin Maudry 188383a882 Changelog 2.1.5 2025-10-10 17:47:18 +02:00
Colin Maudry 7f3a0bcb21 Renommage de la Github action d'auto release 2025-10-10 17:45:15 +02:00
Colin Maudry 3270abb7f6 Refactor du filtre pour être plus résilient (et fonctionner sur les montants) 2025-10-10 17:44:51 +02:00
Colin Maudry 2eb984a95f Ne plus afficher de nulls dans les tableaux de données (tableau, titulaire, acheteur) 2025-10-10 17:44:16 +02:00
Colin Maudry 776126a481 Merge tag 'v2.1.4' into dev
- possibilité de filtrer sur le champ "Source"
- création automatique d'une release Github quand je push un tag
2025-10-08 09:34:30 +02:00
Colin Maudry 59abf35a12 Merge branch 'hotfix/2.1.4' 2025-10-08 09:34:00 +02:00
Colin Maudry a40eb64245 Changelog 2.1.4 2025-10-08 09:33:51 +02:00
Colin Maudry acae1517cb Nouvelle tentative auto-release 2025-10-08 09:31:41 +02:00
Colin Maudry 9a9decde6e Possible de filtrer sur le champ 'Source' 2025-10-08 09:26:44 +02:00
Colin Maudry 816d0de324 Merge tag 'v2.1.1' into dev
- ajout d'une section dans À propos sur la qualité et l'exhaustivité des données ([#43](https://github.com/ColinMaudry/decp.info/issues/43))
- ajout du nombre de marchés en plus du nombre de lignes dans la vue Tableau
2025-10-01 13:22:42 +02:00
Colin Maudry 90e9bc3c8c Merge tag 'v2.1.0' into dev
- Ajout des vues [acheteur](https://decp.info/acheteurs/24350013900189) ([#28](https://github.com/ColinMaudry/decp.info/issues/28)), [titulaire](https://decp.info/titulaires/51903758414786)
([#35](https://github.com/ColinMaudry/decp.info/issues/35)) et [marché](https://decp.info/marches/532239472000482025S00004) ([#40](https://github.com/ColinMaudry/decp.info/issues/40)) 🔎
 - Ajout des balises HTML meta Open Graph et Twitter ([#39](https://github.com/ColinMaudry/decp.info/issues/39)) pour de beaux aperçus de liens 🖼️
- Formulaire de contact ([#48](https://github.com/ColinMaudry/decp.info/issues/48)) 📨
- Nom de colonnes plus_agréables ([#33](https://github.com/ColinMaudry/decp.info/issues/33)) 💅
- Définition des colonnes quand vous passez votre souris sur les en-têtes ([#33](https://github.com/ColinMaudry/decp.info/issues/33)) 📖#
- Affichage du numéro de version près du logo et lien vers ici 🤓
- Variables globales uniquement en lecture (😁)
2025-09-30 17:16:45 +02:00
8 changed files with 67 additions and 39 deletions
+6 -9
View File
@@ -4,29 +4,26 @@ on:
tags: tags:
- 'v*' # Push events to matching v*, i.e. v1.0, v20.15.10 - 'v*' # Push events to matching v*, i.e. v1.0, v20.15.10
name: Create Release name: Auto-release d'un tag
jobs: jobs:
build: build:
name: Create Release name: auto-release
runs-on: ubuntu-latest runs-on: ubuntu-latest
steps: steps:
- name: Checkout code - name: Checkout code
uses: actions/checkout@master uses: actions/checkout@master
- name: Get tag message - name: Get tag message
run: | run: echo "TAG_MESSAGE=`git show ${{ github.ref_name }} | grep '^\- '`" >> "$GITHUB_ENV"
tag_message=`git show "$TAG" | grep "^\- "`
echo "tag_message=$tag_message" >> "$GITHUB_ENV"
env:
TAG: ${{ github.ref }}
- name: Create Release - name: Create Release
id: create_release id: create_release
uses: actions/create-release@latest uses: actions/create-release@latest
env: env:
GITHUB_TOKEN: ${{ secrets.GITHUB_TOKEN }} # This token is provided by Actions, you do not need to create your own token GITHUB_TOKEN: ${{ secrets.GITHUB_TOKEN }} # This token is provided by Actions, you do not need to create your own token
TAG_MESSAGE: ${{ env.TAG_MESSAGE }}
with: with:
tag_name: ${{ github.ref }} tag_name: ${{ github.ref }}
release_name: ${{ github.ref }} release_name: ${{ github.ref_name }}
body: ${{ env.tag_message }} body: ${{ env.TAG_MESSAGE }}
draft: false draft: false
prerelease: false prerelease: false
+11 -1
View File
@@ -1,6 +1,6 @@
# decp.info # decp.info
> v2.1.3 > v2.1.4
Outil d'exploration et de téléchargement des données essentielles de la commande publique. Outil d'exploration et de téléchargement des données essentielles de la commande publique.
@@ -38,6 +38,16 @@ Ne pas oublier de mettre à jour les fichier .env.
## Notes de version ## Notes de version
##### 2.1.5 (10 octobre 2025)
- réparation des filtres (notamment < > sur les montants)
- remplacement des valeurs "null" dans les tableaux par des cellules vides
##### 2.1.4 (8 octobre 2025)
- possibilité de filtrer sur le champ "Source"
- création automatique d'une release Github quand je push un tag
##### 2.1.3 (4 octobre 2025) ##### 2.1.3 (4 octobre 2025)
- tentative d'auto-release à chaque création de tag git - tentative d'auto-release à chaque création de tag git
+1 -1
View File
@@ -1,7 +1,7 @@
[project] [project]
name = "decp.info" name = "decp.info"
description = "Interface d'exploration et d'analyse des marchés publics français." description = "Interface d'exploration et d'analyse des marchés publics français."
version = "2.1.3" version = "2.1.5"
requires-python = ">= 3.10" requires-python = ">= 3.10"
authors = [ authors = [
{ name = "Colin Maudry", email = "colin+decp@maudry.com" } { name = "Colin Maudry", email = "colin+decp@maudry.com" }
Binary file not shown.

After

Width:  |  Height:  |  Size: 333 KiB

+2 -1
View File
@@ -175,7 +175,6 @@ def get_acheteur_marches_data(url, acheteur_year: str) -> list[dict]:
acheteur_siret = url.split("/")[-1] acheteur_siret = url.split("/")[-1]
lff = df.lazy() lff = df.lazy()
lff = lff.filter(pl.col("acheteur_id") == acheteur_siret) lff = lff.filter(pl.col("acheteur_id") == acheteur_siret)
lff = lff.fill_null("")
lff = lff.select( lff = lff.select(
"id", "id",
"uid", "uid",
@@ -204,6 +203,8 @@ def get_acheteur_marches_data(url, acheteur_year: str) -> list[dict]:
) )
def get_last_marches_table(data) -> html.Div: def get_last_marches_table(data) -> html.Div:
dff = pl.DataFrame(data) dff = pl.DataFrame(data)
dff = dff.cast(pl.String)
dff = dff.fill_null("")
dff = format_montant(dff) dff = format_montant(dff)
columns, tooltip = setup_table_columns( columns, tooltip = setup_table_columns(
dff, dff,
+6 -3
View File
@@ -182,9 +182,6 @@ def update_table(page_current, page_size, filter_query, sort_by, data_timestamp)
if len(sort_by) > 0: if len(sort_by) > 0:
lff = sort_table_data(lff, sort_by) lff = sort_table_data(lff, sort_by)
# Remplace les strings null par "", mais pas les numeric null
lff = lff.fill_null("")
# Matérialisation des filtres # Matérialisation des filtres
dff: pl.DataFrame = lff.collect() dff: pl.DataFrame = lff.collect()
@@ -196,6 +193,12 @@ def update_table(page_current, page_size, filter_query, sort_by, data_timestamp)
# end_row = (page_current + 1) * page_size # end_row = (page_current + 1) * page_size
dff = dff.slice(start_row, page_size) dff = dff.slice(start_row, page_size)
# Tout devient string
dff = dff.cast(pl.String)
# Remplace les strings null par "", mais pas les numeric null
dff = dff.fill_null("")
# Ajout des liens vers l'annuaire des entreprises # Ajout des liens vers l'annuaire des entreprises
dff = add_links(dff) dff = add_links(dff)
+2 -1
View File
@@ -180,7 +180,6 @@ def get_titulaire_marches_data(url, titulaire_year: str) -> list[dict]:
(pl.col("titulaire_id") == titulaire_siret) (pl.col("titulaire_id") == titulaire_siret)
& (pl.col("titulaire_typeIdentifiant") == "SIRET") & (pl.col("titulaire_typeIdentifiant") == "SIRET")
) )
lff = lff.fill_null("")
lff = lff.select( lff = lff.select(
"id", "id",
"uid", "uid",
@@ -218,6 +217,8 @@ def get_last_marches_table(data) -> html.Div:
] ]
dff = pl.DataFrame(data) dff = pl.DataFrame(data)
dff = dff.cast(pl.String)
dff = dff.fill_null("")
dff = format_montant(dff) dff = format_montant(dff)
columns, tooltip = setup_table_columns( columns, tooltip = setup_table_columns(
dff, hideable=False, exclude=["acheteur_id", "id"] dff, hideable=False, exclude=["acheteur_id", "id"]
+37 -21
View File
@@ -43,9 +43,9 @@ def add_resource_link(dff: pl.DataFrame) -> pl.DataFrame:
dff = dff.with_columns( dff = dff.with_columns(
( (
'<a href="' + pl.col("sourceFile") + '">' + pl.col("sourceDataset") + "</a>" '<a href="' + pl.col("sourceFile") + '">' + pl.col("sourceDataset") + "</a>"
).alias("source") ).alias("sourceDataset")
) )
dff = dff.drop(["sourceFile", "sourceDataset"]) dff = dff.drop(["sourceFile"])
return dff return dff
@@ -126,7 +126,7 @@ def format_number(number) -> str:
def format_montant(dff: pl.DataFrame) -> pl.DataFrame: def format_montant(dff: pl.DataFrame) -> pl.DataFrame:
def format_function(expr, scale=None): def format_function(expr, scale=None):
# https://stackoverflow.com/a/78636786 # https://stackoverflow.com/a/78636786
expr = expr.cast(pl.String).str.splitn(".", 2) expr = expr.str.splitn(".", 2)
num = expr.struct[0] num = expr.struct[0]
frac = expr.struct[1] frac = expr.struct[1]
@@ -145,7 +145,13 @@ def format_montant(dff: pl.DataFrame) -> pl.DataFrame:
.otherwise(pl.lit("")) .otherwise(pl.lit(""))
) )
return num + frac + pl.lit("") montant: pl.Expr = (
pl.when((num + frac) == pl.lit(""))
.then(pl.lit(""))
.otherwise(num + frac + pl.lit(""))
)
return montant
dff = dff.with_columns(pl.col("montant").pipe(format_function).alias("montant")) dff = dff.with_columns(pl.col("montant").pipe(format_function).alias("montant"))
return dff return dff
@@ -215,16 +221,26 @@ def filter_table_data(lff: pl.LazyFrame, filter_query: str) -> pl.LazyFrame:
if debug: if debug:
print("filter_value:", filter_value) print("filter_value:", filter_value)
print("filter_value_type:", type(filter_value)) print("filter_value_type:", type(filter_value))
print("operator:", operator)
print("col_type:", col_type) print("col_type:", col_type)
if col_type == "Date": lff = lff.filter(pl.col(col_name).is_not_null())
# Convertir la colonne en chaînes de caractères
lff = dates_to_strings(lff, col_name)
if operator in ("<", "<=", ">", ">="): if col_type == "Date":
lff = lff.filter( # Convertir la colonne date en chaînes de caractères
pl.col(col_name).is_not_null() & (pl.col(col_name) != pl.lit("")) lff = dates_to_strings(lff, col_name)
) col_type = "String"
if col_type == "String":
lff = lff.filter(pl.col(col_name) != pl.lit(""))
elif col_type.startswith("Int") or col_type.startswith("Float"):
try:
filter_value = int(filter_value)
except ValueError:
logger.error(f"Invalid numeric filter value: {filter_value}")
continue
if operator in ("contains", "<", "<=", ">", ">="):
if operator == "<": if operator == "<":
lff = lff.filter(pl.col(col_name) < filter_value) lff = lff.filter(pl.col(col_name) < filter_value)
elif operator == ">": elif operator == ">":
@@ -233,17 +249,17 @@ def filter_table_data(lff: pl.LazyFrame, filter_query: str) -> pl.LazyFrame:
lff = lff.filter(pl.col(col_name) >= filter_value) lff = lff.filter(pl.col(col_name) >= filter_value)
elif operator == "<=": elif operator == "<=":
lff = lff.filter(pl.col(col_name) <= filter_value) lff = lff.filter(pl.col(col_name) <= filter_value)
elif operator == "contains":
if col_type in ["String", "Date"]:
lff = lff.filter(
pl.col(col_name).str.contains("(?i)" + filter_value)
)
elif col_type.startswith("Int") or col_type.startswith("Float"): elif col_type.startswith("Int") or col_type.startswith("Float"):
try:
filter_value = int(filter_value)
except ValueError:
logger.error(f"Invalid numeric filter value: {filter_value}")
continue
lff = lff.filter(pl.col(col_name) == filter_value) lff = lff.filter(pl.col(col_name) == filter_value)
else:
elif operator == "contains" and col_type in ["String", "Date"]: logger.error(f"Invalid column type: {col_type}")
lff = lff.filter(pl.col(col_name).str.contains("(?i)" + filter_value)) else:
logger.error(f"Invalid operator: {operator}")
# elif operator == 'datestartswith': # elif operator == 'datestartswith':
# lff = lff.filter(pl.col(col_name).str.startswith(filter_value)") # lff = lff.filter(pl.col(col_name).str.startswith(filter_value)")
@@ -313,7 +329,7 @@ def get_data_schema() -> dict:
for col in original_schema["fields"]: for col in original_schema["fields"]:
new_schema[col["name"]] = col new_schema[col["name"]] = col
new_schema["source"] = { new_schema["sourceDataset"] = {
"description": "Code de la source des données, avec un lien vers le fichier Open Data dont proviennent les données de ce marché public.", "description": "Code de la source des données, avec un lien vers le fichier Open Data dont proviennent les données de ce marché public.",
"title": "Source des données", "title": "Source des données",
"short_name": "Source", "short_name": "Source",