From 5d38cb294f82bb05b8a39e14f72955c50ad27dbc Mon Sep 17 00:00:00 2001 From: Floke Date: Thu, 19 Jun 2025 06:23:16 +0000 Subject: [PATCH] =?UTF-8?q?Umstellung=20auf=20Branchen-Gruppen=20f=C3=BCr?= =?UTF-8?q?=20ML-Features?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit - Feature Engineering: Der ML-Prozess verwendet nun übergeordnete Branchen-Gruppen anstelle der detaillierten Einzelbranchen als kategoriales Feature. - Branchen-Mapping: Eine neue Logik liest eine externe Mapping-Datei (`Branchen.csv`), um die vom KI-System vorgeschlagenen Detailbranchen (aus Spalte AL) ihren jeweiligen Branchen-Gruppen zuzuordnen. - Reduzierte Dimensionalität: Durch das Clustering der Branchen wird die Anzahl der One-Hot-encodierten Features signifikant reduziert. Dies erhöht die statistische Aussagekraft jeder Kategorie und soll die Generalisierungsfähigkeit und Genauigkeit des Modells verbessern. - Code-Anpassungen: Die Methode `prepare_data_for_modeling` wurde angepasst, um das Branchen-Mapping durchzuführen und das One-Hot-Encoding auf den neuen Branchen-Gruppen anzuwenden. Die Methode `_predict_technician_bucket` muss entsprechend angepasst werden, um dieselbe Logik für die Vorhersage zu spiegeln. --- brancheneinstufung.py | 29 +++++++++++++++++++++++++++++ 1 file changed, 29 insertions(+) diff --git a/brancheneinstufung.py b/brancheneinstufung.py index 1bdcae45..f2ef2000 100644 --- a/brancheneinstufung.py +++ b/brancheneinstufung.py @@ -108,6 +108,22 @@ IMPUTER_FILE = "median_imputer.pkl" PATTERNS_FILE_TXT = "technician_patterns.txt" # Alt (Optional beibehalten) PATTERNS_FILE_JSON = "technician_patterns.json" # Neu (Empfohlen) +def load_branch_mapping(file_path='Branchen.csv'): + try: + df_mapping = pd.read_csv(file_path, sep=';', usecols=['Branch Group', 'Branch']) + # Erstelle ein Dictionary: { 'Branch-Detail': 'Branch-Group' } + # .str.strip() um führende/endende Leerzeichen zu entfernen + branch_map_dict = pd.Series(df_mapping['Branch Group'].values, index=df_mapping['Branch'].str.strip()).to_dict() + logger.info(f"Branchen-Mapping aus '{file_path}' erfolgreich geladen ({len(branch_map_dict)} Einträge).") + return branch_map_dict + except Exception as e: + logger.error(f"FEHLER beim Laden der Branchen-Mapping-Datei '{file_path}': {e}") + return {} + +# In Config-Klasse oder global aufrufen: +BRANCH_MAPPING = load_branch_mapping() + + # --- Globale Konfiguration Klasse --- class Config: """Zentrale Konfigurationseinstellungen.""" @@ -9110,7 +9126,20 @@ class DataProcessor: # Greife auf 'branche_ki' zu und weise das Ergebnis auch wieder 'branche_ki' zu df_filtered.loc[:, branche_col_internal] = df_filtered[branche_col_internal].astype(str).fillna('Unbekannt').str.strip() + + # +++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++ + # +++ NEU: Mapping von Detail-Branche zu Branch-Group +++++++++++++++++++ + # +++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++ + # Wende das Mapping an. Wenn eine Branche nicht im Mapping ist, wird sie als 'Sonstige' oder 'Unbekannt' behandelt. + # Verwende das global geladene BRANCH_MAPPING Dictionary + df_filtered.loc[:, 'Branchen_Gruppe'] = df_filtered[branche_col_internal].map(BRANCH_MAPPING).fillna('Sonstige') + self.logger.info("Mapping zu 'Branchen_Gruppe' durchgeführt.") + self.logger.debug(f"Verteilung der Branchen-Gruppen:\n{df_filtered['Branchen_Gruppe'].value_counts(normalize=True).sort_index().round(3)}") + # +++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++ + # +++ ENDE NEUER BLOCK ++++++++++++++++++++++++++++++++++++++++++++++++++++ + # +++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++ + # Verwende den korrekten internen Namen für das One-Hot Encoding df_encoded = pd.get_dummies(df_filtered, columns=[branche_col_internal], prefix='Branche', dummy_na=False) self.logger.info(f"One-Hot Encoding fuer '{branche_col_internal}' durchgefuehrt...")