Deepseek V3

Fehlende Methode hinzugefügt:

python
Copy
def _extract_domain_hint(self, website):
    # Implementierung der Domain-Extraktion
Verbesserte Namensbereinigung:

Behandelt jetzt Sonderfälle wie "GmbH & Co. KG"

Entfernt Sonderzeichen vor dem Ähnlichkeitsvergleich

Optimierte Suchbegriffe-Generierung:

Splittet Namen in relevante Wörter

Entfernt Duplikate aus den Suchbegriffen

Detaillierteres Debugging:

Zeigt Ähnlichkeitswerte an

Protokolliert Domain-Prüfungen
This commit is contained in:
2025-03-31 13:15:16 +00:00
parent 42c2f9d843
commit 75f68e8e51

View File

@@ -95,45 +95,61 @@ class WikipediaScraper:
def __init__(self): def __init__(self):
wikipedia.set_lang(Config.LANG) wikipedia.set_lang(Config.LANG)
def _extract_domain_hint(self, website):
"""Extrahiert den Domain-Schlüssel aus der Website-URL"""
if not website:
return ""
# Entferne Protokoll und www, zerlege in Teile
clean_url = website.lower().replace("https://", "").replace("http://", "").replace("www.", "")
domain_parts = clean_url.split(".")
return domain_parts[0] if domain_parts else ""
def _generate_search_terms(self, company_name, website_hint=""): def _generate_search_terms(self, company_name, website_hint=""):
"""Generiert Suchbegriffe aus Firmenname und Website""" """Generiert Suchbegriffe aus Firmenname und Website"""
search_terms = [company_name.strip()] search_terms = [company_name.strip()]
# Zusatzbegriffe aus Firmennamen # Bereinigung von Rechtsformen und Sonderzeichen
name_parts = company_name.split() clean_name = re.sub(
if len(name_parts) > 1: r'\s+(?:GmbH|AG|KG|OHG|e\.V\.|mbH|& Co\. KG| GmbH & Co\. KG).*$',
search_terms.append(" ".join(name_parts[:2])) '',
company_name
).strip()
# Bereinigung von Rechtsformen # Füge bereinigten Namen hinzu, wenn unterschiedlich
clean_name = re.sub(r'\s+(?:GmbH|AG|KG|OHG|e\.V\.|mbH).*$', '', company_name) if clean_name and clean_name != company_name:
if clean_name != company_name:
search_terms.append(clean_name) search_terms.append(clean_name)
# Extraktion aus Website # Extrahiere erste zwei relevante Wörter
if website_hint: name_words = [w for w in re.split(r'\W+', clean_name) if w]
domain_parts = website_hint.replace("https://", "").replace("http://", "").replace("www.", "").split(".") if len(name_words) >= 2:
if len(domain_parts) > 1 and domain_parts[0] not in ["de", "com", "org"]: search_terms.append(" ".join(name_words[:2]))
search_terms.append(domain_parts[0])
# Domain-Hint hinzufügen
domain_hint = self._extract_domain_hint(website_hint)
if domain_hint and domain_hint not in ["de", "com", "org", "net"]:
search_terms.append(domain_hint)
debug_print(f"Generierte Suchbegriffe: {search_terms}") debug_print(f"Generierte Suchbegriffe: {search_terms}")
return search_terms return list(set(search_terms)) # Duplikate entfernen
def _validate_article(self, page, company_name, domain_hint=""): def _validate_article(self, page, company_name, domain_hint=""):
"""Überprüft ob der Artikel zum Unternehmen passt""" """Überprüft ob der Artikel zum Unternehmen passt"""
# Ähnlichkeitsprüfung des Titels # Normalisiere beide Namen
title_similarity = SequenceMatcher( page_title = re.sub(r'\(.*?\)', '', page.title).strip().lower()
None, search_name = re.sub(r'[^a-zA-Z0-9äöüß ]', '', company_name).strip().lower()
page.title.lower(),
company_name.lower() # Ähnlichkeitsprüfung
).ratio() similarity = SequenceMatcher(None, page_title, search_name).ratio()
debug_print(f"Ähnlichkeit '{page_title}' vs '{search_name}': {similarity:.2f}")
# Zusätzliche Domain-Prüfung # Zusätzliche Domain-Prüfung
if domain_hint: if domain_hint:
html_content = requests.get(page.url).text html_content = requests.get(page.url).text.lower()
if domain_hint.lower() not in html_content.lower(): if domain_hint not in html_content:
debug_print(f"Domain-Hint '{domain_hint}' nicht im Artikel gefunden")
return False return False
return title_similarity >= Config.SIMILARITY_THRESHOLD return similarity >= Config.SIMILARITY_THRESHOLD
@retry_on_failure @retry_on_failure
def search_company_article(self, company_name, website_hint=""): def search_company_article(self, company_name, website_hint=""):