Floke/Brancheneinstufung2
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

dealfront_enrichment.py aktualisiert

Browse Source
This commit is contained in:
Floke
2025-07-14 07:38:41 +00:00
parent 5c59537845
commit 1d2b75cc86
1 changed files with 44 additions and 54 deletions
Download Patch File Download Diff File Expand all files Collapse all files

98
dealfront_enrichment.py
View File

@@ -35,17 +35,15 @@ class DealfrontScraper:
logger.info("Initialisiere WebDriver...")
chrome_options = ChromeOptions()
chrome_options.add_experimental_option("prefs", {"profile.managed_default_content_settings.images": 2})
chrome_options.add_argument("--headless=new")
# chrome_options.add_argument("--headless=new") # Headless DEAKTIVIERT für Debugging!
chrome_options.add_argument("--no-sandbox")
chrome_options.add_argument("--disable-dev-shm-usage")
chrome_options.add_argument("--window-size=1920,1200")
try:
self.driver = webdriver.Chrome(options=chrome_options)
except Exception as e:
logger.critical("WebDriver konnte nicht initialisiert werden.", exc_info=True)
raise
self.wait = WebDriverWait(self.driver, 30)
self.username, self.password = self._load_credentials()
if not self.username or not self.password:
@@ -112,10 +110,8 @@ class DealfrontScraper:
logger.info(f"Navigiere direkt zur Target-Seite und lade die Suche...")
self.driver.get(Config.TARGET_URL)
self.wait.until(EC.url_contains("/t/prospector/"))
search_item_selector = (By.XPATH, f"//div[contains(@class, 'truncate') and normalize-space()='{search_name}']")
self.wait.until(EC.element_to_be_clickable(search_item_selector)).click()
logger.info("Suche geladen. Warte auf das Rendern der Ergebnistabelle.")
self.wait.until(EC.visibility_of_element_located((By.CSS_SELECTOR, "table#t-result-table tbody tr")))
return True
@@ -124,35 +120,30 @@ class DealfrontScraper:
self._save_debug_artifacts("navigation_or_search_load")
return False
def extract_current_page_results(self, page_number=None):
results = []
rows_selector = (By.XPATH, "//table[@id='t-result-table']/tbody/tr[.//a[contains(@class, 't-highlight-text')]]")
try:
data_rows = [row for row in self.driver.find_elements(*rows_selector) if row.is_displayed()]
for row in data_rows:
try:
name = row.find_element(By.CSS_SELECTOR, ".sticky-column a.t-highlight-text").get_attribute("title").strip()
website = "N/A"
try:
website = row.find_element(By.CSS_SELECTOR, "a.text-gray-400.t-highlight-text").text.strip()
except NoSuchElementException:
pass
res = {'name': name, 'website': website}
if page_number is not None:
res['page'] = page_number
results.append(res)
except NoSuchElementException:
continue
except Exception as e:
logger.error(f"Fehler bei der Extraktion auf der aktuellen Seite: {e}")
return results
def extract_visible_firmennamen_js(self):
"""
Extrahiert die sichtbaren Firmennamen und Websites direkt per JavaScript aus der Tabelle.
"""
script = """
let rows = document.querySelectorAll('table#t-result-table tbody tr');
let result = [];
for (let row of rows) {
let nameElem = row.querySelector('.sticky-column a.t-highlight-text');
let websiteElem = row.querySelector('a.text-gray-400.t-highlight-text');
if (nameElem) {
result.push({
name: nameElem.getAttribute('title') || nameElem.innerText,
website: websiteElem ? websiteElem.innerText : ''
});
}
}
return result;
"""
return self.driver.execute_script("return " + script)
def scrape_all_pages(self, max_pages=10):
"""
Iteriert durch alle Ergebnisseiten, wartet nach jedem Paginieren explizit auf neue Seitenzahl,
wartet nach jedem Seitenwechsel und Scrollen ausreichend, und sammelt alle Firmenzeilen seitengetreu.
"""
all_companies = []
previous_first_name = None
for page_number in range(1, max_pages + 1):
logger.info(f"--- Verarbeite Seite {page_number} ---")
try:
@@ -164,21 +155,17 @@ class DealfrontScraper:
logger.info("Warte 5 Sekunden, um sicherzugehen, dass alle Daten geladen sind...")
time.sleep(5)
# Vor Pagination: Aktive Seitenzahl merken
try:
active_page_elem = self.driver.find_element(By.CSS_SELECTOR, "a.eb-pagination-button.active")
active_page_num = active_page_elem.text.strip()
logger.info(f"Vor Pagination: Aktive Seite: {active_page_num}")
except NoSuchElementException:
active_page_num = None
logger.warning("Vor Pagination: Konnte aktive Seite nicht ermitteln.")
# Scroll an den Anfang und dann langsam nach unten
self.driver.execute_script("window.scrollTo(0, 0);")
time.sleep(0.5)
self.scroll_table_slowly()
logger.info("Warte nach Scrollen nochmals 3 Sekunden...")
time.sleep(3)
logger.info("Warte nach Scrollen nochmals 2 Sekunden...")
time.sleep(2)
# Jetzt erst Daten extrahieren
page_results = self.extract_current_page_results(page_number=page_number)
# Jetzt per JS extrahieren
page_results = self.extract_visible_firmennamen_js()
for r in page_results:
r['page'] = page_number
logger.info(f"Seite {page_number}: {len(page_results)} Firmen gefunden. Erste Firmen: {[r['name'] for r in page_results[:3]]}")
all_companies.extend(page_results)
@@ -221,19 +208,24 @@ class DealfrontScraper:
self.driver.execute_script("arguments[0].click();", next_button)
logger.info("Klick auf Weiter-Button ausgeführt.")
# Warte auf neue aktive Seitenzahl
# Warte auf Änderung des ersten Firmennamens
if page_results:
previous_first_name = page_results[0]['name']
else:
previous_first_name = ""
def page_changed(driver):
try:
elem = driver.find_element(By.CSS_SELECTOR, "a.eb-pagination-button.active")
page_num = elem.text.strip()
logger.debug(f"Nach Pagination: Aktive Seite: {page_num}")
return page_num != active_page_num
name = driver.execute_script("""
let row = document.querySelector('table#t-result-table tbody tr');
if (!row) return '';
let nameElem = row.querySelector('.sticky-column a.t-highlight-text');
return nameElem ? (nameElem.getAttribute('title') || nameElem.innerText) : '';
""")
return name and name != previous_first_name
except Exception:
return False
self.wait.until(page_changed)
logger.info("Seitenwechsel erfolgreich verifiziert (aktive Seitenzahl hat sich geändert).")
logger.info("Seitenwechsel erfolgreich verifiziert (erster Firmenname hat sich geändert).")
except Exception as e:
logger.error(f"Fehler beim Klicken auf den Weiter-Button oder beim Warten auf neue Seite: {e}")
try:
@@ -263,8 +255,6 @@ if __name__ == "__main__":
if all_companies:
df = pd.DataFrame(all_companies)
# Optional: Deduplizieren nach Name, Website und Seite
# df = df.drop_duplicates(subset=["name", "website", "page"])
output_csv_path = os.path.join(Config.OUTPUT_DIR, f"dealfront_results_{time.strftime('%Y%m%d-%H%M%S')}.csv")
df.to_csv(output_csv_path, index=False, sep=';', encoding='utf-8-sig')
logger.info(f"Ergebnisse ({len(df)} Firmen) erfolgreich in '{output_csv_path}' gespeichert.")