SmartWebScraper-CV Documentation

Application intelligente d’annotation de pages web par Computer Vision, OCR, NLP et LLM

Note

Ce projet a été réalisé dans le cadre de la formation d’ingénieur à l’ENSAM Meknès, au sein de la filière IATD-SI (Ingénierie de l’Intelligence Artificielle et des Technologies de la Donnée pour les Systèmes Industriels).

Auteurs: DJERI-ALASSANI OUBENOUPOU & EL MAJDI WALID

Encadré par: Professeur Tawfik MASROUR

Date: 16 Juin 2025

Aperçu du Projet

SmartWebScraper-CV est une application complète qui combine plusieurs technologies d’intelligence artificielle pour extraire, comprendre et structurer automatiquement le contenu de pages web capturées sous forme d’images.

Technologies Clés

• Computer Vision : Detectron2 (Faster R-CNN) pour la détection d’objets

• OCR : PaddleOCR pour l’extraction de texte

• NLP : NLTK, spaCy, TF-IDF pour le traitement du langage naturel

• LLM : Gemini API et Mistral via Ollama

• Web Framework : Flask avec interface responsive

Fonctionnalités Principales

Table des Matières

Introduction

• Contexte Général
• Problématiques du Scrapping Traditionnel
• Solutions Apportées par l’Approche Visuelle
• Avantages de Cette Approche
• Contexte Académique
• Objectifs du Projet
• Objectifs Techniques Détaillés
  • 1. Capture Intelligente
  • 2. Détection Automatique des Zones
  • 3. Extraction et Traitement du Texte
  • 4. Interaction Intelligente
• Objectifs Fonctionnels
  • Application Complète avec Deux Profils
• Workflow Complet
• Objectifs d’Innovation
  • Contribution Scientifique
  • Valeur Ajoutée Technique
• Métriques de Succès

Acquisition des Données

• Constitution et Acquisition des Données
• Stratégie d’Acquisition
• Début de Constitution du Dataset
  • Capture via Selenium + undetected-chromedriver
  • Process de Collecte d’URLs
• Résultats de la Collecte
  • Distribution des Tailles d’Images
• Types de Contenu Priorisés
• Méthode de Nettoyage
• Traçabilité et Métadonnées
• Défis Techniques Rencontrés
  • Gestion des Sites Modernes
  • Performance et Optimisation
• Validation de la Qualité
  • Métriques de Qualité Automatiques
  • Contrôle Qualité Manuel
• Préparation pour l’Annotation

Annotation et Dataset

• Annotation et Structuration du Dataset
• Objectif de l’Annotation
• Évolution des Classes d’Annotation
  • Classes Initiales (Version 1.0)
  • Classes Étendues (Version 4.0)
• Justification de l’Extension
• Défis de l’Annotation Multi-Classes
  • Ambiguïtés Inter-Classes
  • Solutions Adoptées
• Format d’Annotation COCO
  • Avantages du Format COCO
• Processus d’Annotation
  • Workflow Complet
• Métriques de Qualité d’Annotation

Modélisation

• Détection d’Objets : Modélisation et Fine-Tuning
• Choix du Modèle de Détection
  • Analyse Comparative des Architectures
  • Justification du Choix : Faster R-CNN
• Architecture Technique Détaillée
  • Faster R-CNN avec ResNet-50 + FPN
• Entraînement Initial
  • Configuration d’Entraînement
  • Évolution des Modèles
• Environnement d’Entraînement
  • Spécifications Matérielles
• Métriques d’Évaluation
  • Résultats Finaux du Modèle
• Analyse des Performances
  • Points Forts du Modèle
  • Points Faibles Identifiés
• Intégration dans l’Application
  • Pipeline de Prédiction
  • Visualisation Interactive
• Optimisations Appliquées
  • Filtrage Intelligent
  • Gestion Mémoire GPU

OCR et NLP

• Traitement NLP des Textes Extraits
• Architecture du Système NLP
• Principe de Préservation à 100%
• Étapes de Traitement
  • 1. Nettoyage et Pré-traitement
  • 2. Segmentation en Phrases
  • 3. Vectorisation et Indexation
  • 4. Extraction d’Entités Nommées
• Fonctionnalités de Traitement
  • Résumé Automatique Extractif
  • Détection de Sujets par Clustering
• Système Question-Réponse Local
  • Classification d’Intention
  • Recherche par Similarité
  • Enrichissement Heuristique
• Optimisations Performance
  • Mode CPU pour Machines Limitées
  • Cache et Mémorisation
• Métriques de Performance

API et Références

• Guide d’Installation
• Prérequis Système
  • Configuration Matérielle Recommandée
  • Configuration Logicielle
• Installation Complète
  • Étape 1 : Clonage du Projet
  • Étape 2 : Environnement Python
  • Étape 3 : Dépendances Application
  • Étape 4 : Modèles et Données
  • Étape 5 : Configuration Variables d’Environnement
• Installation des Services Externes
  • Ollama (LLM Local)
  • Chrome/Chromium pour Selenium
  • Playwright (Alternative)
• Configuration et Tests
  • Test de l’Installation
  • Test des Composants
• Lancement de l’Application
  • Mode Développement
  • Mode Production
• Configuration Docker (Optionnel)
• Dépannage
  • Problèmes Courants
  • Logs et Debug

Indices et tables

• Index

• Index du module

• Page de recherche