source:
trunk/workshop-foss4g/indexing.rst
@
44
| Revision 40, 10.0 KB checked in by nbozon, 13 years ago (diff) |
|---|
Partie 14 : L'indexation spatiale
Rapellez-vous que les indexes spatiaux sont l'une des trois fonctionnalités clés d'une base de données spatiales. Les indexes rendent possible l'utilisation de grandes quantités de données dans une base. Sans indexation, chaque recherche d'une entité nécessitera d'accéder séquentiellement à tout les enregistrement de la base de données. L'indexation rend plus rapide les recherche en organisant les données dans des arbres de recherche qui peuvent être parcouru efficacement pour retrouver une entité particuliÚre.
Les indexes spatiaux sont l'un des plus grands atouts de PostGIS. Dans les exemples précédents, nous construissions nos jointures spatiales en comparant la totalité des tables. Ceci peut s'averrer trÚs coûteux : réaliser la jointure de deux tables de 10000 enregistrements sans index nécessitera de comparer 100000000 valeurs, avec les indexes les comparaisons requises seront 20000.
Lorsque nous avons chargé la table nyc_census_blocks, l'outils pgShapeLoader crée automatiquement un indexe spatial appelé nyc_census_blocks_the_geom_gist.
Pour démontrer combien il est important d'indexer ses données pour la performance des requêtes, essayons de requêter notre table nyc_census_blocks sans utiliser notre indexe.
La premiÚre étapt consiste a supprimer l'index.
DROP INDEX nyc_census_blocks_the_geom_gist;
Note
La commande DROP INDEX supprime un index existant de la base de données. Pour de plus amples informations à ce sujet, consultez la documentation officielle de PostgreSQL.
Maintenant, regardons le temps d'exécution dans le coin en bas à droite de l'interface de requêtage de pgAdmin et lançons la commande suivante. Notre requête recherche les blocs de la rue Broad.
SELECT blocks.blkid FROM nyc_census_blocks blocks JOIN nyc_subway_stations subways ON ST_Contains(blocks.the_geom, subways.the_geom) WHERE subways.name = 'Broad St';
blkid
-----------------
360610007003006
La table nyc_census_blocks est trÚs petite (seulement quelque millier d'enregistrements) donc même sans l'index, la requête prends 55 ms sur l'ordinateur de test.
Maintenant remettons en place l'indexe et lançons de nouveau la requête.
CREATE INDEX nyc_census_blocks_the_geom_gist ON nyc_census_blocks USING GIST (the_geom);
Note
l'utilisation de la clause USING GIST spécifie à PostgreSQL de créer une structure (GIST) pour cet indexe. Si vous recevez un message d'erreur ressemblant à ERROR: index row requires 11340 bytes, maximum size is 8191 lors de la création, cela signifie sans doute que vous avez omis la clause USING GIST.
Sur l'rdinateur de test le temps d'exécution se réduit à 9 ms. Plus votre table est grande, plus la différence de temps d'exécution pour une requête utilisant les indexes augmentera.
Comment les indexes spatiaux fonctionnent
Les indexes des base de données standards crée un arbre hierarchique basé sur les valeurs de la colonne à indexer. Les indexes spatiaux sont un peu différents - ils ne sont pas capables d'indexer des entités géométriques elles-même mais indexe leur étendues.
Dans la figure ci-dessus, le nombre de lignes qui intersectent l'étoile jaune est unique, la ligne rouge. Mais l'étendue des entités qui intersectent la boîte jaune sont deux, la boîte rouge et la boîte bleue.
La maniÚre dont les bases de données répondent de maniÚre efficaces à la questions "quelle ligne intersectent l'étoile jaune ?" correspond à d'abort répondre à question ; "quelle étendue intersecte l'étendue jaune" en utilisant les indexes (ce qui est trÚs rapide) puis réalise le calcul exacte de "quelles lignes intersectent l'étoile jaune" seulement en utilisant les entités retourné par le premier test.
Pour de grandes tables, il y a un systÚme en "deux étapes" d'évaluation en utilisant dans un premier temps l'approximation à l'aide d'indexes, puis en réalisant le test exact sur une quantité bien moins importante de données ce qui réduit drastiquement le temps de calcul nécessaire à cette deuxiÚme étape.
PotGIS et Oracle Spatial partage la même notion d'index structuré sous la forme "d'arbres R" [1]. Les arbres R classent les données sous forme de rectangles, de sous-rectangles etc. Cette structure d'index gÚre automatiquement la densité et la taille des objets.
Requête avec seulement des indexes
La plupart des fonctions utilisées par PostGIS (:command:`ST_Contains`, :command:`ST_Intersects`, :command:`ST_DWithin`, etc) prennent en compte les indexes automatiquement. Mais certaines fonctions (comme par exemple : :command:`ST_Relate`) ne les utilisent pas.
Pour utiliser une recherche par étendue utilisant les indexes (et pas de filtres), vous pouvez utiliser l'opérateur :command:`&&`. Pour les géométries, l'opérateur :command:`&&` signifie "l'étendue recouvre ou touche" de la même maniÚre que l'opérateur :command:`=` sur des entiers signifie que les valeurs sont égales.
Essayons de comparer une requête avec seulement un indexe pour la population du quartier 'West Village'. En utilisant la commande :command:`&&` notre requête ressemble à ce qui suit :
SELECT Sum(popn_total) FROM nyc_neighborhoods neighborhoods JOIN nyc_census_blocks blocks ON neighborhoods.the_geom && blocks.the_geom WHERE neighborhoods.name = 'West Village';
50325
Maintenant essayons la même requête en utilisant la fonction plus précise :command:`ST_Intersects`.
SELECT Sum(popn_total) FROM nyc_neighborhoods neighborhoods JOIN nyc_census_blocks blocks ON ST_Intersects(neighborhoods.the_geom, blocks.the_geom) WHERE neighborhoods.name = 'West Village';
27141
Un plus faible nombre de résultats ! La premiÚre requête nous renvoit tout les bloqcs qui intersectent l'étendue du quartier, la seconde nous renvoit seulement les blocs qui intersectent le quartier lui-même.
Analyse
Le plannificateur de requête de PostgreSQL choisit intelligemment d'utiliser ou non les indexes pour réaliser une requête. Il n'est pas toujours plus rapide d'utiliser un index pour réaliser une recherche : si la recherche doit renvoyer l'ensemble des enregistrements d'une table, parcourir l'index pour récupérer chaque valeur sera plus lent que de parcourir linéairement l'ensemble de la table.
Afin de savoir dans quelle situation il est nécessaire d'utiliser les idexes (lire une petite partie de la table plutÎt qu'une grande partie), PostgreSQL conserve des statistiques relatives à la distribution des données dans chaque colonne indexée. Par défaut, PostgreSQL rassemble les statistiques sur une base réguliÚre. Nénamoins, si vous changez dramatiquement le contenu de vos tables dans une période courte, les statisuqes ne seront alors plus à jour.
Pour vous assurez que les statistiques correspondent bien au contenu de la table actuelle, il est courrant d'utiliser la commande ANALYZE aprÚs un grand nombre de modifications ou de suppression de vos données. Cela force le systÚme de gestion des statistiques à récupérer l'ensemble des données des colonnes indexées.
La commande ANALYZE demande à PostgreSQL de parcourir la table et de mettre à jour les statistiques utilisées par le plannificateur de requêtes (la plannification des requêtes sera traité utiltérieurement).
ANALYZE nyc_census_blocks;
Néttoyage
Il est souvent stressant de constater que la simple création d'un indexe n'est pas suffisant pour que PostgreSQL l'utilise efficacement. Le nettoyage doit être réalisé aprÚs qu'un indexe soit créé ou aprÚs un grand nombre de requêtes UDATE, INSERT ou DELETE est été réalisé sur une table. La commande VACUUM demande à PostgreSQL de récupérer chaque espace non utilisé dans les pages de la table qui sont laissé en l'état lors des requêtes UPDATE ou DELETE à cause du modÚle d'estapillage multi-versions.
Le nettoyage des données est tellement important pour une utilisation efficace du serveur de base de données PostgreSQL qu'il existe maintenant une option "autovacuum".
Activée par défaut, le processus autovacuum à la fois nettoit (récupÚre l'espace libre) et analyse (met à jour les statistiques) de vos tables suivant un interval donnée déterminé par l'activité des bases de données. Bien que cela soit pour les bases de données hautement transactionnelles, il n'est pas supportable de devoir attendre que le processus autovacuum se lance lors de la mise à jour ou la suppression massive de données. Dans ce cas, il faut lancer la commande VACUUM manuellement.
Le nettoyage et l'analyse de la base de données peut être réalisé séparément si nécessaire. Utiliser la commande VACUUM ne mettra pas à jour les statistiques alors que lancer la commande ANALYZE ne récupÚrera pas l'espace libre des lignes d'une table. Chacune de ces commandes peut être lancé sur l'intégralité de la base de données, sur une table ou sur une seule colonne.
VACUUM ANALYZE nyc_census_blocks;
Liste des fonctions
geometry_a && geometry_b: retourne TRUE si l'étendue de A cheuvauche celle de B.
geometry_a = geometry_b: retourne TRUE si l'étendue de A est la même que celle de B.
ST_Intersects(geometry_a, geometry_b): retourne TRUE si l'objet Geometrie/Geography "intersecte spatiallement" - (ont une partie en commun) et FALSE sinon (elles sont dijointes).
Footnotes
| [1] | http://postgis.org/support/rtree.pdf |
