Visualizza wikitesto di Locality-sensitive hashing

{{tmp|Algoritmo}}
Il '''locality-sensitive hashing''' ('''LSH''')<ref name=GIM1999>{{Cita pubblicazione
| autore= Gionis, A.
| coautori = [[Piotr Indyk|Indyk, P.]], [[Rajeev Motwani|Motwani, R.]]
| anno = 1999
| titolo = Similarity Search in High Dimensions via Hashing
| url= https://people.csail.mit.edu/indyk/vldb99.ps
| rivista = Proceedings of the 25th Very Large Database (VLDB) Conference
}}</ref><ref name=IndykMotwani98>{{Cita pubblicazione
 | autore = [[Piotr Indyk]]
 | coautori = [[Rajeev Motwani]]
 | anno = 1998
 | titolo = Approximate Nearest Neighbors: Towards Removing the Curse of Dimensionality.
 | url= https://people.csail.mit.edu/indyk/nndraft.ps
 | rivista = Proceedings of 30th Symposium on Theory of Computing
}}</ref> è un metodo per la [[riduzione della dimensionalità]] dello [[spazio vettoriale]] di un insieme di dati.

== Motivazioni ==
La grossa mole di dati da elaborare, principalmente il calcolo della distanza fra gli oggetti (''item'') di un insieme di dati, è un grosso vincolo allo sviluppo di applicazioni [[sistema real-time]] per soddisfare interrogazioni quali la similarità fra (parti di) immagini o (estratti di) brani musicali.

L'idea principale è applicare una [[funzione hash]] agli item in input in modo da far collidere, con alta probabilità, item simili negli stessi contenitori (''bucket''). Il numero di bucket è molto più ridotto dell'universo dei possibili item in input. L'obiettivo è di arrivare ad un hashing a due livelli:
* la funzione LSH mappa un item <math>p</math> in un bucket <math>g_j(p)</math>;
* una funzione hash standard mappa il contenuto di questi bucket in una [[hash table]] di lunghezza <math>M.</math>
La dimensione massima del bucket della seconda hash table verrà chiamato <math>B.</math>

=== Assunzioni ===
Con il metodo LSH si vuole fare in modo di correlare la [[distanza (matematica)|distanza]] di due punti <math>p</math> e <math>q</math> alla probabilità di collisione in un bucket. Maggiore è la distanza fra i punti minore sarà la loro probabilità di collisione.

== Definizione ==
* <math>D(\cdot,\cdot)</math> è la [[funzione di distanza]] fra elementi di un insieme <math>S</math>;
* <math>B(p,r)</math> indica, per ogni punto <math>p \in S</math>, l'insieme di elementi di <math>S</math> che stanno all'interno della distanza <math>r</math> da <math>p</math>.

Consideriamo una funzione hash <math>h</math> scelta a caso dalla famiglia LSH di funzioni hash disponibili <math>\mathcal H</math>. Una famiglia LSH <math>\mathcal H</math> di funzioni dall'insieme <math>S</math> all'insieme <math>U</math> è detta <math>(r_1,r_2,p_1,p_2)</math>-sensitive per <math>D(\cdot,\cdot)</math> se per ogni coppia di punti <math>q</math> (che è la rappresentazione dell'interrogazione) e <math>p</math> (che è il punto che soddisfa le condizioni sotto riportate) appartenenti all'insieme <math>S</math>:
* se <math>p \in B(q,r_1)</math> allora <math>\mathrm{Pr}_\mathcal H [h(q)=h(p)] \ge p_1;</math>
* se <math>p \notin B(q,r_2)</math> allora <math>\mathrm{Pr}_\mathcal H [h(q)=h(p)] \le p_2.</math>

Affinché la famiglia LSH sia utile per gli scopi che ci si è prefissi devono valere le due condizioni:
* <math>p_1 > p_2;</math>
* <math>r_1 < r_2.</math>

Di solito si considera <math>r_2 = cr_1,</math> con <math>c > 1</math>.

=== Interpretazione grafica ===
In uno spazio a due [[dimensione|dimensioni]] si hanno due cerchi concentrici centrati sulla rappresentazione dell'interrogazione <math>q</math>. Ricordando che <math>B(q,r_1)</math> e <math>B(q,r_2)</math> rappresentano dei sottoinsiemi dell'insieme di dati <math>S</math>:

* Il cerchio più interno di raggio <math>r_1</math> contiene i punti <math>p</math> dell'insieme di dati <math>B(q,r_1)</math> che hanno, come precedentemente descritto, una probabilità maggiore della soglia <math>p_1</math> di subire un hash nello stesso bucket. 

* Il cerchio più esterno di raggio <math>r_2</math> esclude i punti <math>p</math> dell'insieme di dati <math>B(q,r_2)</math> che hanno, come precedentemente descritto, una probabilità minore della soglia <math>p_2</math> di subire un hash nello stesso bucket.

== LSH e distribuzioni stabili ==
La funzione hash<ref name=DIIM04>{{Cita pubblicazione
 | autore = Datar, M.
 | coautori =  Immorlica, N., [[Piotr Indyk|Indyk, P.]], Mirrokni, V.S.
 | anno=2004
 | titolo = Locality-Sensitive Hashing Scheme Based on p-Stable Distributions
 | url = http://theory.csail.mit.edu/~mirrokni/pstable.ps 
 | rivista = Proceedings of the Symposium on Computational Geometry
}}</ref> <math>h_{\mathbf{a},b}\colon \R^d\to \N </math> manda un [[Vettore (matematica)|vettore]] di <math>d</math> componenti reali <math>\mathbf{v}</math> in un intero non negativo. Ogni funzione hash appartenente alla famiglia viene selezionata scegliendo in modo casuale <math>\mathbf{a}</math> e <math>b</math> dove <math>\mathbf{a}</math> è un vettore di <math>d</math> componenti reali i cui elementi sono scelti in maniera indipendente da una [[distribuzione stabile]] e <math>b</math> è un [[numero reale]] scelto secondo una [[distribuzione continua uniforme]] nell'intervallo <math>[0,r].</math> Fissati <math>\mathbf{a},b</math> e la funzione hash <math>h_{\mathbf{a},b}</math> si calcola attraverso la relazione <math>h_{\mathbf{a},b} (\mathbf{v}) = \left \lfloor \frac{\mathbf{a}\cdot \mathbf{v}+b}{r} \right \rfloor,</math> dove <math>\mathbf{a}\cdot \mathbf{v}</math> indica il [[prodotto scalare euclideo]] tra <math>\mathbf{a}</math> e <math>\mathbf{v}</math> e <math>\lfloor\cdot\rfloor</math> indica la funzione [[parte intera]].

=== Ricerca dei Nearest Neighbor ===
Una delle principali applicazioni di LSH è quella di fornire un [[algoritmo]] efficiente per il problema della [[ricerca del nearest neighbor]]. Data una qualsiasi famiglia LSH <math>\mathcal F</math> l'algoritmo ha due parametri principali: 
* la larghezza <math>k</math>;
* il numero di tabelle di hash <math>L</math>.

Cominciamo definendo una nuova famiglia <math>\mathcal G</math> di funzioni hash <math>g</math>, in cui ogni funzione <math>g</math> si ottiene concatenando <math>k</math> funzioni <math>h_1,\ldots,h_k</math> da <math>\mathcal F</math>, cioè

:<math>g(p)=\big(h_1(p),\ldots,h_k(p)\big).</math>

La scelta di concatenare <math>k</math> funzioni hash per ottenere <math>g</math> è giustificata dal fatto che si vuole amplificare la differenza tra la alta probabilità <math>p_1</math> e la bassa probabilità <math>p_2</math>.

In altre parole, una funzione hash <math>g</math> presa casualmente da <math>\mathcal G</math> si ottiene concatenando <math>k</math> funzioni hash prese casualmente da <math>\mathcal H</math>.

Successivamente l'algoritmo costruisce <math>L</math> tabelle di hash, ognuna corrispondente a una diversa funzione hash <math>g</math>.

Nella fase di preprocessing si fa un hash di tutti gli <math>n</math> punti dell'insieme di dati <math>S</math> in ognuna delle <math>L</math> tabelle di hash. Dato che le tabelle di hash risultanti hanno solo <math>n</math> elementi diversi da zero, si può ridurre l'utilizzo di memoria per ogni funzione hash a <math>O(n)</math> usando funzioni hash standard.

Considerando l'interrogazione <math>q</math> al sistema così creato, l'algoritmo itera sulle <math>L</math> funzioni hash <math>g</math>. Per ogni <math>g</math>, reperisce i punti dell'insieme di dati che sono stati mappati dall'hash nello stesso bucket in cui è stata mappata <math>q</math>. Il processo si conclude quando viene reperito un punto di distanza <math>cR</math> da <math>q</math>.

== Note ==
<references/>

== Voci correlate ==
* [[K-nearest neighbors]]

[[Categoria:Strutture dati]]
[[Categoria:Algoritmi di classificazione]]
[[Categoria:Algoritmi di ricerca]]
[[Categoria:Hash crittografici]]