Linguaggio rilevante: Calcolo del TFIDF
Previous Top Next

Questa funzione permette di calcolare, per tutti i frammenti, il valore del TFIDF di tutte o solo di una parte delle forme grafiche presenti in un corpus. La selezione delle forme può avvenire, alternativamente, in base ad una soglia di frequenza o al contenuto di una lista.

La procedura genera una serie di file di testo ed un nuovo campo nelle tabelle Vocabolario e Frammenti, contenenti vari tipi di risultati.

Per eseguire il calcolo del TFIDF ai fini dell'estrazione del linguaggio rilevante, dal menù Analisi scegliere Analisi Lessicale/Linguaggio peculiare/Selezione parole rilevanti (TFIDF).

Si aprirà la maschera Calcolo del TFIDF.

graphic

Definire una soglia di occorrenze delle forme per il calcolo del TFIDF. Se invece si desidera operare una selezione in base a lista, premere il pulsante sfoglia e cercare la lista di interesse tramite la finestra di dialogo che apparirà sullo schermo. Selezionare il file della lista e premere Apri.

La lista deve essere predisposta in formato <.txt> e deve presentare una sola parola/poliforme per riga. Si consiglia di utilizzare la funzione Esporta/In un file di testo/Lista di tematizzazione-Lessicalizzazione del Menu File.

ATTENZIONE: Questa funzione NON comporta nessuna lessicalizzazione. Pertanto, se nella lista sono presenti poliformi, affinché possano essere presi in considerazione per il calcolo del TFIDF dovranno essere già stati lessicalizzati in precedenza.

Il riquadro Normalizzazione permette due diverse opzioni:

- In base alla query - il fattore di normalizzazione sarà dato dalla radice quadrata della somma dei TFIDF delle sole forme della query che figurano nel frammento. In questo senso i frammenti vengono visti come se fossero composti dalle sole forme indicate nella query (eventualmente presenti nei frammenti stessi).

- In base al frammento - il fattore di normalizzazione sarà dato dalla radice quadrata della somma dei TFIDF di tutte le forme che figurano nel frammento, anche quelle non comprese nella query. In questo caso si considera l'effettiva lunghezza totale dei frammenti in termini di forme.

L'opzione Matrice TFIDF su file consente di salvare in un file .txt una tabella avente in riga i frammenti ed in colonna le forme della query, e contenente i valori dei TFIDF di ogni forma per ogni frammento. Il file (TFIDF_norm.txt) verrà salvato nella cartella di Sessione. Spuntando anche l'opzione Trasponi la matrice i ruoli di righe e colonne verranno invertiti, ottenendo una matrice avente in riga i frammenti ed in colonna le forme grafiche.

Per avviare il calcolo premere OK. Verrà quindi richiesto il nome da attribuire al campo che verrà creato nelle tabelle Vocabolario (dove riporta la somma dei TFIDF della forma per tutti i documenti) sia nella tabella Frammenti con var categoriali e/o ex-post (testuali/quantitative) (dove riporta la somma dei TFIDF di tutte le parole del frammento).


TaLTaC2 aggiunge, inoltre, una colonna, il cui nome sarà quello attribuito all'inizio della procedura, sia nella tabella Vocabolario (dove riporta la somma dei TFIDF della forma per tutti i documenti) sia nella tabella Frammenti con var categoriali e/o ex-post (testuali/quantitative) (dove riporta la somma dei TFIDF di tutte le parole del frammento). A differenza dei file di testo, questi campi non vengono sovrascritti da successivi calcoli del TFIDF

Per visualizzare le forme che identificano il linguaggio rilevante, secondo il calcolo del TFIDF, aprire la tabella Vocabolario dal DB di Sessione e ordinare i valori del campo TFIDF in senso descrescente o scegliere la voce Linguaggio rilevante dal menu Analisi/Analisi Testuale/Estrazione di informazione: per parole chiave.