Commit eb13be87 authored by Laurette Chardon's avatar Laurette Chardon
Browse files

Modifications qui seront validées :

	modifié :         README.md
	nouveau fichier : scripts/script2des
	nouveau fichier : scripts/script3des-espsem
parent 37635997
Loading
Loading
Loading
Loading
+3 −1
Original line number Diff line number Diff line
# DataDES MotsRecherches

L'ensemble des fichiers texte contenant par jour et par mois les mots recherchés dans le DES depuis janvier 2019
 No newline at end of file
L'ensemble des fichiers texte brut contenant par jour et par mois les mots recherchés dans le DES en 2019 et 2020.

Ces fichiers sont créés à partir des logs d'apaches à l'aide de deux scripts shell (cf /scripts)
 No newline at end of file

scripts/script2des

0 → 100755
+27 −0
Original line number Diff line number Diff line
# ------------------------------------------
# nom du script : script2des
# auteur : laurette Chardon
# date derniere modif : 18/11/2021
# ------------------------------------------


# A executer avec 2 parametres : 
#        le 1er $1 un fichier de log zippé : crisco2_access.log.xx.gz
#        le 2nd $2 la date de ce fichier sous forme AnneeMoisJour : 20181125
############################################

if [ "$#" -ne 2 ]; then
 echo "Il manque deux arguments : 1er : fichier de log à traiter du type crisco2_access.log.* -   2nd : date sous forme <annee><mois><jour>"
else

annee=`echo $2 | cut -c 1-4`
am=`echo $2 | cut -c 1-6`

# On supprime les requêtes sur fragrant : ce mot est utilisé dans une crontab pour vérifier l'état de fonctionnement du DES

zcat $1 | grep "GET" | grep "/des/synonymes/[a-Z]" | grep -v "opensearch.xml" | grep -v "/des/synonymes/css" | grep -v "/des/synonymes/img" | grep -v "/des/synonymes/_img" |grep -v "/des/synonymes/js" | grep -v "/des/synonymes/synonyme" | grep -v "autocompletion.php"| grep -v "LogoBandeauCrisco.png" | grep -v "fragrant" | cut -d' ' -f 7 | cut -d'/' -f 4 > /home/des/MotsLesPlusRecherches/DES/$annee/DES$am/$2-MotsLesPlusRecherches.txt 

zcat $1 | grep "GET" | grep "/des/synonymes/[a-Z]" | grep -v "opensearch.xml" | grep -v "/des/synonymes/css" | grep -v "/des/synonymes/img" | grep -v "/des/synonymes/_img" |grep -v "/des/synonymes/js" | grep -v "/des/synonymes/synonyme" | grep -v "autocompletion.php"| grep -v "LogoBandeauCrisco.png" | grep -v "fragrant" | cut -d' ' -f 1,4,7 > /home/des/MotsLesPlusRecherches/DES/$annee/DES$am/$2-MotsLesPlusRecherchesIP.txt 

fi
# grep -w -> pour dire que c'est un mot complet et non partiel
 No newline at end of file
+32 −0
Original line number Diff line number Diff line
# ------------------------------------------
# nom du script : script3des-espsem
# auteur : laurette Chardon
# date modif : 18/11/2021
# ------------------------------------------


if [ "$#" -ne 1 ]; then
 echo "Il manque un argument : script2des ou script2espsem"
else
path="/var/log/apache2/"

# i = n° du fichier de log crisco2_acces.log.n°.gz
# date = la date de création du fichier de log n° i
# On synchronise le n° du fichier avec la date des données qu'il contient
i=2
date=20211031

until test `echo $date | cut -c 7-8` = 00
do
    echo crisco2_access.log.$i.gz
    echo $date
    ./$1 $path/crisco2_access.log.$i.gz $date
    date=$(($date-1))
    i=$(($i+1))
done


#i=$(($i+1))
#date=$(($date-1))

fi
 No newline at end of file