Loading README.md +3 −1 Original line number Diff line number Diff line # DataDES MotsRecherches L'ensemble des fichiers texte contenant par jour et par mois les mots recherchés dans le DES depuis janvier 2019 No newline at end of file L'ensemble des fichiers texte brut contenant par jour et par mois les mots recherchés dans le DES en 2019 et 2020. Ces fichiers sont créés à partir des logs d'apaches à l'aide de deux scripts shell (cf /scripts) No newline at end of file scripts/script2des 0 → 100755 +27 −0 Original line number Diff line number Diff line # ------------------------------------------ # nom du script : script2des # auteur : laurette Chardon # date derniere modif : 18/11/2021 # ------------------------------------------ # A executer avec 2 parametres : # le 1er $1 un fichier de log zippé : crisco2_access.log.xx.gz # le 2nd $2 la date de ce fichier sous forme AnneeMoisJour : 20181125 ############################################ if [ "$#" -ne 2 ]; then echo "Il manque deux arguments : 1er : fichier de log à traiter du type crisco2_access.log.* - 2nd : date sous forme <annee><mois><jour>" else annee=`echo $2 | cut -c 1-4` am=`echo $2 | cut -c 1-6` # On supprime les requêtes sur fragrant : ce mot est utilisé dans une crontab pour vérifier l'état de fonctionnement du DES zcat $1 | grep "GET" | grep "/des/synonymes/[a-Z]" | grep -v "opensearch.xml" | grep -v "/des/synonymes/css" | grep -v "/des/synonymes/img" | grep -v "/des/synonymes/_img" |grep -v "/des/synonymes/js" | grep -v "/des/synonymes/synonyme" | grep -v "autocompletion.php"| grep -v "LogoBandeauCrisco.png" | grep -v "fragrant" | cut -d' ' -f 7 | cut -d'/' -f 4 > /home/des/MotsLesPlusRecherches/DES/$annee/DES$am/$2-MotsLesPlusRecherches.txt zcat $1 | grep "GET" | grep "/des/synonymes/[a-Z]" | grep -v "opensearch.xml" | grep -v "/des/synonymes/css" | grep -v "/des/synonymes/img" | grep -v "/des/synonymes/_img" |grep -v "/des/synonymes/js" | grep -v "/des/synonymes/synonyme" | grep -v "autocompletion.php"| grep -v "LogoBandeauCrisco.png" | grep -v "fragrant" | cut -d' ' -f 1,4,7 > /home/des/MotsLesPlusRecherches/DES/$annee/DES$am/$2-MotsLesPlusRecherchesIP.txt fi # grep -w -> pour dire que c'est un mot complet et non partiel No newline at end of file scripts/script3des-espsem 0 → 100755 +32 −0 Original line number Diff line number Diff line # ------------------------------------------ # nom du script : script3des-espsem # auteur : laurette Chardon # date modif : 18/11/2021 # ------------------------------------------ if [ "$#" -ne 1 ]; then echo "Il manque un argument : script2des ou script2espsem" else path="/var/log/apache2/" # i = n° du fichier de log crisco2_acces.log.n°.gz # date = la date de création du fichier de log n° i # On synchronise le n° du fichier avec la date des données qu'il contient i=2 date=20211031 until test `echo $date | cut -c 7-8` = 00 do echo crisco2_access.log.$i.gz echo $date ./$1 $path/crisco2_access.log.$i.gz $date date=$(($date-1)) i=$(($i+1)) done #i=$(($i+1)) #date=$(($date-1)) fi No newline at end of file Loading
README.md +3 −1 Original line number Diff line number Diff line # DataDES MotsRecherches L'ensemble des fichiers texte contenant par jour et par mois les mots recherchés dans le DES depuis janvier 2019 No newline at end of file L'ensemble des fichiers texte brut contenant par jour et par mois les mots recherchés dans le DES en 2019 et 2020. Ces fichiers sont créés à partir des logs d'apaches à l'aide de deux scripts shell (cf /scripts) No newline at end of file
scripts/script2des 0 → 100755 +27 −0 Original line number Diff line number Diff line # ------------------------------------------ # nom du script : script2des # auteur : laurette Chardon # date derniere modif : 18/11/2021 # ------------------------------------------ # A executer avec 2 parametres : # le 1er $1 un fichier de log zippé : crisco2_access.log.xx.gz # le 2nd $2 la date de ce fichier sous forme AnneeMoisJour : 20181125 ############################################ if [ "$#" -ne 2 ]; then echo "Il manque deux arguments : 1er : fichier de log à traiter du type crisco2_access.log.* - 2nd : date sous forme <annee><mois><jour>" else annee=`echo $2 | cut -c 1-4` am=`echo $2 | cut -c 1-6` # On supprime les requêtes sur fragrant : ce mot est utilisé dans une crontab pour vérifier l'état de fonctionnement du DES zcat $1 | grep "GET" | grep "/des/synonymes/[a-Z]" | grep -v "opensearch.xml" | grep -v "/des/synonymes/css" | grep -v "/des/synonymes/img" | grep -v "/des/synonymes/_img" |grep -v "/des/synonymes/js" | grep -v "/des/synonymes/synonyme" | grep -v "autocompletion.php"| grep -v "LogoBandeauCrisco.png" | grep -v "fragrant" | cut -d' ' -f 7 | cut -d'/' -f 4 > /home/des/MotsLesPlusRecherches/DES/$annee/DES$am/$2-MotsLesPlusRecherches.txt zcat $1 | grep "GET" | grep "/des/synonymes/[a-Z]" | grep -v "opensearch.xml" | grep -v "/des/synonymes/css" | grep -v "/des/synonymes/img" | grep -v "/des/synonymes/_img" |grep -v "/des/synonymes/js" | grep -v "/des/synonymes/synonyme" | grep -v "autocompletion.php"| grep -v "LogoBandeauCrisco.png" | grep -v "fragrant" | cut -d' ' -f 1,4,7 > /home/des/MotsLesPlusRecherches/DES/$annee/DES$am/$2-MotsLesPlusRecherchesIP.txt fi # grep -w -> pour dire que c'est un mot complet et non partiel No newline at end of file
scripts/script3des-espsem 0 → 100755 +32 −0 Original line number Diff line number Diff line # ------------------------------------------ # nom du script : script3des-espsem # auteur : laurette Chardon # date modif : 18/11/2021 # ------------------------------------------ if [ "$#" -ne 1 ]; then echo "Il manque un argument : script2des ou script2espsem" else path="/var/log/apache2/" # i = n° du fichier de log crisco2_acces.log.n°.gz # date = la date de création du fichier de log n° i # On synchronise le n° du fichier avec la date des données qu'il contient i=2 date=20211031 until test `echo $date | cut -c 7-8` = 00 do echo crisco2_access.log.$i.gz echo $date ./$1 $path/crisco2_access.log.$i.gz $date date=$(($date-1)) i=$(($i+1)) done #i=$(($i+1)) #date=$(($date-1)) fi No newline at end of file