{"id":5979,"date":"2025-04-01T12:38:59","date_gmt":"2025-04-01T10:38:59","guid":{"rendered":"https:\/\/spgoo.org\/?page_id=5979"},"modified":"2025-12-26T08:12:28","modified_gmt":"2025-12-26T07:12:28","slug":"passy","status":"publish","type":"page","link":"https:\/\/spgoo.org\/?page_id=5979","title":{"rendered":"Passy – DPFV"},"content":{"rendered":"\n

PASSY-DPFV — resp. Gabriel Bergounioux<\/h2>\n\n\n\n

Appui SPGoO : Yvan Stroppa<\/p>\n\n\n\n\n\n\n\n\n\n

Construction d’une plateforme nomm\u00e9e Passy<\/a><\/strong> sur la base de la r\u00e9alisation effectu\u00e9e pour MP Tours (DeepBdd-Bddictionnairique) dans un contexte de langue fran\u00e7aise. Ce travail est r\u00e9alis\u00e9 en collaboration avec G. Bergounioux et avec la participation de l’ATILF (Nancy).<\/p>\n\n\n\n

Objectif : concevoir une plateforme Web d’alimentation, de collecte et d’exploitation de donn\u00e9es phon\u00e9tiques.<\/p>\n\n\n\n

Importation des donn\u00e9es du TLF<\/p>\n\n\n\n

Premi\u00e8re \u00e9tape: r\u00e9cup\u00e9ration des donn\u00e9es du TLF de l’ATILF pour constituer la base de d\u00e9part de notre corpus phon\u00e9tique soit 54734 entr\u00e9es.<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Cr\u00e9ation d’un Workflow : <\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Elaboration d’un workflow de traitements pour permettre \u00e0 la plateforme d’avoir un c\u00f4t\u00e9 communautaire, on envisage d\u00e8s le d\u00e9part une saisie multiple par des utilisateurs de type contributeur. Ce qui permettra d’avoir, vu le chantier, des forces vives pour alimenter et corriger les entr\u00e9es. Dans ce circuit d’alimentation deux voies sont pr\u00e9vues : une alimentation manuelle et une alimentation automatique. <\/p>\n\n\n\n

Alimentation manuelle<\/strong> : r\u00e9serv\u00e9e aux contributeurs, elle permettra \u00e0 des utilisateurs sp\u00e9cifiques de proposer des corrections et ajouts des donn\u00e9es \u00e0 partir d’une interface d\u00e9di\u00e9e. Un environnement <\/p>\n\n\n\n

Alimentation automatique<\/strong> : d\u00e9clench\u00e9e par le Backend de la plateforme pour l’extraction de corpus sonores. cet agent IA devra en permanence sonder des corpus existants et des fonds sonores publics pour en extraire des s\u00e9quences et les proposer \u00e0 la plateforme. <\/p>\n\n\n\n

Pour ces deux circuits d’alimentation nous mettons en place un Workflow qui aura pour objectif de valider les propositions des contributeurs et de la partie IA afin de garantir une grande qualit\u00e9 des donn\u00e9es mises \u00e0 la disposition des utilisateurs. <\/p>\n\n\n\n

Extraction des donn\u00e9es ESLO2 : <\/p>\n\n\n\n

Constitution et extraction des entr\u00e9es fournies par ESLO2 : le corpus nous permet d’extraire \u00e0 partir des transcriptions C des enregistrements des illustrations sonores tr\u00e8s vari\u00e9es des mots et de leur prononciation. <\/p>\n\n\n\n

Cr\u00e9ation d’un script python pour extraire des fichiers de transcriptions les diff\u00e9rentes informations.<\/p>\n\n\n\n

Pr\u00e9paration de l’environnement pour les extractions: Installation des packages suivants pour faciliter et interpr\u00e9ter les donn\u00e9es extraites dans un environnement python3.12<\/p>\n\n\n\n

pip3 install spacy nlp nltk \npython -m spacy download fr_core_news.sm \npip install git+https:\/\/github.com\/ClaudeCoulombe\/FrenchLeffLemmatizer.git<\/code><\/pre>\n\n\n\n
Ces diff\u00e9rents package vont nous permettre d’obtenir directement la lemmatisation des mots pour constituer un lexique et la morpho-syntaxe des expressions extraites le tout enregistrer dans deux collections de notre base de donn\u00e9es MongoDB<\/span> : eslo2 et lexique_eslo2<\/p>\n\n\n\n
Retour exp\u00e9rience du parser XML : import xml.etree.ElementTree as ET<\/p>\n\n\n\n
1 \/ Ce package entre les versions 3.9 et 3.12 de python a \u00e9volu\u00e9 et l’emploi de getChildren pour trouver les enfants d’une branche de la structure XML n’est plus accessible dans les derni\u00e8res versions.<\/p>\n\n\n\n
2 \/ Interpr\u00e9tation des blocs \u00e0 l’aide du parser. <\/p>\n\n\n\n
Bloc classique : <\/p>\n\n\n\n
\n
\n
<Turn speaker=\"spk1\" startTime=\"403.994\" endTime=\"407.699\">\n<Sync time=\"403.994\"\/>\noui mais je me suis excus\u00e9 c'est bon l\u00e0\n<Sync time=\"406.048\"\/>\nj'ai pas fait expr\u00e8s\n<\/Turn>\n<\/code><\/pre>\n<\/div>\n\n\n\n
<\/div>\n<\/div>\n\n\n\n
Bloc sp\u00e9cifique : <\/p>\n\n\n\n
\n
\n
<Turn startTime=\"0\" endTime=\"120.852\" speaker=\"spk1\">\n<Sync time=\"0\"\/>\n\n<Sync time=\"0.586\"\/>\n\n<Event desc=\"rire\" type=\"noise\" extent=\"instantaneous\"\/>\n\n<Sync time=\"1.409\"\/>\nc'est moi\n<Sync time=\"2.462\"\/>\n\n<Sync time=\"120.295\"\/>\n\u00e7a va ?\n<\/Turn>\n<\/code><\/pre>\n<\/div>\n\n\n\n
\n
Attention aux lignes vides, lors de la recomposition du bloc, elles ne sont pas interpr\u00e9t\u00e9es par le parser. Si on reconstitue ce bloc de la mani\u00e8re suivante  ….<Sync time=”0″\/><Sync time=”0.586″\/><Event desc=”rire” type=”noise” extent=”instantaneous”\/>…
le parser ne distingue pas les \u00e9l\u00e9ments interm\u00e9diaires et repositionne mal les groupes de mots. D’o\u00f9 l’ajout syst\u00e9matique d’une cha\u00eene de caract\u00e8res que l’on pourra distinguer et filtrer par la suite  ….<Sync time=”0″\/>YS<Sync time=”0.586″\/>YS <\/p>\n<\/div>\n<\/div>\n\n\n\n
R\u00e9sultats de l’extraction \u00e0 partir de 511 fichiers TRS des enregistrements d’ESLO2 :<\/p>\n\n\n\n
62802 Blocs multi-speakers non interpr\u00e9t\u00e9s 
338951 Documents g\u00e9n\u00e9r\u00e9s dans MongoDB<\/span> pour les groupes de souffle
40753 entr\u00e9es diff\u00e9rentes ajout\u00e9es dans la lexique Eslo2. <\/p>\n\n\n\n
Extraction des donn\u00e9es ESLO 1 : <\/p>\n\n\n\n
R\u00e9sultats de l’extraction \u00e0 partir de 346 fichiers TRS des enregistrements d’ESLO1 :<\/p>\n\n\n\n
39265 Blocs multi-speakers non interpr\u00e9t\u00e9s 
400633 Documents g\u00e9n\u00e9r\u00e9s dans MongoDB<\/span> pour les groupes de souffle
38855 entr\u00e9es diff\u00e9rentes ajout\u00e9es dans la lexique Eslo1.<\/p>\n\n\n\n
Restrictions: <\/p>\n\n\n\n
Nous faisons le choix dans le traitement des transcriptions de ne pas prendre en compte les blocs multi-speakers  pour \u00e9viter de la confusion et afin d’avoir des enregistrements clairs et pr\u00e9cis. <\/p>\n\n\n\n
Exemple de bloc multi-speakers <\/p>\n\n\n\n
\n
\n
<Turn speaker=\"spk5 spk1\" startTime=\"407.699\" endTime=\"410.971\">\n<Sync time=\"407.699\"\/>\n<Who nb=\"1\"\/>\nbon tu es tu es\n<Event desc=\"pi\" type=\"pronounce\" extent=\"instantaneous\"\/>\n parce que c'est\n<Event desc=\"rire\" type=\"noise\" extent=\"instantaneous\"\/>\n\n<Who nb=\"2\"\/>\n\n<Event desc=\"rire\" type=\"noise\" extent=\"instantaneous\"\/>\n\n<Sync time=\"410.086\"\/>\n<Who nb=\"1\"\/>\n\n<Who nb=\"2\"\/>\n\n<\/Turn><\/code><\/pre>\n<\/div>\n\n\n\n
\n
On peut constater que dans ce d\u00e9coupage les \u00e9l\u00e9ments ne sont pas assez  pr\u00e9cis et n’apportent pas d’informations suppl\u00e9mentaires pour notre  plateforme passy, qui met en avant l’\u00e9coute et la prononciation des mots par un seul locuteur. <\/p>\n<\/div>\n<\/div>\n\n\n\n
D\u00e9tail du code pour l’extraction <\/summary>\n
def traite_bloc(bb,speakers,fichier):\n    \"\"\"\n    Traitement du bloc Turn pour en extraire les \u00e9l\u00e9ments \n    \"\"\"\n    global nb_speakers_multiple, liste_mots\n    tree = ET.ElementTree(ET.fromstring(bb))\n    root=tree.getroot()\n    Turn=root.attrib\n    # on regarde si plusieurs speakers \n    if \"speaker\" not in Turn:\n        print(\"pas de speaker dans le bloc\")\n        return\n    tab_speakers=Turn[\"speaker\"].split(\" \")\n    D_bloc_recompose={}\n    if len(tab_speakers)<2 :\n        txt_complet=\"\"\n        textes=[]\n        debut=Turn[\"startTime\"]\n        ref_end=Turn[\"endTime\"]\n        #on parcourt les deux listes en m\u00eame temps\n        for indice,txt in zip(list(root), root.itertext()):\n            if \"time\" in indice.attrib :  #<Sync time=\"407.699\"\/>\n                ref_debut= indice.attrib['time']\n                if debut!=ref_debut:\n                    textes.append({\"debut\":debut, \"fin\":ref_debut,\"texte\":txt_complet.strip()})\n                    debut=ref_debut\n                txt_complet=txt\n        #pour le dernier \n        textes.append({\"debut\":debut, \"fin\":ref_end,\"texte\":txt_complet.strip()})\n        for texte in textes:\n            D_bloc_recompose={}\n            if texte[\"texte\"]!=\"\" and texte[\"texte\"]!=\"YS\" :\n                mot_propre=texte[\"texte\"].replace(\"'\",\" \").replace(\"?\",\" \")\n                tab_res = re.split('\\s+',  mot_propre)\n                for mot in tab_res:\n                    if mot in liste_mots:\n                        liste_mots[mot]+=1\n                    else:\n                        liste_mots[mot]=1\n                D_bloc_recompose[\"enreg\"]=fichier\n                D_bloc_recompose[\"locuteur\"]=speakers[Turn[\"speaker\"]][\"name\"]\n                D_bloc_recompose[\"texte\"]=texte[\"texte\"]\n                D_bloc_recompose[\"morpho\"]=[{y:x} for x,y in return_POS(texte[\"texte\"])]\n                D_bloc_recompose[\"debut\"]=texte[\"debut\"]\n                D_bloc_recompose[\"fin\"]=texte[\"fin\"]\n                # on enregistre la structure directement dans MongoDB<\/span>\n                mycol.insert_one(D_bloc_recompose)\n    else :\n        nb_speakers_multiple+=1\n\n<\/code><\/pre>\n<\/details>\n\n\n\n
Modifications et adaptations suite r\u00e9union du 16\/12\/2025 <\/p>\n\n\n\n
Pour ajouter la possibilit\u00e9 d’\u00e9couter les \u00e9l\u00e9ments sonores avant et apr\u00e8s un segment il est n\u00e9cessaire de disposer de la totalit\u00e9 des segments pour tous les enregistrements ENTRETIEN d’ESLO. Ensuite de r\u00e9adapter le web service au niveau de Spring Boot pour permettre cette r\u00e9cup\u00e9ration. Pour ce faire on a impl\u00e9ment\u00e9 de nouvelles  entr\u00e9es dans l’API get_avant_ et get_apres qui s’appuient sur le type de requ\u00eate ci-dessous : <\/p>\n\n\n\n
db.getCollection(‘eslo2’).aggregate([{“$addFields”:{nouv:{$toDouble:”$debut”}}},{$match:{$and:[{$expr:{$gt:[“$nouv”,280.261]}},{$expr:{$lt:[“$nouv”,301.261]}},{“enreg”:”ESLO2_ENT_1010_C”}]}}])\t\t<\/p>\n\n\n\n
On g\u00e9n\u00e8re un nouveau champ nouv pour transformer la donn\u00e9e texte en donn\u00e9e num\u00e9rique afin de pouvoir la comparer. <\/p>\n\n\n\n
\/\/ chercher les segments avant et apr\u00e8s celui courant\n\/\/ on va prendre le debut -10 et la fin + 10 \n@RequestMapping(value = \"\/get_avant_\", method = POST)\n@PostMapping(\"json\")\npublic List<Proposition_IA> get_avant_(@RequestBody Map<String, String> body) {\n\tString locuteur = body.get(\"locuteur\");\n\tdouble debut= Double.parseDouble(body.get(\"debut\"));\n\tdouble fin=  Double.parseDouble(body.get(\"fin\"));\n\tString enreg=  body.get(\"enreg\");\t\t\t\n\tAddFieldsOperation Addfield = Aggregation.addFields().addField(\"nouv\").withValue(ConvertOperators.ToDouble.toDouble(\"$debut\")).build();\n\t\/\/ avant \n\tCriteria critres = new Criteria().andOperator(\n\t\tCriteria.where(\"nouv\").lt(debut),\n\t\tCriteria.where(\"nouv\").gt(debut-10),\n\t\tCriteria.where(\"enreg\").regex(enreg));\n\tMatchOperation matchStage = Aggregation.match(critres);\n\tAggregation aggregation = Aggregation.newAggregation(Addfield, matchStage);\n\tAggregationResults<Proposition_IA> output_avant = mongoTemplate.aggregate(aggregation, \"eslo2\", Proposition_IA.class);\n\tList<Proposition_IA> avant_result = output_avant.getMappedResults();\n\treturn avant_result;\n}\t<\/code><\/pre>\n\n\n\n
Description de la classe : propositions_IA <\/p>\n\n\n\n
private String _id;\nprivate String locuteur;\nprivate String  enreg ;\nprivate String  texte ;\nprivate ArrayList<String>  morpho ;\nprivate double debut ;\nprivate double fin ;\nprivate Statut statut ;<\/code><\/pre>\n\n\n\n
La partie Morpho a \u00e9t\u00e9 neutralis\u00e9e dans le visuel pour le moment. L’ensemble des r\u00e9sultats sont ensuite descendus au niveau du navigateur dans l’interface WEB et positionn\u00e9s dans une div autour du bouton lecture. Ce qui permet \u00e0 l’utilisateur de charger uniquement les \u00e9l\u00e9ments n\u00e9cessaires \u00e0 la compr\u00e9hension du segment lors de l’analyse.<\/p>\n\n\n
\n
\"\"<\/figure>\n<\/div>\n\n\n
Impl\u00e9mentation de la prise de note :<\/p>\n\n\n\n
Impl\u00e9mentation de la prise de note au niveau des entr\u00e9es : on souhaite \u00e9galement conserver les informations associ\u00e9es au segment, pour ce faire on a am\u00e9nag\u00e9 un syst\u00e8me de prise de note qui permet d’accompagner les chercheurs dans leur exploration et lors de leur s\u00e9lection  et  ensuite de les partager entre eux. L’acc\u00e8s en modification est autoris\u00e9 au seul propri\u00e9taire de la note. Au niveau du web service il a fallu mettre en place un syst\u00e8me de gestion de ces notes dans deux contextes: contexte lors du travail pr\u00e9paratoire BROUILLON et lors de la s\u00e9lection des entr\u00e9es VALID,  ce qui correspond \u00e0 l’onglet Corpus ESLO2 et Exemplaires de l’interface. <\/p>\n\n\n\n
Une collection Annotation d\u00e9di\u00e9e a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9e pour conserver ce type d’information et est reli\u00e9e par l’ID \u00e0 l’entr\u00e9e correspondante.<\/p>\n\n\n\n
\n\n\n\n
Interface avec Praat\/Elan <\/p>\n\n\n\n
La plateforme PASSY doit permettre aux utilisateurs de travailler dans les meilleures conditions et d’offrir les fonctionnalit\u00e9s n\u00e9cessaires pour les diff\u00e9rentes phases. On a identifi\u00e9 plusieurs phases : <\/p>\n\n\n\n