MisterAI commited on
Commit
77fef5a
·
verified ·
1 Parent(s): 977fcfd

Create app.py

Browse files
Files changed (1) hide show
  1. app.py +97 -0
app.py ADDED
@@ -0,0 +1,97 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ #TSMS_app.py_V06
2
+ #Fonctionne Bien
3
+
4
+ # Import des bibliothèques nécessaires
5
+ import gradio as gr
6
+ from transformers import AutoTokenizer, AutoModelForCausalLM
7
+ import requests
8
+ import torch
9
+
10
+ # Fonction pour charger le modèle et le tokenizer
11
+ def load_model(model_name):
12
+ """Charge le modèle et le tokenizer"""
13
+ model = AutoModelForCausalLM.from_pretrained(model_name, trust_remote_code=True)
14
+ tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
15
+ return model, tokenizer
16
+
17
+ # Fonction pour générer du texte en utilisant le modèle
18
+ def generate_text(model, tokenizer, input_text, max_length, temperature):
19
+ """Génère du texte en utilisant le modèle"""
20
+ inputs = tokenizer(input_text, return_tensors="pt")
21
+ output = model.generate(**inputs, max_length=max_length, temperature=temperature)
22
+ return tokenizer.decode(output[0], skip_special_tokens=True)
23
+
24
+ # Fonction principale pour générer le texte
25
+ def main(input_text, max_length, temperature, model_name):
26
+ """Fonction principale pour générer le texte"""
27
+ global model, tokenizer
28
+ if model is None or tokenizer is None:
29
+ raise Exception("Modèle non chargé. Veuillez charger un modèle avant de générer du texte.")
30
+ generated_text = generate_text(model, tokenizer, input_text, max_length, temperature)
31
+ return generated_text
32
+
33
+ # Variables globales pour stocker le modèle et le tokenizer
34
+ model = None
35
+ tokenizer = None
36
+
37
+ # Fonction pour charger le modèle lors du clic sur le bouton "Charger Le Modèle"
38
+ def load_model_button_clicked(model_name):
39
+ """Charge le modèle et le tokenizer lors du clic sur le bouton"""
40
+ global model, tokenizer
41
+ try:
42
+ model, tokenizer = load_model(model_name)
43
+ return f"Modèle {model_name} chargé avec succès"
44
+ except Exception as e:
45
+ return f"Erreur lors du chargement du modèle {model_name}: {e}"
46
+
47
+ # Création de l'interface Gradio
48
+ demo = gr.Blocks()
49
+
50
+ with demo:
51
+ gr.Markdown("# Modèle de Langage")
52
+
53
+ with gr.Row():
54
+ # Textbox pour entrer le nom du modèle
55
+ model_name_textbox = gr.Textbox(label="Nom du modèle", value="prithivMLmods/Triangulum-1B", interactive=True)
56
+ with gr.Row():
57
+ # Bouton pour charger le modèle sélectionné
58
+ LoadModel_button = gr.Button("Charger Le Modèle")
59
+
60
+ with gr.Row():
61
+ # Textbox pour entrer le texte d'entrée
62
+ input_text = gr.Textbox(label="Texte d'entrée")
63
+ with gr.Row():
64
+ # Sliders pour ajuster la longueur maximale et la température
65
+ max_length_slider = gr.Slider(50, 500, label="Longueur maximale", value=200)
66
+ temperature_slider = gr.Slider(0.1, 1.0, label="Température", value=0.7)
67
+
68
+ with gr.Row():
69
+ # Bouton pour soumettre le texte d'entrée
70
+ submit_button = gr.Button("Soumettre")
71
+
72
+ with gr.Row():
73
+ # Textbox pour afficher le texte généré
74
+ output_text = gr.Textbox(label="Texte généré")
75
+
76
+ # Ajout des interactions pour les boutons
77
+ # Lors du clic sur "Charger Le Modèle", appeler la fonction load_model_button_clicked
78
+ LoadModel_button.click(
79
+ load_model_button_clicked,
80
+ inputs=model_name_textbox,
81
+ outputs=gr.Textbox(label="Message de chargement")
82
+ )
83
+
84
+ # Lors du clic sur "Soumettre", appeler la fonction main
85
+ submit_button.click(
86
+ main,
87
+ inputs=[input_text, max_length_slider, temperature_slider, model_name_textbox],
88
+ outputs=output_text,
89
+ queue=False
90
+ )
91
+
92
+ # Lancer l'application Gradio
93
+ if __name__ == "__main__":
94
+ demo.launch()
95
+
96
+
97
+