MisterAI commited on
Commit
d6ca3b5
·
verified ·
1 Parent(s): 7a139cd

Create app.py

Browse files
Files changed (1) hide show
  1. app.py +96 -0
app.py ADDED
@@ -0,0 +1,96 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ #TSMS_app.py_V06
2
+
3
+ # Import des bibliothèques nécessaires
4
+ import gradio as gr
5
+ from transformers import AutoTokenizer, AutoModelForCausalLM
6
+ import requests
7
+ import torch
8
+
9
+ # Fonction pour charger le modèle et le tokenizer
10
+ def load_model(model_name):
11
+ """Charge le modèle et le tokenizer"""
12
+ model = AutoModelForCausalLM.from_pretrained(model_name, trust_remote_code=True)
13
+ tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
14
+ return model, tokenizer
15
+
16
+ # Fonction pour générer du texte en utilisant le modèle
17
+ def generate_text(model, tokenizer, input_text, max_length, temperature):
18
+ """Génère du texte en utilisant le modèle"""
19
+ inputs = tokenizer(input_text, return_tensors="pt")
20
+ output = model.generate(**inputs, max_length=max_length, temperature=temperature)
21
+ return tokenizer.decode(output[0], skip_special_tokens=True)
22
+
23
+ # Fonction principale pour générer le texte
24
+ def main(input_text, max_length, temperature, model_name):
25
+ """Fonction principale pour générer le texte"""
26
+ global model, tokenizer
27
+ if model is None or tokenizer is None:
28
+ raise Exception("Modèle non chargé. Veuillez charger un modèle avant de générer du texte.")
29
+ generated_text = generate_text(model, tokenizer, input_text, max_length, temperature)
30
+ return generated_text
31
+
32
+ # Variables globales pour stocker le modèle et le tokenizer
33
+ model = None
34
+ tokenizer = None
35
+
36
+ # Fonction pour charger le modèle lors du clic sur le bouton "Charger Le Modèle"
37
+ def load_model_button_clicked(model_name):
38
+ """Charge le modèle et le tokenizer lors du clic sur le bouton"""
39
+ global model, tokenizer
40
+ try:
41
+ model, tokenizer = load_model(model_name)
42
+ return f"Modèle {model_name} chargé avec succès"
43
+ except Exception as e:
44
+ return f"Erreur lors du chargement du modèle {model_name}: {e}"
45
+
46
+ # Création de l'interface Gradio
47
+ demo = gr.Blocks()
48
+
49
+ with demo:
50
+ gr.Markdown("# Modèle de Langage")
51
+
52
+ with gr.Row():
53
+ # Textbox pour entrer le nom du modèle
54
+ model_name_textbox = gr.Textbox(label="Nom du modèle", value="prithivMLmods/Triangulum-1B", interactive=True)
55
+ with gr.Row():
56
+ # Bouton pour charger le modèle sélectionné
57
+ LoadModel_button = gr.Button("Charger Le Modèle")
58
+
59
+ with gr.Row():
60
+ # Textbox pour entrer le texte d'entrée
61
+ input_text = gr.Textbox(label="Texte d'entrée")
62
+ with gr.Row():
63
+ # Sliders pour ajuster la longueur maximale et la température
64
+ max_length_slider = gr.Slider(50, 500, label="Longueur maximale", value=200)
65
+ temperature_slider = gr.Slider(0.1, 1.0, label="Température", value=0.7)
66
+
67
+ with gr.Row():
68
+ # Bouton pour soumettre le texte d'entrée
69
+ submit_button = gr.Button("Soumettre")
70
+
71
+ with gr.Row():
72
+ # Textbox pour afficher le texte généré
73
+ output_text = gr.Textbox(label="Texte généré")
74
+
75
+ # Ajout des interactions pour les boutons
76
+ # Lors du clic sur "Charger Le Modèle", appeler la fonction load_model_button_clicked
77
+ LoadModel_button.click(
78
+ load_model_button_clicked,
79
+ inputs=model_name_textbox,
80
+ outputs=gr.Textbox(label="Message de chargement")
81
+ )
82
+
83
+ # Lors du clic sur "Soumettre", appeler la fonction main
84
+ submit_button.click(
85
+ main,
86
+ inputs=[input_text, max_length_slider, temperature_slider, model_name_textbox],
87
+ outputs=output_text,
88
+ queue=False
89
+ )
90
+
91
+ # Lancer l'application Gradio
92
+ if __name__ == "__main__":
93
+ demo.launch()
94
+
95
+
96
+