nitrox commited on
Commit
05469cf
·
verified ·
1 Parent(s): 10a3d24

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +20 -13
app.py CHANGED
@@ -125,34 +125,41 @@ async def create_chat_completion(request: ChatCompletionRequest):
125
  if last_message.role != "user":
126
  raise HTTPException(status_code=400, detail="Last message must be from user")
127
 
128
- # Формируем историю диалога в текстовом формате
129
  system_prompt = ""
130
- text_history = ""
131
-
132
- # Проходим по всем сообщениям для формирования истории
133
- for i, msg in enumerate(request.messages[:-1]): # исключаем последнее сообщение
134
  if msg.role == "system":
135
  system_prompt = msg.content
136
- else:
137
- if text_history:
138
- text_history += "\\n" # Двойной обратный слеш для экранирования
139
- text_history += msg.content
140
-
141
- # Объединяем system prompt с сообщением пользователя
142
  user_message = last_message.content
143
  if system_prompt:
144
  combined_message = f"{system_prompt}\n\n{user_message}"
145
  else:
146
  combined_message = user_message
147
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
148
  # Формируем запрос к Flowise
149
  flowise_request = {
150
  "question": combined_message
151
  }
152
 
153
  # Добавляем историю, если она есть
154
- if text_history:
155
- flowise_request["history"] = text_history
156
 
157
  # Засекаем время начала запроса
158
  start_time = time.time()
 
125
  if last_message.role != "user":
126
  raise HTTPException(status_code=400, detail="Last message must be from user")
127
 
128
+ # Объединяем system prompt с сообщением пользователя
129
  system_prompt = ""
130
+ for msg in request.messages:
 
 
 
131
  if msg.role == "system":
132
  system_prompt = msg.content
133
+ break
134
+
 
 
 
 
135
  user_message = last_message.content
136
  if system_prompt:
137
  combined_message = f"{system_prompt}\n\n{user_message}"
138
  else:
139
  combined_message = user_message
140
 
141
+ # Формируем историю диалога для Flowise
142
+ history = []
143
+ for i, msg in enumerate(request.messages[:-1]): # исключаем последнее сообщение
144
+ if msg.role == "user":
145
+ history.append({
146
+ "role": "userMessage",
147
+ "content": msg.content
148
+ })
149
+ elif msg.role == "assistant":
150
+ history.append({
151
+ "role": "apiMessage",
152
+ "content": msg.content
153
+ })
154
+
155
  # Формируем запрос к Flowise
156
  flowise_request = {
157
  "question": combined_message
158
  }
159
 
160
  # Добавляем историю, если она есть
161
+ if history:
162
+ flowise_request["history"] = history
163
 
164
  # Засекаем время начала запроса
165
  start_time = time.time()