nitrox commited on
Commit
fc53287
·
verified ·
1 Parent(s): d73fd0f

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +9 -2
app.py CHANGED
@@ -139,9 +139,16 @@ async def create_chat_completion(request: ChatCompletionRequest):
139
  "content": msg.content
140
  })
141
 
 
 
 
 
 
 
 
142
  # Формируем запрос к Flowise
143
  flowise_request = {
144
- "question": last_message.content
145
  }
146
 
147
  # Добавляем историю, если она есть
@@ -171,7 +178,7 @@ async def create_chat_completion(request: ChatCompletionRequest):
171
  )
172
 
173
  # Подсчитываем токены
174
- prompt_tokens = count_tokens(last_message.content)
175
  completion_tokens = count_tokens(assistant_response)
176
 
177
  # Создаем ID сессии, используя seed из запроса или генерируем новый
 
139
  "content": msg.content
140
  })
141
 
142
+ # Объединяем system prompt с сообщением пользователя
143
+ user_message = last_message.content
144
+ if system_prompt:
145
+ combined_message = f"{system_prompt}\n\n{user_message}"
146
+ else:
147
+ combined_message = user_message
148
+
149
  # Формируем запрос к Flowise
150
  flowise_request = {
151
+ "question": combined_message
152
  }
153
 
154
  # Добавляем историю, если она есть
 
178
  )
179
 
180
  # Подсчитываем токены
181
+ prompt_tokens = count_tokens(combined_message)
182
  completion_tokens = count_tokens(assistant_response)
183
 
184
  # Создаем ID сессии, используя seed из запроса или генерируем новый