Update app.py

app.py

@@ -34,12 +34,11 @@ class ChatCompletionRequest(BaseModel):
     temperature: float = 0.7
 
 def count_tokens(text: str) -> int:
-    # Более точный подсчет токенов
-    # Считаем слова, знаки препинания и специальные символы
+    # Используем тот же алгоритм, что и в прямом API
+    # Считаем слова и знаки препинания
     words = text.split()
     punctuation = sum(1 for c in text if c in ".,!?;:()[]{}")
-    special_chars = sum(1 for c in text if c in "—«»…")
-    return len(words) + punctuation + special_chars
+    return len(words) + punctuation
 
 def clean_assistant_response(text: str) -> str:
     # Удаляем лишние маркеры кода и форматирования
@@ -90,9 +89,6 @@ async def create_chat_completion(request: ChatCompletionRequest):
         if last_message.role != "user":
             raise HTTPException(status_code=400, detail="Last message must be from user")
         
-        # Подсчитываем токены запроса
-        prompt_tokens = count_tokens(last_message.content)
-        
         # Формируем запрос к Flowise
         flowise_request = {
             "question": last_message.content
@@ -113,9 +109,6 @@ async def create_chat_completion(request: ChatCompletionRequest):
         flowise_response = response.json()
         assistant_response = clean_assistant_response(flowise_response.get("text", ""))
         
-        # Подсчитываем токены ответа
-        completion_tokens = count_tokens(assistant_response)
-        
         response = JSONResponse({
             "id": "chatcmpl-" + os.urandom(12).hex(),
             "object": "chat.completion",
@@ -133,9 +126,8 @@ async def create_chat_completion(request: ChatCompletionRequest):
                 }
             ],
             "usage": {
-                "prompt_tokens": prompt_tokens,
-                "completion_tokens": completion_tokens,
-                "total_tokens": prompt_tokens + completion_tokens
+                "completion_tokens": 0,  # Устанавливаем 0, так как это не важно
+                "total_tokens": 0  # Устанавливаем 0, так как это не важно
             },
             "stats": {},
             "system_fingerprint": "phi4-r1"