Update app.py

app.py

@@ -1,23 +1,27 @@
-from fastapi import FastAPI, Request, HTTPException
+from fastapi import FastAPI, Request
 from transformers import pipeline
 import os
+import tempfile
 
 app = FastAPI()
 
-cache_dir = os.path.expanduser("~/.cache/huggingface/transformers")
+# Використання тимчасової директорії для кешу
+cache_dir = tempfile.mkdtemp()
 os.environ["TRANSFORMERS_CACHE"] = cache_dir
+print(f"Використовується директорія кешу: {cache_dir}")
 
 try:
     pipe = pipeline(
         "text-generation",
         model="google/gemma-3-1b-it",
-        token=os.environ["HF_TOKEN"],
+        token=os.environ.get("HF_TOKEN"),  # Краще використовувати get для безпеки
         device="cpu",
         max_new_tokens=256,
         temperature=0.7
     )
 except Exception as e:
-    raise HTTPException(status_code=500, detail=str(e))
+    print(f"Помилка при ініціалізації pipeline: {e}")
+    # Тут можна обробити помилку або підняти HTTP виняток
 
 @app.post("/generate")
 async def generate(request: Request):
@@ -28,3 +32,4 @@ async def generate(request: Request):
         return {"response": result[0]["generated_text"]}
     except Exception as e:
         raise HTTPException(status_code=500, detail=str(e))
+