melikegks commited on
Commit
a0af152
·
verified ·
1 Parent(s): 78101a7

Thread sayısını cgroup sınırına göre ayarla

Browse files
Files changed (1) hide show
  1. app.py +9 -1
app.py CHANGED
@@ -68,7 +68,15 @@ if ZEROGPU:
68
  import spaces
69
  else:
70
  spaces = None
71
- torch.set_num_threads(os.cpu_count() or 2)
 
 
 
 
 
 
 
 
72
 
73
  GPU_VAR = ZEROGPU or torch.cuda.is_available()
74
 
 
68
  import spaces
69
  else:
70
  spaces = None
71
+ # os.cpu_count() konteynerde HOST çekirdek sayısını verir; Space'e ayrılan
72
+ # 2 vCPU'ya 32 thread açmak çekirdekleri birbirine bekletir ve üretimi
73
+ # yavaşlatır. sched_getaffinity cgroup sınırını görür.
74
+ try:
75
+ cekirdek = len(os.sched_getaffinity(0))
76
+ except AttributeError:
77
+ cekirdek = os.cpu_count() or 2
78
+ torch.set_num_threads(max(1, min(cekirdek, 4)))
79
+ print("CPU thread:", torch.get_num_threads(), flush=True)
80
 
81
  GPU_VAR = ZEROGPU or torch.cuda.is_available()
82