Roy Han 10 месяцев назад
Родитель
Сommit
b9c74df37b
1 измененных файлов с 9 добавлено и 0 удалено
  1. 9 0
      server/routes.go

+ 9 - 0
server/routes.go

@@ -480,6 +480,15 @@ func (s *Server) EmbeddingsHandler(c *gin.Context) {
 		return
 	}
 
+	// assert that embedding is normalized
+	sum := 0.0
+	for _, v := range embedding {
+		sum += v * v
+	}
+	if math.Abs(sum-1) > 1e-6 {
+		slog.Info("embedding is not normalized", "sum", sum)
+	}
+
 	resp := api.EmbeddingResponse{
 		Embedding: embedding,
 	}