@@ -899,7 +899,10 @@ func (s *llmServer) Detokenize(ctx context.Context, tokens []int) (string, error
func (s *llmServer) Close() error {
if s.cmd != nil {
slog.Debug("stopping llama server")
- return s.cmd.Process.Kill()
+ if err := s.cmd.Process.Kill(); err != nil {
+ return err
+ }
+ return s.cmd.Wait()
}
return nil