|
@@ -899,7 +899,10 @@ func (s *llmServer) Detokenize(ctx context.Context, tokens []int) (string, error
|
|
func (s *llmServer) Close() error {
|
|
func (s *llmServer) Close() error {
|
|
if s.cmd != nil {
|
|
if s.cmd != nil {
|
|
slog.Debug("stopping llama server")
|
|
slog.Debug("stopping llama server")
|
|
- return s.cmd.Process.Kill()
|
|
|
|
|
|
+ if err := s.cmd.Process.Kill(); err != nil {
|
|
|
|
+ return err
|
|
|
|
+ }
|
|
|
|
+ return s.cmd.Wait()
|
|
}
|
|
}
|
|
|
|
|
|
return nil
|
|
return nil
|