Переглянути джерело

seek to eof for older model binaries

Jeffrey Morgan 1 рік тому
батько
коміт
944519ed16
1 змінених файлів з 4 додано та 0 видалено
  1. 4 0
      llm/ggml.go

+ 4 - 0
llm/ggml.go

@@ -141,6 +141,10 @@ func (c *containerGGJT) Decode(ro *readSeekOffset) (model, error) {
 	// different model types may have different layouts for hyperparameters
 	// different model types may have different layouts for hyperparameters
 	var llama llamaModel
 	var llama llamaModel
 	binary.Read(ro, binary.LittleEndian, &llama.hyperparameters)
 	binary.Read(ro, binary.LittleEndian, &llama.hyperparameters)
+
+	// remaining file contents aren't decoded
+	ro.Seek(0, io.SeekEnd)
+
 	return &llama, nil
 	return &llama, nil
 }
 }