Selaa lähdekoodia

gemma2: Remove second call to Rows

Looks like a merge conflict that broke the model.
Jesse Gross 1 kuukausi sitten
vanhempi
commit
b078dd157c
1 muutettua tiedostoa jossa 1 lisäystä ja 2 poistoa
  1. 1 2
      model/models/gemma2/model.go

+ 1 - 2
model/models/gemma2/model.go

@@ -211,8 +211,7 @@ func (m *Model) Forward(ctx ml.Context, opts input.Options) (ml.Tensor, error) {
 	// final logit softcap
 	hiddenState = hiddenState.Scale(ctx, 1.0/float64(m.Options.finalLogitSoftcap))
 	hiddenState = hiddenState.Tanh(ctx)
-	hiddenState = hiddenState.Scale(ctx, float64(m.Options.finalLogitSoftcap))
-	return hiddenState.Rows(ctx, outputs), nil
+	return hiddenState.Scale(ctx, float64(m.Options.finalLogitSoftcap)), nil
 }
 
 func init() {