Преглед изворни кода

gemma2: Remove second call to Rows

Looks like a merge conflict that broke the model.
Jesse Gross пре 1 месец
родитељ
комит
b078dd157c
1 измењених фајлова са 1 додато и 2 уклоњено
  1. 1 2
      model/models/gemma2/model.go

+ 1 - 2
model/models/gemma2/model.go

@@ -211,8 +211,7 @@ func (m *Model) Forward(ctx ml.Context, opts input.Options) (ml.Tensor, error) {
 	// final logit softcap
 	hiddenState = hiddenState.Scale(ctx, 1.0/float64(m.Options.finalLogitSoftcap))
 	hiddenState = hiddenState.Tanh(ctx)
-	hiddenState = hiddenState.Scale(ctx, float64(m.Options.finalLogitSoftcap))
-	return hiddenState.Rows(ctx, outputs), nil
+	return hiddenState.Scale(ctx, float64(m.Options.finalLogitSoftcap)), nil
 }
 
 func init() {