Преглед на файлове

Merge pull request #1780 from cheahjs/fix/harden-streaming

fix: harden openai streaming parsing
Timothy Jaeryang Baek преди 1 година
родител
ревизия
81fb53e757
променени са 1 файла, в които са добавени 7 реда и са изтрити 3 реда
  1. 7 3
      src/lib/apis/streaming/index.ts

+ 7 - 3
src/lib/apis/streaming/index.ts

@@ -36,10 +36,14 @@ async function* openAIStreamToIterator(
 					// OpenRouter sends heartbeats like ": OPENROUTER PROCESSING"
 					continue
 				} else {
-					const data = JSON.parse(line.replace(/^data: /, ''));
-					console.log(data);
+					try {
+						const data = JSON.parse(line.replace(/^data: /, ''));
+						console.log(data);
 
-					yield { done: false, value: data.choices[0].delta.content ?? '' };
+						yield { done: false, value: data.choices?.[0]?.delta?.content ?? '' };
+					} catch (e) {
+						console.error('Error extracting delta from SSE event:', e);
+					}
 				}
 			}
 		}