Historial de Commits

Autor SHA1 Mensaje Fecha
  Jesse Gross 3ed7ad3ab3 kvcache: Pass granular cache size into implementations hace 1 mes
  Bruce MacDonald 95e271d98f runner: remove cache prompt flag from ollama runner (#9826) hace 1 mes
  Bruce MacDonald 3892c3a703 llm: remove internal subprocess req and resp types (#9324) hace 2 meses
  Jesse Gross a1cda80bcb model: Update encoder cache to use multimodal input processing handler hace 2 meses
  Jesse Gross 4100ed7bdd ml: Add support for quantized KV cache hace 2 meses
  Jesse Gross a7e63b82be ollamarunner: Improve multimodal input handling hace 2 meses
  Jesse Gross ed443a0393 Runner for Ollama engine hace 4 meses