Jesse Gross
|
a1cda80bcb
model: Update encoder cache to use multimodal input processing handler
|
1 månad sedan |
Michael Yang
|
7bae7fa5ce
ml/backend/ggml: create tensor on specific backend
|
2 månader sedan |
Jesse Gross
|
a7e63b82be
ollamarunner: Improve multimodal input handling
|
1 månad sedan |
Daniel Hiltgen
|
1fdb351c37
New engine: vision models and auto-fallback (#9113)
|
1 månad sedan |
Jesse Gross
|
854a9195f3
attention: Remove unnecessary contiguous operations
|
2 månader sedan |
Michael Yang
|
53d2990d9b
model: add bos token if configured
|
2 månader sedan |
Jesse Gross
|
5c5535c064
models: Prune unused outputs earlier in the forward pass
|
2 månader sedan |
Jesse Gross
|
ed443a0393
Runner for Ollama engine
|
4 månader sedan |
Jesse Gross
|
6945617af5
models: Move model into their own directory
|
2 månader sedan |