Protocolo: Qual o impacto do tamanho do contexto do LLM no tempo de resposta do Ollama em execução local?
Este protocolo avalia como o aumento do tamanho do contexto (prompt + histórico) afeta a latência das respostas do Ollama rodando localmente. O objetivo é medir o tempo de resposta em função do contexto, usando apenas ferramentas de código aberto.
