Effektiv Benchmarking av LLMs i Chrome
Ollama Benchmark är en kostnadsfri Chrome-tillägg som möjliggör benchmarking och jämförelse av stora språkmodeller (LLMs) som Mistral och LLaMA. Användare kan välja en eller flera modeller för att köra test baserade på prompts, vilket ger detaljerad information om tokenprestanda, svarstid och hastighet. Med en användarvänlig gränssnitt kan resultat exporteras i flera format som .txt, .csv eller .json, vilket gör det enkelt att analysera och optimera AI-arbetsflöden.
Tillägget erbjuder lokal lagring av inställningar och resultat, vilket ger användarna möjlighet att snabbt komma åt sina tidigare tester. Ollama Benchmark fungerar med både lokala och fjärr-Ollama API:er och har en flerspråkig gränssnitt på engelska och turkiska. Eftersom all bearbetning sker i webbläsaren samlas ingen data in, vilket säkerställer användarnas integritet.
