Odcinek
Zmień Asystenta w SPECJALISTĘ - Potęga Modelfile | Homelab #7
2.11.2025Twój model jest zbyt ogólny? Zobacz, jak tworzyć dedykowanych agentów za pomocą Modelfile. Rozwiązujemy problemy 'Lost in the middle' i context overflow.
LLM Prompt Engineering Ollama Homelab
YouTube
Otwórz na YouTube →Notatki
Czy Twoja Olama gubi wątek przy długich tekstach? Dziś zagłębiamy się w Modelfile – plik konfiguracyjny, który zmienia ogólny model (np. Llama 3) w wyspecjalizowanego pracownika.
Problemy i rozwiązania:
- System Prompt: Gdzie go umieścić, żeby model o nim nie zapomniał?
- Context Window: Co się dzieje, gdy wrzucisz za dużo tekstu? (Spoiler: model ucina środek lub początek, co prowadzi do halucynacji).
- Parametry: Kiedy używać
temperature: 0(precyzja), a kiedy wyższej (kreatywność).
Pokazuję na przykładzie, jak stworzyłem asystenta do generowania rozdziałów (timestamps), który początkowo nazywał mnie “prelegentem”, ale później nic sie nie zmieniło bo nie mam możliwości na większy kontekst, a transkrypty zabierają sporo tekstu. Nie na mój RAM.