Lokalne AI i LLM-y
Ollama, Open WebUI, Modelfile, prywatne modele lokalne, prompt engineering i praktyczne użycie LLM-ów bez abonamentu.
YouTube
Wszystkie odcinki Kod Zero w jednym miejscu: lokalne AI, homelab, Docker, Python i automatyzacja. Do każdego filmu znajdziesz notatki i linki do materiałów.
Kanał o budowaniu rzeczy praktycznie — od Ollamy w domu po trening własnego głosu.
Ollama, Open WebUI, Modelfile, prywatne modele lokalne, prompt engineering i praktyczne użycie LLM-ów bez abonamentu.
Docker, Docker Compose, Tailscale, własny cloud w domu, usługi stawiane lokalnie i bezpieczny zdalny dostęp.
API, requesty HTTP, JSON, skrypty pod publikację contentu, automatyzacje backendowe i codzienne workflow.
Przygotowanie danych, etykietowanie, analiza sygnałów, eksperymenty z modelami i budowa bota tradingowego krok po kroku.
71 minut nagrań, 4 godziny przy mikrofonie i 8 dolarów na wynajętym GPU. Fine-tuning polskiego głosu w Piper TTS kontra voice cloning w TADA 3B — co naprawdę zdecydowało o jakości.
Krótkie notatki do każdego odcinka — streszczenie, linki i najważniejsze wnioski.
Czy agent AI może sam wysłać mi gotowy raport, zanim wstanę? Stawiam Hermesa na VPS-ie z DeepSeek i Telegramem, a potem sprawdzam zadania cykliczne i koszt działania po optymalizacji.
A gdyby agent mógł sam rozbudować narzędzia, z których korzysta? Testuję DeepSeek Harness z modelami Ollama Cloud, DeepSeek i OpenAI, a na koniec proszę agenta o napisanie własnego pluginu.
Dałem modelom po 30 sekund mojego głosu i odpaliłem je na starym Dellu bez GPU. Porównuję Chatterbox Multilingual i TADA 3B: który lepiej brzmi po polsku, a który działa szybciej?
Mniej odmów brzmi dobrze — dopóki model nie zacznie zmyślać. Porównuję Qwen 3.5 9B z dwoma wariantami Abliterated i sprawdzam, co zmienia Heretic w odpowiedziach lokalnego AI.
Czy model 0.8B ma sens lokalnie? Test Qwen 3.5 na 32 GB RAM: porównanie modeli 0.8B, 4B i 9B, aktualizacja Ollamy i Open WebUI oraz praktyczne testy vision na obrazach, tabelach i wykresach.
Czy da się mieć własnego agenta AI w VS Code całkowicie lokalnie? Reality check dla Ollamy i Cline: konfiguracja, prywatność kodu, Qwen 2.5 Coder i praktyczne ograniczenia darmowej alternatywy dla GitHub Copilot.
Stage 2 budowy bota tradingowego. Analizujemy 435 par krypto i 3 miliony świec. Dlaczego algorytm sugeruje HOLD w 80% przypadków? Wnioski z analizy danych i przygotowanie pod sieci MLP.
Twój lokalny LLM może brzmieć naturalnie. Integrujemy Piper TTS z Open WebUI, konfigurujemy Docker Compose i wybieramy model polskiego głosu (MC Speech).
Budujemy własny mikroserwis TTS zgodny z API OpenAI. Code Review z Copilotem, GitHub Actions i publikacja gotowego obrazu na DockerHub.
Prawdziwa moc Homelaba to automatyzacja. Uczymy się komunikować z Olamą bezpośrednio przez Pythona, omijając interfejs graficzny. Generowanie JSONa i obsługa requestów.
Twój model jest zbyt ogólny? Zobacz, jak tworzyć dedykowanych agentów za pomocą Modelfile. Rozwiązujemy problemy 'Lost in the middle' i context overflow.
Generowanie grafik bez opłat i bez chmury na własnym sprzęcie? Instalujemy ComfyUI na Dockerze, łączymy go z Open WebUI i sprawdzamy, co potrafi CPU.
Prywatny ChatGPT bez abonamentu? Zobacz, jak uruchomić lokalne modele LLM (Ollama + Open WebUI) i mieć do nich bezpieczny dostęp z każdego miejsca na świecie dzięki Tailscale.
Jak przygotować dane dla bota tradingowego? Implementujemy strategię etykietowania (Buy/Sell/Hold) opartą na progach alfa i beta oraz analizujemy dane z Binance.
Własna chmura na pliki zamiast Google Drive? Konfigurujemy serwer Samba z dostępem przez VPN. Dodatkowo: automatyzacja doklejania miniaturek do YouTube Shorts w Pythonie.