Self-Hosting

Nieco wcześniej wydano. Przejdźmy do rzeczy i
testuj jak Mistral Small poradzi sobie w porównaniu do innych LLM.

Systemy integracyjne mogą być komercyjne z wieloma płatnymi modułami połączeń i kilkoma darmowymi; Lub w zasadzie darmowe, ale z dziwną licencją; Lub gotowe do samozhostowania i nie.

YaCy to rozproszony, peer-to-peer (P2P) silnik wyszukiwania, który umożliwia indywidualnym i organizacjom uruchamianie własnych portali wyszukiwania lub dołączenie do globalnej sieci peerów wyszukiwania.

Howto: instalacja Kubernetes za pomocą Kubespray, w tym konfiguracja środowiska, ustawienie inwentarza i uruchomienie playbooków Ansible.

Oto moja k8s cheat sheet zawierająca najważniejsze polecenia i pojęcia dotyczące instalacji, uruchamiania kontenerów i czyszczenia:

Oto arkusz skrótów Docker
zawierający najważniejsze polecenia i koncepcje od instalacji po uruchamianie kontenerów i czyszczenie:

Niedawno Black Forest Labs opublikowała zestaw modeli AI tekst-do-obrazu text-to-image AI models.
Te modele mają być znane z znacznie wyższej jakości wyjściowych obrazów.
Spróbujmy ich

Świetna jedzenie to przyjemność dla oczu również. Ale w tym poście porównamy dwa systemy wyszukiwania oparte na AI, Farfalle i Perplexica.

To bardzo ekscytujące! Zamiast wołać copilot lub perplexity.ai i opowiadać światu, czego szukasz, teraz możesz uruchomić podobną usługę na własnym komputerze lub laptopie!

Niedawno widzieliśmy kilka nowych LLM, które zostały wydane. Wspaniałe czasy. Sprawdźmy i zobaczmy, jak działają, gdy wykrywają błędy logiczne.

Kiedy zacząłem eksperymentować z LLM, interfejsy do nich były w aktywnym rozwoju, a teraz niektóre z nich są naprawdę dobre.

Wypróbowałem różne narzędzia i dołączyłem do wniosku, że najbardziej lubię floccus.

Kiedyś treningowałem detektor AI obiektów – LabelImg był bardzo pomocnym narzędziem, ale eksport z Label Studio do formatu COCO nie był akceptowany przez framework MMDetection..

Testowanie działania modeli o różnej liczbie parametrów i stopniu kwantyzacji.

Po zainstalowaniu ollama lepiej jest natychmiast skonfigurować Ollama, aby przechowywać je w nowym miejscu. Wtedy, gdy pobieramy nowy model, nie zostaje on pobrany do starego lokalizacji.