Self-Hosting

Ollama가 병렬 요청을 처리하는 방식

Ollama가 병렬 요청을 처리하는 방식

ollama를 사용하여 병렬 요청 실행을 구성합니다.

Ollama 서버가 동일한 시간에 두 개의 요청을 받을 경우, 그 동작은 구성 설정과 사용 가능한 시스템 자원에 따라 달라집니다.

Ollama에서 Deepseek-R1 테스트

Ollama에서 Deepseek-R1 테스트

두 개의 deepseek-r1 모델을 두 개의 기본 모델과 비교합니다.

DeepSeek’s 첫 번째 세대의 추론 모델로, OpenAI-o1과 유사한 성능을 보입니다. 이 모델은 Llama와 Qwen을 기반으로 한 DeepSeek-R1에서 압축한 6개의 밀집 모델입니다.

PyInstaller 빠른 시작

PyInstaller 빠른 시작

파이썬 프로그램을 단일 파일로 결합하기

PyInstaller을 사용하여 Python 프로그램을 단일 실행 파일로 패키징할 수 있습니다. Linux, Windows, Mac에서 모두 작동합니다.

가장 효율적인 방법은 아니지만, 사용할 수 있습니다.