Hardware

3개월 전만 해도 RTX 5090을 가게에서 보는 것은 불가능했지만, 지금은 이미 판매되고 있으며, 가격은 MRSP보다 약간 높은 수준입니다.
가장 저렴한 호주에서의 RTX 5080 및 RTX 5090 가격을 비교해 보고 어떻게 되는지 살펴보겠습니다.

최고의 자동화 시스템으로 어떤 멋진 작업도 수행할 수 있습니다.

PCIe 랜의 수가 LLM 성능에 미치는 영향? 작업에 따라 다릅니다. 훈련 및 다중 GPU 추론의 경우 성능 저하가 상당합니다.

이 문제로 인해 큰 충격을 받았습니다. 하지만 BSOD가 제게와 비슷한 경우라면, 자신의 PC를 조사하고 테스트해 보는 것이 좋습니다. 원인은 인텔 13세대 및 14세대 CPU의 성능 저하 문제입니다.

제가 테스트하고 싶은 이론은, 인텔 CPU에서 모든 코어를 사용하면 LLM의 속도가 빨라질까?입니다.
새로운 gemma3 27비트 모델(gemma3:27b, ollama에서 17GB)이 제 GPU의 16GB VRAM에 맞지 않아, 일부는 CPU에서 실행되고 있다는 점이 제게 괴롭습니다.

현대 세계의 혼란 속에서 여기서 저는 다른 카드의 기술 사양을 비교를 AI 작업에 적합한 것으로 비교하고 있습니다.
(Deep Learning,
Object Detection
및 LLMs).
그러나 모두 매우 비싸네요.

Ollama 서버가 동일한 시간에 두 개의 요청을 받을 경우, 그 동작은 구성 설정과 사용 가능한 시스템 자원에 따라 달라집니다.

여러 버전의 LLM(llama3, phi3, gemma, mistral)이 CPU와 GPU에서 예측 속도를 비교합니다.