Membandingkan kecocokan GPU NVidia untuk AI

AI membutuhkan banyak daya...

Konten Halaman

Dalam tengah-tengah kekacauan dunia modern ini, di sini saya membandingkan spesifikasi teknis dari berbagai kartu yang cocok untuk tugas AI
(Deep Learning,
Object Detection
dan LLMs).
Mereka semua sangat mahal meskipun demikian.

Gambar kartu grafis yang dihasilkan oleh AI yang berjalan di GPU

Ini adalah gambar yang dihasilkan oleh AI. Jangan mengambilnya secara serius…

Mari kita lihat opsi lainnya, hanya untuk melihat sekelilingnya

Kartu VRAM Lebar Bus Bandwidth Memori CUDA Cores Tensor Cores Daya (W)
RTX 4060 Ti 16GB 16 GB 128-bit 288 GB/s 4,352 136 165
RTX 4070 Ti 16GB 16 GB 256-bit 672 GB/s 7,680 240 285
RTX 4080 16GB 16 GB 256-bit 716.8 GB/s 9,728 304 320
RTX 4080 Super 16GB 16 GB 256-bit 736 GB/s 10,240 320 320
RTX 4090 24GB 24 GB 384-bit 1008 GB/s 16,384 512 450
RTX 5060 Ti 16GB 16 GB 128-bit 448 GB/s 4,608 144 180
RTX 5070 Ti 16GB 16 GB 256-bit 896 GB/s 8,960 280 300
RTX 5080 16GB 16 GB 256-bit 896 GB/s 10,752 336 ~320
RTX 5090 32GB 32 GB 512-bit 1792 GB/s 21,760 680 ~450
RTX 2000 Ada 16 GB 128-bit 224 GB/s 2,816 88 70
RTX 4000 Ada 20 GB 160-bit 280 GB/s 6,144 192 70
RTX 4500 Ada 24 GB 192-bit 432 GB/s 7,680 240 210
RTX 5000 Ada 32 GB 256-bit 576 GB/s 12,800 400 250
RTX 6000 Ada 48 GB 384-bit 960 GB/s 18,176 568 300

Bandwidth Memori:

  • RTX 5090 (1792 GB/s), kemudian RTX 4090(1008 GB/s), kemudian RTX 6000 Ada (960 GB/s)

Tensor Cores:

  • RTX 5090 (680), kemudian RTX 6000 Ada (568), kemudian RTX 4090 (512)

CUDA Cores

  • RTX 5090 (21,760), kemudian RTX 6000 Ada (18,176, kemudian RTX 4090 (16,384)

RAM

  • RTX 6000 Ada (48 GB), kemudian RTX 5090 dan RTX 5000 Ada (32 GB), kemudian RTX 4090 (24GB)

Harga di Australia

  • RTX 6000 Ada: 12,000 AUD
  • RTX 5090: 6,000 AUD
  • RTX 5000 Ada: 7,000 AUD
  • RTX 4090: habis terjual

GPU terbaik untuk LLM

Masih saya pikir RTX 5090 akan menjadi pilihan terbaik untuk pembelajaran mesin, pembelajaran mendalam, AI dan bahkan LLM :)

Harga Nyata

Sedikit mahal…

Halaman NVidia RTX 5090

Dan harga nyata RTX 5090 adalah 50% lebih tinggi dari yang diperkirakan. Lihat ini!

Itu pada 15/05/2025

alt text

alt text

Tautan yang Berguna