Menerapkan RAG? Berikut beberapa potongan kode Go - 2...
Karena Ollama standar tidak memiliki API rerank langsung, Anda perlu menerapkan reranking menggunakan Qwen3 Reranker dalam GO dengan menghasilkan embedding untuk pasangan query-dokumen dan memberi skor mereka.
Beberapa waktu yang lalu saya melatih AI detektor objek
Pada satu hari musim dingin di bulan Juli… yang berada di Australia… saya merasa ada kebutuhan mendesak untuk melatih model AI dalam mendeteksi batang reinforcement beton yang tidak terkait…
qwen3 8b, 14b dan 30b, devstral 24b, mistral small 24b
Dalam uji coba ini saya membandingkan bagaimana berbagai LLM yang dihosting di Ollama menerjemahkan halaman Hugo dari bahasa Inggris ke Jerman. Tiga halaman yang saya uji berbeda topiknya, memiliki beberapa markdown yang menarik dengan struktur tertentu: header, daftar, tabel, tautan, dll.
Menerapkan RAG? Berikut adalah beberapa contoh kode dalam Golang...
Ini sedikit Contoh kode Go untuk reranking memanggil Ollama untuk menghasilkan embedding untuk query dan setiap dokumen kandidat, kemudian mengurutkan menurun berdasarkan kesamaan kosinus.
Mempertimbangkan pemasangan GPU kedua untuk LLM?
Bagaimana Jalur PCIe Mempengaruhi Kinerja LLM? Tergantung pada tugasnya. Untuk pelatihan dan inferensi multi-GPU — penurunan kinerja sangat signifikan.
LLM untuk mengekstrak teks dari HTML...
Dalam perpustakaan model Ollama terdapat model yang mampu mengubah konten HTML menjadi Markdown, yang berguna untuk tugas konversi konten.
Seberapa berbedakan mereka?
Cursor AI vs GitHub Copilot vs Cline AI vs...
Akan disebutkan di sini beberapa alat pemrograman yang didukung AI dan Asisten Pemrograman AI beserta keunggulan mereka.
Daftar singkat penyedia LLM
Menggunakan LLM tidak terlalu mahal, mungkin tidak perlu membeli GPU baru yang hebat. Berikut adalah daftar penyedia LLM di cloud dengan LLM yang mereka host.
Ollama pada CPU Intel: Efisiensi vs. Inti Kinerja
Saya punya teori untuk diuji - jika memanfaatkan semua inti pada CPU Intel akan meningkatkan kecepatan LLM? Ini mengganggu saya bahwa model baru gemma3 27 bit (gemma3:27b, 17GB pada ollama) tidak masuk ke dalam VRAM 16GB GPU saya, dan sebagian berjalan di CPU.
AI membutuhkan banyak daya...
Dalam tengah-tengah kekacauan dunia modern ini, di sini saya membandingkan spesifikasi teknis dari berbagai kartu yang cocok untuk tugas AI
(Deep Learning,
Object Detection
dan LLMs).
Mereka semua sangat mahal meskipun demikian.
Mengonfigurasi ollama untuk eksekusi permintaan paralel.
Ketika server Ollama menerima dua permintaan secara bersamaan, perilakunya bergantung pada konfigurasinya dan sumber daya sistem yang tersedia.
Apa ini tren pemrograman yang dibantu AI?
Vibe coding adalah pendekatan pemrograman yang didorong oleh AI, di mana pengembang menggambarkan fungsi yang diinginkan dalam bahasa alami, memungkinkan alat AI untuk menghasilkan kode secara otomatis.
Seluruh set alat MM* sudah mencapai akhir masa penggunaan (EOL)...
Saya telah menggunakan MMDetection (mmengine, mdet, mmcv) cukup banyak, Dan kini tampaknya sudah tidak lagi digunakan. Sayang sekali. Saya menyukai koleksi modelnya.
Membandingkan dua model deepseek-r1 dengan dua model dasar
Model pertama DeepSeek dengan kemampuan penalaran yang setara dengan OpenAI-o1, termasuk enam model padat yang didistilasi dari DeepSeek-R1 berbasis Llama dan Qwen.
