Jika Anda pernah bertanya-tanya apa yang terjadi ketika Anda memasukkan GPU ke NAS dan menjalankannya dengan AI, seperti milik ChatGPT, maka Tinjauan penyimpanan Dia punya jawaban yang mengejutkan.
Untuk dasar proyeknya, situs web Jordan Rannos menggunakan TS-h1290FX QNAP, NAS NVMe 12-bit yang ditenagai oleh CPU AMD EPYC 7302P dan dilengkapi DRAM 256 GB, konektivitas Ethernet 25 GB, dan beberapa slot PCI. Ia memilih NAS karena mendukung GPU internal dan kemampuan menampung penyimpanan mentah hingga 737TB.
Dengan menambahkan GPU Nvidia RTX A4000 ke TS-h1290FX dan mengonfigurasinya untuk AI menggunakan Virtualization Station (hypervisor untuk NAS), Ranous mampu menjalankan alur kerja AI dengan mulus.
Percakapan Nvidia dengan RTX
Rangkaian perangkat lunak ChatRTX Nvidia telah memilah aspek interaksi AI dengan memberikan pengalaman yang dipersonalisasi melalui LLM berbasis GPT dengan kumpulan data lokal dan unik. Hal ini memungkinkan respons yang cepat dan sadar konteks dengan tetap menjaga privasi dan keamanan.
Tinjauan penyimpanan Dia merinci prosesnya termasuk memeriksa kompatibilitas perangkat keras, menginstal GPU, memperbarui firmware dan perangkat lunak QNAP, menginstal sistem operasi pada VM, sebelum mengonfigurasi passthrough GPU, menginstal driver GPU di VM dan memverifikasi fungsionalitas passthrough.
Kemudahan dalam menyiapkan GPU AI pada NAS QNAP membuktikan bahwa ini dapat menjadi solusi hemat biaya dan efisien bagi bisnis yang ingin memanfaatkan kekuatan AI. Seperti yang dikatakan Ranos, “Kami telah menunjukkan bahwa menambahkan GPU yang bagus ke unit QNAP NAS itu mudah dan relatif murah. Kami menjalankan A4000, dan harganya sekitar $1.050, yang lumayan jika Anda mempertimbangkan bahwa Stasiun Virtualisasi gratis dan NVIDIA ChatRTX tersedia gratis.”
Lainnya dari TechRadar Pro
Yoga Mahendra adalah penulis di Pospapua.com yang meliput berbagai topik, termasuk berita, politik, bisnis, teknologi, olahraga, hiburan, dan gaya hidup. Ia berfokus pada penyajian informasi yang jelas, akurat, dan mudah dipahami, sehingga pembaca dapat mengikuti perkembangan isu terkini dengan lebih baik. Melalui pelaporan yang informatif dan relevan, Yoga menghadirkan berita serta cerita yang dekat dengan kebutuhan dan minat pembaca, sambil mengedepankan fakta dan konteks yang penting.
More Stories
OpenAI Luncurkan Perangkat Keras Pertama, Keyboard Mini untuk Mengendalikan Agen AI
Penyegaran Generasi Kedua Prosesor Komputasi Qualcomm Muncul dalam Peta Pengembangan Produsen Perangkat
Apple Umumkan macOS 27 Golden Gate dengan Kecerdasan Buatan Siri dan Tampilan Antarmuka Baru