Jika Anda pernah bertanya-tanya apa yang terjadi ketika Anda memasukkan GPU ke NAS dan menjalankannya dengan AI, seperti milik ChatGPT, maka Tinjauan penyimpanan Dia punya jawaban yang mengejutkan.
Untuk dasar proyeknya, situs web Jordan Rannos menggunakan TS-h1290FX QNAP, NAS NVMe 12-bit yang ditenagai oleh CPU AMD EPYC 7302P dan dilengkapi DRAM 256 GB, konektivitas Ethernet 25 GB, dan beberapa slot PCI. Ia memilih NAS karena mendukung GPU internal dan kemampuan menampung penyimpanan mentah hingga 737TB.
Dengan menambahkan GPU Nvidia RTX A4000 ke TS-h1290FX dan mengonfigurasinya untuk AI menggunakan Virtualization Station (hypervisor untuk NAS), Ranous mampu menjalankan alur kerja AI dengan mulus.
Percakapan Nvidia dengan RTX
Rangkaian perangkat lunak ChatRTX Nvidia telah memilah aspek interaksi AI dengan memberikan pengalaman yang dipersonalisasi melalui LLM berbasis GPT dengan kumpulan data lokal dan unik. Hal ini memungkinkan respons yang cepat dan sadar konteks dengan tetap menjaga privasi dan keamanan.
Tinjauan penyimpanan Dia merinci prosesnya termasuk memeriksa kompatibilitas perangkat keras, menginstal GPU, memperbarui firmware dan perangkat lunak QNAP, menginstal sistem operasi pada VM, sebelum mengonfigurasi passthrough GPU, menginstal driver GPU di VM dan memverifikasi fungsionalitas passthrough.
Kemudahan dalam menyiapkan GPU AI pada NAS QNAP membuktikan bahwa ini dapat menjadi solusi hemat biaya dan efisien bagi bisnis yang ingin memanfaatkan kekuatan AI. Seperti yang dikatakan Ranos, “Kami telah menunjukkan bahwa menambahkan GPU yang bagus ke unit QNAP NAS itu mudah dan relatif murah. Kami menjalankan A4000, dan harganya sekitar $1.050, yang lumayan jika Anda mempertimbangkan bahwa Stasiun Virtualisasi gratis dan NVIDIA ChatRTX tersedia gratis.”
Lainnya dari TechRadar Pro
“Incredibly charming gamer. Web guru. TV scholar. Food addict. Avid social media ninja. Pioneer of hardcore music.”
More Stories
Ulasan Amazfit T-Rex Ultra 2: Smartwatch Tangguh dengan Daya Tahan Baterai Panjang
Indonesia dan Korea Selatan Perkuat Kerja Sama Layanan Kesehatan Berbasis AI
Gelombang Gravitasi Diduga Tinggalkan Jejak pada Cahaya dari Atom Dingin