Jika Anda pernah bertanya-tanya apa yang terjadi ketika Anda memasukkan GPU ke NAS dan menjalankannya dengan AI, seperti milik ChatGPT, maka Tinjauan penyimpanan Dia punya jawaban yang mengejutkan.
Untuk dasar proyeknya, situs web Jordan Rannos menggunakan TS-h1290FX QNAP, NAS NVMe 12-bit yang ditenagai oleh CPU AMD EPYC 7302P dan dilengkapi DRAM 256 GB, konektivitas Ethernet 25 GB, dan beberapa slot PCI. Ia memilih NAS karena mendukung GPU internal dan kemampuan menampung penyimpanan mentah hingga 737TB.
Dengan menambahkan GPU Nvidia RTX A4000 ke TS-h1290FX dan mengonfigurasinya untuk AI menggunakan Virtualization Station (hypervisor untuk NAS), Ranous mampu menjalankan alur kerja AI dengan mulus.
Percakapan Nvidia dengan RTX
Rangkaian perangkat lunak ChatRTX Nvidia telah memilah aspek interaksi AI dengan memberikan pengalaman yang dipersonalisasi melalui LLM berbasis GPT dengan kumpulan data lokal dan unik. Hal ini memungkinkan respons yang cepat dan sadar konteks dengan tetap menjaga privasi dan keamanan.
Tinjauan penyimpanan Dia merinci prosesnya termasuk memeriksa kompatibilitas perangkat keras, menginstal GPU, memperbarui firmware dan perangkat lunak QNAP, menginstal sistem operasi pada VM, sebelum mengonfigurasi passthrough GPU, menginstal driver GPU di VM dan memverifikasi fungsionalitas passthrough.
Kemudahan dalam menyiapkan GPU AI pada NAS QNAP membuktikan bahwa ini dapat menjadi solusi hemat biaya dan efisien bagi bisnis yang ingin memanfaatkan kekuatan AI. Seperti yang dikatakan Ranos, “Kami telah menunjukkan bahwa menambahkan GPU yang bagus ke unit QNAP NAS itu mudah dan relatif murah. Kami menjalankan A4000, dan harganya sekitar $1.050, yang lumayan jika Anda mempertimbangkan bahwa Stasiun Virtualisasi gratis dan NVIDIA ChatRTX tersedia gratis.”
Lainnya dari TechRadar Pro
“Incredibly charming gamer. Web guru. TV scholar. Food addict. Avid social media ninja. Pioneer of hardcore music.”
More Stories
Transport for London mengeksplorasi penggunaan teknologi dan data untuk 'mencapai perubahan dalam perilaku penghindar tarif' – PublicTechnology
Para donor di Silicon Valley berperang demi Kamala Harris, Trump, dan diri mereka sendiri
WeRide telah berkembang secara global seiring dengan adopsi kecerdasan buatan oleh industri transportasi