Poin utama: Dell dan NVIDIA bekerja sama untuk mengembangkan teknologi AI, khususnya dalam proses AI inference (proses saat AI memberikan jawaban). Mereka menghadirkan inovasi seperti Context Memory Storage Platform (CMS) dan NVIDIA BlueField-4 DPU. Kolaborasi ini membantu model AI besar seperti Large Language Models (LLM) bekerja lebih cepat, lebih efisien, mengurangi jeda (latency), dan menekan biaya. Solusi storage dari Dell seperti Dell PowerScale, Dell ObjectScale, dan Project Lightning dirancang untuk mendukung kebutuhan AI saat ini dan di masa depan. Tantangan AI Modern: Bukan Lagi Sekadar Training AI berkembang sangat cepat. Model bahasa besar (LLM) seperti yang digunakan dalam chatbot atau asisten virtual kini semakin pintar dan kompleks. Namun, tantangan utama bagi banyak perusahaan bukan lagi melatih (training) model AI, melainkan menjalankan model tersebut secara cepat dan efisien saat digunakan oleh pengguna. Proses ini disebut inference. Agar AI bisa memberikan jawaban yang cepat dan memahami konteks percakapan, sistem membutuhkan cara penyimpanan data yang efisien. Salah satu teknologi penting dalam proses ini adalah KV Cache (Key-Value Cache). Apa Itu KV Cache dan Mengapa Penting? Saat AI memproses pertanyaan, ia membuat data “Keys” dan “Values” yang membantu memahami konteks. Data ini biasanya disimpan di memori GPU yang sangat cepat (HBM). Proses ini disebut KV Caching. Masalahnya, jika percakapan semakin panjang atau dokumen yang diproses semakin besar, ukuran cache ikut membesar. Jika memori GPU tidak cukup, sistem harus menghitung ulang data tersebut. Akibatnya: Respons menjadi lebih lambat Konsumsi daya meningkat Biaya infrastruktur bertambah Solusinya adalah memindahkan (offload) KV Cache ke media penyimpanan lain yang lebih besar, sehingga GPU bisa fokus pada proses utama. NVIDIA BlueField-4 dan Context Memory Storage Platform (CMS) NVIDIA menghadirkan teknologi terbaru bernama BlueField-4 Data Processing Unit (DPU). Teknologi ini membantu mengelola penyimpanan KV Cache secara lebih efisien. BlueField-4 bertindak sebagai jembatan antara: Memori GPU yang sangat cepat tapi terbatas Storage tradisional yang besar tapi lebih lambat Dengan cara ini, performa inference bisa tetap cepat meskipun data yang diproses sangat besar. Manfaat utama BlueField-4: Memaksimalkan penggunaan GPU Mengurangi proses hitung ulang sehingga kinerja meningkat. Respons lebih cepat Latency lebih rendah, penting untuk aplikasi AI real-time seperti chatbot. Lebih hemat energi Performa meningkat tanpa meningkatkan konsumsi listrik secara drastis. Peran Dell dalam Mendukung AI Inference Dell mengembangkan solusi storage yang dirancang khusus untuk mendukung teknologi NVIDIA ini. Artinya, perusahaan tidak perlu menunggu hardware masa depan untuk mendapatkan peningkatan performa. Saat ini, solusi Dell sudah mampu memberikan: Peningkatan 19 kali lebih cepat untuk waktu respons pertama (Time to First Token / TTFT) Hingga 5,3 kali lebih banyak permintaan (query) per detik Fleksibilitas Solusi Dell Tidak semua perusahaan langsung menggunakan BlueField-4. Untuk itu, Dell menyediakan solusi fleksibel yang bisa bekerja di berbagai lingkungan. Dengan menggabungkan teknologi seperti LMCache dan NVIDIA NIXL, Dell memungkinkan storage bertindak seperti perpanjangan memori GPU. Data KV Cache bisa dipindahkan langsung ke storage Dell menggunakan teknologi cepat seperti RDMA, tanpa harus melewati CPU. Ini menjaga aliran data tetap cepat. Pilihan Storage AI dari Dell Dell menyediakan beberapa opsi sesuai kebutuhan perusahaan: 1. Dell PowerScale Cocok untuk perusahaan yang membutuhkan penyimpanan file (NAS) dengan performa tinggi. Memberikan akses cepat ke data dalam jumlah besar. 2. Dell ObjectScale Dirancang untuk aplikasi berbasis cloud. Menggunakan teknologi S3-over-RDMA, sehingga tetap cepat seperti sistem file biasa tetapi dengan fleksibilitas cloud. 3. Project Lightning (masih tahap preview) Untuk kebutuhan AI paling berat. Menggunakan teknologi NVMe-over-Fabrics untuk memindahkan data langsung dari storage ke GPU dengan latency sangat rendah. Mengapa Ini Penting untuk Bisnis? Kemampuan memindahkan KV Cache secara efisien membawa dampak besar: 1. Hemat Biaya Perusahaan tidak perlu membeli GPU mahal hanya untuk menambah memori. Cukup menambah storage yang lebih ekonomis. 2. Pengalaman Pengguna Lebih Baik AI bisa mengingat percakapan lebih panjang, memahami dokumen besar, dan memberikan jawaban lebih akurat serta personal. 3. Siap untuk Masa Depan Model AI akan terus berkembang dan membutuhkan konteks lebih besar (jutaan token). Infrastruktur yang skalabel memastikan sistem tetap bisa berkembang. Membangun Infrastruktur AI Bersama Dell dan NVIDIA percaya pada ekosistem terbuka. Dengan bekerja sama, mereka membangun fondasi yang disebut sebagai “AI Factory”, yaitu infrastruktur lengkap untuk mendukung inovasi AI. Baik menggunakan: NVIDIA BlueField-4 untuk latency ultra-rendah Dell PowerScale dan ObjectScale untuk skalabilitas besar Project Lightning untuk performa ekstrem Semua solusi ini dirancang untuk mendukung AI yang: Lebih cepat Lebih cerdas Lebih efisien Kesimpulan Masa depan AI adalah sistem yang mampu memahami konteks secara mendalam, merespons dengan cepat, dan bekerja secara efisien. Kolaborasi Dell dan NVIDIA membantu perusahaan membangun infrastruktur yang siap menghadapi perkembangan AI berikutnya. Dengan solusi storage dan teknologi pemrosesan terbaru, organisasi dapat mengoptimalkan performa, menekan biaya, dan memberikan pengalaman AI yang lebih baik kepada pengguna. Bersama, Dell dan NVIDIA sedang membangun fondasi untuk generasi AI berikutnya. Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan storage indonesia, merupakan bagian dari PT. iLogo Indonesia, yang merupakan mitra terpercaya dalam solusi Infrastruktur IT dan Cybersecurity terbaik di Indonesia. Hubungi kami sekarang atau kunjungi storage.ilogoindonesia.id untuk informasi lebih lanjut!
Month: February 2026
Mendorong Kemajuan: Bagaimana Para Pemimpin Industri Membangun di Atas Dell Storage
Di era digital saat ini, data menjadi aset paling berharga bagi organisasi. Hampir semua aktivitas bisnis bergantung pada data, mulai dari pelayanan pelanggan, penelitian, hingga pengambilan keputusan strategis. Karena itu, memiliki infrastruktur teknologi yang tepat sangatlah penting. Infrastruktur yang kuat akan menjadi fondasi untuk mendorong inovasi dan pertumbuhan bisnis. Agar bisa terus berkembang, organisasi membutuhkan teknologi yang tangguh, andal, dan siap menghadapi kebutuhan masa depan. Inilah alasan mengapa banyak pemimpin industri memilih membangun operasional mereka di atas platform yang terpercaya untuk mengelola aset terpenting mereka: data. Fondasi bagi Pemimpin Global Pentingnya kemitraan teknologi yang kuat terlihat jelas dalam acara Dell Technologies Forum di New York awal tahun ini. Dalam acara tersebut, Jisoo Lee, Managing Director dari The Bank of New York Mellon (BNY), berbicara bersama Todd Lieb, Vice President of Cloud Partnerships di Dell. Mereka membahas bagaimana teknologi berperan besar dalam mendorong inovasi di perusahaan besar. Jisoo menjelaskan bahwa kerja sama jangka panjang antara BNY dan Dell membantu mereka membangun platform yang terstandarisasi dan mudah dikembangkan (scalable). Platform ini didukung oleh Dell PowerMax storage dan Dell PowerEdge server. Dengan fondasi tersebut, BNY dapat meningkatkan efisiensi operasional, memperkuat hubungan dengan klien, dan membuka peluang inovasi di masa depan. Jisoo bahkan mengatakan, “Ketika Anda memiliki budaya kerja sama yang baik dengan mitra eksternal seperti Dell, hampir tidak ada yang tidak bisa dicapai.” Pernyataan ini menunjukkan betapa pentingnya keandalan dan performa teknologi dalam mendukung institusi keuangan kelas dunia. Teknologi yang Memberikan Hasil Nyata Portofolio storage Dell dirancang untuk memenuhi berbagai kebutuhan beban kerja (workload), di mana pun lokasinya. Solusi Dell menawarkan fleksibilitas dan kecerdasan untuk mengelola pertumbuhan data dengan tetap menjaga keamanan dan kemudahan akses. Berikut beberapa solusi utama dari Dell: Dell PowerStore PowerStore adalah solusi penyimpanan all-flash yang cepat dan efisien. Desainnya berfokus pada data dan mampu menyatukan berbagai jenis aplikasi tanpa mengorbankan performa. Dell bahkan memberikan jaminan pengurangan data hingga rasio 5:1. Contohnya, perusahaan ritel besar di Brasil, Drogaria Araujo, menggunakan PowerStore untuk meningkatkan performa dan ketahanan sistem IT di ratusan toko mereka. Dell PowerFlex PowerFlex adalah platform storage berbasis software yang bisa dikembangkan hingga skala sangat besar (petabyte). Cocok untuk lingkungan private cloud, PowerFlex menawarkan performa tinggi dan kemampuan konsolidasi berbagai aplikasi dalam satu sistem. Dengan ini, perusahaan dapat menyederhanakan operasional dan memaksimalkan pemanfaatan sumber daya IT. Dell PowerMax PowerMax dirancang untuk aplikasi yang sangat penting (mission-critical). Solusi ini menawarkan performa ekstrem dan ketersediaan tinggi. Teknologi replikasi multi-site memastikan data penting selalu tersedia, sehingga banyak perusahaan global mengandalkannya. Dell PowerScale PowerScale adalah solusi NAS (Network Attached Storage) yang dapat dikembangkan sesuai kebutuhan. Cocok untuk data tidak terstruktur dalam jumlah besar, seperti video, penelitian, atau data AI. Oregon State University, misalnya, menggunakan PowerScale untuk mendukung penelitian kelas dunia dengan kebutuhan data yang sangat besar. Mendukung Inovasi di Berbagai Industri Kebutuhan akan pengelolaan data yang andal tidak hanya dimiliki satu industri saja. Dari kesehatan hingga hiburan, banyak organisasi memanfaatkan storage Dell untuk mengubah data menjadi kemajuan nyata. Beberapa contohnya: KiTZ (Pusat Kanker Anak di Jerman) menggunakan Dell PowerScale untuk mempercepat penelitian kanker anak, memungkinkan akses cepat dan aman ke data genomik dalam jumlah besar. Lightstorm Entertainment, studio di balik film Avatar, menggunakan PowerScale dan ObjectScale untuk mengelola data produksi film yang sangat besar. Cosm menghadirkan pengalaman digital imersif untuk hiburan dan pendidikan dengan dukungan storage Dell. Fulgent Genetics memanfaatkan AI bersama Dell PowerStore dan PowerEdge untuk mengelola data genetik dalam jumlah besar dan meningkatkan deteksi kanker. Miami Dolphins menggunakan PowerScale untuk meningkatkan sistem IT stadion mereka, memberikan pengalaman penonton yang lebih baik dan mendukung inovasi berbasis AI. University of Missouri memodernisasi sistem IT kampus dengan PowerStore, PowerMax, dan PowerFlex, menghasilkan performa sangat cepat dan hampir tanpa gangguan. Texas Christian University menggunakan PowerScale dan PowerEdge untuk mendukung inisiatif AI mereka dalam meningkatkan pembelajaran dan penelitian. Membuka Potensi Melalui Inovasi Dell menciptakan teknologi yang membantu organisasi mewujudkan visi mereka. Solusi yang ditawarkan tidak hanya kuat, tetapi juga fleksibel dan efisien. Baik Anda mengelola perusahaan global, institusi pendidikan, rumah sakit, atau perusahaan hiburan, platform storage Dell memberikan performa dan keamanan yang dibutuhkan untuk mencapai tujuan bisnis. Dengan fondasi data yang kuat dan siap menghadapi masa depan, organisasi dapat terus berinovasi, berkembang, dan bersaing di era digital. Jika organisasi Anda ingin memiliki sistem penyimpanan data yang tangguh, aman, dan siap mendukung pertumbuhan jangka panjang, solusi storage Dell dapat menjadi fondasi yang tepat untuk mendukung kesuksesan Anda. Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan storage indonesia, merupakan bagian dari PT. iLogo Indonesia, yang merupakan mitra terpercaya dalam solusi Infrastruktur IT dan Cybersecurity terbaik di Indonesia. Hubungi kami sekarang atau kunjungi storage.ilogoindonesia.id untuk informasi lebih lanjut!