Perkembangan Artificial Intelligence (AI) semakin cepat dan membutuhkan infrastruktur penyimpanan data yang jauh lebih kuat dibanding sistem storage biasa. Dalam dunia AI modern, kecepatan akses data menjadi sangat penting karena GPU dan server AI harus terus menerima data tanpa hambatan.
Jika storage lambat, maka:
-
Training AI menjadi lebih lama
-
Inference melambat
-
GPU mahal menjadi tidak optimal
-
Produktivitas tim AI menurun
Karena itu, Dell Technologies terus mengembangkan Dell ObjectScale untuk mendukung kebutuhan AI generasi terbaru.
Sejak peluncuran versi 4.0 satu tahun lalu, Dell menghadirkan berbagai peningkatan performa untuk ObjectScale, mulai dari optimasi small object, akses data berbasis RDMA, integrasi GPU-aware data path, hingga teknologi KV Cache untuk AI dan Large Language Model (LLM).
Berkat inovasi tersebut, ObjectScale bahkan mendapatkan penghargaan CRN 2025 Product of the Year untuk kategori Enterprise-Class Storage.
Mengapa AI Membutuhkan Storage Super Cepat?
AI modern bekerja dengan data dalam jumlah sangat besar seperti:
-
Dataset training
-
Embedding AI
-
File log
-
Feature AI
-
Checkpoint model
-
Intermediate artifact
Masalahnya, AI tidak hanya membutuhkan kapasitas besar, tetapi juga:
-
Latency rendah
-
Throughput tinggi
-
Akses data cepat
-
Skalabilitas tinggi
Jika storage tidak mampu mengimbangi kecepatan GPU, maka performa AI akan terhambat.
Performa Tinggi untuk Workload AI Modern
Dalam pengujian internal Dell, ObjectScale mampu menghasilkan:
-
Hingga 40 GB/sec read throughput per node
-
Sampai 8 kali lebih cepat dibanding generasi sebelumnya
Performa ini membuat ObjectScale cocok untuk:
-
AI training
-
Machine learning
-
Analitik data besar
-
High-performance computing
Digunakan di Industri Keuangan Skala Besar
Keunggulan ObjectScale tidak hanya diuji di laboratorium, tetapi juga digunakan di lingkungan nyata.
Beberapa contoh penggunaan:
-
Perusahaan high-frequency trading di New York memproses lebih dari 30 miliar transaksi per hari
-
Perusahaan finansial global menggunakan ObjectScale untuk menangani 1,5 miliar transaksi harian
-
Perusahaan trading di Inggris mencapai throughput hingga 280 GB/sec
Hal ini menunjukkan bahwa ObjectScale dirancang untuk workload dengan performa sangat tinggi.
Small Object Menjadi Tantangan Baru AI
Dalam AI modern, banyak data berbentuk small object seperti:
-
Log
-
Metrics
-
Vector chunk
-
Table segment
-
Intermediate training file
Jumlahnya bisa mencapai jutaan bahkan miliaran file kecil.
Masalahnya, banyak storage tradisional tidak optimal menangani small object.
Akibatnya:
-
Performa menurun
-
Metadata membengkak
-
Sistem menjadi lambat
Teknologi Chunk Store untuk Small Object
ObjectScale menggunakan teknologi chunk store engine.
Cara kerjanya:
-
Ribuan file kecil digabung menjadi satu chunk besar
-
Baru kemudian dilakukan distribusi data
Contohnya:
-
Lebih dari 10.000 file ukuran 10 KB bisa disimpan dalam satu chunk
Keuntungan teknologi ini:
-
Throughput lebih tinggi
-
Latency lebih rendah
-
Metadata lebih efisien
-
Rebuild data lebih cepat
Rebuild Storage Menjadi Lebih Cepat
Ketika hard disk atau node rusak, storage biasanya membutuhkan waktu lama untuk rebuild data.
Pada storage besar, proses rebuild bisa berlangsung:
-
Berhari-hari
-
Bahkan berminggu-minggu
ObjectScale mengurangi proses tersebut menjadi:
-
Hanya beberapa jam
Hal ini sangat penting untuk menjaga AI workload tetap berjalan tanpa gangguan.
Optimasi Key-Value Store
Pada versi ObjectScale 4.2, Dell menghadirkan arsitektur Key-Value Store baru.
Hasilnya:
-
Efisiensi memory meningkat hingga 4 kali
-
Penggunaan disk metadata berkurang 30–60%
-
Lookup data menjadi lebih cepat
Dengan peningkatan ini, performa storage tetap stabil walaupun cluster dan jumlah object terus bertambah.
S3 over RDMA: Akses Data Lebih Cepat
Salah satu inovasi terbesar ObjectScale adalah teknologi S3 over RDMA.
Biasanya akses S3 menggunakan TCP biasa, namun ObjectScale menggantinya dengan RDMA yang jauh lebih cepat.
Hasil pengujian menunjukkan:
-
Throughput meningkat hingga 230%
-
Latency turun sekitar 80%
-
Penggunaan CPU turun hingga 98%
Teknologi ini memungkinkan GPU mengakses data object storage hampir secara langsung tanpa bottleneck.
Mengapa Ini Penting untuk GPU dan AI?
GPU modern sangat cepat, tetapi sering terhambat karena transfer data lambat.
Dengan S3 over RDMA:
-
Data mengalir lebih cepat ke GPU
-
Training AI menjadi lebih efisien
-
Pipeline AI lebih stabil
Teknologi ini sangat cocok untuk:
-
AI generatif
-
LLM
-
Deep learning
-
AI analytics
KV Cache untuk Mempercepat LLM
Dalam Large Language Model seperti chatbot AI, terdapat teknologi bernama KV Cache.
Fungsinya:
-
Menyimpan context AI sementara
-
Mengurangi proses perhitungan ulang
Masalahnya, KV Cache cepat memenuhi memory GPU.
ObjectScale membantu memindahkan KV Cache dari GPU ke storage berkinerja tinggi.
Hasilnya Sangat Signifikan
Menurut pengujian Dell:
-
Time to First Token meningkat hingga 19 kali lebih cepat
-
Throughput token meningkat hingga 5,3 kali
-
Multi-turn AI conversation hampir 3 kali lebih cepat
Hal ini membuat AI generatif menjadi lebih responsif dan efisien.
S3 Tables untuk Analitik AI Modern
ObjectScale 4.3 juga menghadirkan fitur S3 Tables berbasis Apache Iceberg.
Fitur ini memungkinkan:
-
Analitik langsung di object storage
-
Tidak perlu memindahkan data ke database lain
-
Mengurangi proses ETL
Keuntungannya:
-
Ingest data hingga 2 kali lebih cepat
-
Query hingga 4,5 kali lebih cepat
Storage kini bukan hanya tempat menyimpan data, tetapi juga menjadi platform analitik aktif untuk AI.
Tetap Sederhana Walaupun Sangat Powerful
Walaupun memiliki performa tinggi, Dell tetap menjaga ObjectScale agar:
-
Mudah dikelola
-
Skalabel
-
Efisien
-
Cocok untuk hybrid cloud
Beberapa fitur tambahan:
-
Compression analytics
-
Geo-replication
-
Kubernetes integration
-
Terraform support
-
Load balancer terintegrasi
Semua dirancang agar operasional tetap sederhana walaupun skala storage sangat besar.
Kesimpulan
Perkembangan AI membuat kebutuhan storage modern semakin kompleks. Perusahaan membutuhkan platform penyimpanan yang tidak hanya besar, tetapi juga cepat, stabil, dan siap mendukung workload AI masa depan.
Melalui Dell ObjectScale, Dell Technologies menghadirkan solusi object storage modern dengan:
-
Throughput tinggi
-
Latency rendah
-
Optimasi GPU
-
Small object performance
-
Dukungan AI dan LLM
Dengan inovasi seperti S3 over RDMA, KV Cache offload, dan S3 Tables, ObjectScale membantu perusahaan membangun fondasi data yang lebih siap menghadapi era AI modern.
Di masa depan, storage bukan lagi sekadar tempat menyimpan data, tetapi menjadi komponen utama yang menentukan kecepatan dan keberhasilan implementasi AI.
storage Indonesia merupakan bagian dari PT. iLogo Infralogy Indonesia, yang bertindak sebagai partner resmi storage.
Selain itu, kami juga berperan sebagai penyedia layanan (vendor) sekaligus distributor berbagai produk Infrastruktur IT dan Cybersecurity terbaik di Indonesia.
