Industri game saat ini sedang berkembang pesat, terutama dengan hadirnya pengalaman interaktif berbasis AI yang menjadi standar baru. Anuttacon, sebuah laboratorium riset independen, punya misi membangun humanistic general intelligence—AI multimodal yang bisa memahami emosi dan berkomunikasi secara ekspresif melalui teks, suara, maupun visual.
Saat bersiap meluncurkan game baru mereka, “Whispers from the Star”, Anuttacon menghadapi tantangan besar: lonjakan trafik yang tidak terduga, kebutuhan performa tinggi lintas berbagai wilayah Amazon Web Services (AWS), serta keterbatasan kapasitas GPU.
Artikel ini membahas bagaimana Anuttacon merancang arsitektur cloud yang dapat diskalakan secara fleksibel menggunakan layanan AWS. Solusi ini sangat relevan untuk perusahaan game lain yang menghadapi masalah serupa.
Tantangan: di luar skema scaling tradisional
Pendekatan tradisional tidak cukup untuk menangani kebutuhan unik game modern berbasis AI. Whispers from the Star menghadapi tiga tantangan besar:
- Pola trafik dinamis
Saat peluncuran, trafik melonjak hingga 10–50 kali lipat dari normal. Menyediakan server cadangan sebanyak itu sejak awal akan sangat mahal. Selain itu, pola penggunaan pemain berbeda-beda sepanjang hari, membuat alokasi kapasitas statis jadi boros. - Keterbatasan sumber daya GPU
Fitur berbasis AI butuh GPU, yang ketersediaannya bervariasi di tiap Region AWS. Tim butuh cara untuk menambah kapasitas hanya dalam hitungan menit saat trafik melonjak, sekaligus menghindari kelebihan sumber daya saat sepi. - Kebutuhan teknis performa konsisten
Pemain di seluruh dunia harus merasakan pengalaman yang mulus tanpa jeda, meski infrastruktur di tiap wilayah berbeda.
Solusi: Arsitektur Multi-Region Stateless
Anuttacon menerapkan arsitektur multi-Region dengan layanan stateless agar bisa fleksibel berpindah antar-Region tanpa hambatan.
Komponen utama layanan game
Game ini dibangun dengan tiga komponen:
- Core Game Service
Mengelola login, pembayaran, dan progres game. Bagian ini bersifat stateful karena menyimpan data pemain. - Renderer Service
Mengolah grafis dan visual. Dibuat stateless sehingga bisa berjalan di server mana pun tanpa perlu konfigurasi khusus. - Inference Service
Menjalankan model AI untuk respons cerdas dalam game. Juga dibuat stateless agar mudah dipindahkan antar-Region.
Desain stateless memungkinkan layanan dipindahkan ke cluster Amazon EKS di Region mana pun jika kapasitas di suatu Region penuh.
Komponen arsitektur pendukung
- Regional EKS Clusters
Tiap Region AWS memiliki cluster EKS independen yang bisa menyesuaikan kapasitas berdasarkan permintaan lokal. Dengan Karpenter, node GPU bisa otomatis dipilih dan dijalankan dalam hitungan menit. - Gateway Service
Menjadi “penjaga pintu” yang membagi trafik ke Region yang sehat dan punya kapasitas cukup. Jika ada Region bermasalah, gateway segera mengalihkan trafik ke Region lain. - Global Manager
Mengatur kapasitas lintas Region dan Availability Zone (AZ). Ia memastikan distribusi beban merata dan membuat keputusan scaling yang lebih presisi.
Mengatasi Masalah Cold Start pada Inference
Salah satu tantangan besar ada di inference service. Model AI biasanya berukuran ratusan gigabyte. Saat server baru diluncurkan, butuh waktu lama (20–30 menit) untuk mengunduh dan memuat model sebelum bisa melayani pemain.
Anuttacon menyiasati hal ini dengan pendekatan berlapis:
- Custom Bottlerocket AMI: Container sudah dipaketkan dalam image, jadi tidak perlu mengunduh lagi dari ECR saat server baru jalan.
- Amazon EBS Provisioned Rate Initialization: Mempercepat inisialisasi volume EBS, sehingga kontainer siap digunakan dalam hitungan menit.
- Amazon EFS: Menyimpan model AI besar agar bisa dibaca cepat oleh banyak server sekaligus.
Dengan kombinasi ini, waktu cold start bisa dipangkas dari 20–30 menit menjadi kurang dari 7 menit—krusial saat trafik tiba-tiba melonjak.
Praktik Terbaik untuk Cross-Region Scaling
Selain desain arsitektur, Anuttacon menerapkan sejumlah praktik yang terbukti efektif:
- Multi-Region Deployment: Menyebarkan beban kerja ke banyak Region untuk toleransi gangguan dan ketersediaan kapasitas.
- Diversifikasi Instance Families: Memanfaatkan berbagai tipe EC2 agar tidak bergantung pada satu jenis GPU saja.
- Warm Pool Buffer: Menyediakan instance “siaga” yang sudah setengah jalan sehingga bisa melayani lebih cepat saat lonjakan.
- Retry & Backpressure: Otomatis mencoba ulang jika provisioning gagal, dan mengelola antrian trafik agar sistem tidak tumbang saat beban melonjak.
Pelajaran Penting dari Arsitektur Ini
Ada beberapa prinsip yang bisa ditarik untuk membangun infrastruktur game modern:
- Desain Stateless
Membuat layanan stateless memungkinkan scaling cepat dan fleksibel tanpa repot migrasi data. - Optimisasi Penyimpanan Model AI
Dengan memuat kontainer dan model AI lebih awal melalui AMI, EBS, dan EFS, masalah cold start bisa ditekan drastis. - Balancing Multi-Region
Distribusi trafik berbasis kapasitas nyata memastikan pengalaman pemain tetap mulus di mana pun mereka berada.
Kesimpulan
Keberhasilan Anuttacon dengan “Whispers from the Star” menunjukkan bahwa desain arsitektur yang matang bisa mengatasi tantangan unik game modern berbasis AI. Dengan pendekatan stateless multi-Region dan optimisasi AWS (seperti EBS Provisioned Rate Initialization), mereka mampu:
- Meningkatkan skalabilitas,
- Mengontrol biaya,
- Memberikan pengalaman bermain yang konsisten dan lancar.
Bagi industri game yang semakin bergerak ke arah AI-enhanced gaming dan basis pemain global, pola arsitektur ini bisa menjadi blueprint terbukti untuk mengelola lonjakan trafik dan keterbatasan GPU.
Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan storage indonesia, Anda bisa mendapatkan solusi IT lengkap yang sesuai dengan kebutuhan Anda. iLogo Indonesia sebagai mitra terpercaya siap mengintegrasikan semuanya agar bisnis Anda tetap berjalan lancar dan aman.
Hubungi kami sekarang atau kunjungi storage.ilogoindonesia.id untuk informasi lebih lanjut!