Hypercomputer AI
Sistem superkomputer di balik setiap workload AI di Google Cloud. Sesuaikan komponennya menggunakan hardware yang terintegrasi sepenuhnya, software terbuka, dan model konsumsi yang fleksibel.
Ringkasan
Hardware yang dioptimalkan AI
Pilih berbagai opsi komputasi, penyimpanan, dan jaringan yang dioptimalkan untuk tujuan tingkat workload yang terperinci, baik itu throughput yang lebih tinggi, latensi yang lebih rendah, waktu penyiapan hasil yang lebih cepat, atau TCO yang lebih rendah. Pelajari lebih lanjut: Google Cloud TPU, Google Cloud GPU, Google Cloud Storage, Titanium, jaringan Jupiter.
Software terbuka
AI Hypercomputer dioptimalkan untuk mendukung alat dan library yang paling umum, seperti Pytorch dan JAX. Selain itu, arsitektur ini memungkinkan pelanggan untuk memanfaatkan teknologi seperti konfigurasi Cloud TPU Multislice dan Multihost, serta layanan terkelola seperti Google Kubernetes Engine. Hal ini memungkinkan pelanggan memberikan deployment siap pakai untuk workload umum seperti framework NVIDIA NeMO yang diorkestrasi oleh SLURM.
Konsumsi fleksibel
Model konsumsi kami yang fleksibel memungkinkan pelanggan memilih biaya tetap dengan diskon abonemen atau model on-demand dinamis untuk memenuhi kebutuhan bisnis mereka. Dynamic Workload Scheduler membantu pelanggan mendapatkan kapasitas yang mereka butuhkan tanpa alokasi yang berlebih sehingga pelanggan hanya membayar sesuai kebutuhan. Selain itu, alat pengoptimalan biaya Google Cloud membantu mengotomatiskan penggunaan resource untuk mengurangi tugas manual bagi engineer.
Cara Kerjanya
Penggunaan Umum
Jalankan pelatihan AI berskala besar
Pelatihan AI yang andal, skalabel, dan efisien
Arsitektur AI Hypercomputer menawarkan opsi untuk menggunakan infrastruktur dasar yang dapat diskalakan dengan baik guna memenuhi kebutuhan pelatihan Anda.
Pelatihan AI yang andal, skalabel, dan efisien
Mengukur efektivitas pelatihan berskala besar agar selaras dengan cara Google menggunakan Goodput Produktivitas ML.
Character AI memanfaatkan Google Cloud untuk meningkatkan skala
"Kami membutuhkan GPU untuk memberikan respons kepada pesan pengguna. Seiring bertambahnya pengguna di platform kami, kami memerlukan lebih banyak GPU untuk melayani mereka. Jadi di Google Cloud, kami dapat bereksperimen untuk menemukan platform yang tepat untuk workload tertentu. Sangat menyenangkan memiliki fleksibilitas untuk memilih solusi yang paling berharga." Myle Ott, Founding Engineer, Character.AI
Petunjuk
Pelatihan AI yang andal, skalabel, dan efisien
Arsitektur AI Hypercomputer menawarkan opsi untuk menggunakan infrastruktur dasar yang dapat diskalakan dengan baik guna memenuhi kebutuhan pelatihan Anda.
Referensi tambahan
Pelatihan AI yang andal, skalabel, dan efisien
Mengukur efektivitas pelatihan berskala besar agar selaras dengan cara Google menggunakan Goodput Produktivitas ML.
Contoh pelanggan
Character AI memanfaatkan Google Cloud untuk meningkatkan skala
"Kami membutuhkan GPU untuk memberikan respons kepada pesan pengguna. Seiring bertambahnya pengguna di platform kami, kami memerlukan lebih banyak GPU untuk melayani mereka. Jadi di Google Cloud, kami dapat bereksperimen untuk menemukan platform yang tepat untuk workload tertentu. Sangat menyenangkan memiliki fleksibilitas untuk memilih solusi yang paling berharga." Myle Ott, Founding Engineer, Character.AI
Menghadirkan aplikasi yang didukung AI
Memanfaatkan framework terbuka untuk memberikan pengalaman yang didukung teknologi AI
Google Cloud berkomitmen untuk memastikan framework terbuka berfungsi dengan baik dalam arsitektur Hypercomputer AI.
Memanfaatkan framework terbuka untuk memberikan pengalaman yang didukung teknologi AI
Ekosistem software terbuka Google Cloud memungkinkan Anda membangun aplikasi dengan alat dan framework yang paling sesuai bagi Anda, sekaligus memanfaatkan keunggulan harga-performa dari arsitektur Hyperkomputer AI.
Priceline: Membantu wisatawan menyeleksi pengalaman unik
"Melalui kerja sama dengan Google Cloud untuk mengintegrasikan kemampuan AI generatif, kami dapat membuat asisten perjalanan khusus di dalam chatbot kami. Kami ingin agar pelanggan dapat melakukan lebih dari sekadar merencanakan perjalanan dan membantu mereka memilih pengalaman perjalanan yang unik.” Martin Brodbeck, CTO, Priceline
Petunjuk
Memanfaatkan framework terbuka untuk memberikan pengalaman yang didukung teknologi AI
Google Cloud berkomitmen untuk memastikan framework terbuka berfungsi dengan baik dalam arsitektur Hypercomputer AI.
Referensi tambahan
Memanfaatkan framework terbuka untuk memberikan pengalaman yang didukung teknologi AI
Ekosistem software terbuka Google Cloud memungkinkan Anda membangun aplikasi dengan alat dan framework yang paling sesuai bagi Anda, sekaligus memanfaatkan keunggulan harga-performa dari arsitektur Hyperkomputer AI.
Contoh pelanggan
Priceline: Membantu wisatawan menyeleksi pengalaman unik
"Melalui kerja sama dengan Google Cloud untuk mengintegrasikan kemampuan AI generatif, kami dapat membuat asisten perjalanan khusus di dalam chatbot kami. Kami ingin agar pelanggan dapat melakukan lebih dari sekadar merencanakan perjalanan dan membantu mereka memilih pengalaman perjalanan yang unik.” Martin Brodbeck, CTO, Priceline
Model inferensi dengan biaya efisien dalam skala besar
Memaksimalkan harga/performa untuk menginferensi AI dalam skala besar
Google Cloud memberikan harga/performa terbaik di industri dengan menginferensi model AI menggunakan opsi akselerator guna memenuhi kebutuhan workload apa pun.
Memaksimalkan harga/performa untuk menginferensi AI dalam skala besar
Instance Cloud TPU v5e dan G2 yang menghadirkan GPU NVIDIA L4 memungkinkan inferensi berperforma tinggi dan hemat biaya untuk berbagai workload AI, termasuk model LLM dan AI Generatif terbaru. Keduanya menawarkan peningkatan performa harga yang signifikan dibandingkan model sebelumnya dan arsitektur Hyperkomputer AI Google Cloud memungkinkan pelanggan menskalakan deployment mereka ke level terdepan di industri.
Assembly AI memanfaatkan Google Cloud untuk efisiensi biaya
"Hasil eksperimental kami menunjukkan bahwa Cloud TPU v5e adalah akselerator yang paling hemat biaya untuk menjalankan inferensi berskala besar pada model kami. Akselerator ini memberikan performa 2,7 kali lebih besar per dolar daripada G2 dan performa 4,2 kali lebih besar per dolar daripada instance A2." Domenic Donato,
VP of Technology, AssemblyAI
Petunjuk
Memaksimalkan harga/performa untuk menginferensi AI dalam skala besar
Google Cloud memberikan harga/performa terbaik di industri dengan menginferensi model AI menggunakan opsi akselerator guna memenuhi kebutuhan workload apa pun.
Referensi tambahan
Memaksimalkan harga/performa untuk menginferensi AI dalam skala besar
Instance Cloud TPU v5e dan G2 yang menghadirkan GPU NVIDIA L4 memungkinkan inferensi berperforma tinggi dan hemat biaya untuk berbagai workload AI, termasuk model LLM dan AI Generatif terbaru. Keduanya menawarkan peningkatan performa harga yang signifikan dibandingkan model sebelumnya dan arsitektur Hyperkomputer AI Google Cloud memungkinkan pelanggan menskalakan deployment mereka ke level terdepan di industri.
Contoh pelanggan
Assembly AI memanfaatkan Google Cloud untuk efisiensi biaya
"Hasil eksperimental kami menunjukkan bahwa Cloud TPU v5e adalah akselerator yang paling hemat biaya untuk menjalankan inferensi berskala besar pada model kami. Akselerator ini memberikan performa 2,7 kali lebih besar per dolar daripada G2 dan performa 4,2 kali lebih besar per dolar daripada instance A2." Domenic Donato,
VP of Technology, AssemblyAI