GPU yang tersedia

GPU digunakan untuk mempercepat workload, dan Cloud Workstations mendukung pemasangan GPU ke workstation. Cloud Workstations mendukung banyak model GPU yang tersedia untuk dipasang ke VM Compute Engine. Model dan jumlah GPU yang akan dipasang ke setiap workstation ditentukan pada konfigurasi workstation. Cloud Workstations menangani pemasangan GPU dan penginstalan driver perangkat mereka.

Memasang GPU ke workstation akan memengaruhi biaya seperti yang dijelaskan dalam ringkasan harga Cloud Workstations.

Batasan

Konfigurasi workstation dapat menentukan GPU, dengan batasan berikut:

  • Virtualisasi bertingkat tidak dapat diaktifkan pada konfigurasi workstation dengan GPU.
  • Cloud Workstations hanya mendukung GPU untuk konfigurasi yang menentukan jenis mesin dalam seri mesin N1 atau seri mesin A2. Lihat model GPU yang didukung untuk mengetahui detailnya.
  • Konfigurasi tersebut harus menentukan zona replika tempat model GPU yang dipilih tersedia.
  • Anda tidak dapat mengonfigurasi workstation agar memiliki lebih dari satu model GPU yang terpasang pada satu waktu.

Model GPU yang didukung

Cloud Workstations mendukung banyak model GPU yang disediakan Compute Engine. Model yang didukung bergantung pada seri mesin yang dipilih untuk konfigurasi workstation, seperti yang diringkas dalam tabel berikut.

Seri mesin N1

Seri mesin tujuan umum N1 mendukung beberapa model GPU, dan konfigurasi workstation yang menentukan salah satu jenis mesin N1 juga dapat menentukan salah satu model GPU berikut. Untuk model GPU yang dipilih, konfigurasi dapat menentukan jumlah kartu GPU yang akan dipasang ke setiap workstation.

Model GPU Jumlah GPU
NVIDIA T4 (nvidia-tesla-t4) 1, 2, atau 4 GPU
NVIDIA P4 (nvidia-tesla-p4) 1, 2, atau 4 GPU
NVIDIA V100 (nvidia-tesla-v100) 1, 2, 4, atau 8 GPU
NVIDIA P100 (nvidia-tesla-p100) 1, 2, atau 4 GPU

Seri mesin A2

Seri mesin standar A2 yang dioptimalkan akselerator memiliki GPU NVIDIA A100 dalam jumlah tetap yang terpasang, hanya berdasarkan jenis mesin yang dipilih.

Tabel berikut menunjukkan pemetaan dari jenis mesin ke jumlah kartu yang akan dipasang.

Model GPU Machine type Jumlah GPU
NVIDIA A100 40GB (nvidia-tesla-a100) a2-highgpu-1g 1 GPU
a2-highgpu-2g 2 GPU
a2-highgpu-4g 4 GPU
a2-highgpu-8g 8 GPU
a2-megagpu-16g 16 GPUs

Cloud Workstations tidak mendukung jenis mesin ultra A2.

Menambahkan GPU ke Konfigurasi Workstation yang Ada

Untuk menambahkan GPU ke konfigurasi workstation, selesaikan langkah-langkah di salah satu tab berikut.

Sebelum memulai

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

Konsol

Saat menggunakan Konsol Google Cloud untuk mengakses API dan layanan Google Cloud, Anda tidak perlu menyiapkan autentikasi.

gcloud

Instal Google Cloud CLI, lalu initialize dengan menjalankan perintah berikut:

gcloud init

Tinjau ringkasan harga Cloud Workstations untuk memahami pengaruh konfigurasi GPU terhadap biaya Anda. Perhatikan bahwa GPU terpasang pada virtual machine (VM) yang telah dimulai yang ditentukan oleh Quick start pool size pada konfigurasi.

Mengupdate konfigurasi yang ada

Konsol

Konfigurasikan GPU pada konfigurasi workstation yang ada dari Konsol Google Cloud, dengan melakukan hal berikut:

  1. Di konsol Google Cloud, buka halaman Workstation configurations.

    Buka konfigurasi Workstation

  2. Dalam daftar Workstation configurations, klik Name konfigurasi yang ingin ditambahi GPU.

  3. Di halaman Workstation configuration details, klik edit Edit.

  4. Di halaman Edit workstation configuration, klik Machine settings di menu navigasi.

  5. Klik tombol untuk memilih GPU, bukan kelompok mesin Tujuan umum.

    Di kolom GPU type, pilih Model GPU yang ingin Anda gunakan.

    Di kolom Jumlah GPU, pilih jumlah kartu GPU yang ingin Anda pasang ke setiap workstation.

    Di kolom Machine type, pilih jenis mesin yang ingin Anda gunakan.

  6. Klik Save untuk memperbarui konfigurasi.

gcloud

Konfigurasikan GPU di konfigurasi workstation yang ada dengan menjalankan perintah gcloud workstations configs update.

Pertama-tama, kumpulkan beberapa informasi untuk melihat model GPU mana yang tersedia dan memilih model untuk konfigurasi Anda:

  1. Periksa zona replika mana yang ditentukan oleh konfigurasi dengan menjalankan perintah CLI gcloud berikut:

    gcloud workstations configs describe \
      --format="table(name.scope(workstationConfigs),replicaZones.list())" \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID
    

    Ganti kode berikut:

    • PROJECT_ID: ID project yang berisi konfigurasi workstation.
    • LOCATION: lokasi cluster workstation.
    • WORKSTATION_CLUSTER_ID: cluster nama workstation yang berisi konfigurasi workstation.
    • WORKSTATION_CONFIG_ID: nama konfigurasi workstation.
  2. Pilih model GPU yang didukung yang tersedia di kedua zona replika konfigurasi dengan menjalankan perintah gcloud compute accelerator-types list:

    gcloud compute accelerator-types list \
      --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
      --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
      --project=PROJECT_ID
    

    Ganti ZONES dengan daftar zona replika yang dipisahkan koma yang ditentukan pada langkah sebelumnya (misalnya, us-central1-a,us-central1-c).

    Pilih model GPU yang tercantum dua kali dalam tabel, yang menunjukkan model tersebut tersedia di kedua zona replika.

    Catat kartu maksimum yang dapat Anda lampirkan untuk model GPU yang dipilih.

  3. Tentukan jenis mesin yang didukung yang tersedia di kedua zona replika konfigurasi menggunakan perintah gcloud compute machine-types list.

    1. Jika Anda memilih model GPU NVIDIA A100 40 GB di langkah sebelumnya, konfigurasi Anda harus menggunakan seri mesin A2:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      
    2. Jika Anda memilih model GPU lainnya di langkah sebelumnya, konfigurasi Anda harus menggunakan seri mesin N1:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

    Pilih jenis mesin yang tercantum dua kali dalam tabel, yang menunjukkan mesin tersebut tersedia di kedua zona replika.

  4. Setelah Anda memilih model GPU dan jenis mesin yang kompatibel, perbarui konfigurasi:

    1. Untuk GPU NVIDIA A100 40 GB, jalankan perintah ini untuk memperbarui konfigurasi Anda:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=A2_MACHINE_TYPE
      

      Ganti A2_MACHINE_TYPE dengan jenis mesin A2 yang dipilih yang ditentukan pada langkah sebelumnya (misalnya, a2-highgpu-1g).

    2. Untuk semua model GPU lainnya, jalankan perintah ini:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION 
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      Ganti kode berikut:

      • N1_MACHINE_TYPE: jenis mesin yang dipilih dari seri N1 (misalnya, n1-standard-2).
      • ACCELERATOR_TYPE: nama model GPU yang dipilih (misalnya, nvidia-tesla-t4).
      • ACCELERATOR_COUNT: jumlah GPU yang harus dipasang ke setiap workstation (misalnya, 1, 2, 4). Harus berupa pangkat dua kurang dari maksimum untuk model GPU.

Membuat Konfigurasi Workstation baru dengan GPU

Untuk membuat konfigurasi workstation baru yang menghubungkan GPU ke workstation yang didasarkan padanya, selesaikan langkah-langkah di salah satu tab berikut.

Sebelum memulai

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

Konsol

Saat menggunakan Konsol Google Cloud untuk mengakses API dan layanan Google Cloud, Anda tidak perlu menyiapkan autentikasi.

gcloud

Instal Google Cloud CLI, lalu initialize dengan menjalankan perintah berikut:

gcloud init

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

    Instal Google Cloud CLI, lalu initialize dengan menjalankan perintah berikut:

    gcloud init

Pilih model GPU dan lihat tabel ketersediaan GPU untuk memilih region tempat model GPU yang dipilih tersedia di setidaknya dua zona.

Jika belum memiliki cluster di region yang dipilih untuk membuat konfigurasi baru, ikuti langkah-langkah untuk Membuat cluster workstation di region tersebut.

Tinjau ringkasan harga Cloud Workstations untuk memahami pengaruh konfigurasi GPU terhadap biaya Anda. Perhatikan bahwa GPU terpasang pada virtual machine (VM) yang telah dimulai yang ditentukan oleh Quick start pool size pada konfigurasi.

Membuat konfigurasi baru

Konsol

Buat konfigurasi workstation baru dengan GPU dari Konsol Google Cloud, dengan melakukan hal berikut:

  1. Di konsol Google Cloud, buka halaman Workstation configurations.

    Buka konfigurasi Workstation

  2. Di halaman Workstation configurations, klik add_box Create.

  3. Pada langkah Basic information di halaman Create workstation configuration, tentukan nama untuk konfigurasi Anda di kolom Name.

    Di kolom Workstation cluster, pilih cluster di region yang dipilih.

    Klik Continue untuk melanjutkan ke langkah Machine settings.

  4. Pada langkah Machine settings di halaman Create workstation configuration, mulailah dengan mengklik tombol untuk memilih GPUs, bukan kelompok mesin General tujuan.

    1. Kemudian, di kolom Zones, pilih kotak centang di samping dua zona tempat model GPU yang Anda pilih tersedia (lihat tabel ketersediaan GPU.

    2. Di kolom GPU type, pilih Model GPU yang ingin Anda gunakan.

    3. Di kolom Jumlah GPU, pilih jumlah kartu GPU yang ingin Anda pasang ke setiap workstation.

    4. Di kolom Machine type, pilih jenis mesin yang kompatibel.

  5. Klik Continue untuk mengonfigurasi setelan Lingkungan dan kebijakan IAM sebelum mengklik Create untuk menyediakan konfigurasi workstation baru.

gcloud

Buat konfigurasi workstation baru dengan GPU menggunakan CLI gcloud, dengan menjalankan perintah gcloud workstations configs create.

  • Untuk GPU NVIDIA A100 40 GB, jalankan perintah ini untuk membuat konfigurasi Anda:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=A2_MACHINE_TYPE
    

    Ganti kode berikut:

    • PROJECT_ID: ID project yang akan berisi konfigurasi workstation baru.
    • LOCATION: lokasi cluster workstation tempat konfigurasi akan berada.
    • WORKSTATION_CLUSTER_ID: cluster nama workstation yang akan berisi konfigurasi workstation baru.
    • WORKSTATION_CONFIG_ID: nama konfigurasi workstation baru.
    • REPLICA_ZONES: tepat dua zona di region cluster tempat model GPU yang dipilih tersedia (misalnya, us-central1-a,us-central1-c).
    • A2_MACHINE_TYPE: jenis mesin seri A2 yang dipilih (misalnya, a2-highgpu-1g).
  • Untuk semua model GPU lainnya, jalankan perintah ini untuk membuat konfigurasi Anda:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=N1_MACHINE_TYPE \
      --accelerator-type=ACCELERATOR_TYPE \
      --accelerator-count=ACCELERATOR_COUNT
    

    Ganti kode berikut:

    • PROJECT_ID: ID project yang akan berisi konfigurasi workstation baru.
    • LOCATION: lokasi cluster workstation tempat konfigurasi akan berada.
    • WORKSTATION_CLUSTER_ID: cluster nama workstation yang akan berisi konfigurasi workstation baru.
    • WORKSTATION_CONFIG_ID: nama konfigurasi workstation baru.
    • REPLICA_ZONES: tepat dua zona di region cluster tempat model GPU yang dipilih tersedia (misalnya, us-central1-a,us-central1-c).
    • N1_MACHINE_TYPE: jenis mesin seri N1 yang dipilih (misalnya, n1-standard-2).
    • ACCELERATOR_TYPE: nama model GPU yang dipilih (misalnya, nvidia-tesla-t4).
    • ACCELERATOR_COUNT: jumlah GPU yang dipasang ke setiap workstation (misalnya, 1, 2, 4).

Driver perangkat GPU NVIDIA

Cloud Workstations menginstal driver perangkat NVIDIA pada VM host workstation selama startup VM.

Untuk mengetahui versi driver perangkat yang telah diinstal di workstation, jalankan perintah berikut:

nvidia-smi --query-gpu=name,driver_version --format=csv

Ketersediaan GPU berdasarkan region dan zona

Anda dapat menelusuri berdasarkan lokasi atau model GPU, atau kombinasi keduanya.

Zona Location Platform GPU
asia-east1-a Changhua County, Taiwan, Asia Pasifik (APAC) T4, P100
asia-east1-b Changhua County, Taiwan, Asia Pasifik (APAC)
asia-east1-c Changhua County, Taiwan, Asia Pasifik (APAC) T4, V100, P100
asia-east2-a Hong Kong, Asia Pasifik (APAC) T4
asia-east2-b Hong Kong, Asia Pasifik (APAC)
asia-east2-c Hong Kong, Asia Pasifik (APAC) T4
asia-northeast1-a Tokyo, Jepang, Asia Pasifik (APAC) A100 40GB, T4
asia-northeast1-b Tokyo, Jepang, Asia Pasifik (APAC)
asia-northeast1-c Tokyo, Jepang, Asia Pasifik (APAC) A100 40GB, T4
asia-south1-a Mumbai, India, Asia Pasifik (APAC) T4
asia-south1-b Mumbai, India, Asia Pasifik (APAC) T4
asia-south1-c Mumbai, India, Asia Pasifik (APAC)
asia-southeast1-a Jurong West, Singapura, Asia Pasifik (APAC) T4
asia-southeast1-b Jurong West, Singapura, Asia Pasifik (APAC) A100 40GB, T4, P4
asia-southeast1-c Jurong West, Singapura, Asia Pasifik (APAC) A100 40GB, T4, P4
australia-southeast1-a Sydney, Australia, Asia Pasifik (APAC) T4, P4
australia-southeast1-b Sydney, Australia, Asia Pasifik (APAC) P4
australia-southeast1-c Sydney, Australia, Asia Pasifik (APAC) T4, P100
europe-north1-a
europe-north1-b
europe-north1-c
Hamina, Finlandia, Eropa
europe-west1-b St. Ghislain, Belgia, Eropa T4, P100
europe-west1-c St. Ghislain, Belgia, Eropa T4
europe-west1-d St. Ghislain, Belgia, Eropa P100, T4
europe-west2-a
europe-west2-b
London, Inggris, Eropa T4
europe-west2-c London, Inggris, Eropa
europe-west3-a Frankfurt, Jerman, Eropa
europe-west3-b Frankfurt, Jerman, Eropa T4
europe-west3-c Frankfurt, Jerman, Eropa
europe-west4-a Eemshaven, Belanda, Eropa A100 40GB, T4, V100, P100
europe-west4-b Eemshaven, Belanda, Eropa A100 40GB, T4, P4, V100
europe-west4-c Eemshaven, Belanda, Eropa T4, P4, V100
europe-west6-a
europe-west6-b
europe-west6-c
Zurich, Swiss, Eropa
europe-west8-a
europe-west8-b
europe-west8-c
Milan, Italia, Eropa
europe-west9-a
europe-west9-b
europe-west9-c
Paris, Prancis, Eropa
europe-west12-a
europe-west12-b
europe-west12-c
Turin, Italia, Eropa
europe-southwest1-a
europe-southwest1-b
europe-southwest1-c
Madrid, Spanyol, Eropa
me-west1-a Tel Aviv, Israel, Timur Tengah
me-west1-b Tel Aviv, Israel, Timur Tengah A100 40GB, T4
me-west1-c Tel Aviv, Israel, Timur Tengah A100 40GB, T4
northamerica-northeast1-a Montréal, Québec, Amerika Utara P4
northamerica-northeast1-b Montréal, Québec, Amerika Utara P4
northamerica-northeast1-c Montréal, Québec, Amerika Utara T4, P4
southamerica-west1-a
southamerica-west1-b
southamerica-west1-c
Santiago, Cile, Amerika Selatan
us-central1-a Council Bluffs, Iowa, Amerika Utara A100 40GB, T4, P4, V100
us-central1-b Council Bluffs, Iowa, Amerika Utara A100 40GB, T4, V100
us-central1-c Council Bluffs, Iowa, Amerika Utara A100 40GB, T4, P4, V100, P100
us-central1-f Council Bluffs, Iowa, Amerika Utara A100 40GB, T4, V100, P100
us-east1-b Moncks Corner, South Carolina, Amerika Utara A100 40GB, P100
us-east1-c Moncks Corner, South Carolina, Amerika Utara T4, V100, P100
us-east1-d Moncks Corner, South Carolina, Amerika Utara T4
us-east4-a Ashburn, Virginia, Amerika Utara T4, P4
us-east4-b Ashburn, Virginia, Amerika Utara T4, P4
us-east4-c Ashburn, Virginia, Amerika Utara T4, P4
us-west1-a The Dalles, Oregon, Amerika Utara T4, V100, P100
us-west1-b The Dalles, Oregon, Amerika Utara A100 40GB, T4, V100, P100
us-west1-c The Dalles, Oregon, Amerika Utara

Langkah selanjutnya