部署和端點

請注意，模型端點無法保證區域可用性或區域內的 ML 處理作業。如要瞭解資料落地設定，請參閱「資料落地」。

全域端點

為要求選取全球端點，可提升整體可用性，同時減少資源用盡 (429) 錯誤。如果您有機器學習處理需求，請勿使用全球端點，因為您無法控制或得知機器學習處理要求在提出時會傳送至哪個區域。

支援的模型

下列 Google 模型支援使用全球端點：

• Gemini 2.5 Flash-Lite
• Gemini 2.5 Pro
• Gemini 2.5 Flash
• Gemini 2.0 Flash
• Gemini 2.0 Flash-Lite

如要進一步瞭解合作夥伴模型，請參閱 Google Cloud 合作夥伴模型端點位置

使用全域端點

如要使用全域端點，請從端點名稱中排除位置，並將資源位置設定為 global。例如，以下是全域端點網址：

https://aiplatform.googleapis.com/v1/projects/test-project/locations/global/publishers/google/models/gemini-2.0-flash-001:generateContent

針對 Google Gen AI SDK，請建立使用 global 位置的用戶端：

client = genai.Client(
    vertexai=True, project='PROJECT_ID', location='global'
)

針對 Python 適用的 Vertex AI SDK，請使用 global 位置初始化 SDK：

import vertexai
from vertexai.generative_models import GenerativeModel

vertexai.init(project='PROJECT_ID', location='global')

限制

使用全球端點時，無法使用下列功能：

• 調整
• 批次預測
• 脈絡快取
• 檢索增強生成 (RAG) 語料庫 (支援 RAG 要求)

只有下列模型可使用全球端點搭配預先配置的輸送量：

Google 模型端點位置

Vertex AI 上的生成式 AI 適用的 Google 模型端點可在下列區域使用。

Google Cloud 合作夥伴模型端點位置

Google 會為您指定的區域提供要求服務。針對部分型號，Google 也提供全球端點 (預先發布版)，以提升整體可用性並降低錯誤率。全域端點可擁有與區域端點不同的配額組合，且不支援資料落地規定。詳情請參閱「MaaS 專用的 Vertex AI 合作夥伴模型」中的「區域和全域端點」一節。

Vertex AI 中的生成式 AI 合作夥伴模型端點可在下列區域使用：

後續步驟

• 如需全球端點的筆記本教學課程，請參閱「Vertex AI 全球端點簡介」。
• 進一步瞭解 Vertex AI 的資料居住地中的生成式 AI。
• 瞭解 Google Cloud 區域。
• 進一步瞭解各項功能的安全控管。
• 瞭解可在 Vertex AI 上提供生成式 AI 支援服務的模型。請參閱生成式 AI 基礎模型參考資料。
• 瞭解 Vertex AI 地點。