Cloud Monitoring

O Cloud Monitoring fornece visibilidade o desempenho, o tempo de atividade e a integridade geral de aplicativos com tecnologia de nuvem. O Google Cloud Observability coleta e ingere métricas, eventos e metadados de Serviços do Dataproc Metastore para gerar insights usando painéis e gráficos.

Acessar métricas de serviço no Monitoring

As métricas do recurso de serviço do metastore do Dataproc são ativadas automaticamente nos serviços do metastore do Dataproc. Use o Monitoring para ver essas métricas.

É possível acessar o Monitoring Console do Google Cloud ou usando a API Monitoring.

Console

  1. No console do Google Cloud, acesse Cloud Monitoring > Página "Metrics Explorer":

    Acessar a página do Metrics Explorer

  2. Na lista suspensa "Encontre o tipo de recurso e métrica", selecione o recurso Dataproc Metastore Service.

  3. Clique novamente na caixa de entrada e selecione uma métrica na lista suspensa. Passe o cursor do mouse sobre o nome da métrica para ver informações sobre ela.

Você pode selecionar filtros, agrupar por marcadores de métricas, executar agregações e selecionar opções de exibição de gráficos.

REST

Você pode usar a API timeSeries.list do Monitoring para capturar e listar métricas definidas por uma expressão filter. Use o modelo Try this API na página da API para enviar uma solicitação de API e exibir a resposta.

Métricas de serviço do metastore do Dataproc no Monitoring

Métricas do metastore do Dataproc. Fases de lançamento dessas métricas: BETA GA

As strings "tipo de métrica" nesta tabela precisam ser prefixadas com metastore.googleapis.com/. Esse prefixo foi omitido das entradas na tabela. Ao consultar um rótulo, use o prefixo metric.labels.. por exemplo, metric.labels.LABEL="VALUE".

Tipo de métrica Etapa do lançamento
Nome de exibição
Classe, Tipo, Unidade
Recursos monitorados
Descrição
Rótulos
federation/server/request_count BETA
Contagem de solicitações do serviço de federação
DELTAINT64{request}
metastore.googleapis.com/Federation
O número de solicitações enviadas ao serviço do metastore federado do Dataproc.
method_name: O nome do método da solicitação.
status: Status de término da solicitação, [success, client_error, server_error].
version: A versão do metastore Hive do serviço.
service/grpc/finished_requests_count BETA
Contagem de solicitações gRPC concluídas
DELTAINT641
metastore.googleapis.com/Service
O número de solicitações concluídas pelo serviço do metastore GRPC do Dataproc.
tier: Nível de serviço ou tamanho da instância do serviço, como ENTERPRISE.
version: A versão do metastore Hive do serviço.
status: O status da solicitação, como "BAD_REQUEST".
method_name: O nome do método da solicitação.
service/grpc/received_bytes_count BETA
Bytes de gRPC recebidos
DELTAINT64By
metastore.googleapis.com/Service
Número de bytes recebidos pelo serviço Metastore do Dataproc.
tier: Nível de serviço ou tamanho da instância do serviço.
version: A versão do metastore Hive do serviço.
service/grpc/request_latencies BETA
Latências de solicitação gRPC
DELTADISTRIBUTIONms
metastore.googleapis.com/Service
Distribuição de latências de solicitação gRPC para um serviço Metastore do Dataproc.
tier: Nível de serviço ou tamanho da instância do serviço.
version: A versão do metastore Hive do serviço.
status: O status da solicitação, como "BAD_REQUEST".
method_name: O nome do método da solicitação.
service/grpc/sent_bytes_count BETA
Bytes de gRPC enviados
DELTAINT64By
metastore.googleapis.com/Service
Número de bytes enviados pelo serviço Metastore do Dataproc.
tier: Nível de serviço ou tamanho da instância do serviço.
version: A versão do metastore Hive do serviço.
service/grpc/started_requests_count BETA
Contagem de solicitações gRPC iniciadas
DELTAINT641
metastore.googleapis.com/Service
O número de solicitações recebidas e iniciadas pelo serviço GRPC Dataproc Metastore.
tier: Nível de serviço ou tamanho da instância do serviço.
version: A versão do metastore Hive do serviço.
method_name: O nome do método da solicitação.
service/grpc_client/finished_requests_count BETA
Contagem concluída de solicitações do cliente gRPC
CUMULATIVEINT641
metastore.googleapis.com/Service
Número total de RPCs concluídas no cliente, independentemente de sucesso ou falha.
status: O status da solicitação, como "BAD_REQUEST".
method_name: O nome do método da solicitação.
service/grpc_client/received_bytes_count BETA
Bytes do cliente gRPC recebidos
CUMULATIVEINT64By
metastore.googleapis.com/Service
Número de bytes recebidos pelo cliente gRPC.
service/grpc_client/request_latencies BETA
Latências de solicitação do cliente gRPC
CUMULATIVEDISTRIBUTIONms
metastore.googleapis.com/Service
Distribuição de latências de solicitação gRPC para um serviço Metastore do Dataproc.
status: O status da solicitação, como "BAD_REQUEST".
method_name: O nome do método da solicitação.
service/grpc_client/sent_bytes_count BETA
Bytes do cliente gRPC enviados
CUMULATIVEINT64By
metastore.googleapis.com/Service
Número de bytes enviados pelo cliente gRPC.
service/grpc_client/started_requests_count BETA
Contagem de solicitações do cliente gRPC iniciadas
CUMULATIVEINT641
metastore.googleapis.com/Service
O número de solicitações iniciadas pelo cliente gRPC.
method_name: O nome do método da solicitação.
service/health GA
Integridade do serviço
GAUGEINT641
metastore.googleapis.com/Service
A integridade do serviço Metastore do Dataproc.
tier: Nível de serviço ou tamanho da instância do serviço, como ENTERPRISE.
version: A versão do metastore Hive do serviço.
release_tag: Tag de versão do Dataproc Metastore, preenchida pelo back-end do serviço e pode mudar ao longo do ciclo de vida do serviço.
service/multi_region/health GA
Integridade do serviço multirregional
GAUGEINT641
metastore.googleapis.com/Service
A integridade do serviço multirregional do metastore do Dataproc.
version: A versão do metastore Hive do serviço.
release_tag: Tag de versão do Dataproc Metastore, preenchida pelo back-end do serviço e pode mudar ao longo do ciclo de vida do serviço.
service_region: A região constituinte em que o serviço Metastore do Dataproc está hospedado.
scaling_factor: Fator de escalonamento do serviço, um de [0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1.0, 2.0, 3.0, 4.0, 5.0, 6.0].
service/multi_region/request_count GA
Contagem de solicitações de serviço multirregional
DELTAINT64{request}
metastore.googleapis.com/Service
O número de solicitações enviadas ao serviço multirregional do metastore do Dataproc.
method_name: O nome do método da solicitação.
version: A versão do metastore Hive do serviço.
service_region: A região constituinte em que o serviço Metastore do Dataproc está hospedado.
scaling_factor: Fator de escalonamento do serviço, um de [0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1.0, 2.0, 3.0, 4.0, 5.0, 6.0].
service/multi_region/request_latencies GA
Latências de solicitação de serviço multirregional
DELTADISTRIBUTIONms
metastore.googleapis.com/Service
As latências das solicitações enviadas ao serviço multirregional do metastore do Dataproc.
method_name: O nome do método da solicitação.
version: A versão do metastore Hive do serviço.
service_region: A região constituinte em que o serviço Metastore do Dataproc está hospedado.
scaling_factor: Fator de escalonamento do serviço, um de [0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1.0, 2.0, 3.0, 4.0, 5.0, 6.0].
service/query_metadata/request_count BETA
Contagem de solicitações para a interface do administrador
DELTAINT64{request}
metastore.googleapis.com/Service
O número de solicitações da interface do administrador.
database_type: O tipo de banco de dados, um de [SQL, Spanner].
code: O código de status do gRPC.
service/query_metadata/request_latencies BETA
Latência de solicitação da interface do administrador
DELTADISTRIBUTIONms
metastore.googleapis.com/Service
A latência de solicitações de ponta a ponta para solicitações da interface do administrador.
database_type: O tipo de banco de dados, um de [SQL, Spanner].
code: O código de status do gRPC.
service/request_count GA
Contagem de solicitações
DELTAINT64{request}
metastore.googleapis.com/Service
O número de solicitações enviadas ao serviço Metastore do Dataproc.
method_name: O nome do método da solicitação.
version: A versão do metastore Hive do serviço.
service/scheduled_backups/backup_count BETA
Contagem de backups programados
DELTAINT641
metastore.googleapis.com/Service
O número de backups programados atualmente armazenados para o serviço.
state: O estado do backup, [SUCCEEDED, FAILED, IN_PROGRESS].
database_type: O tipo de banco de dados, um de [SQL, Spanner].
version: A versão do metastore Hive do serviço.
service/scheduled_backups/last_backup_duration BETA
Backups programados – Duração do último backup
GAUGEINT64s
metastore.googleapis.com/Service
A duração do último backup programado com êxito em segundos. Amostras coletadas a cada 60 segundos. Após a amostragem, os dados não são visíveis por até 120 segundos.
state: O estado do backup, [SUCCEEDED, FAILED, IN_PROGRESS].
database_type: O tipo de banco de dados, um de [SQL, Spanner].
version: A versão do metastore Hive do serviço.
service/scheduled_backups/last_backup_size BETA
Solicitação de backups programados: tamanho do último backup
GAUGEINT64By
metastore.googleapis.com/Service
O tamanho do último backup programado bem-sucedido em bytes. Amostras coletadas a cada 60 segundos. Após a amostragem, os dados não são visíveis por até 120 segundos.
state: O estado do backup, [SUCCEEDED, FAILED, IN_PROGRESS].
database_type: O tipo de banco de dados, um de [SQL, Spanner].
version: A versão do metastore Hive do serviço.

Tabela gerada em 2024-07-25 13:55:28 UTC.

Criar um painel personalizado do Monitoring

É possível criar um painel personalizado do Monitoring com gráficos de métricas do serviço Metastore do Dataproc selecionadas.

  1. Selecione + CREATE DASHBOARD na página Dashboards Overview do Monitoring.

  2. Dê um nome ao painel.

  3. No menu superior direito, clique em Adicionar gráfico para abrir a janela "Adicionar gráfico".

  4. Para o tipo de recurso, selecione Dataproc Metastore Service.

  5. Selecione uma ou mais métricas e propriedades. Depois clique em Salvar para salvar o gráfico.

  6. Se quiser, adicione outros gráficos ao seu painel.

  7. Para salvar o dashboard, clique em Salvar . O título é exibido na página Visão geral dos painéis do Monitoring.

É possível visualizar, atualizar e excluir gráficos do painel na página de exibição do painel.

Usar alertas do Monitoring

É possível criar um alerta do Monitoring para notificar você quando um serviço ou armazenamento de job do metastore do Dataproc ultrapassar um limite especificado.

Crie um alerta

  1. No console do Google Cloud, abra Monitoramento de alertas.

  2. Para abrir o formulário Criar nova política de alertas, clique em + CRIAR POLÍTICA.

  3. Para definir um alerta, adicione condições de alerta, acionadores de política, canais de notificação e documentação.

  4. Selecione ADD CONDITION para abrir o formulário de condição de alerta com a guia "Metric" selecionada.

  5. Preencha os campos para definir uma condição de alerta e clique em Adicionar.

  6. Depois de adicionar a condição de alerta, preencha a política de alerta configurando canais de notificação, acionadores de política, documentação e o nome da política de alerta.

Ver alertas

Quando um alerta é acionado por uma condição de limite de métrica, o Monitoring cria um incidente e um evento correspondente. É possível visualizar incidentes do Alertas de monitoramento no console do Google Cloud. O Monitoring também envia uma notificação do incidente se tiver sido definido na política de alerta algum mecanismo de notificação, como notificações por e-mail ou por SMS.

A seguir