Logs mit BigQuery analysieren

BigQuery ist ein leistungsstarkes Tool für Analysen. Sie können damit Logs langfristig speichern und SQL-ähnliche Abfragen für die Daten ausführen. Wenn Sie BigQuery für die Analyse verwenden möchten, müssen Sie Ihre Logs explizit an BigQuery weiterleiten, wie im nächsten Abschnitt beschrieben.

Logs an BigQuery weiterleiten

  1. Erstellen Sie im Log-Explorer einen Filter, mit dem die Fleet Engine-Logs isoliert werden: Fleetengine.googleapis.com/Fleet.
  2. Klicken Sie im Bereich „Abfrageergebnisse“ auf das Menü Aktionen oder Weitere Aktionen und wählen Sie Senke erstellen aus.
  3. Geben Sie einen Senkennamen an, z. B. FleetEngineLogsSink. Klicken Sie auf Weiter.
  4. Wählen Sie unter Senkenziel die Option BigQuery-Dataset aus.
  5. Wählen Sie unter BigQuery-Dataset auswählen die Option Neues BigQuery-Dataset erstellen aus.
  6. Geben Sie im Dialogfeld Dataset erstellen eine Dataset-ID ein.
  7. Übernehmen Sie für alle anderen Einstellungen den Standardwert und klicken Sie auf Dataset erstellen.
  8. Weitere Informationen finden Sie unter Partitionierte Tabellen verwenden. Klicken Sie auf Weiter.
  9. Lassen Sie Logs auswählen, die in der Senke enthalten sind und Auswählen zum Filtern aus der Senke unverändert.
  10. Klicken Sie auf Senke erstellen.

Die Logs sollten jetzt in das BigQuery-Dataset aufgenommen werden. Das kann einige Zeit dauern. Weitere Informationen finden Sie unter Logs an unterstützte Ziele weiterleiten.

Sobald Sie Logdaten an BigQuery weiterleiten, werden automatisch mehrere Tabellen im Dataset FleetEngineLogs ausgefüllt, eine für jeden Logtyp:

  • CreateVehicle
  • GetVehicle
  • ListVehicles
  • SearchVehicles
  • UpdateVehicle
  • CreateTrip
  • GetTrip
  • UpdateTrip
  • ListTrips

Die Tabellennamen folgen dem folgenden Muster:

project_id.data_set.log_name

Wenn das Projekt beispielsweise test-project heißt und der Dataset-Name FleetEngineLogs ist, hat die Tabelle CreateTrip den folgenden Namen:

test-project.FleetEngineLogs.fleetengine_googleapis_com_create_trip

Beispielabfragen für BigQuery

In den folgenden Beispielabfragen sehen Sie, wie Sie in BigQuery nach verschiedenen Logeinträgen suchen können.

Anzahl der CreateTrips-Logs, gruppiert nach Stunde

    SELECT TIMESTAMP_TRUNC(timestamp, HOUR) as hour,
           count(*) as num_trips_created
    FROM
    `ProjectId.FleetEngineLogs.fleetengine_googleapis_com_create_trip`
    GROUP BY hour
    ORDER by hour

Anzahl der Stopps pro Fahrzeug und Stunde

    SELECT
      jsonpayload_v1_updatevehiclelog.request.vehicleid AS vehicle,
      TIMESTAMP_TRUNC(timestamp, HOUR) AS hour,
      COUNT(*) AS num_stops
    FROM
      `ProjectId.FleetEngineLogs.fleetengine_googleapis_com_update__vehicle`
    WHERE
    ARRAY_LENGTH(jsonpayload_v1_updatevehiclelog.request.vehicle.remainingvehiclejourneysegments) > 0
    AND jsonpayload_v1_updatevehiclelog.request.vehicle.remainingvehiclejourneysegments[
    OFFSET
    (0)].stop.state = 'VEHICLE_STOP_STATE_LOG_ARRIVED'
    GROUP BY
    1,
    2
    ORDER BY
    2

Mit dieser Abfrage können Sie beispielsweise Folgendes herausfinden:

  • Fahrzeug A hat in Stunde 12 zehn Haltestellen und in Stunde 13 acht Haltestellen angefahren.
  • Fahrzeug B hat in Stunde 11 fünf und in Stunde 12 sieben Stopps eingelegt.
  • Fahrzeug C hat in Stunde 13 12 Haltestellen und in Stunde 14 9 Haltestellen angefahren.

Weitere Informationen

BigQuery in Looker Studio einbinden

BigQuery lässt sich in Business Intelligence-Tools einbinden, um Dashboards für die Unternehmensanalyse zu erstellen. Siehe Looker Studio.

Im folgenden Beispiel wird gezeigt, wie Sie ein Looker Studio-Dashboard erstellen, um Fahrten und Fahrzeugbewegungen auf einer Karte zu visualisieren.

  1. Erstellen Sie ein neues Looker Studio-Dashboard und wählen Sie BigQuery als Datenverbindung aus.
  2. Wählen Sie Benutzerdefinierte Abfrage aus und geben Sie das Cloud-Projekt, das abgerechnet werden soll, manuell ein oder wählen Sie es aus.
  3. Geben Sie eine der folgenden Abfragen in das Abfragefeld ein.

Beispielabfrage für On-Demand-Fahrten

    SELECT
     timestamp,
     labels.vehicle_id,
    jsonpayload_v1_updatevehiclelog.response.lastlocation.location.latitude AS lat,
    jsonpayload_v1_updatevehiclelog.response.lastlocation.location.longitude AS lng
    FROM
    `ProjectId.TableName.fleetengine_googleapis_com_update_vehicle`

Beispielabfrage für geplante Aufgaben

    SELECT
    labels.delivery_vehicle_id,
    jsonpayload_v1_updatedeliveryvehiclelog.response.lastlocation.rawlocation.longitude as lat, jsonpayload_v1_updatedeliveryvehiclelog.response.lastlocation.rawlocation.latitude as lng
    FROM `ProjectID.TableName.fleetengine_googleapis_com_update_delivery_vehicle`
  1. Wählen Sie Blasenkarte als Diagrammtyp und dann das Feld Standort aus.
  2. Wählen Sie Feld hinzufügen aus.
  3. Geben Sie einen Namen für das Feld ein und fügen Sie die folgende Formel hinzu: CONCAT(lat, ",", lng).
  4. Legen Sie den Typ auf Geo –> Breitengrad, Längengrad fest.
  5. Sie können dem Dashboard Steuerelemente hinzufügen, um Daten zu filtern. Wählen Sie beispielsweise den Filter Zeitraum aus.
  6. Bearbeiten Sie das Feld „Zeitraum“, um einen Standardzeitraum auszuwählen.
  7. Sie können zusätzliche Drop-down-Listen für vehicle_id hinzufügen. Mit diesen Steuerelementen können Sie die Bewegung des Fahrzeugs oder die Bewegung während einer Fahrt visualisieren.

Looker Studio-Beispielausgabe:

Looker Studio-Beispielausgabe

Nächste Schritte

Informationen zur Einhaltung von Datenaufbewahrungsrichtlinien finden Sie unter Aufbewahrung von Logs einschränken.