Se connecter à BigQuery
Conditions préalables
Référence SKU Analytics 2.0.
Accès à Google Cloud Plateforme (GCP).
Autorisations requises sur Delta Share et BigQuery.
Téléchargez le lot compressé à partir de l’outil Analytics niveau Entreprise (via Analytics > Mise en route > Options de connexion > BigQuery).
Escalier
Configurer la configuration
Delta Share Configuration
Créez un fichier nommé config.share avec vos identifiants Delta Share au format JSON.
Obtenir les champs obligatoires.
Remarque : Ces informations peuvent être obtenues à partir de l’application Web Analytics.bearerToken : Votre jeton d’accès Delta Share.
Point d’arrivée : Votre URL de point de terminaison Delta Share.
shareCredentialsVersion : Numéro de version (actuellement 1).
Exemple de fichier config.share
{
« shareCredentialsVersion » : 1,
« bearerToken » : « »,
« endpoint » : « »
}
BigQuery Configuration
Téléchargez la grande requête. fichier zip à partir de l’application Web Analytics.
Remarque : Vous pouvez télécharger le lot compressé à partir de l’outil Analytics niveau Entreprise (via Analytics > Mise en route > Options de connexion > BigQuery).Extrayez le lot dans le répertoire de votre choix.
Ouvrez le fichier config.yaml et modifiez les paramètres suivants :
source_config.chemin_de_configuration : Chemin d’accès au fichier de configuration Delta Share.
source_config.tables : Liste facultative des tables spécifiques à traiter. Laissez-le vide pour traiter toutes les tables.
target_config.id_projet : ID de projet GCP pour BigQuery.
target_config.dataset : Nom du jeu de données BigQuery.
target_config.threads : Nombre de processus de table simultanés.
Exemple de fichier config.yaml
source_config :
config_path : « <path_to_delta_share_config>»
tables : # Facultatif - liste des tables spécifiques à traiter
- « Table1 »
- « Table2 »
target_config :
project_id : «<your-gcp-project-id><bigquery-dataset-name>»
jeu de données : « »
target_type : bigquery
Charger le fichier de configuration
Chargez les fichiers config.yaml et config.share dans le compartiment gs.
Stockage Google Cloud (GCS)
Utilisez le format : gs://bucket-name/path/to/config.yaml.
Exécuter l’application BigQuery
Créez un notebook Python et installez les lots suivants :
%pip install delta-sharingpip install pandas-gbq -U
Copiez le code de
delta_share_to_bq.py, collez-le dans votre notebook, mettez à jour le chemin de configuration (config.yaml), et exécutez-le.
Surveillance et journalisation
L’application fournit une journalisation détaillée avec :
Statut de traitement pour chaque table.
Messages d’erreur et exceptions.
Traitement simultané de l’information.
Meilleures pratiques
Optimisation des performances
Ajustez le nombre de threads en fonction des ressources système.
Surveillez l’utilisation de la mémoire à l’aide de grands tableaux.
Tenez compte de la taille des tables lors du paramètre de processus simultanés.
Gestion des erreurs
Surveillez les journaux des applications.
Configurez les alertes appropriées.
Maintenez les configurations de sauvegarde.
Dépannage
Problèmes courants et solutions :
Échecs de connexion
Vérifiez la connectivité réseau.
Vérifiez la validité des informations d’identification.
Confirmez les autorisations du compte de service.
Erreurs de traitement
Vérifiez l’existence de la table.
Vérifiez les autorisations d’accès à la table.
Validez les paramètres de configuration.
Problèmes de performance
Réduisez les threads simultanés.
Surveillez les ressources système.
Soutien
Pour obtenir de l’aide supplémentaire :
Consultez les registres d’application pour plus de détails sur les erreurs.
Vérifiez les paramètres de configuration.
Assurez-vous que toutes les conditions préalables sont remplies.
Contactez votre administrateur système pour les problèmes liés aux autorisations.