Data Factory - Exact Online laden - maximaal aantal tegelijk

Middels Azure Data Factory halen wij momenteel een aantal tabellen op via de OData-URL van Invantive. Op dit moment halen wij de tabellen één voor één (in serie) op . Echter is het ook mogelijk om dit in parallel te doen. Dit scheelt veel tijd en zorgt er daarbij ook voor dat de data beter up to date is. Wordt het aangeraden om in parallel tabellen op te halen? Ik kan me namelijk voorstellen dat dit voor de load of iets dergelijks problemen kan geven. Het gaat om ca. 10 tabellen die in serie binnen 20 minuten opgehaald zijn.

Parallelle downloads op Invantive Bridge Online zijn standaard mogelijk. Het maximaal aantal gelijktijdige downloads is afhankelijk van het abonnement. Het Free Plan kent bijvoorbeeld maar maximaal 1 parallelle download, terwijl de meeste betaalde abonnementen er 4, 8 of 16 hebben.

Het maximaal aantal actieve downloads via Bridge Online is te vinden als “Number of parallel running Bridge Online requests” door te gaan naar de overeenkomst, de blauwe onderstreepte “Productcode” te kiezen en dan te zoeken op de tekst “Number of parallel running Bridge Online requests”.

Meer downloads tegelijk initiëren kan zonder gevolgen, anders dan dat alleen sommigen dan even in de wachtstand komen. Wachten in wachtstand door te veel parallelle downloads is te zien in Bridge Online Monitoring als “Vertraging op Maximale Capaciteit”.

In principe is de versnelling lineair: 2x zoveel downloads = 2x zo kort. Echter, hier zitten ook een aantal niet-lineaire elementen in zoals:

  • komt de data uit een cache of niet?
  • sneller downloaden dan de langste download kan niet als het gaat om 1 administratie (“3 vrouwen 1 baby in 3 maanden”),
  • achterliggende platformen kunnen ook snelheidslimieten hebben (op Exact Online het API-calls per minuut en per dag per administratie; als gaat om meerdere administraties vindt automatisch shuffling plaats om hot-spots te vermijden).

Deze vraag is automatisch gesloten na tenminste 2 weken inactiviteit nadat een mogelijk passend antwoord is gegeven. Het laatste gegeven antwoord is gemarkeerd als oplossing.

Gelieve een nieuwe vraag te stellen via een apart topic als het probleem opnieuw optreedt. Gelieve in de nieuwe vraag een link naar dit topic op te nemen door de URL er van in de tekst te plakken.