• Przejdź do treści
  • Przejdź to drugiego menu
  • Przejdź do głównego paska bocznego
  • Przejdź do stopki
  • START
  • BLOG
  • NEWSLETTER
  • KIM JESTEM
  • KONTAKT
Cegładanych

Cegładanych

Dane - Databricks i Chmura Azura

  • Azure
  • Databricks
  • Spark
  • Etl
  • Engineering
  • AI

Czy to koniec z Big Data? 🚄

23.11.2024 Krzysztof Nojman

JAK WYBRAĆ TECHNOLOGIĘ W AZURE
Przy nauce Azure dobrze jest wiedzieć jak dobrać odpowiednią usługę dopasowaną do problemu. Sam nie raz zetknąłem się z nieodpowiednim użyciem narzędzi. Na szczęście jest pomocna dłoń, poniżej link do infografiki, która podpowie Ci jak dobrać narzędzia i czym się kierować. To bardzo przydatna checklista. 

Azure Technology Guidance.pdf
CZY TO KONIEC BIG DATATrafiłem na bardzo ciekawy artykuł człowieka, który był jednym z inżynierów tworzących Google BigQuery. Ma bardzo ciekawą obserwację dotyczącą Big Data. A właściwie to brak dużych danych w większości firm. Tak na prawdę analizuje się garstkę świeżych danych.Z moich obserwacji ma to sens, a czy ty się z tym zgodzisz?Główne punkty:Większość firm nie ma tak dużo danych.Obliczenia są znacznie mniejsze niż kompletna ilość danych.Klienci z dużą ilością danych analizują tylko ich część.Częściej analizowane są dane świeże niż stare.Dane to koszty i zobowiązanie.

Big Data is dead

DATABRICKS i VS CODE
Jeśli pracujesz w Azure to pewnie zetknąłeś się z Visual Studio Code – to bardzo fajne narzędzie. Teraz ma nowy plugin do Databricksów.Dzięki niemu możesz się bezpiecznie podłączyć do środowiska Databricks, klastra, danych.
Możesz uruchomić lokalny plik na klastrze. Do tej pory mogłeś to zrobić w Databricks Connect.VS Code Databricks extensionDatabricks Connect
SSIS DOSTĘPNE W SYNAPSE ANALYTICS
SSIS to narzędzie do przetwarzania i integracji danych, które jest wbudowane w ekosystem SQL Server. Zasila tysiące hurtowni danych na świecie opartych o SQL Server. Jako inżynier danych możesz się z nim zetknąć jeśli pracujesz on-premise lub podczas migracji do chmury.Azure-SSIS Integration Runtime jest teraz ogólnodostępne w Azure Synapse Analytics. Do tej pory mogłeś go użyć tylko w Azure Data Factory.

Jego możliwości to:Uruchamianie pakietów w katalogu SSIS (SSISDB) hostowanego przez serwer Azure SQL Database/Managed Instance.Uruchamianie pakietów zdeployowanych do Azure Files.

Azure-SSIS Integration Runtime in Azure SynapseSQL Server Integration Services
NOWOŚĆI W AZURE DATA FACTORY
Każdy inżynier danych pracujący w Azure musi znać ADF, czyli główne narzędzie do integracji danych. Jeśli nie wiesz co to jest to koniecznie się z nim zapoznaj. Poniżej link to fajnego nagrania. Ja go używam bardzo często chociaż nie zawsze jest bardzo efektywny, o tym artykuły (linki poniżej).

Azure Data Factory TutorialAzure Data Factory January 2023 Monthly UpdateJak oszczędzilem 8000-zl klientowi i nie użyłem ADF11 rzeczy których należy unikać przy pracy z Azure Data Factory

W kategorii:Newsletter

Big Data ebook
Subskrybuj
Powiadom o
guest

guest

0 Komentarze
Najstarsze
Najnowsze Najwięcej głosów
Opinie w linii
Zobacz wszystkie komentarze

Pierwszy panel boczny

O MNIE

Narzędzia i dobre procesy do przetwarzania danych to podstawa sukcesu i wartości dla firmy. Czytaj więcej…

big data ebook

Ostatnie wpisy

spark joins

Jak Spark robi join?

13.01.2025 By Krzysztof Nojman

Czy JSON to samo zło

04.01.2025 By Krzysztof Nojman

VS Code nowości AI 

09.12.2024 By Krzysztof Nojman

Linki społecznościowe

  • Facebook
  • GitHub
  • LinkedIn
  • YouTube

Wyszukiwanie

Footer

Najnowsze wpisy

  • Jakość danych w Databricks DQX
  • Jak Spark robi join?
  • Czy JSON to samo zło
  • VS Code nowości AI 
  • Lista narzędzi AI dla każdego inżyniera, które warto znać
  • Kilka pomysłów na konfigurację Databricks
  • Co pamięta wykonawca (executor🧠)

Tagi

AI Apache Spark Architektura Azure BIg Data Certyfikat cloud Databricks Data Factory Dataframe DQX ETL Hurtownia Danych Intellij IoT Jaka technologia Join Kod Konfiguracja lakehouse Narzędzia Optymalizacja pyspark Spark Windows 10 zadania

Informacje Prawne

To jest nudna część lecz wymagana, wszystkie notki prawne o stronie znajdziecie tutaj.

Polityka Prywatności

Regulamin

Copyright © 2025 · Wszelkie prawa zastrzeżone. Krzysztof Nojman

wpDiscuz