在Spark中,不同的RDD之間具有依賴的關系。RDD與它所依賴的RDD的依賴關系有兩種類型,分別是窄依賴(narrow dependency)和寬依賴(wide dependency)。 查看全文>>
大數(shù)據技術文章2021-01-05 |傳智教育 |spark RDD,RDD的兩種依賴關系
Spark Streaming提供了一個高級抽象的流,即DStream(離散流)。DStream表示連續(xù)的數(shù)據流,可以通過Kafka、Flume和Kinesis等數(shù)據源創(chuàng)建,也可以通過現(xiàn)有DStream的高級操作來創(chuàng)建。 查看全文>>
大數(shù)據技術文章2021-01-05 |傳智教育 |DStream,離散流,DStream是什么
Scala和Java類似,只允許繼承一個父類。不同的是,Java只能繼承父類中非私有的屬性和方法。而Scala可以繼承父類中的所有屬性和方法,子類擁有父類的所有特征。但是Scala在子類繼承父類的時候,有以下幾點需要注意: 查看全文>>
大數(shù)據技術文章2020-12-30 |傳智教育 |scala子類繼承父類,scala繼承
HDFS采用主從架構(Master/Slave架構)。HDFS集群分別是由一個NameNode和多個的 DataNode組成。其中,NameNode是HDFS集群的主節(jié)點,負責管理文件系統(tǒng)的命名空間以及客戶端對文件的訪問;DataNode是集群的從節(jié)點,負責管理它所在節(jié)點上的數(shù)據存儲。HDFS分布式文件系統(tǒng)中的NameNode和DataNode兩種角色各司其職,共同協(xié)調完成分布式的文件存儲服務。 查看全文>>
大數(shù)據技術文章2020-12-30 |傳智教育 |HDFS,NameNode分布式文件系統(tǒng),儲存架構
Hadoop是Apache基金會面向全球開源的產品之一,任何用戶都可以從Apache Hadoop 官網下載使用該產品。本書將以編寫時較為穩(wěn)定的Hadoop2.7.4版本為例,詳細講解Hadoop的安裝步驟。 查看全文>>
大數(shù)據技術文章2020-12-29 |傳智教育 |Hadoop安裝步驟,Hadoop安裝目錄的作用是什么
DAG(Directed Acyclic Graph)叫做有向無環(huán)圖,DAG是一種非常重要的圖論數(shù)據結構。如果一個有向圖無法從任意頂點出發(fā)經過若干條邊回到該點,則這個圖就是有向無環(huán)圖,接下來通過幾個例子,我們來詳細了解下DAG有無環(huán)向圖。 查看全文>>
大數(shù)據技術文章2020-12-29 |傳智教育 |DAG,有無環(huán)向圖,什么是DAG
Spark Streaming支持從多種數(shù)據源獲取數(shù)據,包括Kafka、Flume、Twitter、ZeroMQ、Kinesis 以及TCP Sockets數(shù)據源。當Spark Streaming從數(shù)據源獲取數(shù)據之后,則可以使用諸如map、reduce、join和window等高級函數(shù)進行復雜的計算處理,最后將處理的結果存儲到分布式文件系統(tǒng)、數(shù)據庫中為了可以深入的理解Spark Streaming,接下來,我們對對Spark Streaming的內部工作原理進行詳細講解。 查看全文>>
大數(shù)據技術文章2020-12-28 |傳智教育 |Spark Streaming,Spark Streaming工作原理
從0開始學習大數(shù)據課程,想了解linux、kettle、BI、mysql、從基礎到實踐,通過知識點 + 案例教學法幫助你想你想迅速掌握大數(shù)據。提取碼:ir0t 查看全文>>
大數(shù)據技術文章2020-12-23 |傳智教育 |大數(shù)據入門視頻教程