你想將所在地區設為 美國 並顯示 繁體中文 嗎?
更新設定關閉
關閉
登入/註冊
0 seconds of 0 secondsVolume 0%
Press shift question mark to access a list of keyboard shortcuts
鍵盤快捷鍵
播放/暫停空白鍵
音量增加↑
音量減少↓
快進 5 秒→
倒退 5 秒←
開啟/關閉字幕c
全螢幕/離開全螢幕f
靜音/取消靜音m
Decrease Caption Size-
Increase Caption Size+ or =
跳轉至%0-9
00:00
00:00
00:00
 
影片檔案無法播放(錯誤碼: 224003)
Danny

打造動態報表!雲端 Python 爬蟲資料流

學完本課程後,你將有能力獨自從 Python 爬蟲的開發,進入到利用雲端系統自動化的更新資料,並產出獨一無二的動態視覺化報表,真正掌握“資料到產品”的完整流程!
Hahow AI 學習升級
732 人已購買
4.9
(38)

關於課程

課程包含

包含 11 章 69 單元、2 項作業

課程時長

5 時 18 分鐘

課程總人數

732 位同學

觀看限制

不限觀看次數,還會附贈完課證書

學習升級

Hahow AI 學習助教
無需額外付費
即時問答、重點整理、測驗理解,讓知識派上用場

最新消息

課程內容

使用專屬連結購課,不用輸入折扣碼即可享有超值加碼贈送,包含 112 分鐘的 python+爬蟲入門內容。

📢📢📢 購課免費送 python 與爬蟲入門😍😍😍

要用 專屬連結 ▶▶ https://hahow.in/cr/data-pipeline 購買募資課,且【不能使用折扣碼】,才能取得免費影片喔!

購課後,請填單索取免費影片,並追蹤 FB 粉絲團

主標語「從資料爬蟲到產品之間,快速搭建橋樑!」搭配蜘蛛、文件與獎章線稿圖示,呈現將資料爬蟲成果連結至產品應用的概念。

作為資深資料工程師,深知爬蟲只是開始的第一步,要從爬蟲得到的資料一路到資料自動化更新,最終成為可以向顧客發表的視覺化動態報表,中間有太多需要一一克服的難關。然而作為初學者,難道沒有一個有效率、容易上手的解決方案嗎?

本課程就是為你量身打造,利用雲端資料流,從資料到產品之間,快速搭建橋樑!

許多爬蟲的應用都需要長期的資料蒐集才能顯現出資料的價值,例如比價網站,你必須持續蒐集價格資訊,才能呈現給用戶自己無法得知的資訊 - "商品在各通路的最低價格"

雖然市面上的爬蟲課程琳瑯滿目,但從未有人告訴你要如何持續地自動爬取資料,以及如何將爬到的資料打造成會不斷更新數據的視覺化報表,讓資料變成產品,與人分享你的爬蟲成果!

📢📢📢 超值加碼!

購課免費贈送【python 與爬蟲程式設計入門】 112 分鐘教學影片!

用 專屬連結 ▶▶ https://hahow.in/cr/data-pipeline 購買募資課,且【不能使用折扣碼】,才能取得免費影片喔!

「課程核心特色」標題置於深色藍紫漸層背景中央,背景隱約可見程式碼文字,周圍點綴十字星號裝飾。

課程內容 & 成果搶先看

★ 動態報表成果連結: https://datastudio.google.com/s/jNlCCmBYgkQ

  • 市面上唯一一堂帶你從資料蒐集到產品產出的課程,帶你一步步完成爬蟲長期監測,背後濃縮了講師多年資料工程師的技術心得,以及大量授課跨領域人才累積的經驗才誕生的全新課程
  • 學習完本課程後,你將有能力從 Python 爬蟲的開發,到產出即時更新數據的視覺化報表,真正完成從資料到產品的流程,而不再只是一次性蒐集資料的能力,自己一個人就能成功開發動態更新數據的資料產品!

講師 Danny 擁有 Qsearch 資料工程師與 Google 認證雲端架構師經歷,並擔任 Newsurvey 程式工作坊講師,累積超過 40 堂線上實作教學與演講。

經歷與背景
  • 現任 QSearch 資料工程師,擁有 Google 雲端架構師證照,負責設計與開發公司內大型社群媒體的雲端爬蟲系統
  • 台大化學系理論計算組碩士,畢業後至台大計算語言學研究室擔任研究助理,曾受邀擔任台大 CS+X 資料科學跨領域課程助教及大學相關課程講師,長期與台大人文社會領域師生技術合作
教學經驗

Newsurvey 程式工作坊講師,從 2016 年至今已開授超過四十堂課程,曾受邀為推動數位化轉型的知名媒體例如中央社、天下雜誌等,提供客製化的 Python 資料科學課程,進行實體小班互動教學。授課對象也包括沒有資訊背景、來自各領域的眾多工作者,由於課程採取深入的實作教學,深獲學生好評!

課程架構

資料流程從爬蟲開始,透過 Open Data、Web API 與 HTML 網頁取得資料,再以自動排程進行雲端爬取與儲存,最後串接 Data Studio 製作視覺化報表。

本堂線上課程,預計安排十大章節,利用案例帶大家如何建立屬於你的雲端爬蟲系統:

  • 課程挑選出最常碰到的三種資料來源:Open Data (表格/CSV 格式)、HTML&CSS 網頁以及 Web API (JSON格式),讓任何網路上的資料都能成為你的資料源
  • 每個單元都會從 Python 爬蟲程式開發開始,告訴你面對不同類型的資料時,要如何利用不同的爬取技巧來取得資料
  • 對應不同的資料類型爬蟲程式,教你如何串接雲端系統上的各項服務,自動化的在雲端上執行排程、爬取、儲存、視覺化等所有步驟,也就是一個完整的雲端資料流,從一次性的爬蟲任務進化為能夠持續更新數據的長期監測系統
  • 在雲端資料流的最後一步串接動態報表,讓數據不只是靜靜地待在你的資料庫,讓爬蟲長期監測系統化身為人人皆能理解的吸睛作品
  • 課程將以螢幕側錄操作畫面,並搭配程式教材一步步跟著講師實作
➢ 【案例一】COVID-19 ①|以 Python 爬蟲抓取 Open Data

以格式清爽的 Open Data 作為豐富的資料來源,畫面搭配深色程式碼背景、簡潔折線圖與資料標記,呈現開放資料與圖表視覺化的主題。

越來越多的政府和民間主動提供格式清爽的 Open Data,包含各式各樣過去難以獲取到的數據,像是台灣的政府資料開放平臺。

Open Data 本身是已經處理好的資料,不需要太多的處理,易於分析並從中獲得量化的價值,非常適合作為起點。

我將以約翰·霍普金斯大學提供的 COVID-19 世界疫情資料集為例,教導大家要如何自動化下載及處理 CSV 表格資料,並產出能隨時間推移變動的動畫長條圖表。

全球疫情數據儀表板選定國家為 US,顯示確診人數 5,913,941、死亡人數 181,800、康復人數 2,118,367;折線圖呈現 1月22日到8月29日的累計變化,並以地圖與圓環圖比較各國病例。

➢ 【案例二】Youtube Data API①|以 Python 爬蟲爬取 Web API 資料

主標題為「用 Web API 一窺社群面貌,以數據掌握熱門趨勢」,畫面搭配 100k 愛心數字與放大鏡圖示,呈現透過資料探索社群熱門話題的概念。

Web API 是一種相當常見,透過網路 http 協定提供服務的方式,而最常見到的便是提供資料的服務。

隨著社群網站的興起,許多大型社群網站如 Facebook、Twitter、Youtube 等累積了人類歷史上前所未見,極具價值的巨量用戶互動資料。這些社群網站都提供了各自的 Web API,有限度的開放資料,讓人們能夠一窺這些具有改變世界力量的資料的面貌。

在這個單元中我將以 Youtube Data API 為例,教導大家如何申請使用 API,以及如何自動化的透過 API 取得最新的資料,觀察熱門 Youtuber 的成長曲線。

YouTube Data API Reference 的「Videos: list」文件頁面,說明此方法可依 API 請求參數列出符合條件的影片,配額成本為 1 單位,並提供以 video ID 取得特定影片資訊的使用案例。

➢ 【案例三】新聞媒體①|以 Python 爬蟲抓取  HTML & CSS 網站資料

任何網頁都是你的資料來源,從 HTML 抓取感興趣內容;畫面以多個瀏覽器視窗與程式碼背景,呈現網頁資料擷取主題。

上述的 Open Data 以及 Web API 基本上都是別人整理好、格式化的資料,但並不是各個網站都有提供這樣的服務,因此非常多的時候必須要自己從網頁原始碼中將的資料提取出來。在這個單元中我會以大型新聞媒體網站,教導大家如何觀察網路資料傳輸過程以及網頁原始碼,藉此來提取出網頁中任何你感興趣的資料欄位,並繪製出新聞關鍵字文字雲。

鉅亨網台股資訊室介面,左側列出2020年9月17日至18日的台股新聞,右側呈現台積電(2330)走勢圖與報價,底部以文字雲整理台股、半導體、ETF等熱門關鍵詞。

新聞網站畫面以戴口罩、手持麥克風的防疫官員為主圖,標題為「增1例境外!女赴卡達染疫二採陰 返台腹瀉確診」,下方列出油品澄清與錢櫃KTV火災新聞,右側開啟 Chrome DevTools。

➢ 部署雲端資料流,自動更新資料|拆分工作流程,拓展雲端資料流|無痛進行大數據分析,挖掘資料流內的寶藏

「自動化雲端執行和儲存,超越靜態資料的侷限」作為主標,背景呈現模糊的終端機指令文字,搭配雲端下載圖示與垂直光線裝飾。

雲端系統能夠非常有效率的打造爬蟲長期監測系統的每個環節,從資料的抓取、處理、儲存,甚至是後續的數據分析都能自動化的完成,每日每夜不停歇地網羅最新數據。

Google Cloud Platform data pipeline 架構圖:Cloud Scheduler 觸發 Cloud Functions,將資料寫入 Cloud Storage,再傳送至 BigQuery;Cloud Storage 串接 Cloud Pub/Sub 與下方 Cloud Functions,錯誤資訊回報至 Error Reporting。

➢ 製作 Data Studio 動態報表|串接雲端資料流|產生熱門話題文字雲

串接動態視覺化報表,爬蟲系統轉變成吸睛作品;畫面以程式碼背景搭配橫條圖與散點標記,呈現資料視覺化主題。

冷冰冰的資料是無法引起共鳴的。透過 Data Studio,你能輕鬆地將雲端資料流持續更新的數據化為一張張視覺化圖表,讓使用者能夠依照需求切換不同的時間區間或是條件來檢視資料,讓蒐集來的資料轉變為吸睛作品。

Data Studio 首頁主視覺,以筆電上的數據儀表板與報表搭配標語「Your data is powerful. Use it.」,傳達運用互動式儀表板和引人入勝的報告,解鎖數據力量並支持更明智的商業決策。

購課免費贈送 python 與爬蟲入門課程 100 分鐘

千萬別錯過講師林士凱特別為程式新手、爬蟲麻瓜錄製全新入門影片,完全銜接募資課,讓你無後顧之憂!

濃縮講師多年實際教學經驗,強調應用與實例,活潑風趣,輕鬆上手 python 和爬蟲!
講師決定將 112 分鐘入門影片【免費贈送】符合資格者 👇👇👇

Q:怎樣才能獲得免費資格?

A:要使用講師的【專屬連結】購買募資課,且【不要用折扣碼】才有喔!

用專屬連結購課去 ▶▶▶ https://hahow.in/cr/data-pipeline

活動詳情請點開👉公佈欄👈,並追蹤官方 FB 粉絲團

購課後,請填單索取程式入門影片。

已經使用折扣碼購課的學員別走,立刻填單告訴你領取方法!

《給 python 新手的第一堂課》課程封面,以黃色背景搭配洋蔥、蒜瓣、義大利麵與餐具意象,標示講師為 Newsurvey 講師 Danny。

這是講師為了新手學員,額外錄製的程式入門影片,只能透過 google 雲端觀看,並不會在 Hahow 上架喔!

兩支影片分別是 python 與爬蟲入門課程,獲贈學員可免費線上觀看兩週,兩週結束後,還可再申請一次免費觀看。

精彩 python 程式入門,搶先看⬇⬇⬇

https://www.facebook.com/Newsurvey.team/posts/3052492394786068

 如何用程式計算夾娃娃一次要多少錢?

 如何揪出冒牌的超級英雄?

 撿到一百塊,用 for 迴圈+if 條件判斷找出買的起的燒臘便當!

黃色背景上寫著課程標題「給爬蟲麻瓜的第一堂課」,並標示「Newsurvey 講師 Danny」;畫面排列蒜瓣、綠色食材、紫洋蔥切片、香料與麵條,右側有手持叉子和刀具。

免費學 python 還不過癮?別擔心,我們還為您準備了精采的爬蟲入門影片準備免費送給您!

用精彩的爬蟲實例,讓您快速無痛上手,邁向程式之路!

 如何用 python 寫出爬蟲程式自動抓取新聞網頁的資訊?

 如何突破防爬蟲機制?

 抓下金融股市的表格資料,打造專屬於你的選股爬蟲分析工具!

畫面以切菜備料比喻程式設計,文字寫著「寫程式就像做菜,還沒下刀,你永遠不知道自己會端出什麼精彩好料」,呈現創作結果難以預測的感受。

每一支入門影片,我們除了力求解說清晰、有趣的影片錄製,同時也開發相對應的程式碼教材及補充說明筆記。

此外,還細心地在每一個單元重點之前加上提示卡,並在每一集影片尾聲進行重點複習與概念澄清。

我們的目的,就是希望透過這兩份 112 分鐘的教材,能夠非常確實、有效地引領程式初學者入門,輕鬆無痛上手 python 與爬蟲程式!

雖然是免費提供給學員們觀看,但我們完全不馬虎,花費了極大的心力和時間籌備,才產製出的精彩教材。

趕緊加入程式學習的行列吧!

注意!要用 專屬連結 ▶▶ https://hahow.in/cr/data-pipeline 購買募資課程,且【不能使用折扣碼】,才能獲贈免費入門影片喔!

購課後,請填單索取免費影片,並追蹤 FB 粉絲團

課程解鎖活動

募資達 400% 解鎖單元「Google 雲端架構師認證備考指南」

這個單元將與你分享證照攻略!Google 雲端架構師認證 Professional Cloud Architect Certificate 備考指南大解密

募資達 800% 解鎖單元「資料流設計實務分享」

細節中的魔鬼,資深工程師告訴你,新手不會想到的資料流設計實務難題與解決方案

募資達 1500% 解鎖抽獎「線下實作工作坊名額」

開課後半年至最晚一年內(詳細開課時間會另行公告),將舉辦一場線下實作工作坊,為實體講座課程,由講師親自面對面替學員上課,主題為雲端爬蟲資料流實戰演練。將於實體課程名額中開出 15 個完全免費的上課名額,提供給募資期間內購買課程的學員。

募資解鎖規則
  • 只有在「募資期間」達標,才會進行上列項目解鎖哦!
  • 「解鎖單元」將於正式課程影片,開課後的兩個月內開始提供。
  • 「解鎖抽獎」將於「線下實體課程開課」前一個月抽出中獎同學。
  • 募資結束前購買此堂課程,並且於購買時填妥「Email」,至粉專活動貼文中留言,即符合參加抽獎資格(Email 填寫截止日為 2020/07/17 23:59 前)。
  • 活動中獎名單將會公布於粉專與課程公告上,請中獎同學於 3 天內私訊粉專,回覆提供購課時參與抽獎所填的 Email 確認中獎通知,如未確認視同放棄獲獎資格。

課程贈獎寄送資料表單,參加「打造動態報表!雲端 Python 爬蟲資料流」抽獎活動,Email 欄位填寫為 hahow@hahow.in。

回覆與作業設計

回答問題頻率

對於大家的課程內容提問,收到通知後會儘速來 Hahow 上回答你的問題,預計最晚於一週內答覆你的提問!

批改作業頻率
  • 作業相關說明:每一個案例會針對特定能力附上一個作業,在學員們線上回傳答案後批改,檢視自己的學習狀況
  • 作業批改頻率:作業預計會以兩週至三週的頻率來批改,預計固定會在每週五批改 5~10 位學生的作業,若稍有延遲敬請見諒。

哪些人適合這堂課?
- 對資料科學及網路爬蟲有興趣,具有 Python 初階的使用經驗,想利用網路資料產出動態數據作品、與他人分享成果,來自不同領域的學習者 - 有過網路爬蟲的經驗,但苦於不知如何達成長期監測、由程式自動更新數據,並串接視覺化工具,想開發動態數據作品的工作者 - 對雲端架構有興趣,想瞭解如何使用 Google 雲端系統,從蒐集、儲存資料,到產出動態報表,打造屬於自己的完整資料流,入門資料工程領域的工程師
你可以學到
📢📢📢 購課免費贈送 【python 與爬蟲程式入門】112 分鐘影片😍 必須要用專屬連結 ▶▶▶ https://hahow.in/cr/data-pipeline 購買 並且【不要使用折扣碼】才會贈送喔! 😈 完成後,填單索取影片:https://forms.gle/6gWHAHdNzpcUFP8y9 ● 你將有能力依據個人化的需求,獨立開發 Python 爬蟲程式,並利用雲端系統達成爬蟲長期監測,最後產出能持續自動更新資料的動態視覺化報表! ○ 不只是開發爬蟲,從資料爬取、處理、儲存到產出報表,你將學會利用 Google 雲端系統 (GCP) 建立完整的資料流,在雲端上將「資料到產品」會遭遇到的所有難題一次解決! ● 課程挑選出最常碰到的三種資料來源:Open Data(表格/CSV 格式)、HTML&CSS 網頁以及 Web API (JSON 格式),手把手教你面對不同的資料來源時該如何設計對應的爬蟲資料流,讓任何網路上的資料都能成為你的資料源!
上課前的準備
需要準備的工具 / 軟體(若購買課程前不清楚版本是否支援,請先留言與老師確認。)
★超值加碼★ 購課免費送【python 與爬蟲程式設計入門】 112 分鐘教學影片! 快去公佈欄看如何免費獲得價值 960 元影片!新學員和舊學員都有! 1. 一台安裝好 Chrome 瀏覽器並能上網的電腦 2. 本課程所有單元均使用線上雲端工具進行,不需在自己電腦上安裝任何軟體,因此不論你使用的是 Mac 或 Windows 系統都沒有問題! ➢ 以下為課程會使用到的雲端工具(不需事先安裝) - Google Colab - Data Studio - Google Cloud Platform(需使用信用卡註冊,但課程內容操作不會產生任何的費用)
需要具備的背景知識
- 對 Python 有興趣,具有初階的使用經驗,如字串、迴圈、條件判斷等 - 課程中包含 Python 網路爬蟲的實作教學,如果你擁有相關經驗會更輕鬆上手,但本課程會有效率的帶你從基礎銜接到爬蟲實作的技巧,所以沒有相關經驗也不用擔心 - 講師擁有豐富的線下實作教學經驗,將手把手的帶領你完成從資料到產品的完整開發流程。上完這堂課,自己一個人也能成功開發動態更新數據的資料產品!
單元一覽
11 章 69 單元|總時長 318 分鐘
全部展開
1
資料視覺化利器 - 用 Google Data Studio 快速建立資料報表
影片單元
單元 1 - Goole Data Studio介紹 - 輕鬆建立第一份視覺化報表
影片單元
單元 2 - 將靜態資料串接到報表,建立表格、評量表、圓餅圖
11:23
影片單元
單元 3 - 設計報表來擬定行銷策略!用日期控制器與使用者互動
08:47
影片單元
單元 4 - 讓資料動起來!註冊和開始免費使用 google 雲端系統(GCP)服務
04:59
2
COVID-19 ① 》在 Colab 開發 Python 爬蟲,抓取 CSV 格式的 Open Data
影片單元
單元 1 - 取得持續更新數據的 CSV 檔案 - COVID-19 Open Data
05:53
影片單元
單元 2 - 雲端資料流的整體架構 - 1.排程 2.爬蟲 3.儲存 4.製作報表
01:38
影片單元
單元 3 - 爬蟲原理介紹及 chrome 開發者工具教學
06:17
影片單元
單元 4 - Python 開發環境介紹 - Google Colab 在雲端線上寫程式
03:04
影片單元
單元 5 - 利用 pandas 套件將 COVID-19 的線上 CSV 檔案爬下來
03:26
影片單元
單元 6 - pandas 語法(I) 檢視表格類型的資料 - 常用指令 head、tail、shape、describe
05:50
影片單元
單元 7 - pandas 語法(II) 從表格挑選指定欄位、排序、列出邏輯與條件判斷式
08:59
影片單元
單元 8 - pandas 語法(III) groupby - 將資料依照欄位分組,再進行計算
06:48
作業單元
作業 1 - 真實世界數據 - 鐵達尼號沉船紀錄資料探勘
查看作業
影片單元
單元 9 - 將原始資料的相同欄位合併,變成可作圖的 Tidy Data
04:46
3
COVID-19 ② 》建立雲端資料流 - 將爬蟲部署到雲端,自動化儲存與排程
影片單元
單元 1 - 建立 cloud function 實現「線上呼叫與執行」程式
07:15
影片單元
單元 2 - 利用 cloud function 將 COVID-19 的爬蟲程式部署到雲端
02:31
影片單元
單元 3 - 在 cloud function 要先安裝套件,再 import pandas
02:09
影片單元
單元 4 - 用 get 方法呼叫 cloud function,啟動爬蟲程式並回傳資料
03:06
影片單元
單元 5 - 建立存放資料的 bucket,上傳檔案到雲端儲存 Cloud Storage
04:34
影片單元
單元 6 - 先建立 client 驗證身分,再自動儲存檔案至 Cloud Storage
04:04
影片單元
單元 7 - 利用 upload_blob 將爬下來的檔案自動儲存到 Cloud Storage
03:01
影片單元
單元 8 - 爬蟲測試 - 檢查抓到的檔案,是否自動上傳至雲端
01:41
影片單元
單元 9 - 自動化排程 Cloud Scheduler - 事先安排執行程式的頻率
07:19
影片單元
單元 10 - 實現雲端系統自動化 - 回顧 COVID-19 資料流完整架構
02:45
4
COVID-19 ③ 》製作 Data Studio 動態報表,串接雲端資料流自動更新
影片單元
單元 1 - data connector - 將持續更新的資料串接至 Data Studio
01:34
影片單元
單元 2 - 疫情趨勢與分布 - 時間序列圖與 google 地圖的動態報表
03:49
影片單元
單元 3 - 新增報表篩選器控制 - 讓使用者勾選或搜尋特定資料,與使用者互動的圖表
影片單元
單元 4 - 在報表中加入多個資料源 - 確診、死亡、康復人數等
02:09
影片單元
單元 5 - Animated bar chart - 隨時間自動變化的動態 bar 圖
02:38
影片單元
單元 6 - 【動態報表與雲端資料流設計】COVID-19 互動趨勢、圓餅圖、動態地圖和動畫 bar 圖,一次秀給你看!
03:53
5
鉅亨網財經媒體 ① 》開發 python 爬蟲抓取多篇網頁 HTML 原始碼
影片單元
單元 1 - 打造台股戰情室!鉅亨網股市新聞與爬蟲目標
02:30
影片單元
單元 2 - 用 chrome 開發者工具檢視瀏覽器行為,快速找到目標的 html 原始碼
04:59
影片單元
單元 3 - 單元 3- 開發單篇新聞的爬蟲程式,利用BeautifulSoup套件解析網頁原始碼
12:42
影片單元
單元 4 - 利用網頁上看不到的meta標籤,爬取新聞關鍵字資料
04:58
影片單元
單元 5 - 以csv套件,將爬到的新聞資料寫入檔案中
05:20
影片單元
單元 6 - 結構相似的網頁,餵給爬蟲程式不同 url 標籤,一次爬取多筆新聞
影片單元
單元 7 - 抓下多篇新聞網址 url 餵給爬蟲,並用 time.sleep 突破防爬蟲機制
09:34
影片單元
單元 8 - 解析 json 資料,用 ajax 動態網頁技術取得換頁更新資料
05:39
影片單元
單元 9 - 利用ajax取得完整股市新聞列表,萃取出多篇新聞網址
08:23
影片單元
單元 10 - 變更ajax API網址的timestamp參數,取得最新時間區間資料
05:13
6
鉅亨網財經媒體 ② 》拆分資料流工作流程,控制與優化 GCP 成本
影片單元
單元 1 - 工作流程拆分 - 利用微服務 micro service 將獨立的工作分開部署
02:11
影片單元
單元 2 - 【建立微服務 I - 取得新聞列表】 並用 timestamp 時間戳記保存檔案
04:53
影片單元
單元 3 - 【建立微服務 II - 爬取新聞內容】 改用 storage 作為觸發條件,用 download blob 下載檔案
07:59
影片單元
單元 4 - Cloud Scheduler 排程 - 安排合理的更新頻率去啟動爬蟲
02:56
影片單元
單元 5 - 回顧鉅亨網雲端爬蟲資料流的整體 GCP 架構設計
02:29
影片單元
單元 6 - 魔鬼藏在細節裡 - 看懂 GCP 價格表,精打細算管理成本與開銷
09:10
影片單元
單元 7 - Cloud Storage 物件生命週期 - 自動轉換資料的儲存級別,節省開銷
02:50
7
鉅亨網財經媒體 ③ 》進階報表製作:自訂篩選器、嵌入外部網頁、熱門關鍵字文字雲
影片單元
單元 1 - 串接台股新聞資料至 Data Studio - 連結 bucket 內多個檔案
01:17
影片單元
單元 2 - 新增篩選器自訂標題、內文關鍵字,以及嵌入外部網頁
03:06
影片單元
單元 3 - 製作台股文字雲 - 利用爬蟲抓取的新聞熱門關鍵字與出現次數
03:55
8
Youtube Data API ① 》開發 Python 爬蟲爬取 json 格式 Web API 資料
影片單元
單元 1 - Web API 概念 - 透過網路提供各式各樣的應用服務
01:46
影片單元
單元 2 - 啟用 Youtube Data API 權限,並建立專屬的 API 存取金鑰
01:41
影片單元
單元 3 - 如何使用 API?說明書導覽 - API 存取資源、功能、指定傳送格式
03:26
影片單元
單元 4 - API 測試工具 - 餵 channel ID 取得基本資訊與統計數據
06:51
影片單元
單元 5 - API 使用額度 - 呼叫次數與頻率的 Quota 限制
01:58
影片單元
單元 6 - 開發爬蟲程式爬取熱門頻道訂閱人數 & 累計觀看次數統計數據
06:15
影片單元
單元 7 - 利用 RSS 取得影片列表和影片統計資訊
02:46
影片單元
單元 8 - 開發影片統計數據爬蟲程式 - 爬取熱門頻道最新影片 & 互動資料
04:30
9
Youtube Data API ② 》無痛進行大數據分析,挖掘百萬筆資料下的寶藏
影片單元
單元 1 - 將生產線分開 - 建立兩條獨立的「平行資料流」分別爬取頻道與影片資料
01:02
影片單元
單元 2 - 換你設計 - 打造 Youtuber 頻道表現的統計數據資料流
05:45
影片單元
單元 3 - 發布新影片了嗎?自動為頻道中每一支影片建立雲端數據資料流
04:45
影片單元
單元 4 - 700萬筆資料 1 秒鐘搞定 - 用 Google BigQuery 無痛進行高速雲端大數據分析
影片單元
單元 5 - 將 Cloud Storage 儲存的數據串接至 Bigquery,並進行資料分析
03:46
影片單元
單元 6 - Error Reporting 爬蟲監測服務 - 即時偵測與發送程式異常的警告通知
04:41
10
Youtube Data API ③ 》串接大數據分析資料至報表,定期發布商業分析報告
影片單元
單元 1 - 串接資料至 Data Studio - 圖片呈現 & 表格熱度圖
05:28
作業單元
作業 1 - 剖析影片成長速率,製作影片觀看數成長圖表
查看作業
影片單元
單元 2 - 串接大數據分析資料至 Data Studio - BigQuery data connector
01:56
影片單元
單元 3 - 設定安排 Email 自動寄送動態報表服務,提供客戶最新情報!
01:34
影片單元
單元 4 - 完整走過資料產品開發 - 善用雲端平台 GCP 優勢,培養資料流整體設計的眼光
02:15
11
課程募資解鎖單元
影片單元
單元 1 - Google 雲端架構師認證備考指南
09:11
影片單元
單元 2 - 資料流設計實務分享 - Cloud Storage V.S Google Drive
03:45
試看單元
播放試看影片
章節 1 - 資料視覺化利器 - 用 Google Data Studio 快速建立資料報表
單元 1 - Goole Data Studio介紹 - 輕鬆建立第一份視覺化報表
試看影片
09:42
播放試看影片
章節 4 - COVID-19 ③ 》製作 Data Studio 動態報表,串接雲端資料流自動更新
單元 3 - 新增報表篩選器控制 - 讓使用者勾選或搜尋特定資料,與使用者互動的圖表
試看影片
01:43
播放試看影片
章節 5 - 鉅亨網財經媒體 ① 》開發 python 爬蟲抓取多篇網頁 HTML 原始碼
單元 6 - 結構相似的網頁,餵給爬蟲程式不同 url 標籤,一次爬取多筆新聞
試看影片
02:17
播放試看影片
章節 9 - Youtube Data API ② 》無痛進行大數據分析,挖掘百萬筆資料下的寶藏
單元 4 - 700萬筆資料 1 秒鐘搞定 - 用 Google BigQuery 無痛進行高速雲端大數據分析
試看影片
06:48
課程評價
4.9
/ 5.0
38 則評價
W2020-10-08
感覺挺好的
1. 每個步驟都講得挺清楚的,過程中不需要自己debug。看完課程後,的確有能力操作自己的資料。 2. 無論python的資料流、資料視覺呈現、爬蟲技巧、GCP的操作技巧都有收穫,如果還有出進階課程會考慮購買。 3. 講師語速稍慢,我調成1.5倍速比較剛好。
查看更多
1 人覺得有幫助
陳禹璿2021-12-26
評價
課程內容主要是教授如何整合python爬蟲,GCP,Datastudio,對於爬蟲的各種技巧說明的篇幅有限,如果想紮實的學好爬蟲可能要參考其他課程,然後感覺講師最近不常跟學生互動,好像不維護這堂課了
(已編輯)
1 人覺得有幫助
YU Ming-Chang2022-12-29
淺顯易懂,快速整合python爬蟲、GCP、Data studio
課程目的、架構清楚,老師備課教材完善方便練習,單元切分可很快找到遺忘的內容再次閱讀。 鉅亨網有些內容已經跟實際上有所差異,擷取YouTube的單元整合報表蠻有趣! 因課程著重在整合python爬蟲、GCP、Data studio,爬蟲程式技能需再自行深入研究。 希望能新增分享更多GCP認證相關內容!
查看更多
林朝紳2026-06-12
課程內容十分廣泛
課程內容並不是單純的「基礎 Python」或是「用 Python 來爬蟲」,而是相當廣泛的延伸應用。從分析數據類型,再到自動化爬蟲現實應用,可以讓學生在了解基本概念後實際去套用到日常生活當中,比想像中實用。
鄭羽均2021-03-25
很推薦也很實用
課程的內容講解的很詳細,一步一步的教學, 即使三個實作有很多相似的地方,但講師都會在實作一次並不會跳過, 所以原本不熟的步驟在多次反覆練習下也自然而然的起來。 而實作的內容也非常貼近生活,很推薦這門課程。
查看更多

意猶未盡嗎?

關於講師

Danny
1堂課程
0篇文章
732位學生
現任 QSearch 資深資料工程師與 CTO 技術長,擁有 Google 雲端架構師證照,負責設計與開發公司內大型社群媒體的雲端爬蟲系統;Newsurvey程式工作坊講師,從2016年至今已開授超過四十堂課程,曾受邀台灣大學、中央大學課程演講,並為推動數位化轉型的知名媒體例如中央社、天下雜誌等,提供客製化的 Python 資料科學課程,進行實體小班互動教學。
前往講師頁面
精選學生作業

購課前問答

日期最新
日期最新
日期最舊
愛心數
老師您好 我想找「第11章,單元1」裡面提到的 「linux academy google cloud professional architect」 google一下發現找不到你畫面中的連結 不知道可否提供連結呢? 或是方便找到適合的課程的方式XD 謝謝!
林士凱
2023-09-27
您好,這個是當時有一個外部網站提供的課程現在已經沒了,可以先參考我們的課程作為基礎,進一步搭配google提供的雲端架構師線上學習資源。
回覆
我也想問
10428洪毅軒
2023-03-01
想請問如果是在蝦皮購物購買的話還會有免費贈送的那個課程嗎?
林士凱
2023-09-27
入門影片是無限期領取!可以使用 hahow point。 請注意,一定要點開下方專屬連結購課+不使用折扣碼,就可以獲贈【python與爬蟲程式】112 分鐘精彩入門影片喔! 專屬連結購課去 ▶▶▶ https://hahow.in/cr/data-pipeline 完成購課後,請填單,索取免費入門影片:https://forms.gle/6gWHAHdNzpcUFP8y9 詳細的活動說明,可以點開👉👉公告欄
回覆
我也想問
NachoHuang
2022-10-21
老師您好: 目前可能因為疫情資料太大,故在colab中用requests呼叫cloud function後顯示「Error: could not handle the request」,請問這是可以解決的嗎? 謝謝~
(已編輯)
Danny
授課老師
2022-10-22
可以透過設定GCF環境的記憶體大小,或是修改程式碼來解決哦,是哪個單元的問題呢?請直接在該單元下方發問,比較容易追蹤
(已編輯)
NachoHuang
2022-10-24
謝謝老師~ 是章節3第4單元的問題, 感恩~!
Danny
授課老師
2022-10-26
單元 3-2 及 3-4 的程式碼,由於 covid19 累積至目前的資料量過大的關係,會導致 Cloud Function 進行 return df.to_csv(index=False) 會發生錯誤。這個部分不影響後續單元的學習,因為之後會將抓到的 covid19 資料,寫入到 Cloud Storage 永久儲存下來,而不是直接回傳。 如果還是想看到 3-2 & 3-4 原本回傳資料的行為,可以將3-2教材的程式碼,最後一行改為: return df.head(100).to_csv(index=False) 來顯示前一百列的資料
回覆
1 人想問
Hoho Chen
2022-10-20
上完課了,有成功porting 程式到cloud,不過記憶體用到1gb @@ 且cloud 收費上有點看不懂… 部署也算錢嗎
Danny
授課老師
2022-10-22
課程中展示的第一代GCF,程式碼本身每個月會有"每 GB $0.026 美元"的費用,但由於程式碼本身占用的容量很小,所以幾乎可忽略不計。GCF主要的花費都是在呼叫之後才會產生,會根據"呼叫次數"以及"每次呼叫後的運行時間"來計價。 GCF提供每個月"400,000 GB/秒和 200,000 GHz/秒"的免費運算額度,以你使用的1GB記憶體環境來說,要讓該GCF運行超過400,000秒,或是呼叫超過兩百萬次後,才會產生額外的費用。詳細可以參考GCF的訂價頁面: https://cloud.google.com/functions/pricing#pricing_examples
(已編輯)
回覆
1 人想問
阿哲
2022-09-07
老師您好,請問現在購買是否一樣可以享有『只要用專屬連結購課+不使用折扣碼,就可以獲贈【python與爬蟲程式】112 分鐘精彩入門影片』呢? 另外不使用折扣碼是否包含Hahow Point?
Danny
授課老師
2022-09-08
沒錯哦!入門影片是無限期領取!可以使用 hahow point。 請注意,要用專屬連結購課+不使用折扣碼(hahow point除外),就可以獲贈【python與爬蟲程式】112 分鐘精彩入門影片喔! 專屬連結購課去 ▶▶▶ https://hahow.in/cr/data-pipeline 完成購課後,請填單,索取免費入門影片:https://forms.gle/6gWHAHdNzpcUFP8y9 詳細的活動說明,可以點開👉👉公告欄
回覆
1 人想問
購買單堂課

NT$2,488
有什麼優惠可以用?
小蛙幫你找最佳優惠
登入看看 有什麼優惠用

相關標籤