跳到主要內容

文章

目前顯示的是 2021的文章

[Pandas教學]善用Pandas套件的Groupby與Aggregate方法提升資料解讀效率

Content Pixie on Unsplash 為了要能夠在海量的數據資料中,透過資料分析的方式來得知其中的價值,進而做出決策或發現趨勢,就需要簡單的統計方法來幫助理解資料內容,才有辦法將資料做最有效的應用。 所以,本文就以 Kaggle網站的星巴克滿意度調查資料集( Starbucks satisfactory survey.csv ) 為例,分享三個常用的Pandas套件統計方法(Method)來解讀資料內容,包含:

[Pandas教學]使用Pandas套件實作資料清理的必備觀念(下)

DocuSign on Unsplash 使用Pandas套件實作資料清理時,除了對於遺漏、重複與拆分資料的處理外,資料型態與格式也是資料清理過程中需要注意的,這時候就可以利用Pandas套件所提供的轉型與格式化方法(Method)來有效的進行操作。 所以,本文接續 [Pandas教學]使用Pandas套件實作資料清理的必備觀念(上) 文章,使用 Kaggle網站的「Netflix data with IMDB scores added」資料集(mycsvfile.csv) , 針對資料型態與格式的部分,來和大家分享幾個Pandas套件提供的方法(Method)應用,包含:

[Pandas教學]使用Pandas套件實作資料清理的必備觀念(上)

Ioan F on Unsplash 在資料分析的過程中,蒐集來的大量數據很可能不是那麼完整,像是含有空值、NULL或重複等,這時候就需要適當的清理與處理,讓資料集更符合所需,進而能夠精確的分析。 而Pandas套件提供了許多資料清理的方法(Method),本文就以 Kaggle網站的「Netflix data with IMDB scores added」資料集(mycsvfile.csv) 為例,來和大家分享這些方法(Method)的應用方式,包含:

Visual Studio Code漂亮印出Pandas DataFrame資料的實用方法

Pankaj Patel on Unsplash Pandas套件相信是Python開發人員在資料分析的領域中, 最普遍使用的工具之一,對於蒐集來的資料進行後續觀察及清理都相當的便利,而如果您和筆者一樣是Visual Studio Code開發工具的愛好者,利用Pandas套件操作資料後,在印出結果時,就會長得像以下的圖樣:

[Pandas教學]資料視覺化必懂的Pandas套件繪製Matplotlib分析圖表實戰

Ruthson Zimmerman on Unsplash 資料分析一詞相信大家耳熟能詳,目的就是將蒐集到的大量數據,經過有效整理及分析後,來洞悉其中的價值,進而提供更好的用戶體驗或是預測未來的趨勢。

[Scrapy教學11]學會使用3個Scrapy網頁爬蟲偵錯技巧提升開發效率

Photo by Sigmund on Unsplash 在實務上開發Scrapy網頁爬蟲時,難免過程中會發生錯誤或產生問題,這時候該如何有效的偵錯找到原因,進而提升開發效率及品質,就是一個非常重要的議題。 而Scrapy網頁爬蟲框架提供了許多非常實用的方法,來幫助開發人員有效的偵錯,本文就 來和大家分享3個筆者最常使用的偵錯方法,包含:

[Scrapy教學10]不可不知的Scrapy框架爬取下一層網頁資料實作

Photo by Surface on Unsplash 想要進行資料分析,除了利用Python網頁爬蟲蒐集第一層的網頁資料外,有時候為了要 更瞭解資料的內容或是 讓分析的結果更加精確,就會需要爬取下一層的網頁,也就是詳細資料。 舉例來說,筆者想要對不同廠牌的筆電進行分析,這時候使用Python網頁爬蟲除了取得網頁第一層的筆電名稱外,還需要爬取每個筆電的下一層網頁,來取得詳細的規格內容,才有辦法進行比較。

[Scrapy教學9]一定要懂的Scrapy框架結合Gmail寄送爬取資料附件秘訣

Photo by Solen Feyissa on Unsplash 在Python網頁爬蟲蒐集資料的過程中,除了能夠將資料 存入資料庫 或 匯出成檔案 外,另一個最常應用的場景就是「訊息通知」,也就是在利用Python網頁爬蟲蒐集到所需的資料後,透過訊息通知的管道來推送資料結果。 舉例來說, [Python爬蟲教學]Python網頁爬蟲結合LINE Notify打造自動化訊息通知服務 文章整合了LINE Notify服務,來通知使用者Python網頁爬蟲取得的降價訊息,而本文則要來和大家分享另一個訊息通知管道的結合,也就是電子郵件。

[Scrapy教學8]詳解Scrapy框架爬取分頁資料的實用技巧

Photo by Austin Distel on Unsplash 相信大家在瀏覽網頁的經驗中,都有看過利用分頁的方式來呈現,將內容切分為好幾頁,除了能夠提升網頁的執行效率外,也增加了使用者的體驗。 在前面的Scrapy網頁爬蟲框架系列教學中,皆分享了爬取單一網頁的內容,這時候如果想要利用Scrapy網頁爬蟲框架來爬取多頁的資料,該如何實作呢?本文就來延續 [Scrapy教學7]教你Scrapy框架匯出CSV檔案方法提升資料處理效率 文章的教學內容,一起來學習這個技巧吧。

[Scrapy教學7]教你Scrapy框架匯出CSV檔案方法提升資料處理效率

Photo by Maxwell Ridgeway on Unsplash 在實作Python網頁爬蟲時,有一個非常重要的議題,就是如何將爬取到的資料有效儲存起來,這時候除了能夠像 [Scrapy教學6]解析如何在Scrapy框架存入資料到MySQL教學 文章一樣,存入資料庫外,另一個最常使用的方法,就是檔案的匯出,像是CSV、JSON及XML等。

[Scrapy教學6]解析如何在Scrapy框架存入資料到MySQL教學

Photo by Cytonn Photography on Unsplash 在利用Scrapy框架開發網頁爬蟲的過程中,成功取得想要蒐集的資料後,下一個步驟就是資料的儲存,像是存入資料庫或是檔案中等,這時候,就會需要使用到Scrapy框架的item資料模型及pipeline資料模型管道模組(Module),來幫助開發人員建立好維護的資料處理方式。

[Scrapy教學5]掌握Scrapy框架重要的XPath定位元素方法

Photo by Markus Winkler on Unsplas h Scrapy網頁爬蟲框架除了提供 [Scrapy教學4]掌握Scrapy框架重要的CSS定位元素方法 文章中所分享的css()方法(Method)來定位網頁元素(Element)外,也提供了xpath()定位方法(Method)讓開發者使用。 XPath(XML Path Language)是一個使用類似檔案路徑的語法,來定位XML文件中特定節點(node)的語言,因為能夠有效的尋找節點(node)位置,所以也被廣泛的使用在Python網頁爬蟲的元素(Element)定位上。

[Scrapy教學4]掌握Scrapy框架重要的CSS定位元素方法

Photo by NordWood Themes on Unsplash 想要開發Python網頁爬蟲的朋友,都會知道 定位 元素(Element)是一個非常重要的動作,在 [Scrapy3教學]如何有效利用Scrapy框架建立網頁爬蟲看這篇就懂 文章中,使用了Scrapy框架的bs4 模組( Module ),也就是 BeautifulSoup的語法,來示範爬取目標網頁中的HTML元素(Element)。 但事實上,Scrapy框架本身就有提供自己的 定位 元素(Element)方法(Method),包含CSS與XPath兩種,而本文將延續使用 [Scrapy3教學]如何有效利用Scrapy框架建立網頁爬蟲看這篇就懂 文章的 INSIDE 硬塞的網路趨勢觀察網站- AI 新聞 為例,先 來和大家分享在Scrapy框架中,如何利用CSS的 定位 元素(Element)方法(Method),爬取想要的網頁內容,重點包含:

[Scrapy教學3]如何有效利用Scrapy框架建立網頁爬蟲看這篇就懂

Photo by Alex Kulikov on Unsplash 在 [Scrapy教學2]實用的Scrapy框架安裝指南,開始你的第一個專案 文章,完成Scrapy框架的 安裝 以及專案的建立後,接下來,就可以在其中開發網頁爬蟲,而在開發之前,又有哪些基本的觀念需要知道?本文將 一步一步 帶大家來進行瞭解,重點包含: