跳到主要內容

Python網頁爬蟲免費線上培訓

如何從零開始學會自動化Python網頁爬蟲? 這個免費線上培訓,送給想要學會打造自動化Python網頁爬蟲,提升2倍工作效率的人 即使你是完全新手,也能夠學會.... 在這個線上的免費培訓,我將和你分享3個網頁爬蟲的密技: 密技1:沒有經驗如何學會網頁爬蟲?(5種常見的網頁類型爬取技巧) 密技2:遇到反爬蟲機制有哪些解決方案?(不會高難度的機器學習一樣有機會通過) 密技3:如何利用網頁爬蟲提升自己2倍的工作效率?(透過自動化來得到更多自己的時間) 課程老師:古耕全(Mike) Mike是 「Learn Code With Mike」品牌的創辦人,也是 一位網頁工程師,持續分享Python的「入門教學、爬蟲應用、資料分析、網頁開發」教學,幫助想要學習Python程式語言的新手,透過小專案實作的教學方式,讓新手有能力開發出屬於自己的Python應用程式。 馬上報名免費培訓

[Django教學11]Django部署到Heroku雲端平台教學指南

Photo by Christin Hume on Unsplash
在網站開發完成後,不論是網路服務、作品集或網站,為了要讓全世界的使用者可以進行存取使用,就需要部署至雲端平台上,而本文所要分享的Heroku,就是一個非常受歡迎的免費雲端平台,可以用來運行網站或服務。

Heroku支援多種程式語言,使用Git來進行部署,並且提供Heroku CLI(Command Line Interface),來提升部署的效率。本文將示範在Windows作業系統上,部署Django網站到Heroku的過程,分為Django部署準備及部署步驟兩個部份來進行說明,如下:

一、Django部署準備

  1.註冊Heroku帳號
  2.安裝Heroku CLI
  3.安裝Git
  4.安裝gunicorn套件
  5.Django靜態檔案設定
  6.安裝whitenoise套件

二、Django部署步驟

  1.登入Heroku
  2.建立Heroku應用程式
  3.設定Django ALLOWED_HOSTS
  4.建立Git Repository
  5.儲存(commit)程式碼至本地端硬碟(Local Repository)
  6.推送Heroku Git Repository
  7.設定Heroku主機數量
  8.開啟網站

一、Django部署準備

1.註冊Heroku帳號

首先,前往Heroku官網,點擊「SIGN UP FOR FREE」按鈕,依照指示來註冊使用者帳號,如下圖:
2.安裝Heroku CLI

有了Heroku的帳號後,接著前往Heroku Dev Center,來安裝Heroku CLI(Command Line Interface),讓開發人員能夠利用指令的方式,進行Heroku的各種操作,例如登入、建立應用程式及設定等,提升部署Django應用程式的效率。安裝的畫面如下:
選擇相應的作業系統,進行安裝即可。

3.安裝Git

Git是一個分散式的版本控制系統,除了可以協助開發人員進行程式碼的版本控制外,也能夠將程式碼,推送至Heroku雲端平台的Git Repository,來進行部署。

前往Git官網的下載頁面,依照作業系統進行安裝,如下圖:
安裝完成後,開啟命令提示字元視窗,輸入以下指令:

$ git --version

如果有顯示版本號,即代表Git安裝成功。

4.安裝gunicorn套件

gunicornPython應用程式非常受歡迎的網站伺服器套件,所以可以利用它來運行Django網站。可以透過以下指令來安裝:

$ pip install gunicorn

接著,開啟Django專案,新增「Procfile」檔案,Heroku將依據這個檔案中,所設定的網站伺服器,來啟動Django網站,如下圖:
在「Procfile」檔案中,撰寫以下的設定,告訴Heroku雲端平台,利用gunicorn網站伺服器套件,執行Django專案中的wsgi(web server gateway interface)檔案,來啟動網站:

web: gunicorn urexpenses.wsgi


5.Django靜態檔案設定

在開發Django專案的過程中,常常會需要使用到許多的靜態檔案,像是Javascript、CSS及圖片檔等,而這些檔案也需要進行部署。所以,在Django專案中,新增一個資料夾static,來存放靜態檔案,如下圖:
接著,開啟settings.py檔案,新增static資料夾的路徑設定,如下範例:

STATIC_ROOT = os.path.join(BASE_DIR, 'static')

設定完成後,執行以下的指令,就能夠將Django專案中所有應用程式(APP)的靜態檔案,收集至static資料夾中:

$ python manage.py collectstatic

執行結果

6.安裝whitenoise套件

剛剛有提到Django的靜態檔案也需要進行部署,而這些檔案該如何提供給Heroku呢?這時候就可以利用Python的whitenoise套件來達成,透過以下的指令來進行安裝

$ pip install whitenoise

接著,開啟Django專案的settings.py,在MIDDLEWARE串列的地方,加入WhiteNoiseMiddleware,如下範例:
MIDDLEWARE = [
    'django.middleware.security.SecurityMiddleware',
    'whitenoise.middleware.WhiteNoiseMiddleware',
    'django.contrib.sessions.middleware.SessionMiddleware',
    'django.middleware.common.CommonMiddleware',
    'django.middleware.csrf.CsrfViewMiddleware',
    'django.contrib.auth.middleware.AuthenticationMiddleware',
    'django.contrib.messages.middleware.MessageMiddleware',
    'django.middleware.clickjacking.XFrameOptionsMiddleware',
]
有了第3行的設定,當用戶端發出請求,載入Django靜態檔案時,WhiteNoiseMiddleware就會接收,進行靜態檔案的處理。

二、Django部署步驟

以上的前置工作都準備完成,接下來,就可以透過以下8個步驟,將Django網站部署至Heroku雲端平台。

1.登入Heroku
開啟命令提示字元視窗,利用Heroku CLI(Command Line Interface)來進行登入:


$ heroku login


2.建立Heroku應用程式。

$ heroku create <app_name>

執行結果
從執行結果可以看到,左邊為Heroku應用程式的網址,而右邊為對應的Heroku Git Repository,Heroku即是利用這個Git Repository來進行部署的動作

3.設定Django ALLOWED_HOSTS
開啟Django專案的settings.py,將Heroku應用程式的網址(去除https://),設定在ALLOWED_HOSTS的串列中,來允許Heroku的主機存取。
ALLOWED_HOSTS = [
    'urexpenses.herokuapp.com/'
]

4.建立Git Repository
如果此專案已經有Git Repository,則此步驟可省略。

$ git init


5.儲存(commit)程式碼至本地端硬碟(Local Repository)及設定版本說明文字

$ git add .

$ git commit -m "your_message"
6.推送至Heroku Git Repository
這邊教大家一個小技巧,如果在Heroku雲端平台上有多個應用程式時,可以透過以下的指令,來切換Heroku Git Repository

$ heroku git:remote -a <app_name>

Heroku Git Repoistory設定好後,就可以將Django專案程式碼,從本地端硬碟推送到Heroku Git Repoistory

$ git push heroku master


7.設定Heroku主機數量。

$ heroku ps:scale web=1


8.開啟網站。

$ heroku open

執行結果
PSDjango網站部署成功後,未來專案中有任何的異動時,則需重覆執行步驟五及步驟六,將修改的程式碼及檔案,由本地端硬碟(Local Repository)推送至Heroku Git Repository,讓Heroku取得新的程式碼,進而更新網站的執行結果。

三、小結

以上就是Django網站部署至Heroku雲端平台的實作過程,讓各位的網站服務或作品集能夠運行在雲端平台上,供全世界的使用者存取使用。如果在部署的過程中有碰到任何問題,或是文章有說明不清楚的地方,歡迎留言建議及提問唷。

如果您喜歡我的文章,請幫我按五下Like(使用GoogleFacebook帳號免費註冊),支持我創作教學文章,回饋由LikeCoin基金會出資,完全不會花到錢,感謝大家。

有想要看的教學內容嗎?歡迎利用以下的Google表單讓我知道,將有機會成為教學文章,分享給大家😊

你可能有興趣的文章






留言

  1. 請問一下,我在最後push時,出現第九行的錯誤訊息,但是已經裝過asgiref==3.2.7,還是跳Error,不 知道哪邊出錯,請問您有遇過嗎,謝謝。

    remote: -----> Python app detected
    remote: -----> Installing python-3.7.6
    remote: -----> Installing pip
    remote: -----> Installing SQLite3
    remote: -----> Installing requirements with pip
    remote: Collecting asgiref==3.2.7
    remote: Downloading asgiref-3.2.7-py2.py3-none-any.whl (19 kB)
    remote: Processing /D:/bld/astroid_1588698401017/work
    remote: ERROR: Could not install packages due to an EnvironmentError: [Errno 2] No such file or directory: '/D:/bld/astroid_1588698401017/work'
    remote:
    remote: ! Push rejected, failed to compile Python app.
    remote:
    remote: ! Push failed
    remote: Verifying deploy...
    remote:
    remote: ! Push rejected to mytxx568blog.
    remote:
    To https://git.heroku.com/mytxx568blog.git
    ! [remote rejected] master -> master (pre-receive hook declined)
    error: failed to push some refs to 'https://git.heroku.com/mytxx568blog.git'

    回覆刪除
    回覆
    1. 我找到問題了,因為potrip資料夾,透過 pip freeze > requirements.txt ,輸出了文字檔,裡面的套件名稱後面有加@ ,如下
      asgiref==3.2.7
      astroid @ file:///D:/bld/astroid_1588698401017/work
      autopep8==1.5.2
      ----------------------------------------------------略過

      我把套件名稱後面有加@ file:///D:/bld/astroid_1588698401017/work 刪掉
      再重新heroku上傳就成功了。

      雖然上傳成功,但是不知道為什麼 透過pip freeze > requirements.txt

      為什麼套件後面會加上了 @...這些路徑,還不只一個XD

      刪除
    2. 可能是因為有路徑的關係,所以在產生requirements.txt後,最好還是檢查一下 XD

      刪除
  2. 您好想問執行到git push heroku master這裡
    就跳錯誤了
    remote: ! Push rejected, failed to compile Python app.
    remote:
    remote: ! Push failed
    remote: !
    remote: ! ## Warning - The same version of this code has already been built: 725664b3435e9b14bd368ac8058081fb93cccce2
    remote: !
    remote: ! We have detected that you have triggered a build from source code with version 725664b3435e9b14bd368ac8058081fb93cccce2
    remote: ! at least twice. One common cause of this behavior is attempting to deploy code from a different branch.
    remote: !
    remote: ! If you are developing on a branch and deploying via git you must run:
    remote: !
    remote: ! git push heroku :main
    remote: !
    remote: ! This article goes into details on the behavior:
    remote: ! https://devcenter.heroku.com/articles/duplicate-build-version
    remote:
    remote: Verifying deploy...
    remote:
    remote: ! Push rejected to igcommapp.
    remote:
    To https://git.heroku.com/igcommapp.git
    ! [remote rejected] master -> master (pre-receive hook declined)
    error: failed to push some refs to 'https://git.heroku.com/igcommapp.git'
    想問該怎麼解決 謝謝您 麻煩了

    回覆刪除
    回覆
    1. 已透過粉絲專頁的私訊協助您解決囉~ :)

      刪除
    2. 請問我也遇到相同的error請問要如何解決,感謝您

      刪除
  3. 您好,想請問一下,我還是不太清楚第五步驟,git --commit -m"your message"
    您是寫說是版本的說明,我要去哪裡看呢??

    回覆刪除
    回覆
    1. 您好,git --commit -m "your message"是您可以為這個版本「設定說明文字」,不是用來檢視用,已經有修改文章中的說明,謝謝 :)

      刪除
  4. 您好,想請問一下,第五個步驟的git --commit -m "your message"
    您是寫說版本的說明,請問我要去哪裡看呢??

    回覆刪除
    回覆
    1. 您好,git --commit -m "your message"是您可以為這個版本「設定說明文字」,不是用來檢視用,已經有修改文章中的說明,謝謝 :)

      刪除
  5. windows 用不了gunicorn啊,bash: gunicorn: command not found, 求教這個問題怎麼解決?

    回覆刪除
    回覆
    1. 啊,原來要把Pipfile這個檔案刪了才行

      刪除
  6. 有三個地方希望作者可以更新:
    1. 補上 pip freeze > requitements.txt 的步驟
    2. setting.py 的 DEBUG 改成 False
    3. setting.py 的 SECRET_KEY 最好也改成從環境變數中存取
    雖然只是範例網站而已,但安全性的概念還是要有。

    回覆刪除
  7. 你好我在照著步驟做之後出現了這些錯誤
    我應該要如何解決呢?

    remote: Compressing source files... done.
    remote: Building source:
    remote:
    remote: -----> Building on the Heroku-20 stack
    remote: -----> Determining which buildpack to use for this app
    remote: ! No default language could be detected for this app.
    remote: HINT: This occurs when Heroku cannot detect the buildpack to use for this application automatically.
    remote: See https://devcenter.heroku.com/articles/buildpacks
    remote:
    remote: ! Push failed
    remote: Verifying deploy...
    remote:
    remote: ! Push rejected to toadx.
    remote:
    To https://git.heroku.com/toadx.git
    ! [remote rejected] master -> master (pre-receive hook declined)
    error: failed to push some refs to 'https://git.heroku.com/toadx.git'

    回覆刪除
  8. 執行這段以後python manage.py collectstatic
    再deploy到Heroku是錯誤
    然後他有提示我這段
    heroku config:set DISABLE_COLLECTSTATIC=1
    按照指示以後才成功
    請問這是什麼原因呢?

    回覆刪除
  9. 您好,時至今日,Heroku已變為收費。請問是否有其它替代的免費方案方便新手練習?
    我目前手邊有的免費雲端主機是oracle cloud instance,不確定要怎麼用您的教學套用在此平台上。很希望您也可以寫一篇"如何將Django部署到Oracle雲端平台教學指南",謝謝。

    回覆刪除

張貼留言

這個網誌中的熱門文章

[Pandas教學]資料分析必懂的Pandas DataFrame處理雙維度資料方法

Photo by Slidebean on Unsplash 現在有許多的企業或商家,都會利用取得的使用者資料來進行分析,瞭解其中的趨勢或商機,由此可見,資料分析越來越受到重視,而這時候,能夠懂得使用資料分析工具就非常的重要。 在上一篇 [Pandas教學]資料分析必懂的Pandas Series處理單維度資料方法 文章中,分享了Pandas Series資料結構用於處理單維度資料集的實用方法,而本文則要來介紹Pandas套件的另一個非常重要的資料結構,也就是 DataFrame。

[Python教學]搞懂5個Python迴圈常見用法

Photo by Scott Webb on Unsplash 在撰寫程式的過程中,都有機會要重複執行一些相同的運算,但是重複撰寫好幾次同樣的運算看起來非常的沒有效率,所以在這個情況下我們通常會使用迴圈來幫我們完成,本篇就來介紹 Python 迴圈的使用方式,包含 For-Loops 、 Nested Loops 及 while-Loops ,並且說明用來控制迴圈流程的 break 及 continue 指令。 一、 range() 方法 在開始介紹 Python 迴圈之前,先來說明一個在執行迴圈時常用的 range() 方法,主要用來幫我們產生數列,語法如下: range( 起始值 , 結束值 , 遞增 ( 減 ) 值 ) 使用說明: range(20) :起始值預設從 0 開始,所以會產生 0 到 19 的整數序列。 range(10,20) :起始值從 10 開始,所以會產生 10 到 19 的整數序列。 range(10,20,3) :起始值從 10 開始,遞增值為 3 ,所以會產生 10,13,16,19的整數序列 。 二、 Python For-Loops 敘述 可以針對 Iterable( 可疊代的 ) 物件來進行讀取, Python 內建幾個常用的 Iterable 物件,像是 String( 字串 ) 、 List( 串列 ) 、 Tuples( 元組 ) 、 Dictionary( 字典 ) 等,往後會出文章詳細的介紹。 Python for-loop 的語法如下: 在語法中, in 的後方就是 for-loop 要讀取的目標物,這個目標物的為 Iterable ( 可疊代的 ) 物件,一次讀取一個元素,然後用 item( 自訂變數名稱 ) 來接收每次讀取到的元素,執行區塊中的運算。注意 for-loop 的結尾需加上冒號 ( : ) 及區塊中的運算式要有相同的縮排,範例如下: 在範例中, for-loop 的讀取目標物為一個字串,每一次讀取一個字母,並且用 letter 變數來接收,執行 print() 方法。 三、 Python Nested Loops ( 巢狀迴圈 ) 簡單來說,就是迴圈中又有一層迴圈,我們來看一個範例:   這個巢狀迴

[Python物件導向]淺談Python類別(Class)

Photo by Bram Naus on Unsplash 在學習程式語言時,或多或少都有聽過物件導向程式設計 (Object-oriented programming ,簡稱 OOP) ,它是一個具有物件 (Object) 概念的開發方式,能夠提高軟體的重用性、擴充性及維護性,在開發大型的應用程式時更是被廣為使用,所以在現今多數的程式語言都有此種開發方式, Python 當然也不例外。而要使用物件導向程式設計就必須對類別 (Class) 及物件 (Object) 等有一些基本的了解,包含了: 類別 (Class) 物件 (Object) 屬性 (Attribute) 建構式 (Constructor) 方法 (Method) 我們先來看一下今天要來建立的類別: # 汽車類別 class Cars: # 建構式 def __init__(self, color, seat): self.color = color # 顏色屬性 self.seat = seat # 座位屬性 # 方法(Method) def drive(self): print(f"My car is {self.color} and {self.seat} seats.") 接下來就針對類別 (Class) 各個部分來進行介紹。 一、類別 (Class) 簡單來說,就是物件 (Object) 的藍圖 (blueprint) 。就像要生產一部汽車時,都會有設計圖,藉此可以知道此類汽車會有哪些特性及功能,類別 (Class) 就類似設計圖,會定義未來產生物件 (Object) 時所擁有的屬性 (Attribute) 及方法 (Method) 。而定義類別的語法如下: class classname:   statement 首先會有 class 關鍵字,接著自定類別名稱,最後加上冒號。類別名稱的命名原則習慣上使用 Pascal 命名法,也就是每個單字字首大寫,不得使用空白或底線分隔單字,如下範例: #範例一 class Cars: #範例二 class MyCars: 二、物件 (Object) 就是透過

[Python爬蟲教學]7個Python使用BeautifulSoup開發網頁爬蟲的實用技巧

Photo by Stanley Dai on Unsplash 在實務上開發專案時,很多時候會利用其他網站的資料來進行分析或運用,而取得的方式除了透過網站所提供的 API(Application Programming Interface) 外,也可以利用 Python 來開發爬蟲程式,將網頁的 HTML 內容下載下來,接著利用 BeautifulSoup 套件 (Package) ,擷取所需的資訊。 本文將開發一個簡單的爬蟲程式,爬取「 ETtoday 旅遊雲 」網頁,擷取桃園旅遊景點的標題資訊,如下圖: 取自ETtoday 的旅遊雲 而在開發的過程中,常會需要搜尋 HTML 的節點,本文將分享幾個常用的方法,包含: BeautifulSoup 安裝 以 HTML 標籤及屬性搜尋節點 以 CSS 屬性搜尋節點 搜尋父節點 搜尋前、後節點 取得屬性值 取得連結文字 一、 BeautifulSoup 安裝 BeautifulSoup 是一個用來解析 HTML 結構的 Python 套件 (Package) , 將取回的網頁 HTML 結構, 透過其提供的方法 (Method) ,能夠輕鬆的搜尋及擷取網頁上所需的資料,因此廣泛的 應用在網頁爬蟲的開發上 。 Beautifulsoup 套件 (Package) 可以透過 pip 指令來進行安裝,如下範例: pip install beautifulsoup4 而要解析網頁的 HTML 程式碼前,還需要安裝 Python 的 requests 套件 (Package) ,將要爬取的網頁 HTML 程式碼取回來,安裝方式如下: pip install requests 安裝完成後,首先引用 requests 套件 (Package) ,並且 透過 get() 方法 (Method) 存取 ETtoday 旅遊雲的桃園景點網址,如下範例: import requests response = requests.get( "https://travel.ettoday.net/category/%E6%A1%83%E5%9C%92/") 將網頁的 HTML 程式碼取回來後,接著引用 BeautifulSoup

[Python教學]5個必知的Python Function觀念整理

Photo by Susan Holt Simpson on Unsplash 在寫程式碼時有一個非常重要的觀念是 DRY(Don’t Repeat Yourself) ,意思是避免 同樣的程式碼重複出現在很多個地方, 除了可讀性很低外,也不易維護。所以 要適當的進行封裝,來達到程式碼的重用性 (Reusable) 。 今天要來教大家如何建構自己的   Python 函式 (Function) ,就是能夠讓你的程式碼被重複的使用 (Reusable) ,並且提高維護性 及可讀性。其中有五個必須要知道的重要觀念, 包含了: 函式 (Function) 結構 函式(Function) 參數 函式(Function) *args 、 **kwargs 運算子 函式(Function) 種類 函式(Function) 變數範圍 (Scope) 一、函式 (Function) 結構 首先Python 函式 的結構包含了 def 關鍵字、 函式 名稱、參數及實作內容,如下範例: 函式 名稱的命名習慣上會使用小寫字母,並且以底線來分隔單字。參數用來接收外部資料,而實作的內容則是這個 函式 所要執行的任務,需注意縮排。接下來就針對 函式 的各個部分進行詳細的說明。 二、 函式(Function) 參數 參數簡單來說就是接收外部所傳來的資料,進而執行相關的邏輯運算。參數個數取決於 函式 內部運算時所需的資料個數,所以在一般情況下,呼叫 函式 時一定要傳入相對的參數個數資料,否則就會出現例外錯誤,如下範例: 函式 的參數,又可分為: 關鍵字參數 (Keyword Argument) : 呼叫函式時,在傳入參數值的前面加上函式所定義的參數名稱,如下範例。除了提高可讀性外,也可將此種參數打包成 字典 (Dictionary) 資料型態,在等一下的 xargs 、 xxargs 運算子部分會來進行說明。 預設值參數 (Default Argument) : 在函式定義的參數中,將可以選擇性傳入的參數設定一個預設值,當來源端有傳入該資料時,使用來源端的資料,沒有傳入時,則依照設定的預設值來進行運算,如下範例: 範例中沒有傳入日期參數資料,所以 函式 使用預設值 (2019

[Pandas教學]5個實用的Pandas讀取Excel檔案資料技巧

Photo by LinkedIn Sales Navigator on Unsplash 日常生活中,不免俗的都會有需要整理大量資料的需求,而最常用的文書軟體就是Excel,這時候該如何有效讀取Excel檔中的資料,進行額外的整理及操作呢? 本文將以 政府開放資料平台-歷年國內主要觀光遊憩據點遊客人數月別統計 的資料內容為例, 利用Python的Pandas套件,來和大家分享實務上最常見的Excel讀取操作,藉此來提升資料處理的效率。

[Python教學]Python Lambda Function應用技巧分享

Photo by Fatos Bytyqi on Unsplash Lambda 函式,也就是匿名函式,不需要定義名稱,只有一行運算式,語法非常簡潔,功能強大,所以現代程式語言如 Java、C# 及 Python 等都支援 Lambda 函式,適用於小型的運算, Python的 一些內建函式甚至使用它作為參數值的運算。現在就來介紹 如何 在 Python 中使用 Lambda 函式與技巧吧,包含: Lambda 語法與範例 Python Lambda 函式的應用 Lambda 函式 vs 一般函式 (Function) 一、 Lambda 語法與使用範例 由於 Lambda 函式只有一行程式碼,所以在撰寫時有一些限制,我們來看一下它的語法: lambda parameter_list: expression 這邊教大家一個技巧,在撰寫 Lambda 函式時,於 Visual Studio Code 輸入 lambda 關鍵字,接著按下 Tab 鍵,就會自動產生範例中的語法,包含了三個部分: lambda 關鍵字 parameter_list( 參數清單 ) expression( 運算式 ) 其中, parameter_list( 參數清單 ) 也就是 Lambda 函式的傳入參數,可以有多個,以逗號分隔。而 expression( 運算式 ) 則是針對傳入參數來進行運算,只能有一行運算式,不像 一般函式(Function) 可以有多行。接下來,我們透過幾個範例來了解如何使用 Lambda 函式吧。 範例 1 : 範例中將 Lambda 函式指派給一個變數,接著就可以透過此變數並傳入參數來進行呼叫。 範例 2 : Lambda 函式支援 IIFE(immediately invoked function expression)語法 ,意思是 利用  function expression 的方式來建立函式,並且立即執行它,語法如下 : (lambda parameter: expression)(argument) 範例中即是利用此語法在 Lambda函式 定義後,立即傳入參數執行。 範例 3 : 透過此範例可以知道,當 Lambda 函式經定義

[Python+LINE Bot教學]6步驟快速上手LINE Bot機器人

Photo by Yura Fresh on Unsplash 每當朋友或家人要聚餐時,是不是總要花很長的時間尋找評價不錯的餐廳?不但要確認營業時間、消費價格及地點,還要觀看許多的美食文章才有辦法決定,這時候如果有人能夠明確提供幾間符合條件且有人氣的餐廳作為選擇,想必會省事許多。 所以筆者開發了一個美食的 LINE Bot 小作品,透過對談的方式瞭解使用者所要尋找的餐廳條件後,利用 Python 網頁爬蟲取得目前正在營業的五間最高人氣餐廳資料,回覆給使用者作為參考。 為了要讓想學習的您能夠由淺入深,瞭解其中的實作過程,所以將會分成三篇文章來進行教學。 2020/06/30 補充說明 而在進行實作前,先來看一下 LINE Bot 主要的執行架構,如下圖: 使用者透過 LINE 發送訊息時, LINE Platform 將會進行接收,並且傳遞至我們所開發的 LINE Bot 執行邏輯運算後,透過 LINE 所提供的 Messaging API 回應訊息給 LINE Platform ,最後再將訊息傳遞給使用者。 其中 Messaging API(Application Programming Interface) ,就是 LINE 官方定義的 回應訊息 標準介面,包含 Text (文字)、 Sticker (貼圖)、 Video (影片)、 Audio (聲音)及 Template (樣板)訊息等,完整的說明可以參考 LINE 的 官方文件 。 所以在我們的 LINE Bot 回應訊息時,就要依據 Messaging API 定義的規範,傳入相應的參數後, Messaging API 就會回應使用者相對的訊息類型。簡單來說,就是 LINE Platform 與 LINE Bot 的溝通橋樑。 而本文就先以最基本的使用者發送什麼訊息, LINE Bot 就回應什麼訊息為例,讓讀者體會其中的運作方式,整體架構如下圖: 在 LINE Bot 的部分,使用 Django 框架來進行建置,並且透過 Messaging API 回應 Text (文字)訊息。在下一篇文章中,將會加入 Python 網頁爬蟲,取得美食網站的資訊回應給使用者。 本文的實作步驟包含: 建立 Provider 建立 Messaging API channel 設定 LINE Bot 憑證 開發 LINE B

[Python爬蟲教學]整合Python Selenium及BeautifulSoup實現動態網頁爬蟲

Photo by LAUREN GRAY on Unsplash 相信大家都知道,取得資料後能夠進行許多的應用,像是未來的趨勢預測、機器學習或資料分析等,而有效率的取得資料則是這些應用的首要議題,網頁爬蟲則是其中的一個方法。 網頁爬蟲就是能夠取得網頁原始碼中的元素資料技術,但是,有一些網頁較為特別,像是社群平台,需先登入後才能進行資料的爬取,或是電商網站,無需登入,但是要透過滾動捲軸,才會動態載入更多的資料,而要爬取這樣類型的網頁爬蟲,就稱為動態網頁爬蟲。 該如何實作呢? 本文將使用 Python Selenium 及 BeautifulSoup套件 來示範動態網頁爬蟲的開發過程,重點包含: BeautifualSoup vs Selenium 安裝 Selenium 及 Webdriver 安裝 BeautifulSoup Selenium get() 方法 Selenium 元素定位 Selenium send_keys() 方法 Selenium execute_script 方法 BeautifulSoup find_all() 方法 BeautifulSoup getText() 方法 一、 BeautifualSoup vs Selenium BeautifulSoup套件 相信對於 開發 網頁爬蟲的人員來說,應該都有聽過,能夠解析及取得 HTML 原始碼各個標籤的元素資料,擁有非常容易上手的方法 (Method) ,但是,對於想要爬取 動態 網頁資料來說,則無法達成,因為 BeautifulSoup套件 並沒有模擬使用者操作網頁的方法 (Method) ,像是輸入帳號密碼進行登入或滾動捲軸等,來讓網頁動態載入資料,進行爬取的動作。 所以,這時候,就可以使用被設計於自動化測試的 Selenium 套件,來模擬使用者的動作,進行登入後爬取資料或滾動卷軸,並且能夠執行 JavaScript 程式碼,這些就是 Selenium 與 BeautifulSoup套件 最大不同的地方。對於開發 Python 動態爬蟲來說,就可以結合 Selenium套件 以上的特點,讓網頁動態載入資料後,再利用 BeautifulSoup套件簡潔的 方法 (Method) ,將所需的資料爬取下來。 本文就是利用這樣的概念,利用 Selenium 套件登入 Facebook 後,前往

[Python教學]Python Dictionary完全教學一次搞懂

Photo by Susan Yin on Unsplash 在這邊鼓勵大家在看部落格的同時,可以打開自己的開發工具練習,這樣可以增加對 Python 的熟悉度唷。 Python 開發環境的建置可以參考 Visual Studio Code Python環境建置 文章,準備好了嗎,讓我們進入今天的主題吧。 今天要來跟大家介紹 Python 一個非常重要的資料型態 Dictionary( 字典 ) ,同樣是一個容器 ( 集合 ) 可以用來存放不同資料型態的資料,不過與 串列(List) 、 元組(Tuples) 不一樣的地方是,它的每一個元素是以鍵 (Key) 及值 (Value) 構成,再由 {} 符號將所有元素括起來,如下範例:   Dictionary( 字典 ) 有幾個特性: Iterable( 可疊代的 ) :和前面介紹的 字串(String) 、 串列(List) 及 元組(Tuples) 一樣是可疊代的物件,可以透過 Python迴圈 來進行元素的讀取。 Modifiable( 可修改的 ) :和 串列(List) 一樣可以透過 Python 提供的方法 (Method) 來對 Dictionary( 字典 ) 的值進行修改。 Key-Value pairs( 鍵與值 ) : Dictionary( 字典 ) 的每一個元素由鍵 (Key) 及值 (Value) 構成。鍵 (Key) 的資料型態通常我們使用 String( 字串 ) 或 Integer( 整數 ) ,而值 (Value) 可以是任何資料型態。 瞭解了 Dictionary( 字典 ) 的特性後,本篇文章就來介紹 Python Dictionary( 字典 ) 的基本操作,包含: 建立 Dictionary 的方法 存取 Dictionary 元素的方法 新增 Dictionary 元素的方法 修改 Dictionary 元素的方法 刪除 Dictionary 元素的方法 尋找 Dictionary 元素的方法 一、建立 Dictionary 的方法 1. 於 {} 符號中輸入每個元素的鍵 (Key) 與值 (Value) 。   2. 使用 dict() 方法,傳入鍵 (Key) 的名稱,並且指