跳到主要內容

[Python爬蟲教學]整合Python Selenium及BeautifulSoup實現動態網頁爬蟲

python_selenium_scraper
Photo by LAUREN GRAY on Unsplash
相信大家都知道,取得資料後能夠進行許多的應用,像是未來的趨勢預測、機器學習或資料分析等,而有效率的取得資料則是這些應用的首要議題,網頁爬蟲則是其中的一個方法。

網頁爬蟲就是能夠取得網頁原始碼中的元素資料技術,但是,有一些網頁較為特別,像是社群平台,需先登入後才能進行資料的爬取,或是電商網站,無需登入,但是要透過滾動捲軸,才會動態載入更多的資料,而要爬取這樣類型的網頁爬蟲,就稱為動態網頁爬蟲。

該如何實作呢?本文將使用Python SeleniumBeautifulSoup套件來示範動態網頁爬蟲的開發過程,重點包含:
  • BeautifualSoup vs Selenium
  • 安裝SeleniumWebdriver
  • 安裝BeautifulSoup
  • Selenium get()方法
  • Selenium元素定位
  • Selenium send_keys()方法
  • Selenium execute_script方法
  • BeautifulSoup find_all()方法
  • BeautifulSoup getText()方法

一、BeautifualSoup vs Selenium

BeautifulSoup套件相信對於開發網頁爬蟲的人員來說,應該都有聽過,能夠解析及取得HTML原始碼各個標籤的元素資料,擁有非常容易上手的方法(Method),但是,對於想要爬取動態網頁資料來說,則無法達成,因為BeautifulSoup套件並沒有模擬使用者操作網頁的方法(Method),像是輸入帳號密碼進行登入或滾動捲軸等,來讓網頁動態載入資料,進行爬取的動作。

所以,這時候,就可以使用被設計於自動化測試的Selenium套件,來模擬使用者的動作,進行登入後爬取資料或滾動卷軸,並且能夠執行JavaScript程式碼,這些就是SeleniumBeautifulSoup套件最大不同的地方。對於開發Python動態爬蟲來說,就可以結合Selenium套件以上的特點,讓網頁動態載入資料後,再利用BeautifulSoup套件簡潔的方法(Method),將所需的資料爬取下來。

本文就是利用這樣的概念,利用Selenium套件登入Facebook後,前往粉絲專頁,執行滾動卷軸的JavaScript程式碼,讓網頁動態載入資料後,再使用BeautifulSoup套件爬取貼文標題。

二、安裝SeleniumWebdriver

首先,利用以下指令安裝Python的Selenium套件:
$ pip install selenium
接下來,要讓Selenium套件能夠自動開啟瀏覽器,所以需要安裝對應的Webdriver(驅動程式),本文將以Chrome瀏覽器來做示範。

前往Python套件儲存庫PyPI(Python Package Index),輸入Selenium進行查詢,如下圖:
python_selenium
點擊進入後,往下可以看到Drivers的地方,如下圖:
python_selenium
選擇要使用的瀏覽器,進行下載及解壓縮即可。完成後,建議將這個Webdriver檔放置在Python網頁爬蟲的專案資料夾中,如下圖:
python_selenium

三、安裝BeautifulSoup

接著,利用以下指令安裝BeautifulSoup套件:
$ pip install beautifulsoup4

四、Selenium get()方法

開啟開發工具,本文以Visual Studio Code為例,建立一個app.py檔案,引用time模組與Selenium套件webdriver模組及Options類別,如下範例:
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
import time


options = Options()
options.add_argument("--disable-notifications")

chrome = webdriver.Chrome('./chromedriver', chrome_options=options)
chrome.get("https://www.facebook.com/")
範例中第6、7行的options物件,主要用途為取消網頁中的彈出視窗,避免妨礙網路爬蟲的執行。

而第9行就是建立webdriver物件,傳入剛剛所下載的「瀏覽器驅動程式路徑」及「瀏覽器設定(chrome_options)」,其中的「瀏覽器驅動程式路徑」一定要傳入,而「瀏覽器設定(chrome_options)」則可視情況傳入,為選擇性的。

有了Selenium webdriver的物件後,就可以透過第10行的get()方法,前往要爬取的網頁網址。

到這邊執行app.py程式碼時,就會自動開啟Chrome瀏覽器,並且前往Facebook,如下圖:
python_selenium_scraper

五、Selenium元素定位

到了Facebook的登入頁面後,要讓Python自動輸入「電子郵件」及密碼首先需利用Selenium套件進行元素的定位,在Chrome瀏覽器按下F12後,可以看到這兩個欄位的id「email」「pass」,如下範例:
python_selenium
這時候,就可以使用Selenium套件find_element_by_id方法來分別建立「電子郵件」及密碼」的物件,如下範例:
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
import time


options = Options()
options.add_argument("--disable-notifications")

chrome = webdriver.Chrome('./chromedriver', chrome_options=options)
chrome.get("https://www.facebook.com/")

email = chrome.find_element_by_id("email")
password = chrome.find_element_by_id("pass")

六、Selenium send_keys()方法

接下來,就可以透過Selenium套件send_keys()方法,來模擬使用者輸入資料,最後,利用submit()方法送出,進行登入的動作,如下範例:
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
import time


options = Options()
options.add_argument("--disable-notifications")

chrome = webdriver.Chrome('./chromedriver', chrome_options=options)
chrome.get("https://www.facebook.com/")

email = chrome.find_element_by_id("email")
password = chrome.find_element_by_id("pass")

email.send_keys('example@gmail.com')
password.send_keys('*****')
password.submit()

七、Selenium execute_script方法

由於本文要爬取Learn Code With Mike粉絲專頁的文章標題,所以登入後,需要再一次的使用Selenium套件get()方法前往粉絲專頁,如下範例:
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
import time


options = Options()
options.add_argument("--disable-notifications")

chrome = webdriver.Chrome('./chromedriver', chrome_options=options)
chrome.get("https://www.facebook.com/")

email = chrome.find_element_by_id("email")
password = chrome.find_element_by_id("pass")

email.send_keys(config.email)
password.send_keys(config.password)
password.submit()

time.sleep(3)
chrome.get('https://www.facebook.com/learncodewithmike')
範例中第19行的sleep()方法,主要用途是暫停執行程式碼3秒,讓網頁利用這段時間載入元素,再前往粉絲專頁,避免直接執行時,如果網頁還沒有載入完成,就會發生讀取不到所要爬取的元素或網頁卡住等例外情況,所以這行程式碼可視情況使用。

20210126補充說明
在前往粉絲專頁後,如果有彈跳出聊天室窗,而妨礙Python網頁爬蟲的執行時,則可以利用Selenium套件的find_element_by_css_selector()方法(Method),傳入關閉(X)按鈕的樣式類別(class)定位,並且呼叫click()點擊方法(Method)關閉聊天室窗,如下範例第22-25
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
import time


options = Options()
options.add_argument("--disable-notifications")

chrome = webdriver.Chrome('./chromedriver', chrome_options=options)
chrome.get("https://www.facebook.com/")

email = chrome.find_element_by_id("email")
password = chrome.find_element_by_id("pass")

email.send_keys('example@gmail.com')
password.send_keys('*****')
password.submit()

time.sleep(3)
chrome.get('https://www.facebook.com/learncodewithmike')

time.sleep(5)
chat = chrome.find_element_by_css_selector(
    '.oajrlxb2.gs1a9yip.g5ia77u1.mtkw9kbi.tlpljxtp.qensuy8j.ppp5ayq2.goun2846.ccm00jje.s44p3ltw.mk2mc5f4.rt8b4zig.n8ej3o3l.agehan2d.sk4xxmp2.rq0escxv.nhd2j8a9.pq6dq46d.mg4g778l.btwxx1t3.pfnyh3mw.p7hjln8o.kvgmc6g5.cxmmr5t8.oygrvhab.hnxzwevs.tgvbjcpo.hpfvmrgz.jb3vyjys.rz4wbd8a.qt6c0cv9.a8nywdso.l9j0dhe7.i1ao9s8h.esuyzwwr.f1sip0of.du4w35lb.lzcic4wl.abiwlrkh.p8dawk7l')
chat.click()
PS.如果在前往粉絲專頁後,沒彈跳出聊天室窗,則無需增加第22-25行,否則會發生例外錯誤。

接著,按下F12,可以看到HTML的原始碼中,只有顯示一些文章,而不會全部載入,必須透過滾動捲軸來動態載入更多的文章,所以這時候就可以利用Selenium套件execute_script()方法,來執行滾動捲軸的JavaScript程式碼,如下範例:
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
import time


options = Options()
options.add_argument("--disable-notifications")

chrome = webdriver.Chrome('./chromedriver', chrome_options=options)
chrome.get("https://www.facebook.com/")

email = chrome.find_element_by_id("email")
password = chrome.find_element_by_id("pass")

email.send_keys('example@gmail.com')
password.send_keys('*****')
password.submit()

time.sleep(3)
chrome.get('https://www.facebook.com/learncodewithmike')

for x in range(1, 4):
    chrome.execute_script("window.scrollTo(0,document.body.scrollHeight)")
    time.sleep(5)
範例中,使用Python的迴圈,執行滾動捲軸3次,每滾動一次就暫停執行程式碼5秒,讓Facebook載入更多的文章。

八、BeautifulSoup find_all()方法

20210126補充說明
前面透過Selenium套件進行登入、前往粉絲專頁及滾動捲軸來動態載入更多的文章,這時候就可以來查看所要爬取的文章標題原始碼,如下圖:
python_selenium
在紅框的文章標題,點擊右鍵,選擇「檢查」,可以看到它的HTML原始碼為:

python_selenium

目前瀏覽器page_source(原始碼),傳入BeautifulSoup類別,來進行解析,如下範例:
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
from bs4 import BeautifulSoup
import time


options = Options()
options.add_argument("--disable-notifications")

chrome = webdriver.Chrome('./chromedriver', chrome_options=options)
chrome.get("https://www.facebook.com/")

email = chrome.find_element_by_id("email")
password = chrome.find_element_by_id("pass")

email.send_keys('example@gmail.com')
password.send_keys('*****')
password.submit()

time.sleep(3)
chrome.get('https://www.facebook.com/learncodewithmike')

for x in range(1, 4):
    chrome.execute_script("window.scrollTo(0,document.body.scrollHeight)")
    time.sleep(5)

soup = BeautifulSoup(chrome.page_source, 'html.parser')
接著,就可以使用BeautifulSoup套件find_all()方法,取得文章標題的元素,也就是樣式類別(class)a8c37x1j...所有<span>標籤,如下範例:
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
from bs4 import BeautifulSoup
import time


options = Options()
options.add_argument("--disable-notifications")

chrome = webdriver.Chrome('./chromedriver', chrome_options=options)
chrome.get("https://www.facebook.com/")

email = chrome.find_element_by_id("email")
password = chrome.find_element_by_id("pass")

email.send_keys('example@gmail.com')
password.send_keys('*****')
password.submit()

time.sleep(3)
chrome.get('https://www.facebook.com/learncodewithmike')

for x in range(1, 4):
    chrome.execute_script("window.scrollTo(0,document.body.scrollHeight)")
    time.sleep(5)

soup = BeautifulSoup(chrome.page_source, 'html.parser')

titles = soup.find_all('span', {
    'class': 'a8c37x1j ni8dbmo4 stjgntxs l9j0dhe7 ojkyduve'})

九、BeautifulSoup getText()方法

最後,利用Python迴圈讀取每一個文章標題的元素,透過BeautifulSoup套件的getText()方法,取得所有<span>標籤中的文字如下範例:
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
from bs4 import BeautifulSoup
import time


options = Options()
options.add_argument("--disable-notifications")

chrome = webdriver.Chrome('./chromedriver', chrome_options=options)
chrome.get("https://www.facebook.com/")

email = chrome.find_element_by_id("email")
password = chrome.find_element_by_id("pass")

email.send_keys('example@gmail.com')
password.send_keys('*****')
password.submit()

time.sleep(3)
chrome.get('https://www.facebook.com/learncodewithmike')

for x in range(1, 4):
    chrome.execute_script("window.scrollTo(0,document.body.scrollHeight)")
    time.sleep(5)

soup = BeautifulSoup(chrome.page_source, 'html.parser')

titles = soup.find_all('span', {
    'class': 'a8c37x1j ni8dbmo4 stjgntxs l9j0dhe7 ojkyduve'})
for title in titles: post = title.find('span', {'dir': 'auto'}) if post: print(post.getText()) chrome.quit()
20210126補充說明
為了要更精準的爬取到粉絲專頁的文章標題,在迴圈的讀取過程中,第34行再透過find()方法(Method),取得所有樣式類別(class)a8c37x1j...<span>標籤子元素,第36行判斷如果不為None,則印出爬取結果,如下圖:
python_selenium

十、小結

以上就是結合PythonSeleniumBeautifulSoup套件實現動態登入的網頁爬蟲,完整的程式碼可以參考下方的GitHub網址,如果在實作的過程中有碰到問題,歡迎在底下留言分享。

如果您喜歡我的文章,請幫我按五下Like(使用GoogleFacebook帳號免費註冊),支持我創作教學文章,回饋由LikeCoin基金會出資,完全不會花到錢,感謝大家。

有想要看的教學內容嗎?歡迎利用以下的Google表單讓我知道,將有機會成為教學文章,分享給大家😊

Python學習資源
Python網頁爬蟲推薦課程
    Python網頁爬蟲-BeautifulSoup教學
    Python網頁爬蟲-Selenium教學
    Python非同步網頁爬蟲
    Python網頁爬蟲應用
    Python網頁爬蟲部署
    Python網頁爬蟲資料儲存
    Python網頁爬蟲技巧


    留言

    1. 您好:
      我有在您的Github上發PR
      主要是針對Selenium自動下載對應Chrome Webdriver 版本的套件
      再請您查看~

      回覆刪除
      回覆
      1. 哈囉TSUNG YU CHEN您好:
        WOW原來有這麼好的實作方式,非常感謝您的分享,讓我學到了一課~ :)
        已經Merge PR囉~

        刪除
    2. 你好 為什麼完整的程式碼中多了
      import webdriver_manager
      from webdriver_manager.chrome import ChromeDriverManager
      ChromeDriverManager.install() 跟你原本文章中用executable_path有什麼不同呢?
      我下載你的代碼之後,把ChromeDriverManager的部分拿掉,改回executable_path的方式,運行之後,每一步都有執行,但是,就是最後一步,沒有把標題print out不知道是哪裡出了問題呢?以下是我的代碼。謝謝

      from selenium import webdriver
      from selenium.webdriver.chrome.options import Options
      from bs4 import BeautifulSoup
      import time



      options = Options()
      options.add_argument("--disable-notifications")

      chrome = webdriver.Chrome(executable_path='./chromedriver', chrome_options=options)
      chrome.get("https://www.facebook.com/")

      email = chrome.find_element_by_id("email")
      password = chrome.find_element_by_id("pass")

      email.send_keys('******)
      password.send_keys('*******')
      password.submit()

      time.sleep(3)
      chrome.get('https://www.facebook.com/learncodewithmike')

      for x in range(1, 4):
      chrome.execute_script("window.scrollTo(0,document.body.scrollHeight)")
      time.sleep(5)

      soup = BeautifulSoup(chrome.page_source, 'html.parser')

      titles = soup.find_all('span', {
      'class': 'oi732d6d ik7dh3pa d2edcug0 qv66sw1b c1et5uql a8c37x1j s89635nw ew0dbk1b a5q79mjw g1cxx5fr lrazzd5p oo9gr5id hzawbc8m'})

      for title in titles:
      print(title.getText())

      chrome.quit()

      回覆刪除
      回覆
      1. 您好:
        1.本文的寫法與使用webdriver-manager不一樣的地方是,本文的寫法需要手動到PyPI下載對應版本的driver,並且未來如果您的本機Chrome版本升級時,舊專案就需要手動到PyPI下載較新版本的driver。而使用webdriver-manager,在「每一次」執行時,它就會自動使用與Chrome版本相同的driver,無需手動到PyPI下載,當您的Chrome版本更新時,舊專案也都不會影響。

        2.您所貼的程式碼如果要使用本文的寫法,應該是:
        chrome = webdriver.Chrome('./chromedriver', chrome_options=options)
        而不是
        chrome = webdriver.Chrome(executable_path='./chromedriver', chrome_options=options)

        希望以上有回答到您的疑問 :)

        刪除
    3. 感謝大大的教學~~~
      受益良多 :D

      回覆刪除
    4. 感謝寫的這麼詳細。
      在大大的blog受益良多

      回覆刪除
      回覆
      1. 謝謝您的支持和鼓勵,會持續分享Python教學文章給大家,如果這樣的教學內容對您有所幫助,別忘了追蹤Learn Code With Mike粉絲專頁與訂閱部落格文章唷 :)

        刪除
    5. 感謝Mike前輩的教學,教學step by step,使人容易瞭解,
      讓我能在爬社群網站Dcard時有所借鑑。
      因為同樣需要捲動下滑頁面( ≧Д≦)( ≧Д≦)
      爬動態網頁真得有些難度呢(-`д´- 。)(-`д´- 。)
      再次感謝大佬的教學(,,Ծ‸Ծ,, )
      立馬繼續瀏覽大大的其他好文章~~

      回覆刪除
      回覆
      1. 感謝您的支持阿,爬動態網頁真的有些難度,希望有幫助到您囉~ :)

        刪除
    6. Hello Mike
      謝謝你寫這麼詳盡的文章可以讓大家參考學習
      但是有個問題想要請教:
      我的程式碼如下:
      from selenium import webdriver
      from selenium.webdriver.common.keys import Keys
      from selenium.webdriver.chrome.options import Options
      import time

      options = Options()
      options.add_argument("--disable-notifications")


      driver = webdriver.Chrome()
      driver.get('https://www.google.com/')
      element = driver.find_element_by_class_name('gLFyf.gsfi')
      element.send_keys('123')

      目前可以順利開啟到https://www.google.com/ 這個頁面,但無法輸入想要搜尋的字進去輸入框,以上面的程式碼來說,想要搜尋的字就是123,也無任何報錯,希望可以請教Mike這個問題可能是出在哪邊?

      最後再次謝謝你詳盡的文章:)

      回覆刪除
      回覆
      1. 你最後要加這個 element.submit()
        才能輸入123

        刪除
    7. 我用selenium的webdriver使用chrome
      要爬蟲的網頁裡有一個element的html如下(發言不允許html語法,所以改用全形〈〉):

      〈select onchange="ChgFD(this.value);"〉
      〈option value="指標"〉指標〈/option〉
      〈option value="統計"〉統計〈/option〉
      〈option value="EB"〉EB〈/option〉
      〈option value="年度"〉年度〈/option〉
      〈option value="季度"〉季度〈/option>
      〈/select〉

      我select_element_by_tage_name抓到這個tag 〈select〉
      如下程式碼

      # python的程式碼
      myelement=browser.find_element_by_tag_name('select')
      myoptions = myelement.find_elements_by_tag_name('option')
      myselect.select_by_value(myoptions[4].get_attribute("value"))
      # 選項設了,但沒有觸發onchange="ChgFD(this.value);" 這個事件,請問如何執行onchange事件
      time.sleep(5)
      print(browser.page_source)

      但是select元件的onchange事件不能自動觸發
      要如何trigger這個event?


      回覆刪除
    8. 請問若是要將整理出來的資料匯出至text檔,該怎麼做呢?

      回覆刪除
    9. 感謝Mike的教學,讓人清楚瞭解程式,謝謝!
      執行捲軸時出現USB: usb_device_handle_win.cc:1048 Failed to read descriptor from node connection: 連結到系統的某個裝置失去作用。

      回覆刪除
    10. 應該是在這行chrome = webdriver.Chrome('./chromedriver')
      出現USB: usb_device_handle_win.cc:1048 Failed to read descriptor from node connection: 連結到系統的某個裝置失去作用。

      回覆刪除

    張貼留言

    這個網誌中的熱門文章

    [Python爬蟲教學]7個Python使用BeautifulSoup開發網頁爬蟲的實用技巧

    Photo by Stanley Dai on Unsplash 在實務上開發專案時,很多時候會利用其他網站的資料來進行分析或運用,而取得的方式除了透過網站所提供的 API(Application Programming Interface) 外,也可以利用 Python 來開發爬蟲程式,將網頁的 HTML 內容下載下來,接著利用 BeautifulSoup 套件 (Package) ,擷取所需的資訊。 本文將開發一個簡單的爬蟲程式,爬取「 ETtoday 旅遊雲 」網頁,擷取桃園旅遊景點的標題資訊,如下圖: 取自ETtoday 的旅遊雲 而在開發的過程中,常會需要搜尋 HTML 的節點,本文將分享幾個常用的方法,包含: BeautifulSoup 安裝 以 HTML 標籤及屬性搜尋節點 以 CSS 屬性搜尋節點 搜尋父節點 搜尋前、後節點 取得屬性值 取得連結文字 一、 BeautifulSoup 安裝 BeautifulSoup 是一個用來解析 HTML 結構的 Python 套件 (Package) , 將取回的網頁 HTML 結構, 透過其提供的方法 (Method) ,能夠輕鬆的搜尋及擷取網頁上所需的資料,因此廣泛的 應用在網頁爬蟲的開發上 。 Beautifulsoup 套件 (Package) 可以透過 pip 指令來進行安裝,如下範例: pip install beautifulsoup4 而要解析網頁的 HTML 程式碼前,還需要安裝 Python 的 requests 套件 (Package) ,將要爬取的網頁 HTML 程式碼取回來,安裝方式如下: pip install requests 安裝完成後,首先引用 requests 套件 (Package) ,並且 透過 get() 方法 (Method) 存取 ETtoday 旅遊雲的桃園景點網址,如下範例: import requests response = requests.get( "https://travel.ettoday.net/category/%E6%A1%83%E5%9C%92/") 將網頁的 HTML 程式碼取回來後,接著引用 BeautifulSoup

    [Python物件導向]淺談Python類別(Class)

    Photo by Bram Naus on Unsplash 在學習程式語言時,或多或少都有聽過物件導向程式設計 (Object-oriented programming ,簡稱 OOP) ,它是一個具有物件 (Object) 概念的開發方式,能夠提高軟體的重用性、擴充性及維護性,在開發大型的應用程式時更是被廣為使用,所以在現今多數的程式語言都有此種開發方式, Python 當然也不例外。而要使用物件導向程式設計就必須對類別 (Class) 及物件 (Object) 等有一些基本的了解,包含了: 類別 (Class) 物件 (Object) 屬性 (Attribute) 建構式 (Constructor) 方法 (Method) 我們先來看一下今天要來建立的類別: # 汽車類別 class Cars: # 建構式 def __init__(self, color, seat): self.color = color # 顏色屬性 self.seat = seat # 座位屬性 # 方法(Method) def drive(self): print(f"My car is {self.color} and {self.seat} seats.") 接下來就針對類別 (Class) 各個部分來進行介紹。 一、類別 (Class) 簡單來說,就是物件 (Object) 的藍圖 (blueprint) 。就像要生產一部汽車時,都會有設計圖,藉此可以知道此類汽車會有哪些特性及功能,類別 (Class) 就類似設計圖,會定義未來產生物件 (Object) 時所擁有的屬性 (Attribute) 及方法 (Method) 。而定義類別的語法如下: class classname:   statement 首先會有 class 關鍵字,接著自定類別名稱,最後加上冒號。類別名稱的命名原則習慣上使用 Pascal 命名法,也就是每個單字字首大寫,不得使用空白或底線分隔單字,如下範例: #範例一 class Cars: #範例二 class MyCars: 二、物件 (Object) 就是透過

    [Pandas教學]資料分析必懂的Pandas DataFrame處理雙維度資料方法

    Photo by Slidebean on Unsplash 現在有許多的企業或商家,都會利用取得的使用者資料來進行分析,瞭解其中的趨勢或商機,由此可見,資料分析越來越受到重視,而這時候,能夠懂得使用資料分析工具就非常的重要。 在上一篇 [Pandas教學]資料分析必懂的Pandas Series處理單維度資料方法 文章中,分享了Pandas Series資料結構用於處理單維度資料集的實用方法,而本文則要來介紹Pandas套件的另一個非常重要的資料結構,也就是 DataFrame。

    [Python+LINE Bot教學]6步驟快速上手LINE Bot機器人

    Photo by Yura Fresh on Unsplash 每當朋友或家人要聚餐時,是不是總要花很長的時間尋找評價不錯的餐廳?不但要確認營業時間、消費價格及地點,還要觀看許多的美食文章才有辦法決定,這時候如果有人能夠明確提供幾間符合條件且有人氣的餐廳作為選擇,想必會省事許多。 所以筆者開發了一個美食的 LINE Bot 小作品,透過對談的方式瞭解使用者所要尋找的餐廳條件後,利用 Python 網頁爬蟲取得目前正在營業的五間最高人氣餐廳資料,回覆給使用者作為參考。 為了要讓想學習的您能夠由淺入深,瞭解其中的實作過程,所以將會分成三篇文章來進行教學。 2020/06/30 補充說明 而在進行實作前,先來看一下 LINE Bot 主要的執行架構,如下圖: 使用者透過 LINE 發送訊息時, LINE Platform 將會進行接收,並且傳遞至我們所開發的 LINE Bot 執行邏輯運算後,透過 LINE 所提供的 Messaging API 回應訊息給 LINE Platform ,最後再將訊息傳遞給使用者。 其中 Messaging API(Application Programming Interface) ,就是 LINE 官方定義的 回應訊息 標準介面,包含 Text (文字)、 Sticker (貼圖)、 Video (影片)、 Audio (聲音)及 Template (樣板)訊息等,完整的說明可以參考 LINE 的 官方文件 。 所以在我們的 LINE Bot 回應訊息時,就要依據 Messaging API 定義的規範,傳入相應的參數後, Messaging API 就會回應使用者相對的訊息類型。簡單來說,就是 LINE Platform 與 LINE Bot 的溝通橋樑。 而本文就先以最基本的使用者發送什麼訊息, LINE Bot 就回應什麼訊息為例,讓讀者體會其中的運作方式,整體架構如下圖: 在 LINE Bot 的部分,使用 Django 框架來進行建置,並且透過 Messaging API 回應 Text (文字)訊息。在下一篇文章中,將會加入 Python 網頁爬蟲,取得美食網站的資訊回應給使用者。 本文的實作步驟包含: 建立 Provider 建立 Messaging API channel 設定 LINE Bot 憑證 開發 LINE B

    [Python教學]搞懂5個Python迴圈常見用法

    Photo by Scott Webb on Unsplash 在撰寫程式的過程中,都有機會要重複執行一些相同的運算,但是重複撰寫好幾次同樣的運算看起來非常的沒有效率,所以在這個情況下我們通常會使用迴圈來幫我們完成,本篇就來介紹 Python 迴圈的使用方式,包含 For-Loops 、 Nested Loops 及 while-Loops ,並且說明用來控制迴圈流程的 break 及 continue 指令。 一、 range() 方法 在開始介紹 Python 迴圈之前,先來說明一個在執行迴圈時常用的 range() 方法,主要用來幫我們產生數列,語法如下: range( 起始值 , 結束值 , 遞增 ( 減 ) 值 ) 使用說明: range(20) :起始值預設從 0 開始,所以會產生 0 到 19 的整數序列。 range(10,20) :起始值從 10 開始,所以會產生 10 到 19 的整數序列。 range(10,20,3) :起始值從 10 開始,遞增值為 3 ,所以會產生 10,13,16,19的整數序列 。 二、 Python For-Loops 敘述 可以針對 Iterable( 可疊代的 ) 物件來進行讀取, Python 內建幾個常用的 Iterable 物件,像是 String( 字串 ) 、 List( 串列 ) 、 Tuples( 元組 ) 、 Dictionary( 字典 ) 等,往後會出文章詳細的介紹。 Python for-loop 的語法如下: 在語法中, in 的後方就是 for-loop 要讀取的目標物,這個目標物的為 Iterable ( 可疊代的 ) 物件,一次讀取一個元素,然後用 item( 自訂變數名稱 ) 來接收每次讀取到的元素,執行區塊中的運算。注意 for-loop 的結尾需加上冒號 ( : ) 及區塊中的運算式要有相同的縮排,範例如下: 在範例中, for-loop 的讀取目標物為一個字串,每一次讀取一個字母,並且用 letter 變數來接收,執行 print() 方法。 三、 Python Nested Loops ( 巢狀迴圈 ) 簡單來說,就是迴圈中又有一層迴圈,我們來看一個範例:   這個巢狀迴

    [Python教學]5個必知的Python Function觀念整理

    Photo by Susan Holt Simpson on Unsplash 在寫程式碼時有一個非常重要的觀念是 DRY(Don’t Repeat Yourself) ,意思是避免 同樣的程式碼重複出現在很多個地方, 除了可讀性很低外,也不易維護。所以 要適當的進行封裝,來達到程式碼的重用性 (Reusable) 。 今天要來教大家如何建構自己的   Python 函式 (Function) ,就是能夠讓你的程式碼被重複的使用 (Reusable) ,並且提高維護性 及可讀性。其中有五個必須要知道的重要觀念, 包含了: 函式 (Function) 結構 函式(Function) 參數 函式(Function) *args 、 **kwargs 運算子 函式(Function) 種類 函式(Function) 變數範圍 (Scope) 一、函式 (Function) 結構 首先Python 函式 的結構包含了 def 關鍵字、 函式 名稱、參數及實作內容,如下範例: 函式 名稱的命名習慣上會使用小寫字母,並且以底線來分隔單字。參數用來接收外部資料,而實作的內容則是這個 函式 所要執行的任務,需注意縮排。接下來就針對 函式 的各個部分進行詳細的說明。 二、 函式(Function) 參數 參數簡單來說就是接收外部所傳來的資料,進而執行相關的邏輯運算。參數個數取決於 函式 內部運算時所需的資料個數,所以在一般情況下,呼叫 函式 時一定要傳入相對的參數個數資料,否則就會出現例外錯誤,如下範例: 函式 的參數,又可分為: 關鍵字參數 (Keyword Argument) : 呼叫函式時,在傳入參數值的前面加上函式所定義的參數名稱,如下範例。除了提高可讀性外,也可將此種參數打包成 字典 (Dictionary) 資料型態,在等一下的 xargs 、 xxargs 運算子部分會來進行說明。 預設值參數 (Default Argument) : 在函式定義的參數中,將可以選擇性傳入的參數設定一個預設值,當來源端有傳入該資料時,使用來源端的資料,沒有傳入時,則依照設定的預設值來進行運算,如下範例: 範例中沒有傳入日期參數資料,所以 函式 使用預設值 (2019

    [Pandas教學]5個實用的Pandas讀取Excel檔案資料技巧

    Photo by LinkedIn Sales Navigator on Unsplash 日常生活中,不免俗的都會有需要整理大量資料的需求,而最常用的文書軟體就是Excel,這時候該如何有效讀取Excel檔中的資料,進行額外的整理及操作呢? 本文將以 政府開放資料平台-歷年國內主要觀光遊憩據點遊客人數月別統計 的資料內容為例, 利用Python的Pandas套件,來和大家分享實務上最常見的Excel讀取操作,藉此來提升資料處理的效率。

    [Python教學]Python字串實用技巧

    Photo by Sincerely Media on Unsplash 在 Python變數與資料型態 文章中,說明到字串的表示法為文字前後加上單引號或雙引號,使用單引號或雙引號依個人喜好選擇,大部分習慣上使用雙引號。本篇將介紹 Python String( 字串 ) 資料型態的基本用法,包含字串的合併、格式化、裁切及常用的內建方法 (Built-in function) 。 一、字串連接 (String concatenating) 首先,如果要將兩個字串連接起來,在 Python 中使用  +  號,如下所示: 二、字串格式化 (String formatting) 在 Python3 中,提供了簡潔的字串格式化語法,來達到跟上面範例相同的效果。使用方式就是在字串的前方加上 f 或 F 前綴字,接著在 {} 符號中,傳入變數或運算式, Python 會將 {} 中的變數資料或運算結果帶出來。 三、字串裁切 (String slicing) 字串裁切就是基於原字串取出想要的部分,像是想存取字串中特定位置的字元,在 Python 中使用 [] 符號,並傳入索引值。特別注意索引值由 0 開始計算。 如果想從字串的最後一個字母開始存取,則索引值由 -1 開始計算。 以上範例皆為取得單一字母。取得部分字串的方式,則使用  [:]  符號,分別傳入起始索引值及結束索引值 ( 輸出結果不包含結束索引位置的字母 ) ,如下範例: 結束索引值沒輸入的話,代表從起始索引值開始至字串的最後。 相反的,起始索引未輸入, Python 預設會填入 0 。 起始索引值及結束索引值皆不輸入,就相當於複製原字串的意思。 四、常用的字串內建方法 (Built-in function) 什麼是方法 (function) 呢?簡單來說,就是封裝了專們執行某項任務的可重複使用程式碼。舉例來說,洗衣機包含了很多顆功能按鈕,一顆按鈕就是代表一個功能 (function) ,專門執行某項任務(例如:脫水)。本篇就來介紹幾個 Python 字串資料型態常用的內建方法 (Built-in function) 。 1.    upper(): 將字串轉為大寫字母。 2

    [Python教學]Python Lambda Function應用技巧分享

    Photo by Fatos Bytyqi on Unsplash Lambda 函式,也就是匿名函式,不需要定義名稱,只有一行運算式,語法非常簡潔,功能強大,所以現代程式語言如 Java、C# 及 Python 等都支援 Lambda 函式,適用於小型的運算, Python的 一些內建函式甚至使用它作為參數值的運算。現在就來介紹 如何 在 Python 中使用 Lambda 函式與技巧吧,包含: Lambda 語法與範例 Python Lambda 函式的應用 Lambda 函式 vs 一般函式 (Function) 一、 Lambda 語法與使用範例 由於 Lambda 函式只有一行程式碼,所以在撰寫時有一些限制,我們來看一下它的語法: lambda parameter_list: expression 這邊教大家一個技巧,在撰寫 Lambda 函式時,於 Visual Studio Code 輸入 lambda 關鍵字,接著按下 Tab 鍵,就會自動產生範例中的語法,包含了三個部分: lambda 關鍵字 parameter_list( 參數清單 ) expression( 運算式 ) 其中, parameter_list( 參數清單 ) 也就是 Lambda 函式的傳入參數,可以有多個,以逗號分隔。而 expression( 運算式 ) 則是針對傳入參數來進行運算,只能有一行運算式,不像 一般函式(Function) 可以有多行。接下來,我們透過幾個範例來了解如何使用 Lambda 函式吧。 範例 1 : 範例中將 Lambda 函式指派給一個變數,接著就可以透過此變數並傳入參數來進行呼叫。 範例 2 : Lambda 函式支援 IIFE(immediately invoked function expression)語法 ,意思是 利用  function expression 的方式來建立函式,並且立即執行它,語法如下 : (lambda parameter: expression)(argument) 範例中即是利用此語法在 Lambda函式 定義後,立即傳入參數執行。 範例 3 : 透過此範例可以知道,當 Lambda 函式經定義