主頁 > 企業開發 > 教你nodejs爬蟲制作知乎專欄RSS抓取程式

教你nodejs爬蟲制作知乎專欄RSS抓取程式

2020-09-19 20:58:55 企業開發

現在這個社會是資訊爆炸的社會,各個網站、app上鋪天蓋地的都是各種新聞和資訊, 為了獲取資訊,我們每天都要進行各種麻煩的操作,打開各種網站或者手機app,操作顯得低效,后來發現了一個神器,那就是RSS,

什么是RSS

RSS中文名是簡易資訊聚合,就是讓網站一個按照一定周期更新網站的文章概要內容(有些是全文)到一個xml中,RSS訂閱工具一定時間抓取這個RSS訂閱源生成資料供訂閱者讀取網站內容, 

有了RSS,你只要去訂閱工具上就可以瀏覽你自己訂閱的新的更新內容,非常簡單高效,這里推薦一個RSS訂閱神器inoreader,支持中文,這個我認為是目前最好的RSS訂閱器, 知乎專欄是一個知乎開給個人寫的博客,有些專欄上面具有有價值的資訊,但是很遺憾知乎專欄不提供RSS訂閱,當然作為開發者來說,我們可以自己動手做一個知乎專欄RSS抓取程式,

 

制作爬蟲

很多網站提供了RSS,但是更多網站其實沒有提供RSS訂閱源,我們可以使用爬蟲抓取網站更新內容制作個人的RSS訂閱源,我作為一個前端er可以使用nodejs來進行RSS的制作,

什么是nodejs

Node.js是一個基于Chrome JavaScript運行時建立的平臺, 用于方便地搭建回應速度快、易于擴展的網路應用,Node.js 使用事件驅動, 非阻塞I/O 模型而得以輕量和高效,非常適合在分布式設備上運行資料密集型的實時應用,

簡單的說 Node.js 就是運行在服務端的 JavaScript,使用nodejs的可以讓你一個只會用JavaScript也能寫后端服務代碼,當然也能用它進行爬蟲抓取的作業,

先安裝爬蟲所需依賴

進行爬取作業的話先要安裝所要用到的依賴, superagent是最常用的一個依賴庫,利用它可以輕松發送各種請求, cheerio就是一個nodejs版本的jquery,利用它可以獲取網頁中的各種dom結構, data2xml就是一個json轉化成xml的一個庫, 其他還有node-schedulefs就是進行定時操作和檔案操作,

新建一個檔案夾rssmaker,并且執行npm init創建package.json,

 

用npm install node_modules_name --save來進行安裝各種依賴,

分析知乎專欄結構獲取要爬取的入口

我這次舉例爬取一個專欄前端學習指南,像這種適配手機端的網頁,一般都有采用發送API請求來獲得資料進行前端渲染頁面,我們可以用chromenetwork的查看可疑的請求,打開chrome的開發者工具,我們很快就發現了一個目標,一個可疑請求https://zhuanlan.zhihu.com/api/columns/study-fe/posts?limit=20

 

 

4

我們得到了一個json,我們現在使用一個json的查看工具chrome的插件JSON Editor可視化這個json資料方便我們進行分析,

 

5

我們可視化后資料如下:

 

6

前面我們發現的請求發送里面有一個引數是limit,它的值是20,從上圖我們知道了我們得到了20組資料,這個引數其實就是限制獲取的資料條目數,我們現在分析20組里面的一條資料,

 

{    "isTitleImageFullScreen": false,    "rating": "none",    "sourceUrl": "",    "publishedTime": "2016-12-28T15:01:44+08:00",    "links": {      "comments": "/api/posts/24606606/comments"
    },    "author": {      "profileUrl": "https://www.zhihu.com/people/jirengu-ruo-yu",      "bio": "饑人谷的挑山工    jirengu.com",      "hash": "3dd61d987210ce6b0ba24746803e04bb",      "uid": 33284922802176,      "isOrg": false,      "description": "饑人谷的挑山工    jirengu.com     ",      "isOrgWhiteList": false,      "slug": "jirengu-ruo-yu",      "avatar": {        "id": "31a3446681c9040f3643472db505a6ef",        "template": "https://pic4.zhimg.com/{id}_{size}.jpg"
      },      "name": "若愚"
    },    "url": "/p/24606606",    "title": "前端筆試面試題庫",    "titleImage": "",    "summary": "",    "content": "<h2>做了什么?</h2><p>我們在建了 GitHub 前端筆試面試題庫 <a href=https://www.cnblogs.com/"https://github.com/jirengu/frontend-interview/issues\" data-editable=\"true\" data-title=\"前端筆試面試題庫\" class=\"\">前端筆試面試題庫</a>, 歡迎走訪</p><br><br><h2>為什么建前端筆試面試題庫?</h2><p><a href=https://www.cnblogs.com/"https://zhuanlan.zhihu.com/study-fe\" data-editable=\"true\" data-title=\"前端學習指南專欄\" class=\"\">前端學習指南專欄</a> 專欄創建3個月有很多前端愛好者特別是入門者關注,很多小伙伴一直期待我們能做一份筆試面試題集錦分享給大家,我和方方也一直想把這個事情做好,但兩個人的力量太微弱,于是想到在 github 上建立公共專案,匯集更多前端愛好者的力量一起收集前端常見筆試面試題,作為送給前端入門的小伙伴、需要找作業的小伙伴一份新年禮物??</p><br><br><h2>如何貢獻題目?</h2><p>大家可以在 【[Issue](<a href=https://www.cnblogs.com/"https://github.com/jirengu/frontend-interview/issues\" data-editable=\"true\" data-title=\"jirengu/frontend-interview\" class=\"\">jirengu/frontend-interview</a>)】上通過提交Issue的形式提交日常遇到的筆試面試題,無論是多\"高端\"或者多\"低級\",</p><img src=https://www.cnblogs.com/"v2-7321f409275270493625137ca12521b0.png\" data-rawwidth=\"1972\" data-rawheight=\"878\"><br><p><b>注意: </b></p><ol><li>提交 Issue 的時候需要在問題里加上問題來源,比如:`來自百度校招筆試題`,或者來自`某公司面試題`<br></li><li> 在提交Issue 的時候需要選擇合適的標簽以便分類整理,目前的標簽有 `HTML&amp;CSS`、`JavaScript`、`前端框架`、`HTTP`、`未歸類`,如果你不知道該選擇什么標簽,就選擇`未歸類`吧,或者可以在題目的描述里加上自己覺得應該添加的標簽,專案管理者會定期更新添加新標簽<br></li><li>當前專案的主題是 <b>前端筆試面試題</b>,不要把自己平時學習中的疑問放進去,要的是貨真價實的筆試面試題,否則變味了就沒人喜歡了<br></li></ol><br><h2><br>如何貢獻答案?</h2><p>不要吝嗇自己的答案,在腦子里的答案不叫答案,只有寫下來后才知道答案沒那么簡單,面試官真問起的時候才能對答如流</p><p>勇敢的回復自己的答案吧</p><br><p>覺得不錯?</p><p>Star 這個專案, Watch 這個專案,分享給其他小伙伴吧</p>",    "state": "published",    "href": "/api/posts/24606606",    "meta": {      "previous": null,      "next": null
    },    "commentPermission": "anyone",    "snapshotUrl": "",    "canComment": false,    "slug": 24606606,    "commentsCount": 20,    "likesCount": 135
  }

 

 

8

 

9

 

我們可以通過《XML那些事...》 實作簡單的RSS可知RSS幾個關鍵的值,跟上圖截圖的對應,

 

10

我們現在知道爬取的入口,那么我們現在開始coding吧,

用superagent抓取資料組成陣列

新建一個檔案studyfe.js,在檔案中用require引入各種依賴,然后我們用superagent獲取資料后進行陣列的拼裝,

 

11

而在得到這個陣列的時候,我們已經相當于得到了所有要采集的資料了,那下面要做的東西就很簡單了,那就是json陣列轉化成xml格式,而轉化我們我們要用到data2xml這個庫,在開頭我們已經require進來了, data2xml的使用檔案可以查看data2xml-npmjs.com

最后就是把資料輸出到檔案中去

 

13

 

輸出到檔案之后,然后要把這個檔案放到服務器上,這樣才能被rss服務器抓取到,如何放在服務器上這本文就不討論了,還有一個問題就是RSS需要實時更新的,所以還有使用定時抓取,這次用到的是node-schedule,里面的定時寫法其實跟linux中的crontab定時任務寫法是很相似的,下面的代碼其實代表著每3分鐘定時執行一次,

 

定時執行任務還會有一個問題就是在nodejs在執行例外的時候退出,這樣就會導致不會實時抓取,這個要用到一個nodejs中能自動重啟任務的,我用的是pm2,

 

掃描二維碼學習

 

為此,為了學好前端,創建了一個學習交流,能夠與大家一起學習、交流,大家免費領取面試題,電子書籍,特效專案原始碼等干貨,

 

 

 

 

 

 

 



 

轉載請註明出處,本文鏈接:https://www.uj5u.com/qiye/83662.html

標籤:JavaScript

上一篇:Ajax的步驟

下一篇:深入淺出Nodejs讀書筆記

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • IEEE1588PTP在數字化變電站時鐘同步方面的應用

    IEEE1588ptp在數字化變電站時鐘同步方面的應用 京準電子科技官微——ahjzsz 一、電力系統時間同步基本概況 隨著對IEC 61850標準研究的不斷深入,國內外學者提出基于IEC61850通信標準體系建設數字化變電站的發展思路。數字化變電站與常規變電站的顯著區別在于程序層傳統的電流/電壓互 ......

    uj5u.com 2020-09-10 03:51:52 more
  • HTTP request smuggling CL.TE

    CL.TE 簡介 前端通過Content-Length處理請求,通過反向代理或者負載均衡將請求轉發到后端,后端Transfer-Encoding優先級較高,以TE處理請求造成安全問題。 檢測 發送如下資料包 POST / HTTP/1.1 Host: ac391f7e1e9af821806e890 ......

    uj5u.com 2020-09-10 03:52:11 more
  • 網路滲透資料大全單——漏洞庫篇

    網路滲透資料大全單——漏洞庫篇漏洞庫 NVD ——美國國家漏洞庫 →http://nvd.nist.gov/。 CERT ——美國國家應急回應中心 →https://www.us-cert.gov/ OSVDB ——開源漏洞庫 →http://osvdb.org Bugtraq ——賽門鐵克 →ht ......

    uj5u.com 2020-09-10 03:52:15 more
  • 京準講述NTP時鐘服務器應用及原理

    京準講述NTP時鐘服務器應用及原理京準講述NTP時鐘服務器應用及原理 安徽京準電子科技官微——ahjzsz 北斗授時原理 授時是指接識訓通過某種方式獲得本地時間與北斗標準時間的鐘差,然后調整本地時鐘使時差控制在一定的精度范圍內。 衛星導航系統通常由三部分組成:導航授時衛星、地面檢測校正維護系統和用戶 ......

    uj5u.com 2020-09-10 03:52:25 more
  • 利用北斗衛星系統設計NTP網路時間服務器

    利用北斗衛星系統設計NTP網路時間服務器 利用北斗衛星系統設計NTP網路時間服務器 安徽京準電子科技官微——ahjzsz 概述 NTP網路時間服務器是一款支持NTP和SNTP網路時間同步協議,高精度、大容量、高品質的高科技時鐘產品。 NTP網路時間服務器設備采用冗余架構設計,高精度時鐘直接來源于北斗 ......

    uj5u.com 2020-09-10 03:52:35 more
  • 詳細解讀電力系統各種對時方式

    詳細解讀電力系統各種對時方式 詳細解讀電力系統各種對時方式 安徽京準電子科技官微——ahjzsz,更多資料請添加VX 衛星同步時鐘是我京準公司開發研制的應用衛星授時時技術的標準時間顯示和發送的裝置,該裝置以M國全球定位系統(GLOBAL POSITIONING SYSTEM,縮寫為GPS)或者我國北 ......

    uj5u.com 2020-09-10 03:52:45 more
  • 如何保證外包團隊接入企業內網安全

    不管企業規模的大小,只要企業想省錢,那么企業的某些服務就一定會采用外包的形式,然而看似美好又經濟的策略,其實也有不好的一面。下面我通過安全的角度來聊聊使用外包團的安全隱患問題。 先看看什么服務會使用外包的,最常見的就是話務/客服這種需要大量重復性、無技術性的服務,或者是一些銷售外包、特殊的職能外包等 ......

    uj5u.com 2020-09-10 03:52:57 more
  • PHP漏洞之【整型數字型SQL注入】

    0x01 什么是SQL注入 SQL是一種注入攻擊,通過前端帶入后端資料庫進行惡意的SQL陳述句查詢。 0x02 SQL整型注入原理 SQL注入一般發生在動態網站URL地址里,當然也會發生在其它地發,如登錄框等等也會存在注入,只要是和資料庫打交道的地方都有可能存在。 如這里http://192.168. ......

    uj5u.com 2020-09-10 03:55:40 more
  • [GXYCTF2019]禁止套娃

    git泄露獲取原始碼 使用GET傳參,引數為exp 經過三層過濾執行 第一層過濾偽協議,第二層過濾帶引數的函式,第三層過濾一些函式 preg_replace('/[a-z,_]+\((?R)?\)/', NULL, $_GET['exp'] (?R)參考當前正則運算式,相當于匹配函式里的引數 因此傳遞 ......

    uj5u.com 2020-09-10 03:56:07 more
  • 等保2.0實施流程

    流程 結論 ......

    uj5u.com 2020-09-10 03:56:16 more
最新发布
  • 使用Django Rest framework搭建Blog

    在前面的Blog例子中我們使用的是GraphQL, 雖然GraphQL的使用處于上升趨勢,但是Rest API還是使用的更廣泛一些. 所以還是決定回到傳統的rest api framework上來, Django rest framework的官網上給了一個很好用的QuickStart, 我參考Qu ......

    uj5u.com 2023-04-20 08:17:54 more
  • 記錄-new Date() 我忍你很久了!

    這里給大家分享我在網上總結出來的一些知識,希望對大家有所幫助 大家平時在開發的時候有沒被new Date()折磨過?就是它的諸多怪異的設定讓你每每用的時候,都可能不小心踩坑。造成程式意外出錯,卻一下子找不到問題出處,那叫一個煩透了…… 下面,我就列舉它的“四宗罪”及應用思考 可惡的四宗罪 1. Sa ......

    uj5u.com 2023-04-20 08:17:47 more
  • 使用Vue.js實作文字跑馬燈效果

    實作文字跑馬燈效果,首先用到 substring()截取 和 setInterval計時器 clearInterval()清除計時器 效果如下: 實作代碼如下: <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <meta ......

    uj5u.com 2023-04-20 08:12:31 more
  • JavaScript 運算子

    JavaScript 運算子/運算子 在 JavaScript 中,有一些運算子可以使代碼更簡潔、易讀和高效。以下是一些常見的運算子: 1、可選鏈運算子(optional chaining operator) ?.是可選鏈運算子(optional chaining operator)。?. 可選鏈操 ......

    uj5u.com 2023-04-20 08:02:25 more
  • CSS—相對單位rem

    一、概述 rem是一個相對長度單位,它的單位長度取決于根標簽html的字體尺寸。rem即root em的意思,中文翻譯為根em。瀏覽器的文本尺寸一般默認為16px,即默認情況下: 1rem = 16px rem布局原理:根據CSS媒體查詢功能,更改根標簽的字體尺寸,實作rem單位隨螢屏尺寸的變化,如 ......

    uj5u.com 2023-04-20 08:02:21 more
  • 我的第一個NPM包:panghu-planebattle-esm(胖虎飛機大戰)使用說明

    好家伙,我的包終于開發完啦 歡迎使用胖虎的飛機大戰包!! 為你的主頁添加色彩 這是一個有趣的網頁小游戲包,使用canvas和js開發 使用ES6模塊化開發 效果圖如下: (覺得圖片太sb的可以自己改) 代碼已開源!! Git: https://gitee.com/tang-and-han-dynas ......

    uj5u.com 2023-04-20 08:01:50 more
  • 如何在 vue3 中使用 jsx/tsx?

    我們都知道,通常情況下我們使用 vue 大多都是用的 SFC(Signle File Component)單檔案組件模式,即一個組件就是一個檔案,但其實 Vue 也是支持使用 JSX 來撰寫組件的。這里不討論 SFC 和 JSX 的好壞,這個仁者見仁智者見智。本篇文章旨在帶領大家快速了解和使用 Vu ......

    uj5u.com 2023-04-20 08:01:37 more
  • 【Vue2.x原始碼系列06】計算屬性computed原理

    本章目標:計算屬性是如何實作的?計算屬性快取原理以及洋蔥模型的應用?在初始化Vue實體時,我們會給每個計算屬性都創建一個對應watcher,我們稱之為計算屬性watcher ......

    uj5u.com 2023-04-20 08:01:31 more
  • http1.1與http2.0

    一、http是什么 通俗來講,http就是計算機通過網路進行通信的規則,是一個基于請求與回應,無狀態的,應用層協議。常用于TCP/IP協議傳輸資料。目前任何終端之間任何一種通信方式都必須按Http協議進行,否則無法連接。tcp(三次握手,四次揮手)。 請求與回應:客戶端請求、服務端回應資料。 無狀態 ......

    uj5u.com 2023-04-20 08:01:10 more
  • http1.1與http2.0

    一、http是什么 通俗來講,http就是計算機通過網路進行通信的規則,是一個基于請求與回應,無狀態的,應用層協議。常用于TCP/IP協議傳輸資料。目前任何終端之間任何一種通信方式都必須按Http協議進行,否則無法連接。tcp(三次握手,四次揮手)。 請求與回應:客戶端請求、服務端回應資料。 無狀態 ......

    uj5u.com 2023-04-20 08:00:32 more