Python編程
通用
urlib -網路庫(stdlib)。requests -網路庫。
grab -網路庫(基于pycurl)。pycurl -網路庫(系結libcurl)
ullib3 - Python HTTP庫，安全連接池、支持檔案post、可用性高。httplib2一網路庫。
RoboBrowser -一個簡單的、極具Python風格的Python庫，無需獨立的瀏覽器即可瀏覽網頁。
MechanicalSoup一個與網站自動互動Python庫。
mechanize -有狀態、可編程的Web瀏類別庫。socket -底層網路介面(stdlib)。
Unirest for Python - Unirest是一套可用于 多種語言的輕量級的HTTP庫。
hyper - Python的HTTP/2客戶端。
PySocks - SocksiPy更新并積極維護的版本,包括錯誤修復和一些其他的特征。作為socket模塊的直接替換。
網路爬蟲框架
grab -網路爬蟲框架(基 于pycur/multicur)。
scrapy -網路爬蟲框架(基 于twisted)， 不支持Python3。
pyspider -一個強大的爬蟲系統。cola-一個分布式爬蟲框架。其他
portia -基于Scrapy的可視化爬蟲。
restkit - Python的HTTP資源工具包。它可以讓你輕松地訪問HTTP資源，并圍繞它建立的物件。
demiurge -基于PyQuery的爬蟲微框架。HTML/XML決議器
通用
lxml - C語言撰寫高效HTML/ XML處理庫。支持XPath。
cssselect -決議DOM樹和CSS選擇器。pyquery -決議DOM樹和jQuery選擇器。
BeautifulSoup -低效HTML/ XML處理庫，純Python實作。
html5lib -根據WHATWG規范生成HTML/ XML檔案的DOM。該規范被用在現在所有的瀏覽器上。
feedparser一決議RSS/ATOM feeds。
MarkupSafe -為XML/HTML/XHTML提供了安全轉義的字串。
xmltodict-一個可以讓你在處理XML時感覺像在處理JSON一樣的Python模塊。
xhtml2pdf -將HTML/CSS轉換為PDF。
untangle -輕松實作將XML檔案轉換為Python物件。清理
Bleach -清理HTML (需要html5lib)。sanitize -為混亂的資料世界帶來清明。文本處理
用于決議和操作簡單文本的庫。
通用
difflib - (Python標準庫) 幫助進行差異化比較。
Levenshtein一快速計算L evenshtein距離和字串相似度。
fuzzywuzzy -模糊字串匹配。esmre -正則運算式加速器。
ftfy-自動整理Unicode文本，減少碎片化。.自然語言處理
處理人類語言問題的庫。
NLTK -撰寫Python程式來處理人類語言資料的最好平臺。
Pattern一Python的網路挖掘模塊。他有自然語言處理工具，機器學習以及其它。
TextBlob -為深入自然語言處理任務提供了一致的API。是基于NLTK以及Pattern的巨人之肩上發展的。
jieba-中文分詞工具。
SnowNLP -中文文本處理庫。
loso-另一個中文分詞庫。瀏覽器自動化與仿真
selenium一自動化真正的瀏覽器(Chrome瀏覽器，火狐瀏覽器，Opera瀏覽器， IE瀏覽器)。
Ghost.py -對PyQt的webkit的封裝(需 要PyQT)。
Spynner -對PyQt的webkit的封裝(需要PyQT),
Splinter -通用API瀏覽器模擬器(seleniumweb驅動，Django客戶 端，Zope) 。多重處理
threading - Python標準庫的執行緒運行。對于I/0密集型任務很有效。對于CPU系結的任務沒用，因為python GIL。
multiprocessing -標準的Python庫運行多行程。
celery -基于分布式訊息傳遞的異步任務佇列/作業佇列。;
concurrent-futures一concurrent-futures模塊為呼叫異步執行提供了一個高層次的介面。
異步網路編程庫
asyncio- (在Python 3.4 +版本以上的Python標準庫)異步I/O, 時間回圈，協同程式和任務。
Twisted一基于事件驅動的網路引|擎框架。Tornado -一個網路框架和異步網路庫。pulsar - Python事件驅動的并發框架。
diesel - Python的基于綠色事件的I/O框架。gevent -一個使用greenlet的基于協程的Python網路庫。
eventlet -有WSGI支持的異步框架。
Tomorrow -異步代碼的奇妙的修飾語法。佇列
celery -基于分布式訊息傳遞的異步任務佇列/作業佇列。
huey -小型多執行緒任務佇列。
mrq - Mr. Queue -使用redis & Gevent的Python分布式作業任務佇列。
RQ -基于Redis的輕量級任務佇列管理器。simpleq--個簡單的，可無限擴展，基于Amazon SQS的佇列。
python-gearman一Gearman的Python API。
云計算
picloud -云端執行Python代碼。
dominoup.com -云端執行R，Python和matlab代碼網頁內容提取
提取網頁內容的庫。
HTML頁面的文本和元資料
newspaper -用Python進行新聞提取、文章提I取和內容策展。
html2text -將HTML轉為Markdown格式文本。
python-goose一HTML內容/文章提取器。lassie -人性化的網頁內容檢索工具WebSocket
用于WebSocket的庫。
Crossbar -開源的應用訊息傳遞路由器
(Python實作的用于Autobahn的WebSocket和WAMP)。
AutobahnPython -提供了WebSocket協議和WAMP協議的Python實作并且開源。
WebSocket-for-Python - Python 2和3以及PyPy的WebSocket客戶端和服務器庫。DNS決議
dnsyo -在全球超過1 500個的DNS服務器.上檢查你的DNS。
pycares - c-ares的介面。c-ares是 進行DNS請求和異步名稱決議的C語言庫。
計算機視覺
OpenCV -開源計算機視覺庫。
SimpleCV -用于照相機、影像處理、特征提取、格式轉換的簡介，可讀性強的介面(基于OpenCV)。
mahotas -快速計算機影像處理演算法(完全使用C++實作)， 完全基于numpy的陣列作為它的資料型別。
web開發的一些框架
1.Django
Django是一個 開源的Web應用框架，由Python寫成，支持許多資料庫引擎，可以讓Web開發變得迅速和可擴展，并會不斷的版本更新以匹配Python最新版本，如果是新手程式員，可以從這個框架入手。
2.Flask
Flask是一個輕量級的Web應用框架,使用Python撰寫。基于WerkzeugWSGI工具箱和Jinja2模板引擎。使用BSD授權。
Flask也被稱為"microframework" ,因為它使用簡單的核心，用extension增加其他功能。Flask沒有默認使用的資料庫、表單驗證工具。然而，Flask保留了擴增的彈性，可以用Flask-extension加入這些功能: ORM、表單驗證工具、檔案上傳、各種開放式身份驗證技術。
3.Web2py
Web2py是一個用Python語言 撰寫的免費的開源Web框架，旨在敏捷快速的開發Web應用，具有快速、可擴展、安全以及可移植的資料庫驅動的應用，遵循LGPLv3開 源協議。
Web2py提供一站式的解決方案，整個開發程序都可以在瀏覽器上進行，提供了Web版的在線開發，HTML模版撰寫，靜態檔案的上傳，資料庫的撰寫的功能。其它的還有日志功能，以及一個自動化的admin介面。
4.Tornado
Tornado即是一.個Web server (對此本文不作詳述)，同時又是一個類web.py的micro-framework,作為框架Tornado的思想主要來源于Web.py,大家在Web.py的網站首頁也可以看到Tornado的大佬Bret Taylor的這么一段話(他這里說的FriendFeed用的框架跟Tornado可以看作是一個東西) :
"[web.py inspired the] Web framework we useat FriendFeed [and] the webapp frameworkthat ships with App Engin...”
因為有這層關系，后面不再單獨討論Tornado。
5.CherryPy
CherryPy是一種用于Python的、簡單而非常有用的Web框架，其主要作用是以盡可能少的操作將Web服務器與Python代碼連接，其功能包括內置的分析功能、靈活的插件系統以及一次運行多個HTTP服務器的功能，可與運行在最新版本的Python、Jython、 Android上。
關于框架的選擇誤區
在框架的選擇問題.上，許多人很容易就陷入了下面兩個誤區中而不自知:哪個框架最好一一世上沒有最好的框架，只有最適合你自己、最適合你的團隊的框架。編程語言選擇也是一一個道理，你的團隊Python最熟就用Python好了，如果最熟悉的是Ruby那就用Ruby好了，編程語言、框架都只是工具，能多、快、好、省的干完活就是好東西。
過分關注性能- --其實大部分人是沒必要太關心框架的性能的，因為你開發的網站根本就是個小站，能上1萬的IP的網站已經不多了，上10萬的更是很少很少。在沒有一定的訪問量前談性能其實是沒有多大意義的，因為你的CPU和記憶體一直就閑著呢。
成長離不開與優秀的同伴共同交流，如果你需要好的學習環境，好的學習資源，這里歡迎每一位熱愛Python的小伙伴——創客python交流群（772882553）。
轉載請註明出處，本文鏈接：https://www.uj5u.com/caozuo/99050.html
標籤：實用資料發布區
上一篇：【已解決】安裝svn提示Expat not found。
下一篇：Cpu使用率高達200%