python可以提取公众号的资料吗(python爬虫公众号所有信息)
python可以提取公众号的资料吗(python爬虫公众号所有信息)
2024-09-27 09:12:45  作者:花亦卜弃  网址:https://m.xinb2b.cn/tech/con475220.html

前言

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。

主要功能

如何简单爬虫微信公众号获取信息:标题、摘要、封面、文章地址自动批量下载公众号内的视频

一、获取公众号信息:标题、摘要、封面、文章URL

操作步骤:

1、先自己申请一个公众号 2、登录自己的账号,新建文章图文,点击超链接

代码

1 import re 2 ​ 3 import requests 4 import jsonpath 5 import json 6 ​ 7 headers = { 8 "User-Agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_3) AppleWebKit/537.36 (Khtml, like Gecko) Chrome/67.0.3396.99 Safari/537.36", 9 "Host": "mp.weixin.qq.com",10 "Referer": "https://mp.weixin.qq.com/cgi-bin/appmsg?t=media/appmsg_edit&action=edit&type=10&isMul=1&isNew=1&lang=zh_CN&token=1862390040",11 "Cookie": "自己获取信息时的cookie"12 }13 ​14 def getInfo():15 for i in range(80):16 # token random 需要要自己的 begin:参数传入17 url = "https://mp.weixin.qq.com/cgi-bin/appmsg?token=1904193044&lang=zh_CN&f=json&ajax=1&random=0.9468236563826882&action=list_ex&begin={}&count=5&query=&fakeid=MzI4MzkzMTc3OA==&type=9".format(str(i * 5))18 ​19 response = requests.get(url, headers = headers)20 ​21 jsonRes = response.json()22 ​23 ​24 titleList = jsonpath.jsonpath(jsonRes, "$..title")25 coverList = jsonpath.jsonpath(jsonRes, "$..cover")26 urlList = jsonpath.jsonpath(jsonRes, "$..link")27 ​28 # 遍历 构造可存储字符串29 for index in range(len(titleList)):30 title = titleList[index]31 cover = coverList[index]32 url = urlList[index]33 ​34 scvStr = "%s,%s, %s,\n" % (title, cover, url)35 with open("info.csv", "a ", encoding="gbk", newline='') as f:36 f.write(scvStr)

获取结果(成功):


二、获取文章内视频:实现批量下载

通过对单篇视频文章分析,我找到了这个链接:


通过网页打开发现,是视频的网页下载链接:


哎,好像有点意思了,找到了视频的网页纯下载链接,那就开始吧。

发现链接里的有一个关键参数vid 不知道哪来的? 和获取到的其他信息也没有关系,那就只能硬来了。

通过对单文章的url请求信息里发现了这个参数,然后进行获取。

1 response = requests.get(url_wxv, headers=headers)2 ​3 # 我用的是正则,也可以使用xpath4 jsonRes = response.text # 匹配:wxv_11051797507435560965 dirRe = r"wxv_.{19}"6 result = re.search(dirRe, jsonRes)7 ​8 wxv = result.group(0)9 print(wxv)

视频下载:

1 def getVideo(video_title, url_wxv): 2 video_path = './videoFiles/' video_title ".mp4" 3 ​ 4 # 页面可下载形式 5 video_url_temp = "https://mp.weixin.qq.com/mp/videoplayer?action=get_mp_video_play_url&preview=0&__biz=MzI4MzkzMTc3OA==&mid=2247488495&idx=4&vid=" wxv 6 response = requests.get(video_url_temp, headers=headers) 7 content = response.content.decode() 8 content = json.loads(content) 9 url_info = content.get("url_info")10 video_url2 = url_info[0].get("url")11 print(video_url2)12 ​13 # 请求要下载的url地址14 html = requests.get(video_url2)15 # content返回的是bytes型也就是二进制的数据。16 html = html.content17 with open(video_path, 'wb') as f:18 f.write(html)

那么所有信息就都完成了,进行code组装。

a、获取公众号信息

b、筛选单篇文章信息

c、获取vid信息

d、拼接视频页面下载URL

e、下载视频,保存

代码实验结果:



.最后,小编想说:我是一名python开发工程师,整理了一套最新的python系统学习教程,想要这些资料的可以关注私信小编“01”即可,希望能对你有所帮助。

  • 防溺水五不(防溺水注意事项)
  • 2024-09-28防溺水注意事项不要肚子去河边玩耍、不会游泳不要去河里救人、不要去深水区、饭后不要立即游泳不要独自在河边玩耍容易掉进河里不要去非游泳区游泳不要去无救生员、无家长监护的非游泳区游泳不要轻易下水不会游泳者不要去救助别人不。
  • 造车新势力品牌大全(对比造车新势力)
  • 2024-09-28对比造车新势力随着金九银十的到来,新能源汽车市场也迎来爆发期,众多车企也都有大展拳脚的想法不过,如今的新能源汽车市场和去年同期却有明显不同去年第一梯队里面主要是以造车新势力为主,但是今年却不同,其中还有一家非常受关。
  • 付费的文档咋复制(付费文档不能复制怎么办)
  • 2024-09-28付费文档不能复制怎么办当我们需要资料的时候,经常回去网上寻找,但是网上有很多文档资料是不能复制和下载的,今天就教大家几个小妙招,轻松就能得到自己需要的资料,下面就一起来学习学习吧一、点击百度快照找到一篇自己觉得很好的文案的。
  • 家庭教育的三大认知 家庭教育问题系列之
  • 2024-09-28家庭教育的三大认知 家庭教育问题系列之在对的时间,做对的事,首先读懂孩子心理特点,认知规律我们不懂,不知道就谈不上培养教育或者说我们的教育达不到预想的教育效果,甚至事与愿违,得不偿失有人说孩子的生长发育规律就是教育规律,我觉得有一定的道理。
  • 夏天来一碗芒果西米露(夏日消暑小甜品)
  • 2024-09-28夏日消暑小甜品骄阳似火,持续高温36、7度,打败我的不是天真,是天真热!到今天,我才懂得,“哪凉快哪待着去”绝不是一句骂人的话,这绝对是最真挚的关怀,最深藏不露的爱,温馨提醒:天气炎热注意防暑,哪凉快哪待着去!这大。
  • 立定跳远技巧的基本方法(立定跳远的过程环节有怎样的窍门)
  • 2024-09-28立定跳远的过程环节有怎样的窍门#头条创作挑战赛#立定跳远可由预摆、起跳、腾空、落地等四个环节构成动作;训练方法可通过做蛙跳等十个动作来提升一.立定跳远的动作要领先观察完整立定跳远动作过程的GIF动图,然后再分解动作环节预摆:两脚分。
  • 王者荣耀新赛季改动惹怒老玩家(王者荣耀只1次更新)
  • 2024-09-28王者荣耀只1次更新文/静海君真的有些离谱,在王者荣耀正式服9月22号的更新中,竟然有一个英雄被连续加强了4次,这个幸运儿会是新赛季的版本之子吗?连续四次加强这个被连续加强四次的版本宠儿名字叫吕布⑴吕布的第一处加强吕布的。
  • 现在高楼建筑有几种建造方式(百米高楼为何屹立不倒)
  • 2024-09-28百米高楼为何屹立不倒一个小高层住宅楼两个单元,一单元大概7~11层,以8000平方米计算,重量大概在8800吨一栋建筑如此重,那地基是怎么撑起整栋大楼的呢?当前世界第一高建筑哈利法塔,共162层,高828米,建筑材料重量。
  • 全麦粉是什么面粉(全部小麦研磨而成的面粉)
  • 2024-09-28全部小麦研磨而成的面粉全麦粉!骄傲姐姐对它又爱又恨曾经不知道打烂过多少全麦面团,真所谓屡战屡败,屡败屡战,现在终于拿下了全麦粉这个小妖精,全麦面团随便打,根本不是事~今天我就把关于全麦粉的知识分享给大家,希望对大家搅打全麦。
  • 钟丽缇个人资料(钟丽缇个人资料有什么)
  • 2024-09-28钟丽缇个人资料有什么钟丽缇,出生在加拿大的第2大城市蒙特利尔,母亲越南人,中越混血毕业于加拿大魁北克大学工商市场系,主修行销,其后到香港参选国际华裔小姐而入行,曾主演数十部港产电影,包括《九品芝麻官之白面包青天》、《破坏。