Python 下载网易云课堂微专业直播课程
最近几年 Python 实在是太火了,网上的课程层出不穷。一般 Forece 都是在B站找视频看的。最近有个朋友问我,他加入了个 Python 群,每周都有课。用的平台是网易云课堂微专业直播。课程可以回放,想问我能不能帮他下载一下网易云课堂的视频。安排!
1. 抓包分析
首先打开直播网址,然后 F12 打开开发者工具,进行抓包。发现有类似如下的 GET 请求。
https://jdvodluwytr3t.vod.126.net/jdvodluwytr3t/nos/hls/2020/06/04/1216859039_01eca46abd424762a92e7a7e26a35b3d_hd0.ts https://jdvodluwytr3t.vod.126.net/jdvodluwytr3t/nos/hls/2020/06/04/1216859039_01eca46abd424762a92e7a7e26a35b3d_hd1.ts https://jdvodluwytr3t.vod.126.net/jdvodluwytr3t/nos/hls/2020/06/04/1216859039_01eca46abd424762a92e7a7e26a35b3d_hd2.ts https://jdvodluwytr3t.vod.126.net/jdvodluwytr3t/nos/hls/2020/06/04/1216859039_01eca46abd424762a92e7a7e26a35b3d_hd3.ts https://jdvodluwytr3t.vod.126.net/jdvodluwytr3t/nos/hls/2020/06/04/1216859039_01eca46abd424762a92e7a7e26a35b3d_hd4.ts ......
下载下来看了一下,发现只有几秒的视频。继续查看抓包情况。在加载这些视频之前,发现有个 M3U8 的文件。科普一下,这个文件其实是一个索引文件,我们可以把它当做一个 playlist。下载回来用文本工具打开
#EXTM3U #EXT-X-VERSION:3 #EXT-X-TARGETDURATION:13 #EXT-X-MEDIA-SEQUENCE:0 #EXTINF:12.500000, 1216859039_01eca46abd424762a92e7a7e26a35b3d_hd0.ts #EXTINF:12.500000, 1216859039_01eca46abd424762a92e7a7e26a35b3d_hd1.ts #EXTINF:12.500000, 1216859039_01eca46abd424762a92e7a7e26a35b3d_hd2.ts #EXTINF:12.500000, 1216859039_01eca46abd424762a92e7a7e26a35b3d_hd3.ts #EXTINF:12.500000, 1216859039_01eca46abd424762a92e7a7e26a35b3d_hd4.ts #EXTINF:12.500000, 1216859039_01eca46abd424762a92e7a7e26a35b3d_hd5.ts #EXTINF:12.500000, 1216859039_01eca46abd424762a92e7a7e26a35b3d_hd6.ts #EXTINF:12.500000, 1216859039_01eca46abd424762a92e7a7e26a35b3d_hd7.ts #EXTINF:12.500000, 1216859039_01eca46abd424762a92e7a7e26a35b3d_hd8.ts #EXTINF:12.500000, 1216859039_01eca46abd424762a92e7a7e26a35b3d_hd9.ts #EXTINF:12.500000, ...... #EXTINF:2.900000, 1216859039_01eca46abd424762a92e7a7e26a35b3d_hd596.ts #EXT-X-ENDLIST
可以看出这个整个视频被分隔成了597份,然后除了最后一段2.9s,每段只有12.5s的时间。有了地址,有了索引,下载下来,然后用 os.command 合并就可以了。
2. 代码
import requests import os # 手动添加了分割数目(有能力的同学自己完善一下) for i in range(596): url = 'https://jdvodluwytr3t.vod.126.net/jdvodluwytr3t/nos/hls/2020/06/04/1216859039_01eca46abd424762a92e7a7e26a35b3d_hd%s.ts' % i headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.36'} response = requests.get(url, headers=headers) content = response.content with open(r"./163/%s.ts" % os.path.basename(url), 'wb') as fp: fp.write(content) # 利用 cmd 中的 copy 命令合并文件 command = r'copy /b 163\*.ts 163\new.ts' os.system(command)
发现问题:
发现用 copy 命令会出现文件顺序问题。自己重新生成了一下文件列表,然后直接用 write 方法拼接了文件。
file_list = [] for i in range(596): file_list.append("./163/1216859039_01eca46abd424762a92e7a7e26a35b3d_hd%s.ts" % i) with open("./163/new.ts", 'wb+') as fp: for i in range(len(file_list)): fp.write(open(file_list[i], 'rb').read())
其实解决方法很多,你也可以将文件下载的时候就直接弄好编号,然文件顺序排列,比如补位0之类的。或者在做下载的时候,下载完一个视频就追加到合并视频当中。
完善了一下代码,从M3U8自动获取课程分割视频数目,直接以添加方式合并文件
import requests import re import os url = 'https://jdvodluwytr3t.vod.126.net/jdvodluwytr3t/nos/hls/2020/07/21/1217041902_b0c26b5a8ff44633aeaa7c20089d07f7_hd.m3u8' headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.36'} response = requests.get(url, headers=headers) m3u8 = response.content.decode('utf-8') pattern = '\d*?_.*?_hd\d*.ts' file_index = re.findall(pattern, m3u8) base = os.path.dirname(url) for i in file_index: file_url = base + '/' + str(i) response = requests.get(file_url, headers=headers) content = response.content with open(r"./163/new.ts", 'ab') as fp: fp.write(content) print(i + '下载完成')
未完善
1. 自动获取课程所有课程M3U8
2. 异步下载课程
如果不是加密的,用idm可以直接下载M3U8,然后自动合并。不过写代码更有意思
确实,批量下载确实可以搞定。Python 对比其他语言来说,其实真的很简单。写代码容易一些。主要是练手了。重点在分析上边。