程序员文章、书籍推荐和程序员创业信息与资源分享平台

网站首页 > 技术文章 正文

单线程VS多线程批量下载文件(多线程下载和单线程下载)

hfteth 2025-05-03 14:19:02 技术文章 8 ℃

我们通过批量下载ts文件的表现来看单线程和多线程的表现差异

ts文件可以看作是一个小的视频文件。一个大的视频文件包含很多小的视频文件。这里我们下载这些ts并不考虑ts文件的排序情况。

单线程下载批量文件

$ python start.py
.......
_single_thread downloading https://v.tudu.site/20210726/v9C6SozS/hls/ecW18luH.ts
_single_thread downloading https://ts.yboku.com/20210726/v9C6SozS/hls/f2OUWqie.ts
下载用时 38.338995s
共耗时 38.40814s

多线程下载批量文件

$ python start.py
.......
_multi_thread downloading https://v.tudu.site/20210726/v9C6SozS/hls/ecW18luH.ts
_multi_thread downloading https://ts.yboku.com/20210726/v9C6SozS/hls/f2OUWqie.ts
下载用时 6.403877s
共耗时 6.496256s

讨论

这是反复多次运行程序后,我能给到大家的一个比较客观的数据。多线程下载确实能节省很多时间,大大提高生产效率。下载程序或者说是访问网络的程序都属于IO密集型程序,广泛来看,Python的多线程对IO密集型程序的效率提升是客观的。

学习是个循序渐进的过程,我们先来看一下,单线程下载程序的编写。

我感觉用文章作为demo课程的载体多少有些受限。接下来我会录制视频,以项目的形式展示给大家。这里我就带着大家看看核心的代码,以脚本的形式大概了解一下

def _process(ts_url, process_type):
    print(f'{process_type} downloading {ts_url}')
    return requests.get(ts_url).content

def _single_thread(ts_url_list):
    response_content_list = []
    for ts_url in ts_url_list:
        response_content_list.append(self._process(ts_url, '_single_thread'))
        return response_content_list

def save(target_path, task_list):
    if not os.path.exists(target_path):
        os.makedirs(target_path)
    for index, task in enumerate(task_list):
        f = open(f'{target_path}/{index}.ts', 'wb')
        f.write(task)
        f.close()
        
if __name__ == '__main__':
    urllist = [ts文件列表] # ts 列表我通过读txt文件加载到内存,具体代码这里没有展示。
    contents = _single_thread(urllist)
    save(os.path.join('mp4'), contents)

单线程的核心代码非常简单。关注并私信我,可以获取保存TS的文档,有需要的可以取用。好今天咱们就讲到这里,这节课只要掌握文件的下载就可以了。接下来我们将探索Python多线程对IO密集型程序的影响。

最近发表
标签列表