程序员文章、书籍推荐和程序员创业信息与资源分享平台

网站首页 > 技术文章 正文

写了一个下载图片和视频的python小工具

hfteth 2025-05-03 14:18:36 技术文章 10 ℃

谁先掌握了 AI, 谁就掌握了未来的“权杖”。

在网上冲浪时,总会遇到一些好看的视频和图片,情不自禁地想“据为己有”。于是,就有了下载图片和视频的需求。

浏览器插件

工欲善其事,必先利其器。要做一件事,首先得找到对应的工具。下载网络图片或视频,当然首选浏览器插件了。

使用 Microsoft Edge Dev 版,安装如下插件即可(安装插件的方法网上搜下即可):

Python 小工具

「需求场景」

有了浏览器插件,为什么我还要写这个小工具呢?

我的需求场景是,有一个入口页面(如下图所示),这个页面有一系列子页面和链接,每个子页面有一个视频。我想批量下载这些子页面的视频。使用浏览器插件,我得一个个点击子页面,子页面比较多时,是个繁琐的事情。

能不能用程序来实现呢?说干就干。

「思路说明」

(1)使用 selenium 来模拟打开页面,因为有些页面需要完全打开,否则内容会获取不到或者获取不完整;

(2)使用元素选择器来定位网页链接元素和资源元素;

(3)元素选择器可以通过命令行指定,使用更加灵活方便;

(4)由于定位链接元素和资源元素都可以采用同一种办法,又不想再加一个选项去定位资源元素,因此这里复用了 -s 选项去定位资源元素。这块还得再想想。这个程序的重点就是如何准确定位链接和资源元素;

(5)视频下载使用了现有程序(Mac 上的 you-get),调用 shell 命令的方式来实现。因为通常不会下载太多的图片和视频,因此对性能没有作考虑。读者可以替换这个地方。

最基本的元素选择器:

选择器名称选择的内容示例ID 选择器具有特定 ID 的元素。单一 HTML 页面中,每个 ID 只对应一个元素,一个元素只对应一个 ID#my-id,选择 <p id="my-id"> 或 <a id="my-id">类选择器具有特定类的元素。单一页面中,一个类可以有多个实例.my-class,选择 <p class="my-class"> 和 <a class="my-class">属性选择器拥有特定属性的元素img[src],选择 <img src="myimage.png"> 但不是 <img>



「安装与用法」

用法和例子在程序里已经给出了。要使用这个工具,需要:

(1)安装如下 python 模块:

pip3 install selenium requests beautifulsoup4 Pillow

(2) 下载对应的 chromedriver ,chromedriver 与 chrome 的版本要保持对应。

# download corresponding version of chromedriver in https://chromedriver.chromium.org/downloads
# unzip and cp chromedriver to /usr/local/bin/  then chmod +x /usr/local/bin/chromedriver



「程序实现」


#!/usr/bin/python3
#_*_encoding:utf-8_*_

import os
import random
import string
import json
import time
import argparse
import traceback
import subprocess
import requests
from bs4 import BeautifulSoup
from PIL import Image


# 下载目录设置
save_path = '/Users/qinshu/Downloads'
img_width_threshold = 500
img_height_threshold = 500

def usage():

    usage_info = '''
        This program is used to batch download pictures or videos from specified url.
        search and download pictures or videos from network url by specified rules.

       // ...省去部分代码
        
        print("number of links: %s"  % len(links))

        if len(links) > 0:
            for link in links:
                if sourcetype:
                    time.sleep(1)
                    download_source(link, sourcetype, css)



与 ChatAI 高效协作

这个程序的主要还是我写的,只是一些功能使用了 AI 给出的程序。实际上,这还不算一种高效的与 AI 协作的方式。

如何与 ChatAI 高效协作呢?一种简单的方式是,你问我答。但是,简单的提问,往往得不到理想的回答。读者不妨试试以下几种提问,看看 ChatAI 给出什么答案:

  1. 写一个 python 程序,下载页面 https://tu.heiguang.com/works/12_%E6%A3%AE%E7%B3%BB.html 中 class=tk_photo_img 的链接列表;
  2. 能够使用 -c 来指定 classname;
  3. 使用模块化的方式来编写这个程序;
  4. 使用 -k --keyword 来指定一个关键字,链接包含该关键字才输出;
  5. 写一个模块化的 python 程序,获取页面 https://tu.heiguang.com/works/12_%E6%A3%AE%E7%B3%BB.html 中 class=tk_photo_img 中的链接列表;可以使用 -c 来指定 classname, 使用 -k 来指定一个关键字,链接包含该关键字才输出;如果指定了 -t type ,则下载指定类型的资源。type 可以取 img 或 video;
  6. 写一个模块化的 python 程序,获取页面 https://tu.heiguang.com/works/12_%E6%A3%AE%E7%B3%BB.html 中 class=tk_photo_img 中的链接列表;可以使用 -c 来指定 classname, 使用 -k 来指定一个关键字,链接包含该关键字才输出;如果指定了 -t type ,则下载指定类型的资源。type 可以取 img 或 video,要求使用 selenium 来模拟打开页面并写成函数,获取链接也写成一个单独的函数,下载资源也写成单独的函数。
  7. 写一个模块化的 python 程序,获取页面 https://tu.heiguang.com/works/12_%E6%A3%AE%E7%B3%BB.html 中 class=tk_photo_img 中的链接列表。要求如下:

(1) 可以使用 -c 来指定 classname;

(2) 可以使用 -s 来指定 css 选择符;

(3) 可以使用 -a 来指定自定义属性;

(4) -c -s -a 可以自由组合;

(5) 使用 -k 来指定一个关键字,链接包含该关键字才输出;

(6) 如果指定了 -t type ,则下载指定类型的资源。type 可以取 img 或 video;

(7) 要求使用 selenium 来模拟打开页面并写成函数,获取链接也写成一个单独的函数,下载资源也写成单独的函数。

请直接给出完整程序。是不是体会到了出题者的乐趣?

AI 给出的程序如下:

import argparse
import os
import re
import requests
from bs4 import BeautifulSoup
from selenium import webdriver

def open_browser(url):
    '''使用 selenium 打开指定页面,并返回 driver 对象'''
    options = webdriver.ChromeOptions()
    options.add_argument('--headless')

 //省去部分代码...

    for link in image_links:
        if args.type:
            if args.type == 'img' and link.endswith(('jpg', 'jpeg', 'gif', 'png')):
                download_media(link, 'Image', args.output)
            elif args.type == 'video' and link.endswith(('mp4', 'avi', 'wmv', 'flv')):
                download_media(link, 'Video', args.output)
        else:
            download_media(link, 'Image', args.output)

if __name__ == '__main__':
    main()

虽然 AI 写出的程序还需要“调教”一下,但是,—— 我写出程序花费了 4 个小时,而 AI 只花费了不到一分钟。要知道,我是有着十年开发经验的工程师啊!就算 python 不太熟练,这个倍数也不会少多少。

我似乎看到了程序员面临的一次可怕的危机和可贵的机遇。可怕的危机我就不说了。可贵的机遇在于,熟练的开发者,完全可能单人单周从零构建起一个应用。也就是说,创业的技术基础已经形成,程序员需要更多学习商业、运营、财务、心理学相关的知识和技能。

对于初入行业的程序员,我的忠告是:尽可能早地掌握使用 AI 来协作。如果能善用 AI 的力量,他的成长速度和工作效率可能是其他人的数倍之多。

最近发表
标签列表