pycharm 中爬取电影信息的库选择：单次爬取：beautifulsoup4动态页面爬取：selenium复杂页面爬取：同时使用 beautifulsoup4 和 selenium

PyCharm 中的爬虫电影代码

1. 爬虫库

在 PyCharm 中进行网络爬虫，可以使用以下库：

• BeautifulSoup4：用于解析和提取 HTML 文档中的数据。
• Requests：用于发送 HTTP 请求并获取响应。
• Selenium：用于模拟浏览器行为并与网站交互。

2. 代码示例

使用 Beautifulsoup4 爬取电影信息的代码示例：

import requests
from bs4 import BeautifulSoup

# 发送 HTTP 请求
response = requests.get('https://www.imdb.com/title/tt0111161/')

# 解析 HTML 文档
soup = BeautifulSoup(response.text, 'html.parser')

# 提取电影信息
title = soup.find('h1').text.strip()
release_date = soup.find('span', {'id': 'releasedate'}).text
director = soup.find('a', {'title': 'James Cameron'}).text

print(f"电影标题：{title}")
print(f"发行日期：{release_date}")
print(f"导演：{director}")

3. 使用 Selenium 模拟浏览器行为

如果您需要模拟浏览器行为，例如填写表单或单击按钮，可以使用 Selenium 库。以下是使用 Selenium 爬取电影信息的代码示例：

from selenium import webdriver

# 创建 WebDriver 实例
driver = webdriver.Chrome()

# 访问电影网站
driver.get('https://www.imdb.com/title/tt0111161/')

# 提取电影信息
title = driver.find_element_by_css_selector('h1').text.strip()
release_date = driver.find_element_by_css_selector('#releasedate').text
director = driver.find_element_by_css_selector('a[title="James Cameron"]').text

driver.quit()  # 退出 WebDriver 实例

print(f"电影标题：{title}")
print(f"发行日期：{release_date}")
print(f"导演：{director}")

4. 常见库选择建议

• 单次爬取：BeautifulSoup4
• 动态页面爬取：Selenium
• 复杂页面爬取：结合使用 BeautifulSoup4 和 Selenium