schoolNews/schoolNewsCrawler/XhwTest.ipynb

{
 "cells": [
  {
   "cell_type": "code",
   "execution_count": 16,
   "id": "948be230",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "项目根目录: f:\\Project\\schoolNews\n",
      "✓ 已启用自动重载模块功能 - 修改 .py 文件后会自动生效\n"
     ]
    }
   ],
   "source": [
    "# 自动重载模块（当文件修改后自动刷新）\n",
    "%reload_ext autoreload\n",
    "%autoreload 2\n",
    "\n",
    "import sys\n",
    "import os\n",
    "\n",
    "# 先添加项目根目录到路径（必须在导入之前）\n",
    "project_root = os.path.abspath(os.path.join(os.getcwd(), '..'))\n",
    "if project_root not in sys.path:\n",
    "    sys.path.insert(0, project_root)\n",
    "\n",
    "# 然后再导入模块\n",
    "from crawler.xhw.XhwCrawler import XhwCrawler\n",
    "from crawler.BaseCrawler import NewsItem\n",
    "from loguru import logger\n",
    "import json\n",
    "from pprint import pprint\n",
    "\n",
    "print(f\"项目根目录: {project_root}\")\n",
    "print(\"✓ 已启用自动重载模块功能 - 修改 .py 文件后会自动生效\")\n"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 17,
   "id": "31a8a0dd",
   "metadata": {},
   "outputs": [
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "\u001b[32m2026-01-09 14:32:53.285\u001b[0m | \u001b[1mINFO    \u001b[0m | \u001b[36mcrawler.BaseCrawler\u001b[0m:\u001b[36m__init__\u001b[0m:\u001b[36m72\u001b[0m - \u001b[1m初始化爬虫: XhwCrawler\u001b[0m\n",
      "\u001b[32m2026-01-09 14:32:53.286\u001b[0m | \u001b[1mINFO    \u001b[0m | \u001b[36mcrawler.xhw.XhwCrawler\u001b[0m:\u001b[36m_init_driver\u001b[0m:\u001b[36m147\u001b[0m - \u001b[1m使用Chrome二进制: win/chrome-headless/chrome-headless-shell-win64/chrome-headless-shell.exe\u001b[0m\n",
      "\u001b[32m2026-01-09 14:32:54.275\u001b[0m | \u001b[1mINFO    \u001b[0m | \u001b[36mcrawler.xhw.XhwCrawler\u001b[0m:\u001b[36m_init_driver\u001b[0m:\u001b[36m154\u001b[0m - \u001b[1mChrome浏览器初始化成功\u001b[0m\n",
      "\u001b[32m2026-01-09 14:32:54.276\u001b[0m | \u001b[1mINFO    \u001b[0m | \u001b[36mcrawler.xhw.XhwCrawler\u001b[0m:\u001b[36m_init_driver\u001b[0m:\u001b[36m163\u001b[0m - \u001b[1m访问主页获取初始Cookie\u001b[0m\n"
     ]
    }
   ],
   "source": [
    "crawler = XhwCrawler()"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 3,
   "id": "e5a6e91c",
   "metadata": {},
   "outputs": [],
   "source": [
    "#crawler.search(\"大学\", 1)\n",
    "# crawler.search(\"中国\", 10, \"xhsz\")\n",
    "# crawler.search(\"中国\", 10, \"news\")\n",
    "# crawler.search(\"中国\", 10, \"xhsz\")\n",
    "# crawler.search(\"中国\", 10, \"news\")\n",
    "# crawler.search(\"中国\", 10, \"news\")"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 15,
   "id": "7e0f56fa",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "NewsItem(title='第一观察｜习近平考察冬奥，首次部署这项任务', contentRows=[{'tag': 'img', 'content': \"<img style='max-width: 92%; margin-left: auto; display: block; margin-right: auto;' src='http://www.xinhuanet.com/politics/leaders/2021-01/21/1127006370_16111597848531n.jpg' />\"}, {'tag': 'p', 'content': '<p><span style=\"COLOR: rgb(51,127,229)\" data-mce-style=\"color: #337fe5;\">\\u3000\\u3000<font color=\"navy\"><strong>观察提要：习近平总书记考察冬奥，首次公开提出“加快建设京张体育文化旅游带”，为京津冀协同发展战略注入新的内涵。一项新的发展任务呼之欲出。</strong></font></span></p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000“加快建设京张体育文化旅游带”——1月20日，习近平总书记在主持召开北京2022年冬奥会和冬残奥会筹办工作汇报会时如是强调。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000这是总书记首次公开提及这一说法。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000这意味着，随着冬奥会筹办深入推进，一项新的发展任务呼之欲出。</p>'}, {'tag': 'p', 'content': '<p><span style=\"COLOR: rgb(51,127,229)\" data-mce-style=\"color: #337fe5;\"><strong>\\u3000\\u3000<font color=\"navy\">京津冀协同发展战略的新内涵</font></strong></span></p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000总书记始终是从党和国家的战略全局来谋划冬奥筹办工作的。从国家层面上，将其视为“我国‘十四五’初期举办的重大标志性活动”。从区域层面上，多次强调这是“实施京津冀协同发展战略的重要举措”。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000此次总书记强调加快建设京张体育文化旅游带，为京津冀协同发展这一国家战略注入了新的内涵，提供了新的抓手。</p>'}, {'tag': 'img', 'content': \"<img style='max-width: 92%; margin-left: auto; display: block; margin-right: auto;' src='http://www.xinhuanet.com/politics/leaders/2021-01/21/1127006370_16111597848541n.jpg' />\"}, {'tag': 'p', 'content': '<p style=\"TEXT-ALIGN: center\" align=\"center\"><span style=\"COLOR: rgb(51,127,229)\" data-mce-style=\"color: #337fe5;\" data-insert=\"insert\"><font color=\"navy\" face=\"楷体\">▲ 新华社记者 鞠鹏 摄</font></span></p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000发展体育文化旅游“带”，最基本的要求是区域内人流物流的快速流动。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000这次实地考察冬奥筹办工作，总书记用两天时间考察了北京冬奥的三个赛区。总书记考察的张家口赛区太子城站，是世界上首个直通奥运赛场的高铁站。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000这几年，京张高铁、京礼高速等相继建成，大幅提升了京张两地通行能力。冬奥构建的一小时生活圈，使得京张联系更紧密。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000打造体育文化旅游带，除了基础设施的快速联通，还要推动体制机制、政策服务、市场监管等方面的创新和协同，对一体化发展提出了更高要求。</p>'}, {'tag': 'p', 'content': '<p><span style=\"COLOR: rgb(51,127,229)\" data-mce-style=\"color: #337fe5;\"><strong>\\u3000\\u3000<font color=\"navy\">冰天雪地也是“金山银山”</font></strong></span></p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000绿色、共享、开放、廉洁——总书记一再强调的办奥理念中，共享办奥是重要一方面。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000建设体育文化旅游带，“体育”+“文化旅游”，是推动人民群众共享奥运红利的重要渠道，也是促进经济产业转型升级的重要牵引。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000在冬奥前景驱动下，京张地区在交通、环境、产业、公共服务等领域务实合作已在不断深入。据相关统计，仅张家口市的崇礼区，直接或间接从事冰雪产业和旅游服务人员已达3<E8BEBE>
      ]
     },
     "execution_count": 15,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "crawler.parse_xhsz_news_detail(\"https://xhsz.news.cn/focus_news/detail?id=2709\")"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 21,
   "id": "47327ebf",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "NewsItem(title='相互尊重、和衷共济、和合共生——习近平主席致首届“良渚论坛”贺信指明人类文明发展的正确道路', contentRows=[{'tag': 'p', 'content': '<p>\\u3000\\u3000新华社杭州12月3日电 <strong><font color=\"navy\">题：相互尊重、和衷共济、和合共生——习近平主席致首届“良渚论坛”贺信指明人类文明发展的正确道路</font></strong></p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000新华社记者</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u300012月3日，国家主席习近平向首届“良渚论坛”致贺信，深刻阐明了良渚文化的独特价值，揭示了中华文明开放包容、兼收并蓄的鲜明特质，表达了对办好“良渚论坛”的殷切期望。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000与会中外嘉宾和社会各界人士表示，习近平主席在贺信中指明了“相互尊重、和衷共济、和合共生”这一人类文明发展的正确道路，大家将充分利用“良渚论坛”这个平台，畅所欲言、深入讨论，深化认识、增进理解，为推动不同文明和谐共处、相互成就贡献力量。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000现场聆听了习近平主席的贺信，考古学家王巍心潮澎湃：“良渚遗址是中华五千年文明史的实证，是世界文明的瑰宝。今天，这个凝结了数代考古工作者心血的地方，成为展示中华文明的窗口、世界文明交流互鉴的平台，这是我们的光荣。在这个平台上，我们要讲好良渚的故事，让更多人理解古代中国，从而更好理解现代中国、未来中国。”</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000在贺信中，习近平主席深刻阐释了良渚遗址在中华五千年文明史和世界文明中的重要地位，这令杭州良渚遗址管理区党工委书记王姝深感使命在肩、任重道远。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000她说：“我们将着力推出一批有价值、有分量的研究成果，打造一批富有文化底蕴和中国气派的文化标识，生动展现中华文明独树一帜的创新创造、一脉相承的坚持坚守。”</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000“中华文明开放包容、兼收并蓄，不断丰富发展、历久弥新，不断吸取世界不同文明的精华，极大丰富了世界文明百花园。”习近平主席在贺信中表达的观点，令各国嘉宾感触颇深。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000“1998年我第一次来到中国，学习了中国国画、书法，感受到中国历经几千年积淀而形成的文化和艺术的丰富性。我的拼贴艺术一直和中国的书法艺术联系在一起，这种结合为我的艺术创作打开了另一个维度。”科特迪瓦艺术家莫合·玛蒂尔德说。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000在波兰华沙大学汉学系助教孔孝文看来，中国和波兰之间的文化交流活动正变得越来越丰富：“华沙大学的汉学专业已经成为最热门的专业之一。很多中国人也喜欢波兰文化，欣赏肖邦的音乐。我相信在文化和学术研究领域的紧密合作和交流，一定可以让世界文明百花园更加多姿多彩。”</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000习近平主席在贺信中强调：“推动不同文明和谐共处、相互成就，促进各国人民出入相友、相知相亲。”</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000今年11月，浙江国际文博交流中心在浙江省博物馆成立。浙江省博物馆馆长陈水华说：“我们将充分依托交流中心的平台，讲好文物背后的中国故事，同时积极引进国外的精品展览，以实际行动推动中华文明与世界不同文明加强对话、增进共识。”</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000苏州古吴轩出版社目前正深入推进关于古琴、戏曲、园林等古籍资料的整理研究。“我们将以书籍为媒，不断创新表达方<E8BEBE><E696B9>
      ]
     },
     "execution_count": 21,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "#crawler.parse_xh_news_detail(\"https://www.news.cn/politics/leaders/20250224/5384be3d47c643b3a68e3bb724656152/c.html\")\n",
    "# crawler.parse_xh_news_detail(\"https://www.news.cn/politics/leaders/20240207/2819fe60663140eab9599581dcae8c1e/c.html\") #视频\n",
    "crawler.parse_xh_news_detail(\"http://www.news.cn/politics/leaders/2023-12/03/c_1130006666.htm\")"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 11,
   "id": "fa359d5b",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "NewsItem(title='第一观察｜习近平考察冬奥，首次部署这项任务', contentRows=[{'tag': 'img', 'content': \"<img style='max-width: 92%; margin-left: auto; display: block; margin-right: auto;' src='https://www.xinhuanet.com/politics/leaders/2021-01/21/1127006370_16111597848531n.jpg' />\"}, {'tag': 'p', 'content': '<p><span style=\"COLOR: rgb(51,127,229)\" data-mce-style=\"color: #337fe5;\">\\u3000\\u3000<font color=\"navy\"><strong>观察提要：习近平总书记考察冬奥，首次公开提出“加快建设京张体育文化旅游带”，为京津冀协同发展战略注入新的内涵。一项新的发展任务呼之欲出。</strong></font></span></p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000“加快建设京张体育文化旅游带”——1月20日，习近平总书记在主持召开北京2022年冬奥会和冬残奥会筹办工作汇报会时如是强调。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000这是总书记首次公开提及这一说法。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000这意味着，随着冬奥会筹办深入推进，一项新的发展任务呼之欲出。</p>'}, {'tag': 'p', 'content': '<p><span style=\"COLOR: rgb(51,127,229)\" data-mce-style=\"color: #337fe5;\"><strong>\\u3000\\u3000<font color=\"navy\">京津冀协同发展战略的新内涵</font></strong></span></p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000总书记始终是从党和国家的战略全局来谋划冬奥筹办工作的。从国家层面上，将其视为“我国‘十四五’初期举办的重大标志性活动”。从区域层面上，多次强调这是“实施京津冀协同发展战略的重要举措”。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000此次总书记强调加快建设京张体育文化旅游带，为京津冀协同发展这一国家战略注入了新的内涵，提供了新的抓手。</p>'}, {'tag': 'img', 'content': \"<img style='max-width: 92%; margin-left: auto; display: block; margin-right: auto;' src='https://www.xinhuanet.com/politics/leaders/2021-01/21/1127006370_16111597848541n.jpg' />\"}, {'tag': 'p', 'content': '<p style=\"TEXT-ALIGN: center\" align=\"center\"><span style=\"COLOR: rgb(51,127,229)\" data-mce-style=\"color: #337fe5;\" data-insert=\"insert\"><font color=\"navy\" face=\"楷体\">▲ 新华社记者 鞠鹏 摄</font></span></p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000发展体育文化旅游“带”，最基本的要求是区域内人流物流的快速流动。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000这次实地考察冬奥筹办工作，总书记用两天时间考察了北京冬奥的三个赛区。总书记考察的张家口赛区太子城站，是世界上首个直通奥运赛场的高铁站。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000这几年，京张高铁、京礼高速等相继建成，大幅提升了京张两地通行能力。冬奥构建的一小时生活圈，使得京张联系更紧密。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000打造体育文化旅游带，除了基础设施的快速联通，还要推动体制机制、政策服务、市场监管等方面的创新和协同，对一体化发展提出了更高要求。</p>'}, {'tag': 'p', 'content': '<p><span style=\"COLOR: rgb(51,127,229)\" data-mce-style=\"color: #337fe5;\"><strong>\\u3000\\u3000<font color=\"navy\">冰天雪地也是“金山银山”</font></strong></span></p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000绿色、共享、开放、廉洁——总书记一再强调的办奥理念中，共享办奥是重要一方面。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000建设体育文化旅游带，“体育”+“文化旅游”，是推动人民群众共享奥运红利的重要渠道，也是促进经济产业转型升级的重要牵引。</p>'}, {'tag': 'p', 'content': '<p>\\u3000\\u3000在冬奥前景驱动下，京张地区在交通、环境、产业、公共服务等领域务实合作已在不断深入。据相关统计，仅张家口市的崇礼区，直接或间接从事冰雪产业和旅游服务人员已达
      ]
     },
     "execution_count": 11,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "crawler.parse_xinhuanet_news_detail(\"https://www.xinhuanet.com/politics/leaders/2021-01/21/c_1127006370.htm\")\n",
    "# crawler.commend()"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "ebabbd5b",
   "metadata": {},
   "outputs": [],
   "source": []
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "crawler",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.11.14"
  }
 },
 "nbformat": 4,
 "nbformat_minor": 5
}