Python常用爬虫代码总结方便查询-创新互联

beautifulsoup解析页面

创新互联公司主营南岔网站建设的网络公司,主营网站建设方案,重庆APP软件开发,南岔h5微信小程序搭建,南岔网站营销推广欢迎南岔等地区企业咨询
from bs4 import BeautifulSoup
soup = BeautifulSoup(htmltxt, "lxml")
# 三种装载器
soup = BeautifulSoup("

", "html.parser") ### 只有起始标签的会自动补全,只有结束标签的会自动忽略 ### 结果为:
soup = BeautifulSoup("

", "lxml") ### 结果为:
soup = BeautifulSoup("

", "html5lib") ### html5lib则出现一般的标签都会自动补全 ### 结果为:

# 根据标签名、id、class、属性等查找标签 ### 根据class、id、以及属性alog-action的值和标签类别查询 soup.find("a",class_="title",id="t1",attrs={"alog-action": "qb-ask-uname"})) ### 查询标签内某属性的值 pubtime = soup.find("meta",attrs={"itemprop":"datePublished"}).attrs['content'] ### 获取所有class为title的标签 for i in soup.find_all(class_="title"): print(i.get_text()) ### 获取特定数量的class为title的标签 for i in soup.find_all(class_="title",limit = 2): print(i.get_text()) ### 获取文本内容时可以指定不同标签之间的分隔符,也可以选择是否去掉前后的空白。 soup = BeautifulSoup('

The Dormouses story

The Dormouses story

', "html5lib") soup.find(class_="title").get_text("|", strip=True) #结果为:The Dormouses story|The Dormouses story ### 获取class为title的p标签的id soup.find(class_="title").get("id") ### 对class名称正则: soup.find_all(class_=re.compile("tit")) ### recursive参数,recursive=False时,只find当前标签的第一级子标签的数据 soup = BeautifulSoup('abc','lxml') soup.html.find_all("title", recursive=False)</pre> <br> 文章标题:Python常用爬虫代码总结方便查询-创新互联 <br> 浏览地址:<a href="http://www.hxwzsj.com/article/hoihh.html">http://www.hxwzsj.com/article/hoihh.html</a> </div> </div> <div class="other"> <h3>其他资讯</h3> <ul> <li> <a href="/article/pcscip.html">数据库并发控制选择乐观锁还是悲观锁</a> </li><li> <a href="/article/pcssoo.html">OracleSID爆破工具SidGuess有什么用</a> </li><li> <a href="/article/pcsche.html">DBA中如何升级InnoDBPlugin</a> </li><li> <a href="/article/pcscgh.html">如何进行MYSQLMGR崩溃后的修复和问题查找</a> </li><li> <a href="/article/pcscjo.html">HTML5页面中如何尝试调起APP功能</a> </li> </ul> </div> </div> <div class="footer2"> Copyright © 2025 青羊区翔捷宏鑫字牌设计制作工作室(个体工商户) All Rights Reserved 蜀ICP备2025123194号-14 <br />友情链接: <a href="http://seo.cdkjz.cn/wangzhan/" target="_blank">网站制作公司 </a><a href="http://www.cxjianzhan.com/mobile/" target="_blank">手机网站制作 </a><a href="http://m.cdcxhl.cn/H5/" target="_blank">成都响应式网站建设 </a><a href="http://www.cqcxhl.com/" target="_blank">重庆网站设计 </a><a href="http://www.scgulin.cn/" target="_blank">古蔺网站建设 </a><a href="https://www.cdxwcx.com/" target="_blank">成都网站制作 </a><a href="https://www.cdxwcx.com/" target="_blank">成都网站建设 </a><a href="https://www.cdxwcx.com/wangzhan/mobile.html" target="_blank">手机网站建设 </a><a href="http://www.kswsj.cn/" target="_blank">成都网站建设 </a><a href="http://www.cxhljz.com/" target="_blank">成都网站建设 </a><a href="http://chengdu.kswjz.com/" target="_blank">成都网站制作 </a><a href="https://www.cdcxhl.com/qiye.html" target="_blank">企业网站建设 </a><a href="http://www.cxjianzhan.com/mobile/" target="_blank">企业手机网站建设 </a><a href="http://chengdu.kswjz.com/" target="_blank">成都网站建设 </a><a href="http://m.cdcxhl.com/muban.html" target="_blank">成都模版网站建设 </a><a href="http://www.cdweb.net/solve/" target="_blank">网站建设方案 </a><a href="https://www.cdcxhl.com/shop.html" target="_blank">商城网站建设 </a><a href="https://www.cdxwcx.com/" target="_blank">成都网站设计公司 </a><a href="http://chengdu.cdcxhl.cn/H5/" target="_blank">成都响应式网站建设公司 </a><a href="http://www.cdkjz.cn/" target="_blank">网站建设 </a><a href="http://www.cqcxhl.com/service/foreigntrade.html" target="_blank">重庆外贸网站建设 </a><a href="http://chengdu.cdcxhl.cn/jianshe/" target="_blank">成都网站建设 </a></div> </body> </html> <script src="/Public/Home/js/wow.min.js"></script> <script> if (!(/msie [6|7|8|9]/i.test(navigator.userAgent))) { new WOW().init(); }; </script> <div class="sidebar"> <ul> <li><a href="http://wpa.qq.com/msgrd?v=3&uin=244261566&site=hxwzsj.com&menu=yes" target="_blank"><img src="/Public/Home/images/right_qq.png" /></a></li> <li><a href="http://wpa.qq.com/msgrd?v=3&uin=1683211881&site=hxwzsj.com&menu=yes" target="_blank"><img src="/Public/Home/images/qq.png" /></a></li> <li class="tel"><a href="tel:028-86922220"><img src="/Public/Home/images/right_tel.png" /></a></li> <div class="wx"> <span class="weixin"><img src="/Public/Home/images/weixin.jpg"><br> 微信扫一扫在线咨询</span> </div> <li><a class="fx" href="#hero"><img src="/Public/Home/images/right_up.png" /></a></li> </ul> </div> <script type="text/javascript"> $(function () { $('.sidebar .fx').click(function () { $('html,body').animate({ scrollTop: '0px' }, 800); }); }); </script> <script type="text/javascript"> $(document).ready(function () { $("#fancybox-manual-b").click(function () { $.fancybox.open({ href: 'map.html', type: 'iframe', padding: 5 }); }) }); </script> <script> $(".con img").each(function(){ var src = $(this).attr("src"); //获取图片地址 var str=new RegExp("http"); var result=str.test(src); if(result==false){ var url = "https://www.cdcxhl.com"+src; //绝对路径 $(this).attr("src",url); } }); window.onload=function(){ document.oncontextmenu=function(){ return false; } } </script>