av一区二区在线观看_亚洲男人的天堂网站_日韩亚洲视频_在线成人免费_欧美日韩精品免费观看视频_久草视

您的位置:首頁技術文章
文章詳情頁

基于selenium-java封裝chrome、firefox、phantomjs實現爬蟲

瀏覽:20日期:2022-08-21 18:37:40

2017年一直以來在公司負責爬蟲項目相關工程,主要業務有預定、庫存、在開發中也遇到很多問題,隨手記錄一下,后續會持續更新。

chrome、firefox、phantomjs插件安裝和版本說明 基于selenium-java封裝chrome、firefox、phantomjs實現爬蟲

項目下載地址

maven版本說明

<!-- +++|selenium|+++ --> <dependency> <groupId>org.seleniumhq.selenium</groupId> <artifactId>selenium-java</artifactId> <version>3.5.1</version> </dependency> <!-- +++|phantomjsdriver|+++ --> <dependency> <groupId>com.github.detro.ghostdriver</groupId> <artifactId>phantomjsdriver</artifactId> <version>1.1.0</version> </dependency>

chrome插件配置

下載地址:chromedriver下載地址選擇本地系統對應的chrome版本安裝,工程下面有一個 對應的目錄是:Plugin/chromedriver_win32.zip,對應chrmoe版本是Supports Chrome v60-62

直接運行項目中示例

public class ChromeTest {public static void main(String[] args) { WebDriver webDriver = null; try { webDriver = WebDriverUtil.createChromeWebDriver('D:webdrvierchromedriver.exe');//修改路徑 webDriver.get('https://www.baidu.com/'); System.out.println(webDriver.getTitle()); } catch (Exception e) { e.printStackTrace(); } finally { if (webDriver != null) { webDriver.close(); } }}}

chrome配置插件是最簡單的,linux上面只需要把插件換成linux版本即可

firefox

下載插件地址:geckodriver下載地址,選擇本地系統對應的firefox版本安裝,工程下面有一個 對應的目錄是:Plugin/geckodriver-v0.18.0-win64.zip,對應firefox版本是Firefox Setup 50.0(64位)、其他版本沒有測試過

firefox下載地址、selenium-java版本和geckodriver版本更新迭代不一致,導致在搭建環境時很容易出現一系列問題。

直接運行項目中示例

public class FireFoxTest { public static void main(String[] args) { WebDriver webDriver = null; try { webDriver = WebDriverUtil.createFirefoxWebDriver('D:webdrvierFirefoxgeckodriver_18.exe'); webDriver.get('https://book.douban.com/tag/'); Set<String> tagSet = new HashSet<>(); //獲取豆瓣標簽 List<WebElement> divWebElement = webDriver.findElements(By.cssSelector('#content > div > div.article > div:nth-child(2) > div')); for (WebElement webElement : divWebElement) {List<WebElement> aWebElement = webElement.findElements(By.cssSelector('a'));for (WebElement element : aWebElement) { tagSet.add(element.getText());} } System.out.println(tagSet); //點擊小說標簽 WebElement webElement = webDriver.findElement(By.cssSelector('#content > div > div.article > div:nth-child(2) > div:nth-child(1) > table > tbody > tr:nth-child(1) > td:nth-child(1) > a')); webElement.click(); System.out.println(webDriver.getTitle()); } catch (Exception e) { e.printStackTrace(); } finally { if (webDriver != null) {webDriver.quit();webDriver.close(); } } }}

phantomjs

下載插件地址phantomjs插件地址1、phantomjs插件地址2、下載有些慢。phantomjs是沒有界面的,所以只需要下載插件即可。

直接運行項目中示例

public class PhantomjsTest {public static void main(String[] args) { WebDriver webDriver = null; try { webDriver = WebDriverUtil.createPhantomjsWebDriver('D:/webdrvier/phantomjs-1.9.8-windows/phantomjs.exe'); webDriver.get('https://www.baidu.com/'); System.out.println(webDriver.getTitle()); } catch (Exception e) { e.printStackTrace(); } finally { if (webDriver != null) { webDriver.close(); } }}}

到此這篇關于基于selenium-java封裝chrome、firefox、phantomjs實現爬蟲的文章就介紹到這了,更多相關selenium java封裝爬蟲內容請搜索好吧啦網以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持好吧啦網!

標簽: Java
相關文章:
主站蜘蛛池模板: 中文字幕亚洲欧美 | 欧美在线网站 | 日韩精彩视频 | 精品国产乱码久久久久久丨区2区 | 国产综合在线视频 | 99精品欧美一区二区蜜桃免费 | 亚洲天堂一区二区 | 久久九精品| 99久久精品国产毛片 | 国产精品一区久久久 | 在线国产一区二区 | 日韩精品一区二区三区在线 | 欧美国产日韩一区 | 中文字幕亚洲区一区二 | 欧美精品久久一区 | 一区二区三区高清 | 国内自拍第一页 | 亚洲视频三区 | 国产小视频在线观看 | 国产免费一区 | 精品网 | 日韩人体视频 | 午夜影院在线观看免费 | 欧美成人免费在线视频 | 不卡一区二区三区四区 | 日本免费一区二区三区 | 国产成都精品91一区二区三 | 国产精品久久久久久久久婷婷 | 亚洲一区国产精品 | 国产欧美一区二区三区国产幕精品 | 国产三级日本三级 | 日日操日日干 | 99精品视频免费观看 | 久久精品国产99国产精品亚洲 | 中文字幕一区在线 | 超碰人人插| 国产九九九 | 久久久成人一区二区免费影院 | 九九伊人sl水蜜桃色推荐 | 精品一区二区三区在线观看 | 91视频导航|