Golang·采集网页元素

Golang·采集使用chromedp + goquery 简单爬取动态数据网页元素

1、脚本:

终端载入 : go get github.com/chromedp/chromedp

2、方法涵

// 获取网站上爬取的数据
func GetHttpHtmlContent(url string, selector string, sel interface{}) (string, error) {
    options := []chromedp.ExecAllocatorOption{
        chromedp.Flag("headless", true), // debug使用
        chromedp.Flag("blink-settings", "imagesEnabled=false"),
        chromedp.UserAgent(`Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.103 Safari/537.36`),
    }
    //初始化参数,先传一个空的数据
    options = append(chromedp.DefaultExecAllocatorOptions[:], options...)

    c, _ := chromedp.NewExecAllocator(context.Background(), options...)

    // create context
    chromeCtx, cancel := chromedp.NewContext(c, chromedp.WithLogf(log.Printf))
    // 执行一个空task, 用提前创建Chrome实例
    chromedp.Run(chromeCtx, make([]chromedp.Action, 0, 1)...)

    //创建一个上下文,超时时间为10s
    timeoutCtx, cancel := context.WithTimeout(chromeCtx, 10*time.Second)
    defer cancel()

    var htmlContent string
    err := chromedp.Run(timeoutCtx,
        chromedp.Navigate(url),
        chromedp.WaitVisible(selector),
        chromedp.OuterHTML(sel, &htmlContent, chromedp.ByJSPath),
    )
    if err != nil {
        log.Println(err)
        return "", err
    }

    return htmlContent, nil
}

3、使用方式

// 采集网
func GetSportsLotter() {
    url := "http://www.baidu.com"
    html, err := GetHttpHtmlContent(url, "body > div", `document.querySelector("body")`)
    // 参数说明:url采集地址,网页标签名称 body > div.name > div.name2,固定内容 document.querySelector("body")`,
    if err != nil {
        log.Println(err)
    }
    // 成功取得HTML内容进行后续处理
    fmt.Println(html)
    
}

63 Views
分享你的喜爱
linwute
linwute

我要像梦一样自由,像大地一样宽容;
在艰辛放逐的路上,点亮生命的光芒;
我要像梦一样自由,像天空一样坚强;
在曲折蜿蜒的路上,体验生命的意义;

留下评论

您的电子邮箱地址不会被公开。 必填项已用*标注