设为首页 收藏本站
查看: 1126|回复: 0

Powershell 通过BING 搜索

[复制链接]

尚未签到

发表于 2018-9-2 08:03:04 | 显示全部楼层 |阅读模式
  豆子喜欢看小说 但是很多小说网页的爬虫很不给力,更新不及时。本来想看看Powershell有没有类似Python scarpy的能力,结果很失望,不过意外的发现很多搜索引擎都提供了API 可以通过PowerShell直接调用。
  下面以微软的BING为例。
  首先需要在azure的datamarket申请一个账号
  https://datamarket.azure.com/dataset/bing/search#terms
  用windows live账号登录,然后选择第一个就行了,这个每个月可以免费查询5000次,做个测试够用了。
DSC0000.png

  切换到My Account ->My Data,这里可以直接使用一个在线版的API
DSC0001.png

  比如说,我可以搜索不同的内容,网页,图像,视频,新闻等等~
  注意有个Primary Account Key, 这个就是我的主账号,调用API的时候需要通过这个ID来验证的
DSC0002.png

  下面看看怎么在PowerShell里面调用。
  我在网上搜索了一些,大部分是旧版的语法和例子,具体的语法也语焉不详 要不然就是一个链接直接执行MSDN,这个对于非专业的码农来说很难找到合适的例子,幸好找到一篇参考文章
  http://www.powershelladmin.com/wiki/Accessing_the_Bing_Search_API_v2_using_PowerShell
  首先根据主账号生成对应的access token, 大概可以参考这个链接
  https://msdn.microsoft.com/en-AU/library/azure/dn798668.aspx#ManuallyCreateToken
  然后比着上面那个GUI的自动生成的query格式写个function转换成需要的语法结构,因为他的返回值可以是xml或者json,因此直接用invoke-restmethod 调用就行了
$Key = '2rNmeyElCeWRJ1DLvRl5ReJ0l85R/klsdjlskfs' #这个ID我改了一下,不是真的  
$Base64KeyBytes = [byte[]] [Text.Encoding]::ASCII.GetBytes("ignored:$Key")
  
$Base64Key = [Convert]::ToBase64String($Base64KeyBytes)
  

  
function Get-BingQuery {
  
    param([string[]] $Query)
  
    Add-Type -Assembly System.Web
  
    $Query = '%27' + (($Query | %{ [Web.HttpUtility]::UrlEncode($_) }) -join '+') + '%27'
  
    # Return the proper string.
  
    $Query
  
}
  
$QueryString = Get-BingQuery 'music'
  
$Uri = 'https://api.datamarket.azure.com/Bing/Search/Web?$format=json&$top=5&Query=' + $QueryString
  
$Results = Invoke-RestMethod -Uri $Uri -Headers @{ Authorization = "Basic $Base64Key" }
  
$Results.d.results | Select Title, Description, DisplayUrl, Url | fl
  结果如下:
DSC0003.png

  成功



运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-561325-1-1.html 上篇帖子: Powershell AWS 自动化管理 (11) - 创建一个高可用的WordPress博客(中) 下篇帖子: Powershell学习之道-文件夹共享及磁盘映射
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表