Activeliang's Blog

黄鸿亮的博客


  • 主页

  • 目录

  • 标签

  • 分类

  • 关于

Android的Webview在截取WebResourceResponse时怎样正常处理页面redirect重定向

发表于 2020-10-04 | 分类于 Android | 0 Comments
在研究Android WebView的时候,有时需要截取页面响应,修改些信息再返回给WebView处理,期间发现如果页面返回302重定向到一个新的链接,而你正常返回302会有一个错误提示: 1statusCode can't be in the [300, 399] range. 你说气人不气人… 所以只有曲线救国了,经过测试有2种方法可以实现: 方法1:直接让Webview加载新的链接:1234567891011121314public WebResourceResponse shouldInterceptRequest(WebView view, WebResourceRequest request) { String statusCode = 302; //get it ...
阅读全文 »

Android_webview设置代理的方法

发表于 2020-10-01 | 分类于 Android | 0 Comments
在网上特别是中文社区搜索android webview proxy一出来大部分文章的作法都是类似这个: https://www.jianshu.com/p/d02e8818a72e 但实测中发现,不管我SDK版本降到多低,这些方法通通失效,最后自己跟着官方文档一步一步来做: 123456789101112131415161718192021private void setProxy() { ProxyConfig proxyConfig = new ProxyConfig.Builder() .addProxyRule("http://192.168.1.12:1082") .build(); Executor ...
阅读全文 »

关于-淘宝小二滑块-反爬虫的思考

发表于 2020-09-28 | 分类于 爬虫 | 0 Comments
研究淘宝爬虫有段时间了,一直以来以puppeteer这个框架来做,期间遇到反爬的主要手段是『小二滑动』,也是因为这个滑动,我把自己的路越走越窄,以至于最后走入死胡同。 (请忽略图中的中文乱码) 如果淘宝检查到爬虫,这个滑动块是过不了的。会提示『出错了』 我在研究小二滑动,一共经历了4个阶段: 第一次用puppeteer能无压力爬取淘宝,即使淘小二滑动也能过,于是开始完善后端配套代码。 等一个月后,后面配套代码写得差不多了,再回头来测试,发现小二滑动有50%的概率过不了。 我发现很可能是我滑动轨迹的问题,终于写出了布朗运动轨迹的代码来随机滑动小二滑块,完美95%通过率。 期间切换到其他项目,过了小半个月,再回来测试时,只剩下40%通过率,继续研究,可能是滑动轨迹还不太完美被发现了,于是 ...
阅读全文 »

Nginx配置开启ocsp_stapling加速苹果设备访https加密链接

发表于 2020-09-04 | 分类于 OCSP Stapling , Nginx | 0 Comments
如果你用苹果手机抓过包,应该会经常发现一个奇怪的域名经常出现: 1ocsp.apple.com 没错,这个网址是苹果官网的,苹果在打开https加密链接前,会先调用这个网址来验证https的tls证书是否有效,但你知道的在国内网络出口速度慢(干扰严重),导致这个验证的过程有时可能达到6、7秒,也 就是你首次打开一个https网站前面等待的6、7秒可能是苹果在验证tls证书,我的天,不能忍。 这个情况通常是针对免费证书:let’s encrypt申请下来的证书 有2种解决方案: 换成阿里云的免费证书,一年一签 继续用let’s encrypt的免费证书,开启ocsp stapling功能 关于什么ocsp stapling,请参考 :https://zhuanlan.zhihu.com/ ...
阅读全文 »

Ruby_gem:Whenever在Mac系统上无法正常添加执行crontab任务

发表于 2020-08-06 | 分类于 Ruby/Rails | 0 Comments
ruby gem whenever https://github.com/javan/whenever 是一个很方便搭配Rails项目生成crontab任务的gem,但我发现它在linux服务器上工作正常,在本地电脑Mac上却没有正常的运行,影响不太大,所以一直没有去理会,直接有一天,在这篇issues上发现了问题所在: https://github.com/javan/whenever 原来是新版Mac系统需要在偏好设置中添加完全磁盘权限! 参考:https://blog.bejarano.io/fixing-cron-jobs-in-mojave.html
阅读全文 »

Nginx开启Brotli算法压缩提高传输效率

发表于 2020-07-25 | 分类于 Nginx | 0 Comments
什么是Brotli Google 认为互联网用户的时间是宝贵的,他们的时间不应该消耗在漫长的网页加载中,因此在 2015 年 9 月 Google 推出了无损压缩算法 Brotli。Brotli 通过变种的 LZ77 算法、Huffman 编码以及二阶文本建模等方式进行数据压缩,与其他压缩算法相比,它有着更高的压塑压缩效率。 关于Brotli详细介绍可点击这里 在Linux服务器上Nginx下如何开启Brotli算法,请参考这篇教程:https://zhuanlan.zhihu.com/p/60908834 跟着上文教程配置, 有些要注意的地方: 如果你也是在用框架Rails6.0+webpacker,那么nginx配置中,开启brotli算法的配置路径应该是: 123456789loc ...
阅读全文 »

研究阿里云Kubernetes遇到的坑

发表于 2020-07-18 | 分类于 Kubernetes , Aliyun , Docker | 0 Comments
关于容器,阿里云有kubernetes、Docker、function。这里主要研究kubernetes的搭建使用。 如何给pod挂eip: https://help.aliyun.com/document_detail/119199.html?spm=a2c4g.11186623.6.1028.39c85d0cKULtjW 发现两大坑点: k8s需要配置nat网关。然而阿里的网关服务器有点小贵300大洋/月起。所以暂时退回eci,看能否自建nat网关。(找到了解决方法,用同一网络区下的ECS做为NAT来连接外网,见链接https://developer.aliyun.com/article/607330) EIP有限额。每天大概100个左右而已。
阅读全文 »

研究学习minikube在Mac上跑demo遇到几个小坑

发表于 2020-07-17 | 分类于 Kubernetes , Docker | 0 Comments
研究 minikube 在mac 下运行遇到的几个坑,在坑里爬了一天,终于出来了,这里做个记录 参考 资料: https://zhuanlan.zhihu.com/p/39937913 (主要跟着这个教程) https://www.jianshu.com/p/d9a0ccea2c6a 首先安装minikube后选择用什么driver启动呢? 试过n种后 最后用docker作为driver启动成功,欢呼! 参考 :https://minikube.sigs.k8s.io/docs/drivers/docker/ 启动指令如下: 1234567minikube start \--vm-driver=docker \--image-repository=registry.cn-hangz ...
阅读全文 »

Sidekiq_6.0部署改用systemd

发表于 2020-06-23 | 分类于 Ruby/Rails |
用过sidekiq的人 都知道sidekiq有一个毛病就是当机机内存不足时容易被kill掉,所以进程队列任务经常容易处于宕机状态。 好在sidekiq的新版本6.0,改成了systemd来进程守护,更加简单高效保活。下面说说如果capistrano来部署。 首先对systemd不了解的同学建议先去了解一下,这里阮一峰老师讲systemd 回到Rails项目的部署(这里假设你已经部署过sidekiq,并且项目已经配置了sidekiq与capistrano相关的配置),在config/deploy.rb里添加代码: 12set :init_system, :systemdset :service_unit_name, "sidekiq" 配置让capistrano控制sidekiq。 以部署 ...
阅读全文 »

Rails下的webpacker添加ie11支持遇到错误提示require无法使用

发表于 2020-06-07 | 分类于 Ruby/Rails | 0 Comments
如题,正常来说Rails下的Webpacker按照官方文档来配置是支持到ie11的,但有在一些旧版本的Rails 中有时会遇到报错,说不支持require的用法。 这时需要安装多一个插件:https://www.npmjs.com/package/babel-plugin-transform-es2015-modules-commonjs
阅读全文 »
12…5
黄鸿亮

黄鸿亮

记录让我们走得更远...

48 日志
30 分类
65 标签
© 2021 黄鸿亮
由 Hexo 强力驱动
|
主题 — NexT.Pisces v5.1.2