linux下镜像网站的几种方法

Shell命令
1154
linux
linux 举报
2020-08-01
  1. 通过wget方式获取网站镜像

网站抓取对于做前端模版的人来说是很好用的,一般来说使用wget就已经足够使用。

wget本身没有图形界面,所以要进入终端进行操作

wget -m -e robots=off -k -E "http://www.csroad.cn" 可以将全站下载以本地的当前工作目录,生成可访问、完整的镜像。

解释:

-m //镜像,就是整站抓取

-e robots=off //忽略robots协议,强制、流氓抓取

-k //将绝对URL链接转换为本地相对URL

-E //将所有text/html文档以.html扩展名保存

2.通过HTTrack:克隆一个网站页面到本地

安装:

centos :yum install httrack

ubuntu:apt-get install httrack 使用起来也比较简单:

直接一条命令执行: httrack "http://www.csroad.cn" -O /home/backup/myweb/ "+.linux.csroad.cn/" -v

注释: "+.linux.csroad.cn/" 表示以 ".linux.csroad.cn/" 开头的所有页面,当然这里也可以直接是 "+http://linux.csroad.cn"


倒序看帖 只看楼主
热点关注
/lib/ld-linux.so.2: bad ELF interpreter: No such file or directory
服务停止、启动、重启一体化脚本,万能语言启动脚本
shell参数判断
在后台用进程名运行bash脚本
shell脚本每行后面多了一个^M的原因和解决办法
定时检测服务,检测down掉后重启。系统检测到DMSERVER运行正常
挂载磁盘的时候遇到一个问题,挂载完磁盘之后重启服务器挂载的盘丢失了.
中标麒麟系统Your trial is EXPIRED and no VALID licens
termux 开启ssh并用用户名和密码登陆
组成共享库的目标文件和一般的目标文件有所不同,在编译时要加-fPIC和-share选项,例如:
gcc指定链接库路径后还是找不到库文件
./configure -build,-host,-target设置
shell脚本每行后面多了一个^M的原因和解决办法
shell 中 if [ “x${var}“ == “x“ ] 中 x的作用
查看linux机器是32位还是64位的方法