专业汉语词典知识平台,分享汉字词语知识、历史文学知识解答!

励北网
励北网

怎么克隆网站,克隆网站教程

来源:小易整编  作者:小易  发布时间:2023-03-23 10:00
摘要:怎么克隆网站,克隆网站教程可能有时我们会希望将整个静态网站克隆至本地,比如在一个纯内网或离线环境中阅读当前最新的SpringFrameworkv6.0.6的官方文档[1]。HTTrackHTTrack[2]就是这样一个工具,能够以一个URL...

怎么克隆网站,克隆网站教程

怎么克隆网站,克隆网站教程

可能有时我们会希望将整个静态网站克隆至本地,比如在一个纯内网或离线环境中阅读当前最新的 Spring Framework v6.0.6 的 官方文档[1]。

HTTrack

HTTrack[2] 就是这样一个工具,能够以一个 URL 为入口,将其中包含的几乎全部(深度 9999)静态资源都抓取回来,并将包含该站点的链接修改为相对链接,以便于在本地进行导航浏览。

完成首次克隆后,还可以再次执行进行更新,实现对站点的定时镜像。

在 HTTrack 的 Download[3] 页面选择适合的版本安装后,即可在命令行中使用。

Quick Start

HTTrack 有丰富的参数以支持强大的功能,最简单的用法为 httrack url,如:

$ httrack https://www.httrack.com/

便可将 HTTrack 的官方网站克隆至本地当前路径下。

默认情况下只镜像给出的 URL 站点内的链接,并将站内链接修改为相对路径,便于本地导航。跳转至其他域名的地址不会克隆。

基本语法

HTTrack 的基本语法为:

httrack <url> [-<option>] [+] [-]

-<option> 指定选项,+/- 过滤需要和不需要的内容。选项和过滤器均可根据需要添加多个。

选项

不指定任何选项时,会使用默认配置。在 man httrack 中所有标 * 的选项均为默认配置:

w *mirror web sites %f *use proxy for ftp (f0 don't use)  cN number of multiple connections (*c8)  RN number of retries, in case of timeout or non-fatal errors (*R1) %P *extended parsing, attempt to parse all links, even in unknown tags or Javascript (%P0 don't use)  NN  name conversion type (0 *original structure, 1+: see below)  LN  long names (L1 *long names / L0 8-3 conversion)  K   keep original links (e.g. http://www.adr/link) (K0 *relative link)  o *generate output html file in case of error (404..) (o0 don't generate)  X *purge old files after update (X0 keep delete)  bN  accept cookies in cookies.txt (0=do not accept,* 1=accept)  u check document type if unknown (cgi,asp..) (u0 don't check, * u1 check but /, u2 check always)  j *parse Java Classes (j0 don't parse)  sN  follow robots.txt and meta robots tags (0=never,1=sometimes,* 2=always)  C  create/use a cache for updates and retries (C0 no cache,C1 cache is prioritary,* C2 test update before)  f *log file mode  I *make an index (I0 don't make)  pN priority mode: (* p3)  *3 save all files  D  *can only go down into subdirs  a  *stay on the same address  --mirror       *make a mirror of site(s) (default)

—— 引自 Httrack Users Guide (3.10)[4]

例:

# 镜像 http://www.shoesizes.com # 至本地 /tmp/shoesizes 路径, # 镜像深度为 50(默认深度 9999) $ httrack http://www.shoesizes.com \ -O /tmp/shoesizes -r50

过滤器

过滤器一般放在命令的尾部,但也可以与选项混在一起使用,但注意不要放在需要参数的选项和参数中间。

以使用 www.all.net/test/a.html 为例,所有 www.all.net/test/ 开头的链接都会被克隆,其他如 www.all.net/anything-else 则不会,因为这是更高一级的目录结构,默认情况下,只会镜像给定路径的下级目录结构中的内容。

在默认情况之外,想要包含(+)或排除(-)指定链接或特定类型文件时,可使用下列语法:

语法含义
*任意字符
*[file] or *[name]任意文件或任意名称
*[path]任意路径(及文件名)
*[a,z,e,r,t,y]a,z,e,r,t,y 中任意字母
*[a-z]任意字母
*[0-9,a,z,e,r,t,y]0 至 9 及 a,z,e,r,t,y 中任意字母
*[]之后没有任意字符
*[< NN]大小小于 NN Kbytes
*[> PP]大小大于 PP Kbytes
*[< NN > PP]小于 NN Kbytes 并且大于 PP Kbytes

越靠后的过滤条件具有越高的优先级。

例:

过滤条件含义
+*.com/*包含所有带有 .com 的链接
+*.com/*[path].zip包含 .com 地址下的所有 zip 文件
+*.html*[]包含 *.html,但不包含如 www.all.net/index.html?page=10 的地址
-*.gif*[> 5] -*.zip +*.zip*[< 10]排除所有大于 5KB 的 gif 文件,排除所有 zip 文件,但包含小于 10KB 的 zip 文件

动态生成的元素中的链接

HTTrack 功能强大,但对于动态生成的内容中的链接也没什么好方法。

当克隆至本地的内容与源站差异较大时,需要结合实际情况进行分析,可以查看执行 httrack 命令后生成的 hts-log.txt 及 hts-err.txt 文件,或直接查看入口地址文件源码,查找问题原因。

比如使用 Axure 制作的原型导出的 html 格式内容,是由脚本在指定元素中动态创建的目录结构,每个节点对应一个 html 页面。

这时可以先使用 httrack 将站点框架克隆下来,获得那些未自动探测到的页面链接后,再使用 HTTrack 或 Wget[5] 将这部分内容下载回来作为补充。

wget -r <url> 同样可以将指定路径及相关链接内容下载至本地,默认最大深度为 5。

下面这段神秘代码,在 Axure 生成的 html 页面的 Console 中执行,可以获得到目录中所有页面的链接相对路径:

let links=''; $('.sitemapPageLink').each((i,e) => {  links += e.getAttribute('nodeurl') + '\r\n'; }); console.info(links);


本文地址:百科问答频道 https://www.neebe.cn/wenda/936996.html,易企推百科一个免费的知识分享平台,本站部分文章来网络分享,本着互联网分享的精神,如有涉及到您的权益,请联系我们删除,谢谢!


百科问答
小编:小易整编
相关文章相关阅读
  • 网站编辑是什么意思?

    网站编辑是什么意思?

    网站编辑是一种具有技术性的新媒体从业者,他们负责全面负责网站的工作,包括网站的建设、文字的写作、图像的设计以及程序的开发。再者,网站编辑还负责网站的维护,对网站的关键更新、发布、监督、管理等一系列的网站更新工作进行全面的监督和处理,网站编...

  • 网站链接是什么意思?

    网站链接是什么意思?

    网站链接指的是一个网站的(Web)链接,它是指一个网站或HTML页面链接到另一个网站或HTML页面的链接。网站链接可以帮助大家找到网站上的有用信息,也可以帮助通过关键字搜索的人找到符合他们需求的信息。网站上不同的内容都由不同的URL来标识...

  • 门户网站是什么意思?

    门户网站是什么意思?

    门户网站(PortalWebsite),也称为门户网关,是一种使互联网用户具有更便捷、高效地访问众多信息内容和资源的网络系统。门户网站将许多来源的信息加以汇总,并以统一而规范的方式展现给用户。常见的信息和资源包括新闻、电子社交网络、购...

  • 网站框架是什么意思?

    网站框架是什么意思?

    网站框架是指一组基础架构,在其中可以构建、构建和发布网站。它将提供一个简单的代码库和编程例程,中间件和其他软件组件,如数据库,安全基础架构和表单控件等,以实现有效的业务逻辑。网站框架一般包括一个网页动态模板引擎,一个数据库存储过程,一个安...

  • 非法网站是什么意思?

    非法网站是什么意思?

    非法网站是指违反法律法规、侵犯他人合法权益的网站。这类网站通常发布违法信息、色情信息、暴力信息、政治敏感信息等内容,或者提供非法服务,例如贩卖毒品、传播赌博、提供非法下载等。访问非法网站的行为可能会导致法律责任,因此用户应该避免访问非法网...

  • 优质视频素材网站(可以下载高清视频素材的网站)

    优质视频素材网站(可以下载高清视频素材的网站)

    新手找不到视频剪辑素材?很多新手不知道如何查找视频素材,也不知道怎么剪辑视频?今天给大家分享我私藏很久的10个高清且免费的视频剪辑素材的网站,助你轻松打造高质量视频!1.易撰视频库易撰拥有300万免费视频素材,涉及范围较广,包含各种类型...

  • 怎样登陆网站后台

    怎样登陆网站后台

    能上网了,那很我们就可以浏览网站了,如果我们想在网站上做些业务,那么就需要登录网站,那么如何登录网站后台呢?下面我来介绍一下。操作方法01要想登录网站后台,如果你是网站管理员,那么,你在做完了网站之后...

  • 国内视频网站哪个最好?

    国内视频网站哪个最好?

      关于国内视频网站的发展可以从视频网站的产品设计团队用心程度上面去分析,下面一位大神就视频网站的会员充值功能入手全面分析了国内TOP5视频网站的会员充值功能现状,不少观点跟分析都非常有逻辑,下面给大家介绍一下。  中国在线视频行业前五的公...

  • 周排行
  • 月排行
  • 年排行

精彩推荐