zoukankan      html  css  js  c++  java
  • 8、SRR数据下载https://ftp-trace.ncbi.nlm.nih.gov/sra/sdk/2.8.2/

    1、prefetch SRRxxxxxx         ~/ncbi/public/sra

    2、fastq-dump --split-files xxxxxxsra

    3、SRA、SAM以及Fastq文件高速下载方法

        3.1 NCBI-SRA和EBI-ENA数据库

    SRA数据库: Sequence Read Archive:隶属NCBI (National Center for Biotechnology Information),它是一个保存高通量测序原始数据以及比对信息和元数据 (metadata) 的数据库,所有已发表的文献中高通量测序数据基本都上传至此,方便其他研究者下载及再研究。其中的数据则是通过压缩后以.sra文件格式来保存的。

    ENA数据库:European Nucleotide Archive:隶属EBI (European Bioinformatics Institute),功能同SRA,并且对数据做了注释,界面更友好,当然对于我们来说,最诱人的当属可直接下载fastq (.gz)文件这一项了。

        3.2 sra文件下载方式

    1. 找地方:用手头上的SRR (SRA Run)序列号去ENA搜索,如果有,就在这儿下;如果没有,就去SRA数据库下载

    2. 选方法

      • 首选Aspera Connect软件,这是IBM旗下的商业高速文件传输软件,与NCBI和EBI有协作合同,我们可以免费使用它下载高通量测序文件,体验飞一般的感觉,速度可飚至300-500M/s。下载完成后,本地用fastq-dump提取fastq文件,用sam-dump提取SAM文件。

      • 其次,如果上述方法不奏效,优先使用sratoolkit中的prefetch命令

      • 最后,使用sratoolkit中的fastq-dumpsam-dump命令下载,如果fastq-dump不稳定,推荐大家尝试Biostar Handbook中的wonderdump脚本

    警告:不要用wget或curl去下载sra文件,这会导致下载的文件不完整!

        3.3 Aspera Connect命令行工具ascp的安装

    首先,进入Aspera Connect的下载页面,选择linux版本,复制下载地址

    wget http://download.asperasoft.com/download/sw/connect/3.7.4/aspera-connect-3.7.4.147727-linux-64.tar.gz
    
    tar zxvf aspera-connect-3.7.4.147727-linux-64.tar.gz
    
    # 安装
    bash aspera-connect-3.7.4.147727-linux-64.sh
    
    # 查看是否有.aspera文件夹
    cd # 去根目录
    ls -a # 如果看到.aspera文件夹,代表安装成功
    
    # 永久添加环境变量
    echo 'export PATH=~/.aspera/connect/bin:$PATH' >> ~/.bashrc
    source ~/.bashrc
    
    # 查看帮助文档
    ascp --help
    

    至此,安装完成,下面介绍如何利用ascp在SRA和ENA中下载数据

    ascp的用法:ascp [参数] 目标文件 目标地址在线文档

    先了解几个ascp命令的常用参数

    -v verbose mode 唠叨模式,能让你实时知道程序在干啥,方便查错。有些作者的程序缺乏人性化,运行之后,只见光标闪,压根不知道运行到哪了

    -T 取消加密,否则有时候数据下载不了

    -i 提供私钥文件的地址,我也不知道干嘛的,反正不能少,地址一般是~/.aspera/connect/etc中的asperaweb_id_dsa.openssh文件

    -l 设置最大传输速度,一般200m到500m,如果不设置,反而速度会比较低,可能有个较低的默认值

    -k 断点续传,一般设置为值1

    -Q 不懂,一般加上它

    -P 提供SSH port,一般是33001,反正我不懂

      3.4 ascp使用举例

    1. SRA数据库下载:首先记住,数据的存放地址是ftp-private.ncbi.nlm.nih.gov,SRA在Aspera的用户名是anonftp,下载举例:

      • 如果我想下载SRR949627.sra文件,首先我需要找到地址,去ncbi ftp-private或者ncbi faspftp,一层层寻找,直至找到,然后记下链接地址,就可以开始下载了:
       ascp -v -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh -k 1 -T -l200m anonftp@ftp-private.ncbi.nlm.nih.gov:/sra/sra-instant/reads/ByRun/sra/SRR/SRR949/SRR949627/SRR949627.sra ~/biostar/aspera/
      
      • 注意:anonftp@ftp-private.ncbi.nlm.nih.gov后面是:号,不是路径/!

      • 一般来说,NCBI的sra文件前面的地址都是一样的/sra/sra-instant/reads/ByRun/sra/SRR/...,那么写脚本批量下载也就不难了!

    2. ENA数据库下载:这里和上面不同,数据的存放地址是fasp.sra.ebi.ac.uk,ENA在Aspera的用户名是era-fasp,下载举例:

      • 同样,我还是下载SRR949627,方便的是ENA中可以直接下载fastq.gz文件,不用再从sra文件慢吞吞的转换了,那么地址呢,可以去ENA搜索,再复制下fastq.gz文件的地址,或者可以去ENA的ftp地址ftp.sra.ebi.ac.uk搜索,注意,是ftp,不是fasp!记下链接地址,就可以下载了:
       ascp -QT -l 300m -P33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh era-fasp@fasp.sra.ebi.ac.uk:/vol1/fastq/SRR949/SRR949627/SRR949627_1.fastq.gz ~/biostar/aspera/
      
      • 注意:era-fasp@fasp.sra.ebi.ac.uk后面是:号,不是路径/!

      • 一般来说,EBI的sra文件前面的地址也都是一样的vol1/fastq/...,那么写脚本批量下载也就不难了!

    http://mp.weixin.qq.com/s?src=3&timestamp=1512561385&ver=1&signature=PFcC4mO6h8DkI84Gtn7kAiRI8C85Aa1DJCPJZ9ZbL*CatUL1Ywi*w4SZ2P3FXx4dhfZOFsdJNiQKQmCAsAzk089SJWDdPj44OR3mdMAp37lboGpunRDwkO1KZJl7qPMVfHz3nTLaUlcYOKDe7YGI-nItc9DlZr9vLJM7PsLKcms=

    https://www.ncbi.nlm.nih.gov/books/NBK158900/#SRA_download.i_m_having_problems_using_t

    https://github.com/ncbi

    http://bioinfostar.com/2017/12/23/How-to-download-SRA-data-zh_CN/

    https://sourceforge.net/p/bowtie-bio/discussion/856737/thread/98068700/

    http://deweylab.biostat.wisc.edu/rsem/README.html

    https://www.biostars.org/

    http://bioinformatics.lofter.com/post/bffd5_a60098

    http://seqanswers.com/forums/showthread.php?t=62056

  • 相关阅读:
    用graphviz,pygraphviz快速自动绘图
    python 实现的huffman 编码压缩,解码解压缩
    python 字符串的显示
    PKU acm 1651 multiplication puzzle
    SQL Server中的数据类型详解
    (转) treeview 的设计思路
    将英文的week 转换为中文的 简单的方法
    常用的文件对应的MIME类型:
    客户端传参问题
    绑定数据与截取的另外的一中写法
  • 原文地址:https://www.cnblogs.com/renping/p/7977472.html
Copyright © 2011-2022 走看看