vbuild-fedora-mirror.sh

   1 #!/bin/bash
   2 # this can help you create/update your fedora mirror
   3 # $Id$
   4
   5 COMMAND=$(basename $0)
   6 LOGDIR=/var/log/fedora-mirroring
   7 DATE=$(date '+%Y-%m-%d-%H-%M')
   8 LOG=${LOGDIR}/${DATE}.log
   9
  10 dry_run=
  11 verbose=
  12 log=
  13 skip_core=true
  14 root=/mirror/
  15
  16
  17 dhozac_url=rsync://rpm.hozac.com/dhozac/centos/
  18
  19 us_fedora_url=rsync://mirrors.kernel.org/fedora
  20 us_centos_url=rsync://mirrors.rit.edu/centos
  21 us_epel_url=rsync://rsync.gtlib.gatech.edu/fedora-epel
  22
  23 # ircam's fedora8 repo has been turned off
  24 #eu_fedora_url=rsync://mirrors.ircam.fr/fedora-linux
  25 #eu_fedora_url=rsync://mirror.ovh.net/download.fedora.redhat.com/linux
  26 eu_fedora_url=rsync://ftp-stud.hs-esslingen.de/fedora/linux
  27 eu_centos_url=rsync://mirrors.ircam.fr/CentOS
  28 eu_epel_url=rsync://mirrors.ircam.fr/fedora-epel
  29
  30 pl_fedora_url=$eu_fedora_url
  31 pl_centos_url=rsync://ftp.tpnet.pl/centos
  32 pl_epel_url=rsync://ftp.icm.edu.pl/pub/Linux/fedora/linux/epel
  33
  34 jp_fedora_url="jp_fedora_url-needs-to-be-defined"
  35 jp_centos_url="jp_centos_url-needs-to-be-defined"
  36 jp_epel_url="jp_epel_url-needs-to-be-defined"
  37
  38 default_distroname="centos5.5"
  39 all_distronames="f10 f12 centos5.3 centos5.4 centos5.5 epel5"
  40 default_arch="i386"
  41 all_archs="i386 x86_64"
  42
  43 case $(hostname) in
  44     blitz*|*.fr|*.de|*.uk)
  45         fedora_url=$eu_fedora_url ; centos_url=$eu_centos_url ; epel_url=$eu_epel_url ;;
  46     *.pl)
  47         fedora_url=$pl_fedora_url ; centos_url=$pl_centos_url ; epel_url=$pl_epel_url ;;
  48     *.jp)
  49         fedora_url=$jp_fedora_url ; centos_url=$jp_centos_url ; epel_url=$jp_epel_url ;;
  50     *)
  51         fedora_url=$us_fedora_url ; centos_url=$us_centos_url ; epel_url=$us_epel_url ;;
  52 esac
  53
  54 function mirror_distro_arch () {
  55     distroname=$1; shift
  56     arch=$1; shift
  57
  58     distroname=$(echo $distroname | tr '[A-Z]' '[a-z]')
  59     case $distroname in
  60         fc*[1-6])
  61             distroindex=$(echo $distroname | sed -e "s,fc,,g")
  62             distro="Fedora Core"
  63             rsyncurl=$fedora_url
  64             ;;
  65         f*[7-9]|f1?)
  66             distroindex=$(echo $distroname | sed -e "s,f,,g")
  67             distro="Fedora"
  68             rsyncurl=$fedora_url
  69             ;;
  70         centos[4-5]|centos[4-5].[0-9])
  71             distroindex=$(echo $distroname | sed -e "s,centos,,g")
  72             distro="CentOS"
  73             rsyncurl=$centos_url
  74             ;;
  75         epel5)
  76             distroindex=5
  77             distro=epel
  78             rsyncurl=$epel_url
  79             ;;
  80         dhozac)
  81             distroindex=5
  82             distro="dhozac"
  83             rsyncurl=$dhozac_url
  84             ;;
  85         *)
  86             echo "WARNING -- Unknown distribution $distroname -- skipped"
  87             return 1
  88             ;;
  89     esac
  90
  91     excludelist="debug/ iso/ ppc/ source/"
  92     options="--archive --compress --delete --delete-excluded $dry_run $verbose"
  93     [ -n "$(rsync --help | grep no-motd)" ] && options="$options --no-motd"
  94     for e in $excludelist; do
  95         options="$options --exclude $e"
  96     done
  97
  98     echo ">>>>>>>>>>>>>>>>>>>> root=$root distroname=$distroname arch=$arch rsyncurl=$rsyncurl"
  99     [ -n "$verbose" ] && echo "rsync options=$options"
 100
 101     RES=1
 102     paths=""
 103     case $distro in
 104         [Ff]edora*)
 105             case $distroindex in
 106                 2|4|6)
 107                     [ -z "$skip_core" ] && paths="core/$distroindex/$arch/os/"
 108                     paths="$paths core/updates/$distroindex/$arch/ extras/$distroindex/$arch/"
 109                     RES=0
 110                     ;;
 111                 7|8|9|1?)
 112                     [ -z "$skip_core" ] && paths="releases/$distroindex/Everything/$arch/os/"
 113                     paths="$paths updates/$distroindex/$arch/"
 114                     # f8 and f9 have the additional newkey repo
 115                     case $distroindex in
 116                         8|9) paths="$paths updates/$distroindex/${arch}.newkey/" ;;
 117                     esac
 118                     RES=0
 119                     ;;
 120             esac
 121             localpath=fedora
 122             ;;
 123
 124         CentOS*)
 125             case $distroindex in
 126                 5*)
 127                     [ -z "$skip_core" ] && paths="$distroindex/os/$arch/"
 128                     paths="$paths $distroindex/updates/$arch/"
 129                     RES=0
 130                     ;;
 131             esac
 132             localpath=centos
 133             ;;
 134
 135         epel*)
 136             case $distroindex in
 137                 5)
 138                     paths="$paths $distroindex/$arch/"
 139                     RES=0
 140                     ;;
 141             esac
 142             localpath=epel
 143             ;;
 144
 145         dhozac*)
 146             case $distroindex in
 147                 5)
 148                     # leave off trailing '/'
 149                     paths="$paths $distroindex/vserver/$arch"
 150                     RES=0
 151                     ;;
 152             esac
 153             localpath=dhozac
 154             ;;
 155
 156     esac
 157
 158     if [ "$RES" = 1 ] ; then
 159         echo "DISTRIBUTION $distro $distroindex CURRENTLY UNSUPPORTED - skipped"
 160     else
 161         for repopath in $paths; do
 162             echo "===== $distro -> $distroindex $repopath"
 163             [ -z "$dry_run" ] && mkdir -p ${root}/${localpath}/${repopath}
 164             command="rsync $options ${rsyncurl}/${repopath} ${root}/${localpath}/${repopath}"
 165             echo $command
 166             $command
 167         done
 168     fi
 169
 170     echo "<<<<<<<<<<<<<<<<<<<< $distroname $arch"
 171
 172     return $RES
 173 }
 174
 175 function usage () {
 176     echo "Usage: $COMMAND [-n] [-v] [-c] [-r root] [-u|U rsyncurl] [-e|-j] [-f distroname|-F] [-a arch|-A]"
 177     echo "Defaults to -r $root -f $default_distroname -a $default_arch"
 178     echo "Default urls : $fedora_url $centos_url"
 179     echo "Options:"
 180     echo " -n : dry run"
 181     echo " -v : verbose"
 182     echo " -l : turns on autologging in $LOGDIR"
 183     echo " -c : skips core repository (default)"
 184     echo " -C : force syncing core repository"
 185     echo " -r root (default is $root)"
 186     echo " -u rsyncurl for fedora (default is $fedora_url)"
 187     echo " -U rsyncurl for centos (default is $centos_url)"
 188     echo " -E rsyncurl for epel (default is $epel_url)"
 189     echo " -s : uses standard (US) mirrors $us_fedora_url $us_centos_url $us_epel_url"
 190     echo " -e : uses European mirrors $eu_fedora_url $eu_centos_url $eu_epel_url"
 191     echo " -j : uses Japanese mirrors $jp_fedora_url $jp_centos_url $jp_epel_url"
 192     echo " -f distroname - use vserver convention, e.g. f8 or centos5"
 193     echo " -F : for distroname in $all_distronames"
 194     echo " -a arch - use yum convention"
 195     echo " -A : for arch in $all_archs"
 196     exit 1
 197 }
 198
 199 function run () {
 200     RES=0
 201     for distroname in $distronames ; do
 202         for arch in $archs; do
 203             mirror_distro_arch "$distroname" "$arch" || RES=1
 204         done
 205     done
 206     return $RES
 207 }
 208
 209 function main () {
 210     distronames=""
 211     archs=""
 212     while getopts "nvlcCr:u:U:E:sejf:Fa:Ah" opt ; do
 213         case $opt in
 214             n) dry_run=--dry-run ;;
 215             v) verbose=--verbose ;;
 216             l) log=true ;;
 217             c) skip_core=true ;;
 218             C) skip_core= ;;
 219             r) root=$OPTARG ;;
 220             u) fedora_url=$OPTARG ;;
 221             U) centos_url=$OPTARG ;;
 222             E) epel_url=$OPTARG ;;
 223             s) fedora_url=$us_fedora_url ; centos_url=$us_centos_url ; epel_url=$us_epel_url;;
 224             e) fedora_url=$eu_fedora_url ; centos_url=$eu_centos_url ; epel_url=$eu_epel_url ;;
 225             j) fedora_url=$jp_fedora_url ; centos_url=$jp_centos_url ; epel_url=$jp_epel_url ;;
 226             f) distronames="$distronames $OPTARG" ;;
 227             F) distronames="$distronames $all_distronames" ;;
 228             a) archs="$archs $OPTARG" ;;
 229             A) archs="$archs $all_archs" ;;
 230             h|*) usage ;;
 231         esac
 232     done
 233     shift $(($OPTIND-1))
 234     [[ -n "$@" ]] && usage
 235     [ -z "$distronames" ] && distronames=$default_distroname
 236     [ -z "$archs" ] && archs=$default_arch
 237
 238     # auto log : if specified
 239     if [ -n "$log" ] ; then
 240         mkdir -p $LOGDIR
 241         run &> $LOG
 242     else
 243         run
 244     fi
 245     exit $?
 246 }
 247
 248 main "$@"