Handle package cleanup.
[carnet-upgrade.git] / src / functions.sh
1 # Ivan 'ico' Rako <irako@srce.hr>
2 # Zoran 'jelly' Dzelajlija <jelly@srce.hr>
3
4 notice () {
5   LC_MESSAGES=hr_HR dialog --backtitle "$title" --msgbox "$*" 18 75
6 }
7
8 first_warning () {
9   LC_MESSAGES=hr_HR dialog --backtitle "$title" --yesno "$msg_first_warning" 18 75
10   if [ $? -ne 0 ]; then
11     log "Upgrade canceled."
12     exit 0
13   fi
14 }
15
16 pkg() {
17   local version
18   dpkg -l "$1" 2> /dev/null | egrep -q "^.i" || return 1
19   [ -z "$2" ] && return 0
20   version=$(dpkg -s "$1" | awk '/^Version:/ {print $2}')
21   dpkg --compare-versions "$version" "$2" "$3" 2>&1 > /dev/null
22 }
23
24 log() {
25   local old_umask
26   logfile=${logfile:=/var/log/carnet-upgrade.log}
27
28   old_umask=$(umask)
29   umask 0077
30
31   echo "$(date +'%Y-%m-%d %H:%M:%S') $*" >> $logfile
32   echo "CN: $*"
33
34   umask $old_umask
35   chmod og= $logfile
36 }
37
38 # find first free uid/gid in range
39 # find_id passwd 100 999
40 find_id() {
41   local i db first last ids
42   db=$1
43   first=$2
44   last=$3
45   ids=$(getent $db | awk -F: "\$3 >= $first && \$3 <= $last {print \$3}")
46   for i in $(seq $first $last)
47   do
48     if ! echo $ids | grep -q $i; then
49       echo $i
50       return 0
51     fi
52   done
53   return 1
54 }
55
56 # safe in-place s///
57 check_and_sed() {
58   [ "$DEBIAN_SCRIPT_DEBUG" ] && set -vx
59   local s sedcmd ret i
60   s="$1"
61   shift
62   sedcmd="$1"
63   shift
64   ret=2
65   for i in $*
66   do
67     [ -e "$i" ]        || continue
68     egrep -q "$s" "$i" || continue
69     [ -h "$i" ]        && i=$(readlink -f "$i")
70     sed "$sedcmd" "$i" > "$i.dpkg-tmp"
71     chown --reference "$i" "$i.dpkg-tmp"
72     chmod --reference "$i" "$i.dpkg-tmp"
73     mv "$i.dpkg-tmp" "$i"
74     ret=0
75   done
76   if [ "$ret" -eq 0 ]; then
77     log "Done \"$sedcmd\" to $*"
78   fi
79   return $ret
80 }
81
82 #
83 # Update uid for user from reserved system range (0-99) to dynamic system
84 # range (100-999).  Optionally update ownerships of given directories.
85 # $0 user [directory ...]
86 #
87 check_and_update_ugid() {
88   local user newgid newuid
89   user=$1
90   if [ "$(getent passwd $user | awk -F: '$3 >= 100 {print "ok"; exit 0}')" ]; then
91     return 0
92   fi
93   shift
94   newgid=$(find_id group 100 999)
95   newuid=$(find_id passwd 100 999)
96   # other directories/files
97   chown -R $newuid:$newgid $*
98   groupmod -g $newgid $user
99   usermod -u $newuid -g $newgid $user
100   log "Fixed $user user uid/gid."
101 }
102
103 pkgadd () {
104   [ -n "$*" ] || return 0
105   log "Installing $* ..."
106   apt-get -y$s install $* || {
107     dpkg --configure -a
108     apt-get -yf install
109     apt-get -y$s install $*
110   }
111 }
112
113 pkgrm () {
114   [ -n "$*" ] || return 0
115   log "Purging $* ..."
116   apt-get -y$s --purge remove $* || {
117     dpkg --configure -a
118     apt-get -yf install
119     apt-get -y$s --purge remove $*
120   }
121 }
122
123 pkgrm_only () {
124   [ -n "$*" ] || return 0
125   log "Removing $* ..."
126   apt-get -y$s remove $* || {
127     dpkg --configure -a
128     apt-get -yf install
129     apt-get -y$s remove $*
130   }
131 }
132
133
134 apt_update() {
135   log "Running apt-get update ..."
136   apt-get -y$s update || {
137     apt-get -yf install
138     apt-get -y$s update
139   }
140   apt-get autoclean
141 }
142
143 apt_download() {
144   log "Running apt-get download ..."
145   apt-get -dy$s dist-upgrade
146 }
147
148 dist_upgrade () {
149   log "Running upgrade ..."
150   apt-get -y$s upgrade || {
151     dpkg --configure -a
152     apt-get -y$s upgrade
153   }
154
155   log "Running dist-upgrade ..."
156   apt-get -y$s dist-upgrade || {
157     dpkg --configure -a
158     apt-get -y$s dist-upgrade
159   }
160 }
161
162 apt_autoremove () {
163   log "Running autoremove ..."
164   apt-get -y$s --purge autoremove || {
165     dpkg --configure -a
166     apt-get -yf install
167   }
168 }
169
170 remove_x() {
171   LC_MESSAGES=hr_HR dialog --backtitle "$title" --yesno "$msg_remove_x" 18 75
172   if [ $? -eq 0 ]; then
173     log "Removing X Window System"
174     pkgrm x11-common
175   else
176     log "Skipping X Window System removal"
177   fi
178 }
179
180 remove_bloat() {
181   local to_remove add_this i j n text to_show cmd tmpfile installed
182   local update_selections pkgs_to_deselect pkgs_to_remove oldifs pkglist
183   text="$msg_remove_bloat"
184
185   [ "$DEBUG" ] && set -x
186   n=0
187   pkglist=$(mktemp /var/lib/carnet-upgrade/pkglist.XXXXXX)
188   COLUMNS=200 dpkg -l | awk '$1 ~ /^.i/ { print $2 }' > $pkglist
189   for i in $(echo "$bloats" | sed 's/           */      /g'| awk -F'    ' '{print $2}')
190   do
191     if grep -q "^$i$" $pkglist; then
192       installed="$installed $i"
193       add_this="$(echo "$bloats" | egrep "      .*\b${i}\b" | sed 's/           */      /g'| awk -F'    ' '{print $1}')"
194       if ! echo "$to_show" | grep -q "$add_this"; then
195         to_show="$to_show \"$add_this\" \"\" on"
196         n=$(($n+1))
197       fi
198     fi
199   done
200   [ "$DEBUG" ] || rm -f $pkglist
201   [ -z "$to_show" ] && return 0
202   test $n -gt 8 && n=8
203   tmpfile=$(mktemp /var/lib/carnet-upgrade/dialog-tmp.XXXXXX)
204   cmd="LC_MESSAGES=hr_HR dialog --nocancel --backtitle \""$title"\" --checklist \""$text"\" 20 75 $n $to_show"
205   [ "$DEBUG" ] && set +x
206     eval $cmd 2> $tmpfile
207   [ "$DEBUG" ] && set -x
208   to_remove="$(cat $tmpfile | sed 's/\"\ \"/    /g; s/\"\ *//g; s/\\//g')"
209   [ "$DEBUG" ] || rm -f $tmpfile 
210   [ "$DEBUG" ] && echo "DEBUG: to_remove=$to_remove" 1>&2
211   oldifs="$IFS"
212   IFS=" " # tab
213   for i in $(echo "$to_remove")
214   do
215     IFS="$oldifs"
216     for j in $(echo "$bloats" | grep "^$i" | sed 's/            */      /g'| awk -F'    ' '{print $2}')
217     do
218       # hopefully this will tell apt not to reinstall them at upgrade time
219       update_selections="${update_selections}
220         $j      deinstall"
221       pkgs_to_deselect="$pkgs_to_deselect $j"
222       # only remove those that really are installed
223       if echo "$installed" | grep -q "$j"; then
224         pkgs_to_remove="$pkgs_to_remove $j"
225       fi
226     done
227   done
228   [ "$DEBUG" ] && echo "DEBUG: pkgs_to_remove=$pkgs_to_remove" 1>&2
229   # Finally, remove those
230   if [ -n "$update_selections" ]; then
231     echo "$update_selections" | dpkg --set-selections
232     log "Deselected:${pkgs_to_deselect}"
233   fi
234   eval pkgrm $pkgs_to_remove
235 }
236
237 remove_cn_bloat() {
238   local installed pkg cn_pkgs dialog_list selection cn_del to_del del_pkgs
239
240   # get installed packages
241   installed=$(mktemp /var/lib/carnet-upgrade/pkglist.XXXXXX)
242   COLUMNS=200 dpkg -l | awk '$1 ~ /^.i/ { print $2 }' >$installed
243
244   # detect installed CN packagees
245   for pkg in $(echo "$cn_bloats" | cut -d' ' -f1); do
246     if grep -qx $pkg $installed; then
247       cn_pkgs="$cn_pkgs $pkg"
248       dialog_list="$dialog_list $pkg '' off"
249     fi
250   done
251   rm -f $installed
252
253   # report status or finish if no CN packages found
254   if [ "$cn_pkgs" ]; then
255     log "Found CN packages:$cn_pkgs"
256   else
257     log "No CN packages found."
258     return
259   fi
260
261   # user selects the packages to delete
262   selection=$(mktemp /var/lib/carnet-upgrade/selection.XXXXXX)
263   eval LC_MESSAGES=hr_HR dialog --nocancel --backtitle \""$title"\" \
264     --checklist \""$msg_remove_cn_bloat"\" 20 75 6 $dialog_list 2>$selection
265
266   # expand the package list to include the services
267   for pkg in $(cat $selection); do
268     pkg=${pkg%\"}
269     pkg=${pkg#\"}
270     cn_del="$cn_del $pkg"
271     to_del=$(echo "$cn_bloats" | grep ^$pkg)
272     del_pkgs="$del_pkgs $to_del"
273   done
274   rm -f $selection
275
276   # report selection or finish if no service selected
277   if [ "$cn_del" ]; then
278     log "Removing CN services:$cn_del"
279   else
280     log "No CN services selected for removal."
281     return
282   fi
283
284   # delete the cn packages and relevant services
285   pkgrm_only $del_pkgs
286 }
287
288 post_upgrade() {
289   touch "$post_upgrade_queuetab"
290   if ! grep -q "true    $*" "$post_upgrade_queuetab"; then
291     echo "true  $*" >> "$post_upgrade_queuetab"
292   fi
293 }
294
295 run_post_upgrade() {
296   if [ -f "$post_upgrade_queuetab" ]; then
297     run_actions post_upgrade "$post_upgrade_queuetab"
298     mv "$post_upgrade_queuetab" "${post_upgrade_queuetab}.done.$(date '+%Y-%m-%d.%H:%M:%S')"
299   fi      
300 }
301
302 ###
303
304 run_actions() {
305   local line lineno lineno2 f n name action checkmsg check
306   [ "$DEBUG" ] && set -vx
307   name="$1"
308   f="$2"
309   [ -f "$f" ] ||   return 2 # no such file
310   n=$(wc -l "$f" | awk '{print $1}')
311   [ "$n" -lt 1 ] && return 1 # no lines to process
312   log "run_actions ($name) started, processing $n lines from \"$f\"."
313   log "-----"
314   lineno=0
315   lineno2=0
316   while [ "$lineno" -lt "$n" ]
317   do
318     lineno=$(($lineno+1))
319     lineno2=$lineno
320     line=$(head -$lineno "$f" | tail -1)
321     if echo $line | grep -q '^#'; then  # comment
322       continue
323     fi
324     while echo "$line" | egrep -q '\\$' # continuation
325     do
326       lineno2=$(($lineno2+1))
327       line=$(echo -n "$line"| sed 's/\\$//'; head -$lineno2 "$f" | tail -1)
328     done
329     check=$(echo "$line" | sed 's/              */      /g'| awk -F'    ' '{print $1}')
330     action=$(echo "$line" | sed 's/             */      /g'| awk -F'    ' '{print $2}')
331     checkmsg=""
332     [ "$check" != "true" ] && checkmsg="if '$check'"
333     if eval $check; then
334       log "$(printf 'action %02d' $lineno) starting: '${action}' $checkmsg "
335       if ! eval $action; then
336         log "$(printf 'action %02d' $lineno) failed: '${action}' $checkmsg "
337         display_action_failure "$action"
338         exit 1
339       else  
340         log "$(printf 'action %02d' $lineno) finished: '${action}' $checkmsg"
341       fi
342     else
343       log "$(printf 'action %02d' $lineno) skipping: '${action}' $checkmsg"
344     fi
345     [ "$lineno2" -gt "$lineno" ] && lineno=$lineno2
346   done
347   log "run_actions ($1) finished"
348   log "-----"
349 }
350
351 # report action failure
352 display_action_failure () {
353   local action=$1
354
355   notice "
356 Doslo je do greske prilikom izvrsavanja akcije '$action'. Detalje problema moguce je vidjeti u log datotekama:
357
358   /var/log/carnet-upgrade.log
359   /var/log/carnet-upgrade.typescript
360
361 Da bi dovrsili zapocete operacije nad paketima pokrenite:
362
363   # dpkg --configure -a
364   # apt-get -f install
365
366 Nakon toga ponovno pozovite carnet-upgrade skriptu."
367 }
368
369 # funkcija vraca popis paketa koje treba upgradeati
370 what_upgrade () {
371   local IFSOLD name version package
372
373   for package in `echo "$needed_versions" | awk '{print $1}'| grep -v ^$`; do
374     IFSOLD="$IFS"
375     IFS="       " # tab
376     read name version <<-EOPTS
377         $(echo "$needed_versions" | sed 's/             */      /g' | grep ^$package)
378         EOPTS
379     IFS="$IFSOLD"
380     if pkg "$name" lt "$version"; then
381         echo -n " $name"
382     fi
383   done
384 }
385
386 # funkcija za ispis paketa koje treba upgradeati
387 check_upgrade () {
388   local upgrade
389   upgrade=${1:-"`what_upgrade`"}
390
391   if [ "$upgrade" ]; then
392     notice "
393 Prije prelaska na Debian Squeeze potrebno je napraviti nadogradnju ovih paketa:
394   $upgrade
395
396 Pokrenite:
397   # apt-get update
398   # apt-get dist-upgrade
399 ili:
400   # apt-get update
401   # apt-get install${upgrade}
402   
403 Nakon toga ponovno pozovite ovu skriptu."
404     log "carnet-upgrade aborted, upgrade of$upgrade needed."
405     exit 1
406   fi
407 }
408
409 # update sarge urls in sources list
410 fix_sarge_sources () {
411   local apt_sources='/etc/apt/sources.list'
412   local fixed_sources=$(mktemp /var/lib/carnet-upgrade/sources.list.XXXXXX)
413
414   # sarge (oldstable) was archived recently -> sources.list needs update
415   awk -v archive='http://archive.debian.org/debian' \
416       -v security='http://archive.debian.org/debian-security' \
417       '$3 == "sarge" && $2 ~ /[/]debian$/ { $2 = archive }
418        $3 == "sarge/updates" && $2 ~ /security\.debian\.org$/ { $2 = security }
419        { print }' $apt_sources > $fixed_sources
420
421   # did anything get updated
422   if ! cmp $apt_sources $fixed_sources >/dev/null; then
423       log "sources.list fixed to use archive.debian.org"
424
425       # backup current version
426       if [ ! -f "$apt_sources.$backup_ext.sarge" ]; then
427           cp -av $apt_sources "$apt_sources.$backup_ext.sarge"
428       fi
429
430       # install fixed version
431       cp -av $fixed_sources $apt_sources
432
433       # update the database
434       apt_update
435   fi
436
437   # delete temporary
438   rm -f $fixed_sources
439 }
440
441 # try to check if we are using the latest version of carnet-upgrade script
442 check_my_version () {
443   local packages latest_version
444
445   packages=$(mktemp /var/lib/carnet-upgrade/Packages.XXXXXX)
446   if wget -q -O$packages $packages_uri; then
447     latest_version=$(sed -ne \
448         '/Package: carnet-upgrade/,/Description:/{ /Version: /s///p }' \
449         $packages)
450     rm -f $packages
451
452     if [ "$latest_version" ]; then
453       log "Running carnet-upgrade version is $version"
454       log "Latest carnet-upgrade version is $latest_version"
455       if dpkg --compare-versions "$version" lt "$latest_version"; then
456         check_upgrade " carnet-upgrade"
457       else log "Already using the latest carnet-upgrade version."; fi
458     else log "Failed to get latest version, skipping check."; fi
459   else log "Failed to download Packages file, skipping check."; fi
460
461   rm -f $packages
462 }
463
464 # if php is installed make sure it's version 5
465 check_php_version () {
466
467   if pkg php4-cn && ! pkg php5-cn; then
468     # prepare for php upgrade by installing php5 extensions
469     install_php5_extensions
470
471     notice "
472 Prije prelaska na Debian Squeeze potrebno je napraviti nadogradnju sa PHP 4 na PHP 5.
473
474 Pokrenite:
475   # apt-get update
476   # apt-get install php5-cn
477   
478 Nakon sto provjerite da sve web aplikacije rade ispravno, ponovno pozovite ovu skriptu."
479     log "carnet-upgrade aborted, upgrade to php5-cn needed."
480     exit 1
481   fi
482 }
483
484 # install php5 extensions based on installed php4 extensions
485 install_php5_extensions () {
486   local php4_list php5_pkg
487
488   # get a list of installed php4 packages
489   php4_list=$(mktemp /var/lib/carnet-upgrade/php4_list.XXXXXX)
490   dpkg -l php4-\* | awk '/^ii/ {
491     pkg=$2; sub("^php4", "php5", pkg); print pkg }' > $php4_list
492
493   # compare it with the list of available php5 packages
494   php5_pkg=$(apt-cache search -n ^php5- | cut -d' ' -f 1 \
495     | grep -F -x -f $php4_list | grep -F -x -v php5-cn)
496
497   # handle special cases
498   if pkg php4-xslt; then
499      php5_pkg="$php5_pkg php5-xsl"
500   fi
501
502   # install the required php5 modules
503   if [ "$php5_pkg" ]; then
504      pkgadd $php5_pkg
505   fi
506
507   # cleanup
508   rm -f $php4_list
509 }
510
511 # if grsec is installed make sure it is fresh
512 check_grsec_kernel () {
513   local ver=`uname -r`
514
515   log "Kernel version: $ver"
516   if [ "$ver" = "${ver%-grsec}" ]; then
517     # not grsec variant
518     return 0
519   fi
520
521   if [ "$ver" = "${ver#2.6.2[4-9]}" ]; then
522     # kernel too old
523     notice "
524 Prije prelaska na Debian Squeeze potrebno je napraviti nadogradnju na najnoviji kernel.
525
526 Pokrenite:
527   # apt-get update
528   # apt-get install kernel-2.6-cn
529   # reboot
530   
531 Nakon toga ponovno pozovite ovu skriptu."
532     log "carnet-upgrade aborted, kernel upgrade needed."
533     exit 1
534   fi
535 }
536
537 check_reboot () {
538   reboot_required || return 0
539
540   LC_MESSAGES=hr_HR dialog --backtitle "$title" --yesno "$reboot_warning" 18 +75
541   if [ $? -eq 0 ]; then
542     log "Reboot before continuing."
543     exit 0
544   else
545     log "Proceed without reboot."
546   fi
547 }
548
549 # check if the latest kernel is booted
550 reboot_required () {
551   local default_kernel kernel_package running_release running_version
552
553   # try to get default kernel from grub2
554   if [ -z "$default_kernel" -a -r "/boot/grub/grub.cfg" ]; then
555       default_kernel=$( awk '
556            $0 ~ /^set default=".*"/ { 
557                def = gensub(/default="(.*)"/, "\\1", "1", $2);
558                if (def !~ /^[0-9]+$/) { exit }
559            }
560            $1 == "menuentry" { menuentry+=1 }
561            $1 == "linux" && menuentry==def+1 { print $2; exit }' \
562            /boot/grub/grub.cfg 2>/dev/null )
563   fi
564
565   # try to get default kernel from grub-legacy
566   if [ -z "$default_kernel" -a -r "/boot/grub/menu.lst" ]; then
567       default_kernel=$( awk '
568            $1 == "default" { def = $2; 
569                              if (def !~ /^[0-9]+$/) { exit } }
570            $1 == "title" { title+=1 }
571            $1 == "kernel" && title==def+1 { print $2; exit }' \
572            /boot/grub/menu.lst 2>/dev/null )
573   fi
574
575   # try to get default kernel from lilo
576   if [ -z "$default_kernel" ] && type lilo >/dev/null 2>&1; then
577       default_kernel=$( lilo -t -v 2>/dev/null \
578                         | grep -B3 '[*]$' \
579                         | sed -n -e '/^Boot image: / { s///p; q; }' )
580   fi
581
582   if [ -z "$default_kernel" ]; then
583       log "Could not find default kernel"
584       return 1
585   fi
586
587   log "Default kernel image: $default_kernel"
588
589   if [ ! -e "$default_kernel" ]; then
590       # /boot prefix might be missing
591       default_kernel="/boot/${default_kernel#/}"
592       if [ ! -e "$default_kernel" ]; then
593           log "Default kernel image doesn't exist!?"
594           return 1
595       fi
596   fi
597
598   kernel_package=$( dpkg -S $default_kernel | cut -d: -f 1 )
599
600   if [ -z "$kernel_package" ]; then
601       log "Default kernel not installed from a package"
602       return 1
603   fi
604
605   log "Default kernel package: $kernel_package"
606
607   running_release=$( uname -r )
608   running_version=$( uname -v )
609   log "Running kernel: $running_release $running_version"
610
611   if grep -q "$running_release .* $running_version" $default_kernel; then
612       log "Latest kernel version is running." 
613       return 1
614   else
615       log "Reboot to latest version required."
616       return 0
617   fi
618 }
619
620 upgrade () {
621   local packages
622   case "$1" in
623     first)
624       packages="$packages_first"
625     ;;
626     second)
627       packages="$packages_second"
628     ;;
629     *)
630     return 1
631   esac
632
633   pkgupgrade $packages
634 }
635
636 # install packages introduced in this release
637 install_new () {
638   if [ "$new_packages" ]; then
639     pkgadd $new_packages
640   fi
641 }
642
643 # funkcija utrpa ispravan sources.list
644 create_sources_list () {
645     local sl sl_new
646     sl=/etc/apt/sources.list
647     sl_new=/usr/share/carnet-upgrade/files/etc/apt/sources.list
648
649     # check if already installed
650     if ! cmp $sl $sl_new >/dev/null; then
651
652         # backup old version
653         if [ -f $sl -a ! -f $sl.$backup_ext ]; then
654             cp -av $sl $sl.$backup_ext
655         fi
656
657         # install new version
658         cp -av $sl_new $sl
659         notice "Novi sadrzaj datoteke /etc/apt/sources.list:
660
661 `cat /etc/apt/sources.list`"
662     fi
663 }
664
665
666 # funkcija koja brise grupu proc
667 remove_group_proc () {
668   if getent group proc > /dev/null; then
669     groupdel proc || true
670     log "groupdel proc (temporarily)"
671     post_upgrade add_group_proc
672   fi
673 }
674
675 add_group_proc () {
676   if ! getent group proc > /dev/null; then
677     # grsec uses gid 99 for /proc files
678     groupadd -g 99 proc 
679     log "groupadd -g 99 proc"
680
681     # update oidentd so it uses the proc group
682     if [ -x /etc/init.d/oidentd ]; then
683         if gpasswd -a oident proc; then
684             /etc/init.d/oidentd restart
685         fi
686     fi
687   fi
688 }
689
690 # backup ldap database
691 backup_slapd_db () {
692   local ldap_backup=/var/backups/slapcat.$backup_ext.gz
693   local old_umask result
694
695   if [ ! -f $ldap_backup ]; then
696     [ -x /etc/init.d/freeradius ] && /etc/init.d/freeradius stop || true
697
698     if [ -x /etc/init.d/slapd -a -d /var/lib/ldap ]; then
699       /etc/init.d/slapd stop || true
700       old_umask=`umask`
701       umask 0077 # protect the backup file
702       slapcat | gzip --best > $ldap_backup
703       result=$?
704       umask $old_umask
705       /etc/init.d/slapd start || true
706
707       if [ "$result" -eq 0 ]; then
708         log "$ldap_backup created"
709         notice "Napravljen backup slapd baze u $ldap_backup."
710       else
711         log "$ldap_backup was not created"
712         notice "Backup slapd baze u $ldap_backup nije uspio."
713         exit 1
714       fi
715     fi
716
717     [ -x /etc/init.d/freeradius ] && /etc/init.d/freeradius start || true
718   else
719     log "slapd backup already at $ldap_backup, skipping."
720     #notice "Backup slapd baze u $ldap_backup vec postoji!"
721   fi
722 }
723
724 # backup etc direktorija
725 backup_etc_dir () {
726   local etc_backup=/var/backups/etc.$backup_ext.tar.gz
727   local old_umask
728
729   if [ ! -f $etc_backup ]; then
730     old_umask=`umask`
731     umask 0077 # protect the backup file
732
733     if tar cfz $etc_backup /etc 2> /dev/null; then
734       log "$etc_backup created"
735       notice "Napravljen backup /etc direktorija u $etc_backup."
736     else
737       log "$etc_backup was not created"
738       notice "Backup /etc direktorija u $etc_backup nije uspio."
739       exit 1
740     fi
741     umask $old_umask
742   else
743     log "/etc backup already present in $etc_backup, skipping."
744     #notice "Backup /etc direktorija u $etc_backup vec postoji!"
745   fi
746 }
747
748 # fixaj /etc/default/raid2
749 fix_etc_default_raid2 () {
750   if [ -f /etc/default/raid2 ]; then
751     sed "s/^AUTOSTART.*/AUTOSTART=true/g" /etc/default/raid2 > /etc/default/raid2.$backup_ext.$$
752     chown --reference=/etc/default/raid2 /etc/default/raid2.$backup_ext.$$
753     chmod --reference=/etc/default/raid2 /etc/default/raid2.$backup_ext.$$
754
755     if ! cmp -s /etc/default/raid2.$backup_ext.$$ /etc/default/raid2; then
756       log "Fixed /etc/default/raid2 AUTOSTART option."
757       mv -v /etc/default/raid2.$backup_ext.$$ /etc/default/raid2
758     else
759       rm -v /etc/default/raid2.$backup_ext.$$
760     fi
761   fi
762 }
763
764 # restore a configuration file if it contains only CN modifications
765 restore_file () {
766   local file file_expect file_restore file_backup
767
768   file=$1
769   file_expect=$2
770   file_restore=$3
771   file_backup=$file.$backup_ext
772
773   [ "$file_expect" ] || file_expect=$cnup/files/$file.expect
774   [ "$file_restore" ] || file_restore=$cnup/files/$file.restore
775
776   # check if all required files are there
777   if ! [ -e $file -a -e $file_expect -a -e $file_restore ]; then
778     log "Required files missing, skipping $file restore."
779     return 1
780   fi 
781
782   # is restore needed
783   if ! cmp $file_expect $file >/dev/null; then
784     log "Config doesn't match the template, skipping $file restore."
785     return 1
786   fi
787
788   # backup and restore
789   if [ ! -e $file_backup ]; then
790     log "Restoring config file $file."
791
792     # backup local changes
793     cp -av $file $file_backup
794
795     # restore original
796     cp -v $file_restore $file
797
798     # restore succedded
799     return 0
800   else 
801     log "Backup file exists, skipping $file restore."
802     return 1
803   fi
804 }
805
806 # force reconfiguration at the end if package is not upgraded automatically
807 postupgrade_reconfigure () {
808   local cn_package cn_version
809
810   cn_package=$1
811   cn_version=$( dpkg -s "$cn_package" | awk '/^Version:/ {print $2}' )
812   post_upgrade "pkg $cn_package gt $cn_version || dpkg-reconfigure $cn_package"
813 }
814
815 # copy template into a temporary file
816 copy_template () {
817   local path file template config_new
818
819   path=$1
820   file=$(basename $path)
821   template=$cnup/files/$path.template
822   config_new=$(mktemp /var/lib/carnet-upgrade/$file.XXXXXX)
823   cp $template $config_new
824
825   echo $config_new
826 }
827
828 # restore modified config to their package defaults
829 # so the upgrade doesn't complain so much
830 restore_configs () {
831   local hostname domain config_new memtotal memlimit
832
833   # restore simple configs
834   if pkg ntp-cn && pkg ntp lt 1:4.2.6.p2+dfsg-1+b1; then
835      if restore_file /etc/ntp.conf; then
836         postupgrade_reconfigure ntp-cn
837      fi
838   fi
839
840   if pkg kernel-2.6-cn && pkg procps lt 1:3.2.8-9; then
841      if restore_file /etc/sysctl.conf; then
842         postupgrade_reconfigure kernel-2.6-cn
843      fi
844   fi
845
846   if pkg kernel-2.6-cn && pkg libpam-modules lt 1.1.1-6.1; then
847      if restore_file /etc/security/limits.conf; then
848         postupgrade_reconfigure kernel-2.6-cn
849      fi
850   fi
851
852   if pkg vsftpd-cn && pkg vsftpd lt 2.3.2-3+squeeze2; then
853      if restore_file /etc/vsftpd.conf; then
854         postupgrade_reconfigure vsftpd-cn
855      fi
856   fi
857
858   if pkg squirrelmail-cn && pkg squirrelmail lt 2:1.4.21-2; then
859      if restore_file /etc/squirrelmail/apache.conf; then
860         postupgrade_reconfigure squirrelmail-cn
861      fi
862   fi
863
864   if pkg spamassassin-cn && pkg spamassassin lt 3.3.1-1; then
865      if restore_file /etc/spamassassin/v310.pre; then
866         postupgrade_reconfigure spamassassin-cn
867      fi
868   fi
869
870   if pkg amavisd-cn && pkg amavisd-new lt 1:2.6.4-3; then
871      if restore_file /etc/cron.daily/amavisd-new; then
872         rm -f /etc/cron.daily/amavisd-new.$backup_ext
873         postupgrade_reconfigure amavisd-cn
874      fi
875
876      if restore_file /etc/amavis/conf.d/15-av_scanners; then
877         rm -f /etc/amavis/conf.d/15-av_scanners.$backup_ext
878         postupgrade_reconfigure amavisd-cn
879      fi
880   fi
881
882   if pkg amavisd-cn lt 3:2.6.5; then
883      restore_file /etc/init.d/amavisd-cn
884   fi
885
886   if pkg console-tools lt 1:0.2.3dbs-69.1; then
887      restore_file /etc/console-tools/config
888   fi
889
890   if pkg base-files lt 6.0squeeze2; then
891      restore_file /etc/issue
892      restore_file /etc/issue.net
893   fi
894
895   # dovecot won't start with these options
896   if pkg dovecot-cn && pkg dovecot-common lt 1:1.2.15-7; then
897      sed -i 's/^\( *\)\(sieve\(_storage\)\?=.*\)/\1#\2/' \
898          /etc/dovecot/dovecot.conf
899   fi
900
901   # check if monitrc is template based
902   if [ -e /etc/monit/monitrc ]; then # monit is removed at this point
903      # regenerate config from template
904      hostname=$(hostname)
905      domain=$(hostname --domain)
906      config_new=$(copy_template /etc/monit/monitrc)
907      check_and_sed "@localhost" \
908        "s/@localhost/@$hostname.$domain/g" $config_new || true
909      restore_file /etc/monit/monitrc $config_new
910      rm -f $config_new
911   fi
912 }
913
914 # temporary disable listchanges packages to reduce clutter during upgrade
915 apt_listchanges () {
916   local file command=$1
917
918   for file in /etc/apt/apt.conf.d/20listchanges \
919               /etc/apt/apt.conf.d/20listchanges-cn
920   do
921       case $command in
922            disable)
923                if [ -f $file ]; then
924                    dpkg-divert --local --rename --divert $file.$backup_ext \
925                                --add $file || true
926                fi
927                ;;
928
929            enable)
930                if [ -f $file.$backup_ext ]; then
931                    dpkg-divert --remove $file || true
932                fi
933                ;;
934      esac
935   done
936 }
937
938 # make a silent installation of carnet and srce keyrings
939 install_keyrings () {
940   pkgadd carnet-keyring srce-keyring debian-archive-keyring
941   pkgupgrade dpkg apt debconf python-apt dpkg-dev
942
943   dpkg-reconfigure carnet-keyring srce-keyring debian-archive-keyring
944   apt_update
945 }
946
947 # remove skey (not supported anymore)
948 remove_skey () {
949   pkgrm skey-cn libpam-skey
950
951   if getent group skey > /dev/null; then
952     groupdel skey || true
953     log "groupdel skey"
954   fi
955 }
956
957 # remove unsupported php version
958 # but leave the configuration just in case
959 remove_php4 () {
960   if pkg php5-cn && pkg php4-common; then
961      pkgrm_only php4-common
962   fi
963 }
964
965 # check if package is orphaned (nothing depends on it)
966 is_orphaned () {
967   local package deps
968
969   package=$1
970   deps=$(apt-get remove -s $package | grep ^Remv | wc -l)
971   if [ "$deps" -eq 1 ]; then 
972     return 0
973   else 
974     return 1
975   fi
976 }
977
978 # remove old and unused libraries
979 remove_orphaned () {
980   local package
981
982   apt_autoremove
983
984   for package in $orphaned_packages; do
985     if is_orphaned $package; then
986       pkgrm $package
987     fi
988   done
989 }
990
991 # monit it causing problems for postinst scripts
992 # restarting daemons so try to disable it
993 disable_monit () {
994   if pkg monit-cn; then
995     pkgrm monit-cn # disables monit in prerm
996   fi
997
998   # if configured manually
999   if pkg monit; then
1000     # remove the binary but leave the config
1001     apt-get remove --yes monit
1002     # stop the binary
1003     pkill -9 monit || true
1004   fi
1005 }
1006
1007 # check which of the given packages are installed
1008 grep_installed () {
1009   local package installed
1010
1011   for package in $*; do
1012     if pkg $package; then
1013       installed="$installed $package"
1014     fi
1015   done
1016
1017   echo $installed
1018 }
1019
1020 # only upgrade packages if they are already installed
1021 pkgupgrade () {
1022   local packages
1023
1024   packages=$( grep_installed $* )
1025
1026   if [ "$packages" ]; then
1027     eval pkgadd $packages
1028   fi
1029 }
1030
1031 # make a silent upgrade to new libc6
1032 upgrade_libc () {
1033   DEBIAN_FRONTEND=noninteractive pkgupgrade libc6 libc6-dev tzdata
1034 }
1035
1036 # upgrade apache2/php5
1037 upgrade_apache2 () {
1038   pkgrm apache-common # prevents installation of apache2-suexec
1039   pkgupgrade libapache2-mod-php5 php5-cli php5-cn apache2-cn \
1040     php5-odbc php5-suhosin php-suhosin-cn
1041 }
1042
1043 upgrade_amavis () {
1044   local conf
1045
1046   # move old config aside
1047   for conf in /etc/amavisd.conf /etc/amavis/amavisd.conf; do
1048     if [ -e $conf -a ! -e $conf.$backup_ext ]; then
1049       mv -v $conf $conf.$backup_ext
1050     fi
1051   done
1052
1053   # install new packages
1054   pkgadd amavisd-cn amavisd-new
1055
1056   # start new packages
1057   /etc/init.d/amavisd-cn restart
1058 }
1059
1060 # handle freerdius upgrade
1061 upgrade_freeradius () {
1062   local template config_new password realm hostname basedn
1063
1064   pkg freeradius-aai lt 2.1.3-0lenny0 || return 0
1065
1066   # aai team prevents a clean upgrade
1067   cp -av /etc/freeradius /etc/freeradius.$backup_ext
1068   pkgrm freeradius-aai freeradius-ldap freeradius
1069   pkgadd freeradius-aai
1070 }
1071
1072 # prepare for slapd upgrade (caused by freeradius installation)
1073 prepare_openldap () {
1074   pkg openldap-aai lt 2.4 || return 0
1075
1076   # openldap-aai expects org.ldif to exists
1077   local ldif=/var/lib/ldap/org.ldif
1078   local ldif_backup=/var/lib/carnet-upgrade/org.ldif
1079   if [ -f $ldif ]; then
1080     cp -v $ldif $ldif_backup
1081   fi
1082 }
1083
1084 # fix openldap-aai postinst user handling
1085 upgrade_openldap () {
1086   pkg openldap-aai lt 2.4 || return 0
1087
1088   # slapd postinst fails if move_old_database is false
1089   echo 'slapd slapd/move_old_database boolean true' | debconf-set-selections 
1090   pkgadd slapd
1091
1092   # slapd removes org.ldif during switch from ldap -> openldap user
1093   local ldif=/var/lib/ldap/org.ldif
1094   local ldif_backup=/var/lib/carnet-upgrade/org.ldif
1095   if [ -f $ldif_backup -a ! -f $ldif ]; then
1096     cp -v $ldif_backup $ldif
1097   fi
1098
1099   # openldap-aai postinst fails here because of database permissions
1100   apt-get -y install openldap-aai || true
1101   chown -R openldap:openldap /var/lib/ldap
1102   /etc/init.d/slapd restart
1103   dpkg --configure -a
1104
1105   # remove ldap user if openldap works
1106   if getent passwd ldap      > /dev/null && \
1107      getent passwd openldap  > /dev/null && \
1108      pgrep -U openldap slapd > /dev/null
1109   then
1110      log "userdel ldap (replaced by openldap)"
1111      userdel ldap || true
1112   fi
1113 }
1114
1115 # fix postgresql deinstallation during upgrade
1116 upgrade_postgresql () {
1117   if check_services show 2>&1 | grep -qw postgresql; then
1118      apt-get install -y postgresql || apt-get -yf install
1119   fi
1120 }
1121
1122 # upgrade the MTA
1123 upgrade_postfix () {
1124   pkgadd sasl2-bin postfix-cn
1125
1126   if pkg postgrey; then
1127      pkgrm postgrey # not used by postfix-cn anymore
1128   fi
1129 }
1130
1131 # upgrade bind separately so DNS is not down for too long
1132 # or breaks postinst scripts of other cn packages that depend on
1133 # working resolver
1134 upgrade_bind() {
1135   pkgadd bind9-cn
1136 }
1137
1138 get_variable () {
1139   local name=$1 file=$2 val
1140
1141   if [ -f "$file" ]; then
1142      val=$(sed -n "/^[[:space:]]*$name[[:space:]]*=/s/[[:space:]]*//gp" $file)
1143      val=${val#*=}
1144   fi
1145
1146   echo $val
1147 }
1148
1149 # restore munin configs for silent upgrade
1150 upgrade_munin () {
1151   local config backup hostname domain
1152
1153   for pkg_name in munin munin-node; do
1154      pkg $pkg_name lt '1.4.5-3' || continue
1155
1156      config=/etc/munin/$pkg_name.conf
1157      backup=$config.$backup_ext
1158      if [ -f $config -a ! -f $backup ]; then
1159         hostname=$(hostname)
1160         domain=$(hostname --domain)
1161
1162         cp -av $config $backup
1163         check_and_sed "$hostname.$domain" \
1164           "s/$hostname.$domain/localhost.localdomain/g" $config
1165      fi
1166      pkgadd $pkg_name
1167   done
1168
1169   # force localhost -> hostname replacement in config files
1170   pkgadd munin-cn
1171   dpkg-reconfigure munin-cn
1172 }
1173
1174 # udev.preinst fails if devfs configs still exist
1175 upgrade_udev () {
1176   local config
1177
1178   for config in /etc/udev/rules.d/devfs.rules \
1179                 /etc/udev/rules.d/compat-full.rules \
1180                 /etc/udev/rules.d/compat.rules
1181   do
1182      if [ -e $config ]; then
1183         rm -v -f $config
1184      fi
1185   done
1186
1187   if [ -f /etc/udev/udev.rules -a ! -f /etc/udev/rules.d/udev.rules ]; then
1188      ln -sfv ../udev.rules /etc/udev/rules.d/
1189   fi
1190
1191   pkgadd udev
1192 }
1193
1194 # fix /etc/dpkg/dpkg.cfg
1195 comment_force_overwrite () {
1196   if [ -f /etc/dpkg/dpkg.cfg ]; then
1197     if check_and_sed '^force-overwrite' \
1198                   's,\(^force-overwrite\),#\1,' \
1199                   /etc/dpkg/dpkg.cfg; then
1200       notice "$msg_comment_force_overwrite"
1201     fi
1202   fi
1203 }
1204
1205 # try not to overwrite user modified issue files
1206 fix_issue () {
1207   if cmp /etc/issue $cnup/files/etc/issue.expect.new >/dev/null; then
1208     cp -av /etc/issue /etc/issue.$backup_ext
1209     cat > /etc/issue <<EOF
1210 Debian GNU/Linux 6.0 (CARNet Debian 6.0) \\n \\l
1211
1212 EOF
1213   fi
1214
1215   if cmp /etc/issue.net $cnup/files/etc/issue.net.expect.new >/dev/null; then
1216     cp -av /etc/issue.net /etc/issue.net.$backup_ext
1217     cat > /etc/issue.net <<EOF
1218 Debian GNU/Linux 6.0 (CARNet Debian 6.0) %h
1219 EOF
1220   fi
1221 }
1222
1223 check_archives_space() {
1224   local available_disk_space archives_size
1225   available_disk_space=$(free_space /var/cache/apt/archives/)
1226   archives_size=$(download_size dist-upgrade)
1227
1228   if [ $? -ne 0 ]; then
1229     log "Failed to get download size, skipping check."
1230     return 0
1231   fi
1232
1233   log "Archives space: ${available_disk_space}MB"
1234   log "Download size: ${archives_size}MB"
1235
1236   if [ $available_disk_space -lt $archives_size ]; then
1237     log "carnet-upgrade aborted: not enough space in /var/cache/apt/archives/ (have ${available_disk_space}MB, need ${archives_size}MB)"
1238     notice "Premalo slobodnog mjesta u /var/cache/apt/archives/ za skidanje paketa (potrebno je barem ${archives_size}MB). Procitajte poglavlje 'Izvanredne situacije' u dokumentaciji."
1239     exit 1
1240   fi
1241 }
1242
1243 check_kernel_space() {
1244   local available_disk_space kernel_size linux_images metapkg pkg ret
1245   available_disk_space=$(free_space /)
1246   linux_images=$(apt-cache show kernel-2.6-cn | grep ^Depends: \
1247     | grep -o 'linux-image[^, ]*')
1248   for metapkg in $linux_images; do
1249     pkg=$(apt-cache show $metapkg | grep ^Depends: \
1250           | grep -o 'linux-image[^, ]*' | head -1)
1251     [ "$pkg" ] || continue
1252
1253     kernel_size=$(installed_size $pkg)
1254     ret=$?
1255     [ $ret -eq 0 ] && break
1256   done
1257
1258   if [ $ret -ne 0 ]; then
1259     log "Failed to get installed size, skipping check."
1260     return 0
1261   fi
1262
1263   log "Free space in /: ${available_disk_space}MB"
1264   log "Kernel package: $pkg"
1265   log "Kernel size: ${kernel_size}MB"
1266
1267   if LC_ALL=C apt-get -s install kernel-2.6-cn \
1268      | grep -q '^kernel-2.6-cn is already the newest version.$'
1269   then
1270      log "Not checking free space in /: kernel-2.6-cn already installed"
1271      return
1272   fi
1273
1274   if [ $available_disk_space -lt $kernel_size ]; then
1275     log "carnet-upgrade aborted: not enough space in / (have ${available_disk_space}MB, need ${kernel_size}MB)"
1276     notice "Premalo mjesta u / za instalaciju kernela (potrebno je barem ${kernel_size}MB). Procitajte poglavlje 'Izvanredne situacije' u dokumentaciji."
1277     exit 1
1278   fi
1279 }
1280
1281 free_space() {
1282   df --portability --block-size=1M "$1" | tail -1 | awk '{print $4}'
1283 }
1284
1285 download_size() {
1286   local size
1287   size=$(LC_ALL=C apt-get --yes --print-uris "$@" | grep '^Need to get ')
1288
1289   if [ $? -ne 0 ]; then
1290     log "Failed to get download size for 'apt-get $@'."
1291     return 1
1292   fi
1293
1294   size=${size#Need to get }
1295   size=${size%%B*}
1296
1297   size_to_mb "${size}B"
1298 }
1299
1300 installed_size() {
1301   local package size
1302   package=$1
1303   size=$(apt-cache show $package | grep '^Installed-Size:')
1304
1305   if [ $? -ne 0 ]; then
1306     log "Failed to get installed size for '$package'."
1307     return 1
1308   fi
1309
1310   size=${size#*: }
1311
1312   size_to_mb "${size}kB"
1313 }
1314
1315 size_to_mb() {
1316   local size
1317   size=$1
1318   if [ -z "$size" ]; then
1319     size=0;
1320   fi
1321
1322   if [ "${size%kB}" != "$size" ]; then
1323     size=$(round ${size%kB})
1324     size=$(($size/1024+1))
1325   elif [ "${size%MB}" != "$size" ]; then
1326     size=$(round ${size%MB})
1327   elif [ "${size%GB}" != "$size" ]; then
1328     size=$(round ${size%GB})
1329     size=$(($size*1024))
1330   elif [ "${size%[0-9]B}" != "$size" ]; then
1331     size=$(round ${size%B})
1332     size=$(($size/1024/1024+1))
1333   else
1334     log "unrecognized size unit: $size"
1335     return 1
1336   fi
1337
1338   echo $size
1339 }
1340
1341 round() {
1342   local num
1343   num=$1
1344
1345   if [ "${num%.*}" != "$num" ]; then
1346     num=${num%.*}
1347     num=$(($num+1))
1348   fi
1349
1350   echo $num
1351 }
1352
1353 # make sure carnet-upgrade doesn't get upgraded until the end
1354 hold_carnet_upgrade() {
1355   echo carnet-upgrade hold | dpkg --set-selections
1356 }
1357
1358 release_carnet_upgrade() {
1359   echo carnet-upgrade install | dpkg --set-selections
1360 }