Наблюдение за прогоном: что выводить на экран

Прогон длинный, часов шесть. Сейчас в консоль сыплется всё подряд: каждый запрос, каждый разобранный товар, каждая ошибка с трассой. Экран летит так, что прочитать невозможно, и когда что-то ломается, я узнаю об этом через полчаса.

Хочу оставить на виду только то, по чему видно состояние. Что туда обычно кладут?

Разведите два разных занятия. Экран это приборная панель для человека, файл это протокол для разбора после.

В файл пишите всё подряд, на экран одну строку, которая перерисовывается на месте. Минимальный набор в ней: сделано из скольки, темп за последнюю минуту, доля отказов за последнюю минуту, ожидаемое время до конца по текущему темпу. Последнюю ошибку тоже полезно держать хвостом строки, коротко.

а как перерисовать строку, если у меня скрипт на bash?

printf с возвратом каретки, больше ничего не нужно.

vsego=$(wc -l < spisok.txt); i=0; oshibok=0; start=$(date +%s)
while read -r url; do
  i=$((i+1))
  curl -sf -o /dev/null "$url" || oshibok=$((oshibok+1))
  proshlo=$(( $(date +%s) - start ))
  [ "$proshlo" -gt 0 ] && tempo=$(( i / proshlo )) || tempo=0
  printf '\r%d/%d  темп %d/с  отказов %d        ' "$i" "$vsego" "$tempo" "$oshibok"
done < spisok.txt
printf '\n'

Две мелочи, на которых спотыкаются все.

Первая: строку надо дополнять пробелами справа. Иначе от длинной предыдущей остаётся хвост, и вы читаете смесь двух состояний, гадая, откуда взялась цифра.

Вторая: возврат каретки хорош, пока вывод идёт в терминал. Стоит перенаправить его в файл, и вы получаете одну гигантскую строку без переносов, в которой сложены все шесть часов прогона. Проверяйте, куда пишете, и в файл переключайтесь на обычный перевод строки раз в минуту.

if [ -t 1 ]; then konec='\r'; else konec='\n'; fi

Вот это и был мой случай. Прогон запускается из планировщика, весь вывод падает в файл, отсюда там и простыня.

Проверку на терминал вписал, счётчик отказов за минуту тоже. Осталось понять, как заметить, что прогон завис.

Отдельным файлом с отметкой времени. Раз в пачку скрипт её обновляет, а сторонний наблюдатель раз в пять минут смотрит, насколько отметка постарела.

date +%s > /run/progon.beat

Отметка стоит на месте десять минут, значит прогон встал, и об этом можно узнать письмом или строкой в дежурный чат. По экрану зависание видно только тогда, когда на экран кто-то смотрит.