Нас учат не наступать на те же грабли дважды. Приведите пример ошибки, каждое повторение которой безусловно приводит к новому следствию, улучшающему работу системы (обобщённый вопрос)?

Красиво задан вопрос и простой ответ: это системная ошибка первого типа ("ложная тревога"). Например, проявляется в том, что вы боитесь шороха в кустах ночью и убегаете. Это очень улучшает работу системы (вашей живучести), в отличие от системной ошибки второго типа ("пропуск цели") - то есть вы принимаете шуршание в кустах ночью за ветер и убиты хищным чем-то из кустов.