복붙노트

[HADOOP] Airflow에서 실패한 작업을 다시 시작하는 방법

HADOOP

Airflow에서 실패한 작업을 다시 시작하는 방법

나는 LocalExecutor를 사용하고 있고, 나의 dag는 task (C)가 task (A)에 의존하는 3 개의 task를 가지고있다. 태스크 (B)와 태스크 (A)는 다음과 같이 병렬로 실행될 수 있습니다

A -> C

그래서 과제 (A)는 실패했지만 과제 (B)는 잘 돌아갔습니다. 작업 (C)는 아직 작업 (A)가 실패 할 때 실행되지 않습니다.

내 질문은 어떻게 작업 (A) 혼자 작업 (C) 작업 (A) 완료되면 실행하고 공기 흐름 UI 그들을 성공으로 표시됩니다.

해결법

  1. ==============================

    1.UI에서 :

    UI에서 :

    이렇게하면 작업 A가 다시 실행되고, 성공하면 작업 C가 실행됩니다. 이 작업은 작업 상태를 지울 때 스케줄러가이 dag 실행 전에 실행하지 않은 것처럼 처리합니다.

  2. from https://stackoverflow.com/questions/43270820/how-to-restart-a-failed-task-on-airflow by cc-by-sa and MIT license