メインコンテンツまでスキップ

ジョブの配送と回復

動画を処理するには、「DBに動画を保存する」と「workerへ仕事を届ける」の両方が必要です。途中でAPIやネットワークが止まっても仕事を取りこぼさないように、配送予定をDBにも記録します。

アップロードからジョブへ​

署名付きURLは、対象ファイルを送るための期限付きURLです。ファイル本体はストレージへ送り、APIは権限や状態を管理します。

配送に失敗したら​

external_tasks は配送予定を保存する outbox です。業務データと同じトランザクションで記録するため、「DB更新だけ完了し、仕事を忘れる」状態から回復できます。

通常はAPIの処理中に配送します。TASK_SCHEDULER のアラームは失敗や中断への備えです。日次の保守処理でも回復を行います。配送完了はworkerの処理完了とは別です。

APIの各配送試行では、10秒の期限付きでSQSへのHTTPリクエストを1回送ります。HTTPクライアント内では再試行せず、失敗をoutboxへ返します。次回の試行時刻をDBに保存し、同じ job_id で再配送するため、APIリクエスト内で再試行を待ち続けず、プロセスが中断しても回復できます。

workerが途中で止まったら​

SQSは同じ仕事を再配送することがあります。workerは job_executions に job_id ごとの実行記録を持ちます。

  • 完了済みのジョブなら、同じ処理を繰り返しません。
  • 実行中は期限付きの実行権を取得します。
  • 処理が停止した場合は、期限切れ後に再実行できるようにします。
  • 後続ジョブのIDは親ジョブから決定し、再試行で別の仕事が増えることを防ぎます。

この仕組みだけで、任意の外部API操作が自動的に一度だけ実行されるわけではありません。処理本体でも再実行時の挙動を設計します。

調べる場所​

見たいこと実装
APIの配送予定と送信external-tasks.ts
回復の予約task-scheduler.ts
workerの実行権・重複対策job_execution.py
後続ジョブの送信sqs_enqueue.py

関連: 状態遷移、非同期処理の変更、困ったとき。