[이펙티브 자바] Item84 - 프로그램의 동작을 스레드 스케줄러에 기대지 말라

여러 스레드가 실행 중이면 운영체제의 스레드 스케줄러가 어떤 스레드를 얼마나 오래 실행할지 정한다. OS 별로 구체적인 스케줄링이 다를 수 있고, 이러한 정책에 좌지우지되지 않는 프로그램이 좋은 프로그램이라고 볼 수 있다.

 

이식성이 좋은 프로그램은 뭘까?

정확성이나 성능이 스레드 스케줄러에 따라 달라진다면 다른 플랫폼(OS)에 이식하기 어렵다.

 

실행 가능한 스레드 수와 생명 주기

실행 중인(혹은 가능한) 스레드 수 = 전체 스레드 수 - 대기 중인 스레드 수

실행 가능한 스레드의 평균적인 수를 생각한다.

이식성이 좋은 프로그램을 작성하기 위해서는 실행 가능한 스레드의 평균적인 수를 프로세서 수보다 지나치게 많지 않도록 하는 것이 중요하다. 이렇게 해야 스레드 스케줄러가 고민할 거리가 줄어든다.

 

실행 준비가 된 스레드는 완료까지 계속 실행되게 만든다.

실행 준비가 된 스레드들은 맡은 작업을 완료할 때까지 계속 실행되게 만들어야 한다. 이런 프로그램은 스레드 스케줄링 정책이 상이한 시스템에서도 동작이 크게 달라지지 않는다.

 

실행 가능한 스레드 수 적게 유지하자

실행 가능한 스레드 수를 적게 유지하는 주요 기법은 각 스레드가 유용한 작업을 완료한 후에 다음 일거리가 생길 때까지 대기하도록 하는 것이다. 즉, 지금 당장 처리해야 할 작업이 없다면 실행돼서는 안 된다.

실행자 프레임워크(ExecutorService)로 예를 들면, 스레드 풀 크기를 적절히 설정하고 작업은 짧게 유지하면 된다. 단, 너무 짧으면 작업을 분배하는 부담이 오히려 성능을 떨어트릴 수 있다.

 

바쁜 대기(busy waiting) 상태 절대 금지!

바쁜 대기 상태란 공유 객체의 상태가 바뀔 때까지 쉬지 않고 검사하는 상태를 말한다. 스레드는 바쁜 대기 상태가 되면 안 된다. 바쁜 대기 상태는 스레드 스케줄러의 변덕에 취약하고 프로세서에 큰 부담을 주어 다른 작업이 실행될 기회를 박탈한다.

// 절대 금지! - 바쁜 대기 버전 CountDownLatch 구현
public class SlowCountDownLatch {
  private int count;

  public SlowCountDownLatch(int count) {
    if (count < 0)
      throw new IllegalArgumentException(count + " < 0");
    this.count = count;
  }

  public void await() {
    while (true) {
      // 상태를 계속 검사한다.
      synchronized(this) {
        if (count == 0)
          return;
      }
    }
  }
  public synchronized void countDown() {
    if (count != 0)
      count--;
  }
}

하나 이상의 스레드가 필요도 없이 실행 가능한 상태인 이런 시스템은 성능과 이식성이 떨어질 수 있다.

 

주의 사항

Thread.yield는 사용하지 말자

Thread.yield를 사용해 문제를 고쳐보려는 유혹을 떨쳐내자. 특정 스레드가 CPU 시간을 얻어내는 것에 효과가 있을지 모르지만, 이식성에서는 그렇지 않다. JVM에 따라 성능이 달라질 수 있기 때문이다.

처음에는 JVM의 성능을 높여준 yield가 두 번째, 세 번째에서는 오히려 느려지게 할 수도 있으며, 테스트할 수단도 없다.

Thread.yield를 사용하기보다는 애플리케이션 구조를 바꿔 동시에 실행 가능한 스레드 수가 적어지도록 조치하자.

 

스레드 우선순위를 조절하지 말자

스레드 우선순위는 자바에서 이식성이 가장 나쁜 특성에 속한다. 심각한 응답 불가 문제를 스레드 우선순위로 해결하려는 시도는 절대 합리적이지 않으며, 진짜 원인을 수정하기 전까지 같은 문제가 반복해서 생겨날 것이다. 그러니 프로그램을 고치는 용도로 스레드 우선순위를 사용하지 말자.

 

핵심 정리

• 프로그램의 동작을 스레드 스케줄러에 기대지 말자.
• Thread.yield와 스레드 우선순위에 의존해선 안된다.