속도 제한

속도 제한은 정해진 시간 동안 처리할 수 있는 요청 횟수에 상한을 두어, 그 이상 요청이 들어오면 잠시 막거나 나중으로 미루는 방식이다.

놀이공원 회전문을 떠올리면 쉽다. 회전문은 한 번에 한 명씩만 들여보내도록 만들어져 있어서, 아무리 많은 사람이 한꺼번에 몰려도 결국 정해진 속도로만 입장이 이뤄진다. 컴퓨터 시스템도 마찬가지다. 여러 요청이 지나가는 하나의 통로에 초당 또는 분당 처리 가능한 횟수를 정해두면, 요청이 왜 몰렸는지 몰라도 그 이상은 통과시키지 않는다.

이 방식이 유용한 이유는 원인을 따지지 않고도 피해를 막을 수 있다는 점이다. 예를 들어 어떤 프로그램이 실패한 작업을 계속 다시 시도하느라 밤새 요청을 쏟아내는 일이 생겨도, 통로 입구에서 속도 자체를 제한해두면 그로 인한 비용 폭탄이나 시스템 과부하를 막을 수 있다.

기사에서는 "AWS가 베드락 에이전트코어의 게이트웨이에 속도 제한 기능을 도입했다"는 식으로 쓰인다. 오해하기 쉬운 점은, 속도 제한이 요청의 내용이 옳은지 하나하나 검사하는 기능이 아니라는 것이다. 내용과 무관하게 얼마나 자주 요청이 들어오는지만 보고 그 빈도를 억누르는 장치라, 정상적인 요청도 너무 잦으면 함께 걸릴 수 있다.