Auto-scaling of Network Services in Multi-access Edge Computing Environment

Abstract

In the 5G era, it is necessary to provide services to many devices connected to the networks while meeting diverse demands, such as high availability, low latency, and high data rates. Multi-access edge computing (MEC), one of the key technologies to achieve the goal, brings down the cloud-computing capabilities to network edges near users. The MEC environment provides resources allocated for the service operations and mitigates the core network’s load by processing traffic at the edge of networks. Service running in the edges usually consists of multiple components interacting with each other because this architecture enables flexible and rapid service provisioning. However, those MEC and service architecture complicate the service operations due to many factors. Specifically, it is essential to consider the limited resources of edges and the location in which services run while satisfying the QoS requirements. In addition, it is hard to operate services manually in response to dynamic traffic. Therefore, we propose an auto-scaling method using deep Q-network (DQN) in this thesis. The proposed method runs the adequate number of instances, that is, resources, composing service while considering the service performance and operating costs. The proposed approach consists of two models: the DQN model making scaling decisions, and the decision model choosing components (or locations) to be scaled. We implemented an auto-scaler as a module to allocate instances (virtual machines or containers) to service in the MEC environments. Our proposed method was validated by conducting several experiments with different scenarios.

수 많은 기기들이 연결되는 5G 네트워크에서는 초광대역 서비스, 고신뢰 및 초저지연 통신을 제공하는 것이 요구된다. MEC (Multi-access Edge Computing)는 이를 실현하기 위한 핵심 기술 중 하나로, 클라우드 컴퓨팅 환경을 사용자와 가까운 네트워크 엣지 (Edge), 즉, 기지국에 배치하는 방법이다. MEC는 서비스 운용을 위한 컴퓨팅 환경을 제공할 뿐만 아니라, 네트워크 종단에서 트래픽을 처리함으로써 코어 네트워크로 전달되는 트래픽을 감소시켜 네트워크 부하를 줄일 수 있다는 장점이 있다. 일반적으로 MEC 환경에서 운용되는 서비스들은 유연한 관리와 신속한 배포를 위해 마이크로서비스 (Microservice) 구조로 설계되며, 서비스를 구성하는 마이크로서비스들은 독립적인 기능을 수행하며 다른 종류의 마이크로서비스와 상호 통신한다. MEC 환경과 마이크로서비스 구조는 서비스 요구사항에 따라 적합한 위치에 손쉽게 서비스를 배포할 수 있다는 장점이 있지만, 한편으로는 서비스 운용을 복잡하게 만드는 원인이 된다. 특히, MEC 환경은 일반적인 데이터센터 환경과는 달리 제한된 컴퓨팅 자원을 갖고 있기 때문에 주어진 자원을 효율적으로 활용하는 것이 필수이다. 또한, 마이크로서비스 구조로 설계된 서비스는 각 기능별로 모듈화된 마이크로서비스를 통해 세밀한 운용이 가능하기 때문에, 동적으로 변하는 네트워크 트래픽에 대응하여 서비스 성능을 보장하기 위한 적정량의 자원을 마이크로서비스에 할당하는 것이 필요하다. 즉, MEC 환경에서의 서비스 운용은 서비스의 성능 뿐 아니라, MEC 환경의 가용 자원, 서비스에 할당될 자원과 운용 비용 등을 복합적으로 고려해야 한다. 하지만, 복잡한 MEC 환경에서 관리자의 판단에 따라 수작업으로 서비스를 운용하는 것은 어려운 일이다. 본 논문에서는 위와 같은 문제를 해결하기 위해 강화학습 기반의 오토 스케일링 (Auto-scaling) 방법을 제안한다. 제안하는 방법은 심층 강화학습 알고리즘인 DQN (Deep Q-network)을 활용하여 현재 운용 중인 서비스의 컴퓨팅 자원 사용량, 운용 비용, 성능 등을 고려하여 서비스에 할당되는 자원을 조절한다. 이 때, 서비스 운용을 위한 자원은 마이크로서비스로 동작하는 인스턴스를 의미하며, 제안하는 방법은 수평적 스케일링 (Horizontal scaling) 측면에서 서비스에 할당된 인스턴스의 개수를 조절한다. 또한, 본 논문의 오토 스케일링 방법은 스케일링 여부를 결정하는 DQN 모델 뿐 아니라, MEC 환경의 가용 자원, 서비스 성능 등을 고려하여 스케일링 대상이 되는 인스턴스 및 위치를 결정하는 결정 모델 (Decision model)을 포함한다. 제안된 방법은 가상 머신 (VM, Virtual Machine)과 컨테이너 (Container)들로 구성되는 서비스를 대상으로 오토 스케일링을 적용할 수 있는 모듈 형태로 구현되었다. 제안한 방법은 MEC 환경을 가정하여 구축된 실험환경에서 다양한 시나리오를 통해 성능 평가를 수행하였으며, 각 시나리오 별로 제안한 방법이 적정 개수의 인스턴스를 유지하며 안정적인 서비스 성능을 보장하는 것으로 검증되었다.