이 블로그는 클라우드 래퍼의 수석 아키텍트로서 아래에 설명된 아키텍처의 발전과 성능 개선을 정의한 Ulhas Math와 협력하여 작성되었습니다. 그의 조언은 소규모 오브젝트 웹 트래픽으로 인한 확장 문제를 해결하는 데 큰 도움이 되었습니다.
클라우드 래퍼는 2018년에 출시되었으며, 대규모 미디어 오브젝트를 위해 맞춤형으로 구축된 Akamai의 전용 캐싱 솔루션입니다. 당시 미디어 고객은 계속 증가하는 스트리밍 라이브러리의 이그레스 비용 증가에 직면해 더 나은 오프로드가 필요했습니다.
Cloud Wrapper는 이러한 요구를 충족시켰고, 오브젝트를 한 번만 가져오는 단순한 기능에서 대형 미디어 고객의 콘텐츠 전송 인프라의 핵심 구성 요소로 성장했습니다. 이제 고객들은 재해 복구 솔루션을 구축할 때 비용을 절감하기 위해 Cloud Wrapper를 활용하고 있으며, 이제는 라이브 스트리밍 고객들의 표준이 되었습니다. 이 솔루션은 트래픽이 많은 이벤트 중 오리진 쉴딩, 멀티 CDN 기능을 제공하며, Roku를 포함한 모든 타사 CDN에서 신뢰할 수 있는 전용 캐시를 제공합니다.
2024년 9월에는 작은 오브젝트와 웹 에셋을 지원하도록 Cloud Wrapper를 확장했습니다.
웹 콘텐츠에 적응하기
Cloud Wrapper는 대용량 미디어 오브젝트를 위해 특별히 설계되었지만, 오프로드 및 오리진 쉴딩은 미디어에만 국한된 문제가 아닙니다. 수천 장의 제품 사진 및 기타 자산이 많은 애플리케이션을 사용하는 이커머스 비즈니스와 같은 다른 많은 사용 사례를 가진 고객들은 클라우드 이그레스 비용을 절감하고 성능을 개선(결과적으로 SEO 순위 향상)하기 위해 웹 자산을 캐시하는 Cloud Wrapper를 요청하고 있습니다. 하지만 웹 자산은 미디어 객체보다 훨씬 작습니다. Cloud Wrapper의 캐싱 정신은 고객의 요구를 충족시킬 수 있었지만, 작은 웹 자산(~0.030MB)을 큰 미디어 객체(~1.90MB)처럼 처리하려고 할 때 문제가 발생했습니다.
Cloud Wrapper가 작은(그리고 점점 더 작아지는) 오브젝트를 처리할 수 있도록 개선하여 솔루션이 고성능이고 확장 가능하며 전용 서버에서 더 높은 퇴거율을 처리할 수 있도록 최적화해야 했습니다.
소규모 오브젝트 웹 성능을 위한 클라우드 래퍼 확장하기
웹 경험이 점점 더 동적이고 자산이 많아짐에 따라 소규모 오브젝트 웹 트래픽과 대용량 미디어 파일 모두에서 일관된 성능을 보장하는 것이 그 어느 때보다 중요해졌습니다. 클라우드 래퍼는 오랫동안 고성능 콘텐츠 전송, 특히 대용량 미디어 워크플로우를 위한 초석이 되어 왔습니다. 하지만 고객의 요구가 진화함에 따라 속도나 규모에 영향을 주지 않으면서도 수많은 작은 웹 객체를 효율적으로 캐싱하고 전송하는 새로운 과제를 처리하기 위해 시스템의 일부를 재설계해야 했습니다.
트래픽 분리를 통한 성능 보존
소규모 오브젝트 웹 트래픽과 대규모 미디어 자산을 혼합하면 두 가지 유형의 워크로드 모두에서 성능이 저하되는 것으로 나타났습니다. 이 문제를 해결하기 위해 웹 트래픽 전용 Cloud Wrapper 서버를 별도로 배포했습니다. 이렇게 분리함으로써 각 배포를 고유한 워크로드에 맞게 최적화하여 오브젝트 크기에 관계없이 일관된 성능을 보장할 수 있었습니다.
또한 이 새로운 배포를 위해 이미 Akamai 규모에서 엣지 트래픽을 처리하는 것으로 입증된 것과 유사한 SSD 디스크가 장착된 고성능 하드웨어를 선택함으로써 인프라를 업그레이드했습니다.
수백만 개의 오브젝트를 처리할 수 있는 확장성
기존 미디어 사용 사례에서는 디스크 공간이 가장 큰 제약 조건이었기 때문에 대용량 동영상 파일과 미디어 자산을 위한 충분한 저장 공간을 확보해야 했습니다. 하지만 HTML 조각, JSON 파일, API 응답과 같은 작은 개체의 경우 서버가 저장하고 관리할 수 있는 개체 수라는 또 다른 병목현상이 발생했습니다.
이러한 변화를 지원하기 위해 핵심 캐싱 서비스를 업데이트하여 이전 버전의 Cloud Wrapper가 지원할 수 있는 개체 수의 거의 3배를 처리할 수 있도록 했습니다. 이 업그레이드를 통해 서버당 오브젝트 밀도가 크게 증가하여 웹 우선 고객의 요구를 충족하는 동시에 전반적인 인프라 효율성을 개선할 수 있게 되었습니다.
공정하고 빠른 캐싱을 위한 퇴거 처리 개선
Cloud Wrapper의 아키텍처는 캐시 효과를 극대화하기 위해 소규모 서버 세트를 통해 요청을 퍼널링하는 원리를 기반으로 구축되었습니다. 그러나 이러한 설계는 트래픽이 급증하거나 배포가 빈번한 경우 단일 서버가 엄청난 양의 작은 오브젝트를 수집하고 관리해야 한다는 것을 의미하기도 했습니다.
각 고객에게는 전용 캐시 할당량이 있으므로 새로운 콘텐츠가 유입되면 공정성과 일관성을 유지하기 위해 오래된 콘텐츠도 같은 속도로 퇴출되어야 합니다. 이를 지원하기 위해 퇴거 메커니즘을 개선하여 캐시 적중률에 영향을 미치거나 전송 속도를 늦추지 않고 서버가 효율적이고 안정적으로 공간을 확보할 수 있도록 했습니다.
결과
이러한 아키텍처 개선을 통해 Cloud Wrapper는 이제 작은 웹 자산부터 대용량 미디어 파일까지 모든 것을 위한 고성능 원본 보호막 역할을 합니다. 모든 오브젝트를 한 번만 가져오면 된다는 목표는 여전히 간단합니다.
소규모 오브젝트 웹 트래픽의 경우, 고객들은 오프로드가 5~10% 개선되었으며, 일부 고객은 99% 이상의 오프로드 비율을 달성했습니다. 이는 오리진 요청이 줄어들고 응답 시간이 빨라지며 인프라 비용이 절감된다는 것을 의미합니다.
오늘날 Cloud Wrapper는 시장을 선도하는 오리진 보호막으로 자리매김하고 있습니다. Cloud Wrapper로 웹 성능을 개선하는 방법에 대해 자세히 알아보세요.
내용