2. 후처리 AA, 엔비디아 FXAA와 AMD MLAA
MSAA (Multi-Sampling Anti-Aliasing)는 GPU 부하 및 메모리 대역폭이 부담되며 낮은 성능의 하드웨어로는 구현하기 어려워 일정 이상의 성능을 요구한다.
이를 보완하기 위해 최근에는 부담이 적은 후처리 안티앨리어싱 기술이 부각되고 있다. AMD는 인텔이 개발한 MLAA (Morphological Anti-Aliasing)를 다이렉트컴퓨트 (DirectCompute)를 이용해 처리하며, 엔비디아 (NVIDIA)는 일종의 픽셀 쉐이더를 이용해 안티앨리어싱을 구현하는 FXAA (Fast Approximate Anti-Aliasing)를 지원한다.
후처리 안티앨리어싱 기술은 GPU 부하와 메모리 대역폭을 적게 사용해 성능 저하를 줄이면서 높은 그래픽 품질을 얻을 수 있는 장점이 있다. 그러나 처리 특성상 텍스처나 글자 (텍스트) 등이 뭉개져 가독성이 떨어지거나 화면이 흐려지는 (뿌옇게 변하는) 단점도 있으며, 서브 픽셀 (전선이 끊기거나 철조망 표현이 잘 안되는 문제) 문제가 발생한다. 서브 픽셀은 멀티 샘플링으로 해결할 수 있는 것으로 알려졌다.
엔비디아 후처리 AA 기술, FXAA
엔비디아가 소개한 FXAA는 렌더링 이후 포스트 프로세서 단계에서 화면을 처리하는 후처리 안티앨리어싱 기술 중 하나로 28nm 공정 기반 지포스 GTX 680을 출시하면서 소개했다. 후처리 안티앨리어싱 기술로 라데온 HD 6800 시리즈 출시 당시 소개하고 이후 MLAA 2.0으로 업그레이드가 이루진 AMD MLAA보다 시기적으로 등장은 늦었다.
MLAA 기술과 달리 특정 API에 의존하고 있지 않기 때문에 AMD 그래픽카드에서도 이를 구현할 수 있는 범용성이 특징이다. 특히 엔비디아는 게임 개발사와의 협력을 통해 게임 내 그래픽 설정 메뉴에서 FXAA를 지원하도록 해 보다 쉽게 사용할 수 있도록 했다.
특정 하드웨어에 의존적하지 않는 엔비디아 FXAA
FXAA는 DX9/ 10/ 11, OpenGL API를 가리지 않고 지원하며, 현재 3.11이 배포되고 4.0이 배포될 예정이다. 엔비디아는 4x MSAA 대비 환경에 따라 최대 60% 높은 성능을 제공할 것이라고 소개했으며, 4x MSAA와 유사한 AA 품질에 더 높은 프레임을 제공할 것으로 알려졌다.
MSAA와 비교해 빠르고 비디오 메모리 점유율이 낮으며, 반사면이 흐릿해지는 현상이 없으나 정확도와 품질 손상은 존재한다. 텍스처나 쉐이더의 앨리어싱에 유리하다.
배틀필드 3 (안티 앨리어싱 포스트 = FXAA High/ Medium/ Low)
지포스 300 드라이버부터 컨트롤 패널로 FXAA 지원
엔비디아는 AMD의 MLAA처럼 최신 포스웨어 드라이버를 통해 컨트롤 패널에서 조절 가능해 거의 모든 게임을 지원하며, 다수의 게임은 직접 지원한다.
배트맨 아캄시티 (Batman : Arkham City)와 배틀필드 3 (BattleField 3), 맥스페인 3 (Max Payne 3), 블레이드앤 소울 (Blade & Soul) MMORPG 등 최신 게임은 게임 내의 그래픽 설정 메뉴를 통해 FXAA를 지원한다. Age of Conan, F.3.A.R, 듀크 뉴켐 포에버 등은 FXAA 1, 최근 등장하는 게임이나 게임 엔진, 그리고 배틀필드 3는 FXAA 3를 지원한다.
FXAA는 FXAA 1과 FXAA 2, FXAA 3의 3단계로 구분되며, FXAA 1은 주로 PC 게임, FXAA 2는 콘솔 (Xbox 360), FXAA 3는 PC용 품질 향상과 콘솔 (Xbox 360/ PS3)용으로 사용된다. FXAA 3는 FXAA 1보다 성능이 우수하며, FXAA는 DirectX 9보다 DirectX 11 모드에서 더 빠른 것으로 알려졌다.
AMD 후처리 AA 기술, MLAA
MLAA (Morphological Anti-Aliasing)는 인텔이 개발하고 AMD가 라데온 HD 6800 시리즈를 발표하면서 본격적으로 지원하기 시작했다. 카탈리스트 (Catalyst) 10.10에서 MLAA 1.0을 지원하기 시작했으며, 카탈리스트 12.4 WHQL 드라이버부터 MLAA 2.0 버전으로 업데이트되어 성능 등의 효율이 개선되었다.
멀티 샘플링 안티앨리어싱 (MSAA)가 어려운 콘솔 게임기에 주로 적용되었으며, 이들 게임기가 제공하는 프로세서 연산에 적합하도록 개발되었다. PC 환경은 CPU를 이용하고 듀얼 코어 이상의 멀티코어 CPU를 지원한다. 그래픽카드로 처리하는 MSAA의 대역폭 문제 및 GPU 점유율을 최소화한 AA 기술이다.
다이렉트컴퓨트를 이용한 AMD MLAA
MLAA는 AMD가 GPGPU 기술인 다이렉트컴퓨트 (DirectCompute) 활용해 하드웨어 가속을 이용하며, GPU에 포함된 많은 수의 연산 처리 유닛 (SP, 스트림 프로세서)을 이용해 연산 성능 및 효율을 개선한다.
수퍼샘플링 안티앨리어싱 (SSAA)보다 빠르고 Edge-detect CFAA와 유사한 성능을 제공하며, DirectX 9/ 10/ 11과 호환된다. 앨리어싱 이미지에 포스트 프로세싱 처리 단계를 거쳐 계단 패턴을 파악하고 중간색을 넣어 계단현상을 완화한다. 별도의 대역폭이나 프레임 버퍼 용량을 잡아먹지 않으나 높은 연산량을 필요로 한다.
AMD 카탈리스트 컨트롤 센터 (CCC) = 형태학적 필터링 (MLAA)
엔비디아 FXAA 기술이 엔비디아 컨트롤 패널 (NVIDIA Control Panel)을 이용해 강제로 설정하거나 게임 엔진이 제공할 경우 게임 내 메뉴를 이용해 선택할 수 있는 반면 AMD MLAA는 게임 엔진에서 직접 지원하지 않기 때문에 AMD 카타리스트 컨트롤 센터에서 MLAA (형태학적 필터링)를 강제 설정할 수 있는 방법을 지원한다.
MLAA는 드라이버에서 설정하면 되므로 거의 모든 게임 엔진이나 DX, OpenGL에서 실행 가능하며, 텍스처와 쉐이더의 앨리어싱 제거에 유리하다. 하지만 엔비디아 FXAA 기술과 달리 라데온 그래픽카드만 지원하고 성능 손실이 큰 것이 단점으로 알려졌다.
[영상] 엔비디아에 대응하는 인텔 가우디3/AMD MI300/범클라우드 진영의 NPU/,그리고 AI 하드웨어 개발 흐름과 추세는? 
