VMWARE HORIZON과 NVIDIA VIRTUAL GPU로구현하는유연한데이터센터

김도영

NVIDIA Sr.Solution Architect

22

▪ NVIDIA Virtual GPU 소개

▪ GRID vPC 및 vApps

▪ QUADRO vDWS(VIRTUAL DATA CENTER WORKSTATION)

▪ 데이터 센터 최적화

3Sources: Gartner, Lakeside, Cisco Visual Networking Forecast

비용보안이동성 전문가용 3D 앱

3명 중 한 명의 사용자는원격 혹은 여러

오피스에서 일합니다

해킹, 자연재해, 사람의실수로 인한 지적 재산

및 데이터 손실

성능 저하 없이 동시사용자 수 극대화

데이터 센터 혹은클라우드 환경에서

완벽한 Quadro 기능 제공

애플리케이션

2021년 전체 인터넷사용량 중 82%가 비디오

가상 데스크톱 환경의 과제VDI 및 DaaS 환경에서는 사용자 경험이 가장 중요합니다

4

모든 장치에 GPU가 있습니다 가상 머신도 GPU가 필요합니다

데이터센터를 통해 제공되는 그래픽 가속NVIDIA Virtual GPU 가 가상 데스크톱 및 애플리케이션에 그래픽 가속을

제공합니다

5

NVIDIA VIRTUAL GPUGPU Accelerated Experience to every Virtual Desktop with NVIDIA HW and SW

Server

Hypervisor

Apps and VMs

NVIDIA Graphics Drivers

NVIDIA Virtual GPU

NVIDIA Tesla GPU

NVIDIA virtualization software

CPU Only VDI With NVIDIAVirtual GPU

Apps and VMs

Hypervisor

Server

6

IMMERSIVE VIRTUAL WORKSPACES

NVIDIA GRID Virtual PC

NVIDIA GRID Virtual Apps

NVIDIA Quadro Virtual Data Center Workstation

사무직 사용자 전문가 / 디자이너

7

NVIDIA VIRTUAL GPU SOLUTIONS

Creative & Technical Professional

사무직

GRID Virtual PC/Virtual Applications

Tesla M10Tesla P6 for blade form factor

사용자 구분

Virtual GPU 소프트웨어 구분

GPU 하드웨어 추천

Quadro Virtual Data Center Workstation

Tesla P4Tesla M60, P40, P100, V100Tesla P6 for blade form factor

전문가 / 디자이너

9

직원생산성

• 개발자가 12시간 걸려 다운로드하던 코드를 몇분으로 단축했습니다 – Autodesk

• 8~10초 걸리던 인트라넷 페이지 오픈을 GPU를 통해2~3초로 단축되었습니다 - Seyfarth Shaw

• 3D CAD/CAE 앱 성능이 2배향상되었습니다 –Honda

• 눈 폭풍이 몰아치던 순간, 직원들은 원격으로로그인하여 성능 저하 없이 업무를 지속할 수있었습니다 – WBCM

• 여러 개의 서로 다른 오피스의 직원들이 동일한 파일로동시에 작업할 수 있습니다 - CannonDesign

10

IT 생산성

• 십분 안에 새로운 가상 워크스테이션을 제공합니다 –CannonDesign

• 손쉬운 관리기능으로 동일 인구의 타 도시 대비 IT 부담을 75 % 절감할 수 있었습니다 –Davenport 시

• 500:1 직원 수 대비 IT 수 – DigitalGlobe

• 네덜란드의 10명의 IT 팀이 전세계 700+ 직원을 로컬IT 없이 지원합니다 – AWL

• 새로운 업무 요구사항 혹은 새로운 직원에게 맞춤형VM 을 바로 제공할 수 있는 유연성 확보 –CannonDesign

11

매출및고객만족도

• 고객 사무실을 포함한 어디서든 접근 가능한완벽한 3D 워크스테이션을 제공할 수 있습니다 –WBCM

• 당일 임플란트 시술 가능 - Touro 치의대

• 기술영업 직원은 과거에 사용하던 무겁고 비싼랩탑보다 훨씬 뛰어난 그래픽으로 타블릿을 통해고객 데모를 진행할 수 있습니다 – Autodesk

• VDI가 충분히 뛰어난 성능을 제공하므로 사용자불만이 전혀 없었습니다 – Häagen-Dazs Japan

12

비용절감

• NVIDIA GRID vPC를 통해 Windows 10으로업그레이드함으로써 2/3 가격에 동시 사용자 수는두 배가 되었습니다. – The Polyclinic

• Reduced physical lab space with 전체랩 중90% 를 가상화하여 물리적인 랩 공간을절감했습니다. – 아칸소 대학

• 워크스테이션 가상화를 통해 VDI 사용률은 네 배로 증가했습니다 – DENSO

• ‘거의 $10,000 워크스테이션에 필적하는’가상 워크스테이션 성능 – UMass Lowell

• GPU VDI를 통해 CPU 사용률이 70%향상되었습니다 – Holstebro

1313

NVIDIA GRID vPC 및 vApps뛰어난 확장성과 사용자 경험

14

기억하십니까?

WINDOWS OS의 그래픽 혁신오늘날 모든 OS 및 애플리케이션은 GPU에 최적화 되어 있습니다

Win10 은 Win7

대비 32%

더많은그래픽을

요구합니다

15

무엇이 다를까요?

CPU 에서 그래픽에뮬레이션, 스크린캡쳐 및 인코딩진행…

GPU 그래픽 에뮬레이션, 스크린 캡쳐 및 인코딩진행…

Soft GPU VM Virtual GPU VM

VS.

17

새로운 일반 사용자 요구사항끊임없이 변화하고 있습니다

Windows 10 Office 365/Office 2016 웹 브라우저

협업 및 비디오

Windows 7 대비 32% 증가한CPU 사용량1

최근 모든 브라우저는기본적으로 GPU 가속 필요

디지털 이미지 및 디자인 멀티-, 고 해상도 모니터

Windows 7 대비 50-85% 증가한CPU 사용량1

최신 웹 표준

Flash, HTML5 및 WebGL은 모두높은 CPU 사용량 필요

기업 환경에서 Skype 및유투브가 널리 사용됨

Adobe® Photoshop® 의 특정 기능은GPU 없이 작동 불가2

멀티-모니터는 새로운 표준이 되고있으며 4K가 점점 주류로 부상

PDF Viewers

Adobe® Acrobat® 및 Microsoft Edge 는기본적으로 GPU 가속 필요

1 Lakeside Software, Inc. “Elevating User Experience Through GPU Acceleration: A Windows 10 versus Windows 7 Analysis.” Lakeside Software whitepaper. 20172 Adobe. December 31, 2017. Photoshop Graphics Processor (GPU) Card FAQ. Retrieved from https://helpx.adobe.com/photoshop/kb/ photoshop-cc-gpu-card-faq.html

2

18

새로운 NVIDIA GRID 기능• “새로운 일반적인 사무직 사용자” 지원을 위한 2GB Profile 지원• 개발자를 위한 Linux VDI

• 멀티 모니터: 최대 두 개의 4K 모니터 혹은 네 개의 HD 모니터

2D EDA

소프트웨어 개발자

금융의료디지털 워크스페이스

Windows 10 및 최신, 생산성 앱을위한 그래픽 제공

완벽한 보안 하에 이미지 및 환자정보를 어디서나 확인

데이터 시각화 및 일반 PC 수준성능

VDI 시장이 요구하는 기능 제공

19

최고의 WINDOWS 10 VDI 사용자 경험을 위한NVIDIA GRID VPC

3배 향상된응답속도

2배 향상된 반응속도

1.5배 향상된프레임 수

19% 평균 자원절감률

Tested by NVIDIA on knowledge worker workloads (Excel, Word, PowerPoint, Chrome, Media Player, PDF) running on single 4K resolution monitor on VMware ESXi 6.5 on Horizon 7.4 with NVIDIA Tesla M10-2B and NVIDIA virtual GPU March 2018 Release (a.k.a. GRID 6.0)

20

NVIDIA QUADRO VIRTUAL DATA CENTER WORKSTATION이 전문가를 지원합니다

22

AI 기능으로향상된렌더링

실시간인터렉티브시뮬레이션

안전한협업가장뛰어난데이터센터

GPU

세계에서 가장 강력한 가상 워크스테이션

23

VIRTUAL GPU에서의 AI

Nvidia Tesla V100

V100-1Q V100-1Q V100-1Q V100-1Q V100-1Q V100-1Q

Up to 32

V100-1Q

NVIDIA Virtual GPU + Tesla V100 + Docker + NGC (NVIDIA GPU Cloud)

주요 장점:

• GPU(V100기준) 당 최대 32 사용자

• vGPU template VM을 통해 쉽고빠르게 AI DL 개발 환경 구축

• 모든 주요 DL Framework 지원

• 데이터센터에서 GPU 자원을 중앙관리

24

NVIDIA TESLA GPUs

V100 P100 P40 P4 T4 (NEW!) M60 M10 M6 P6

GPUs / Board

(Architecture)

1

(Volta)

1

(Pascal)

1

(Pascal)

1

(Pascal)

1

(Turing)

2

(Maxwell)

4

(Maxwell)

1

(Maxwell)

1

(Pascal)

CUDA Cores 5,120 3,584 3,840 2,560 2,5604,096

(2,048 per GPU)

2,560

(640 per GPU)1,536 2,048

Memory Size32 GB/16 GB

HBM216 GB HBM2 24 GB GDDR5 8 GB GDDR5 16 GB GDDR5

16 GB GDDR5

(8 GB per GPU)

32 GB GDDR5

(8 GB per GPU)8 GB GDDR5 16 GB GDDR5

vGPU Profiles

1 GB, 2 GB, 4 GB,

8 GB, 16 GB,

32 GB

1 GB, 2 GB, 4 GB,

8 GB, 16 GB

1 GB, 2 GB, 3 GB,

4 GB, 6 GB, 8 GB,

12 GB, 24 GB

1 GB, 2 GB, 4

GB,

8 GB

1 GB, 2 GB, 4

GB, 8 GB, 16

GB

0.5 GB, 1 GB, 2

GB,

4 GB, 8 GB

0.5 GB, 1 GB, 2

GB,

4 GB, 8 GB

0.5 GB, 1 GB, 2

GB,

4 GB, 8 GB

1 GB, 2 GB, 4 GB,

8 GB, 16 GB

Form Factor

PCIe 3.0 Dual Slot

& SXM2

(rack servers)

PCIe 3.0 Dual

Slot

(rack servers)

PCIe 3.0 Dual

Slot

(rack servers)

PCIe 3.0 Single

Slot

(rack servers)

PCIe 3.0

Single Slot

(rack servers)

PCIe 3.0 Dual

Slot

(rack servers)

PCIe 3.0 Dual

Slot

(rack servers)

MXM

(blade servers)

MXM

(blade servers)

Power 250W/300W 250W 250W 75W 70W 300W (225W opt) 225W 100W (75W opt) 90W

Thermal passive passive passive passive passive active/passive passive bare board bare board

BLADEOptimized

PERFORMANCEOptimized

Recommended for Virtualization

DENSITYOptimized

25

업무에 따른 적합한 GPU 선택동시 사용자 수 및 성능 요구사항에 따라 하드웨어 결정

동시

사용자

수

성능

Tesla

M10

Tesla

P6Tesla

M60

Tesla

P40

일반 사무직

엔지니어 및 디자이너

분석 및 연구자설계 직

단순 업무

Tesla

P100Tesla

P4

Tesla

V100

Tesla

T4

26

Data Center 최적화

27

사무직 사용자

2013 2016 2017 Today

디자이너, 설계자,엔지니어

시뮬레이션, 사진품질 렌더링,

3D 렌더링

Live Migration초고성능 지원

GPU 가속 VDI의 혁신

Virtual GPU 5.0 Virtual GPU 7.0

29

vMotion 지원Delivering the Modern, Agile Data Center

서버최적화유지 인프라 ROI 최적화

단일 인프라 동일 호스트에서 낮에는VDI, 밤에는 HPC, DL 등 서로 다른업무를 효율적으로 운영 가능

서비스 중단 없이 패치 및업그레이드를 원하는 시간에 적용하고, 워크로드 균등 분산 가능 vSphere 6.7.1 및 NVIDIA

Virtual GPU 7.0에서지원

낮 밤

30

유연한 데이터 센터 구성

가용성확보

vMotion 기술을 통한 GPU Live Migration 지원

IT 지원최적화

vROPs 통합 지원을 통한 End-to-end 모니터링

인프라사용률최적화

모든 업무에 대한 가상화 지원낮에는 VDI, 밤에는 HPC/DL

31

서로 다른 업무 운영생산성 및 사용률 향상, 비용 절감

vSphere vMotion with vGPU

End-to-end GPU insights with vROPS

Windows 10 2D EDA 3D Apps Windows 10 2D EDA 3D Apps

CAE HPC Solver VM

Windows 10 2D EDA 3D Apps

32

관리 및 모니터링

Apps and VMs

NVIDIA

Graphics Drivers

VGPUs

NVIDIA virtualization

software

Hypervisor

NVIDIA Tesla

Data Center GPU

END-TO-END 모니터링대 규모 및 핵심 업무에 대한 직관적인 모니터링 제공

✓ 애플리케이션모니터링을통해GPU 사용량에 대한 상세 정보 및헬프데스크기술지원

✓ 게스트모니터링을통한 사용자 별데이터 수집

✓ 호스트모니터링을통한데이터센터/서버상태 확인

33

- GRID environment view 클러스터 상태에 대한 완벽한상태 조회

- Host view 호스트 별 사용량확인

- GPU view GPU 별 직관적인사용량 제공

- vGPU view IT 지원 부서에사이징 및 기술지원에 대한정보 제공

- Application view 가장상세하고 직접적인 GPU 사용량제공

VROPS를 통한 전체GPU 현황 이해

34

NVIDIA VIRTUAL

GPURESOURCES

Virtual GPU Test Drivehttps://www.nvidia.com/tryvgpu

NVIDIA Virtual GPU Websitewww.nvidia.com/virtualgpu

NVIDIA Virtual GPU YouTube Channelhttp://tinyurl.com/gridvideos

Questions? Ask on our Forumshttps://gridforums.nvidia.com

NVIDIA Virtual GPU on LinkedInhttp://linkd.in/QG4A6u

Follow us on Twitter@NVIDIAVirt

Technical Question | Sales Inquirydykim@nvidia.com nvidia-grid@daoudata.co.kr

QUESTIONS?