Download - 3차원 프린팅 적용을 위한 수술계획 소프트웨어 개발 (KIST 김영준)
3D 프린팅적용을위한수술계획 SW 개발
2017.03.17
한국과학기술연구원 의공학연구소
김 영 준
2
3D 의료영상처리 S/W
3
▶ 3D 가상 수술 :시술방법 최적화수술가이드 설계 및 3D 프린팅 지원간편한 수술 계획 인터페이스효과적인 진단 정보 가시화
▶ 3D 환자모델링 :신경, 혈관, 뼈, 피부 등 복합가시화환자 모델링 자동화
▶ 3D 형상 모델 처리기술 :Mesh HealingBoolean Operation3D Sketch
시장성 및 연구동향 –
3D 모델링 S/W
▶ Autodesk(미국)
▶ 3D systems(미국)
: Geomagic(미국)과 Inus Technology(한국,
제품명 Rapidform)인수 합병
▶ Materialise(벨기에)
▶ Dassault Systems(프랑스) 등
▶ 서구 선진국 중심 개발
GrabCAD (Stratasys co.)
Magics (Materialise co.)
Cura (Ultimaker co., 오픈소스)
Simplify3D
3DSIM
Astroprint
MatterControl 등
▶ 3D 프린팅용 Slicing 및 G-code
생성기능 기본 제공
▶ 최근 Cloud 기반의 서비스,
설계 최적화 기능(support 최적화 등)
탑재
3D 프린팅 S/W
시장성 및 연구동향 –
▶ 국내의 3차원 모델링 및 프린팅
SW 제품은 해외 기술에 100% 의존
<국내 기술개발 기관>
한국과학기술연구원,
경북대 3D 융합기술지원센터,
㈜쓰리디시스템즈코리아, ㈜신도리코,
㈜코어라인소프트 등
▶ 시사점
- 과거, 국내 ㈜Inus Technology의 Rapidform이 역설계공학 분야 전세계 시장점유율 1
Geomagic(미국)을 뛰어넘었던 사례 국내의 3D 관련 SW기술 충분한 잠재력 보유
- 고가의 외산 소프트웨어에 의존하고 있는 실정을 감안할 때,
정부 차원의 3D 모델링/프린팅 SW 분야 지원 필요
시장성 및 연구동향 –
3D 모델링/프린팅 S/W
시장성 및 연구동향 –
Medical Image Analysis S/W Market Worth $4.5 Billion By 2024
http://www.grandviewresearch.com/press-release/global-medical-image-analysis-software-market
• The medical image analysis software market is expected to reach USD 4.5 billion by 2024,
according to a new report by Grand View Research, Inc.
• The stand-alone software segment is anticipated to grow at a lucrative CAGR of over 7.5% over
the forecast period
https://www.appsruntheworld.com/top-10-healthcare-software-vendors-and-market-forecast-2015-2020/
Healthcare
시장성 및 연구동향 –
599
377
844
598
693
810
2010 2011 2012 2013 2014 2015
0
100
200
300
400
500
600
700
800
900
(백억원)
의료영상처리소프트웨어
국내시장규모
의료용영상처리용장치·소프트웨어(A26430)의 국내 시장
2010년~2015년 동안 연평균 13.81% 성장
식품의약품안전처, 의료기기 생산 및 수출입 실적 통계 (2010-2015)
시장성 및 연구동향 –
0
20
40
60
80
100
120
1987 1990 1993 1996 1999 2002 2005 2008 2011 2014
출원건수
출원년도
미공개특허존재
3D 프린팅 지원 소프트웨어 관련 분야는 분야는 1987년부터 특허 출현이 시작되어 1990년대 후반부터
꾸준한 증가세 보임
3D 프린팅 기술 적용을 위한 복잡한 형상 및 곡명 형상의 정밀한 프린팅 기술 및 소프트웨어 기술 분야
는 3D 프린팅을 기반으로 하는 의료기기 기술과 밀접하게 연관
미국 동향이 전체 동향을 주도하며, 2000년대에 들어서부터 전체 출원건수 증가 성장기
미국을 제외한 주요 출원국의 경우 1999년 이후부터 출원건수 증가
주요 출원국 내 기술에 대한 관심도 증가로 인한 연구개발 및 특허출원증가
국제특허의 경우 1999년부터 출원 증가 경향 세계 시장 대상으로의관심 확장
미국 출원의 출원 주도 경향이 향후 10~15년 간 유효할 것으로 예측됨
회복• 기술의 유용성 재발견, 대체기술의 쇠퇴• 특허와 출원인 수가 증가추세로 전환
쇠퇴
• 대체기술의 출현, 기술발전의 불연속점 발생
• 특허수의 감소, 특허출원인의 정체 도는 감소
성숙• 지속적인 연구개발 활동, 일부업체의 도태• 특허수의 정체, 특허출원인수의 정체 또는
감소
성장• R&D의 급격한 증가, 경쟁의 격화• 특허와 출원인의 빠른 증가
태동• 신기술의 출현• 특허와 특허출원인의 적은 증가
V
IV
III
II
I
현위치
[1구간~5구간 : 지속적으로 출원인수 및 출원건수 지속적 증가
기술시장 성장단계 : 성장기
0
100
200
300
400
500
600
0 50 100 150 200 250 300 350
출원건수
출원인수
Total
1구간('85-
'91)2구간('92-
'98)3구간('99-
'04)4구간('05-
'09)
Contents
3D 환자 모델링
3D 의료 프린팅을 위한 S/W 기술
응용개발사례: 3D 악안면 재건 S/W
• 하악골 재건수술
• 안와골절 재건수술
12
3D 환자모델링 - Segmentation & Reconstruction
13
Difficulties in segmentation of medical images
Mixture of low and high contrast
Inhomogeneous region
Multiple target regions with weak boundaries
Active Contours Segmentation using Level set method
original iso-value desirable result
Ex.1. Leg bone CT Ex.2. Abdominal CT
original result
3D 환자모델링 – Abdominal CT
14
Automatic segmentation of Liver, Tumor, Vessel, Skin, Spine, Spleen, and Kidney
1. Liver
2. Tumor @Liver
3. Vessels @Liver
4. Spine
5. Spleen
6. Kidney
7. Skin
Abdominal organsAbdominal
Organs + CT
Liver model
752
3
4
1
6
Original image Adjusted image
Active contouring
† Dr. Sunhee Kim, KIST
3D 환자모델링 – Shoulder MR
15
3D 회전근개 모델링
정상인 대파열 환자 소파열 환자
회전근개 모델 3차원 뷰어
: Volume data + STL mesh models 복합
Segmentation Results (Supraspinatus)
3차원모델링의실험및평가- 실험 데이터 수 : 5개- 비교 방법 수 : 5가지 (기존 영상분할 방법 2가지(RSF, RE), 수동 분할, 전문가1,2에의한 각 분할)
- 분할 정확도 측정: Dice Ratio(DR) =2|𝐴⋂𝐵|
𝐴 +|𝐵|, 𝑨 : 참조분할의모든복셀, 𝐵 : 실험결과의모든복셀 → 1에 가까울수록실험 결과를신뢰할수있음.
파란색: 전문가1,2에 의한분할결과들간의 dice ratio
빨간색: 전문가1과각 방법간의 dice ratio
연두색: 전문가2와각 방법간의 dice ratio
→ 다른방법들에비해전문가분할결과간의 dice ratio와유사한범주를가지며, 0.94 이상의높은신뢰도를가짐
3차원모델링오차 2차원영상간의비교
RSF RE원 영상 제안된방법 전문가1 전문가2
3.0mm
0mm
RSF RE 수동 분할 제안된방법
3.0mm
0mm
RSF RE 수동 분할 제안된방법
5.13 mm 0.95 mm 0.86 mm 0.44 mm 평균오차
2.53 mm 0.75 mm 0.65 mm 0.52 mm 평균오차
3D 프린팅활용의학실습
17
서울대학교의과대학해부학수업, 2015. 5. 21 / 2016. 6. 3 / 2017. 6. 2 (예정)
Contents
3D 환자 모델링
3D 의료 프린팅을 위한 S/W 기술
응용개발사례: 3D 악안면 재건 S/W
• 하악골 재건수술
• 안와골절 재건수술
18
Geometric Theory and Polygons Mesh: a group of polygons connected by shared vertices
Non-self-intersection: no edge passes through a polygon
Manifold: does not contain holes or singularities
19
Raft, Skirt, Brim, SupportRaft
- 출력물이조형판바닥에닿는면적이적은경우- 출력완료후 별도로떼어내야함
Skirt
- 조형판위에제대로배치되어출력이되는지확인가능
- 이전출력의소재찌꺼기제거
Brim
- 모델의주변을빙둘러테두리출력
- 모델이조형판과분리되는현상방지
https://www.simplify3d.com/support/tutorials/rafts-skirts-and-brims/20
Support
G CodeG Code: 수치제어(NC, Numerical Control) 공작기계용표준코드
Front End Software: 3D 프린팅제어소프트웨어
STL 파일을읽어적층 모델로변환
G code 생성
Slicing Software라고도함
21
Cura Slic3r Gcode generator Makerware
Mesh Operation (Binary Creation) Create a new mesh from a binary operation of two other meshes
Add, Subtract, Intersect, Union,
Attach - attach one mesh to another (removing the interior surfaces)
Chamfer - create a beveled surface which smoothly connects two
surfaces
22
Mesh Operation (Deformation)Deform - systematically move vertices
Morph - move vertices smoothly btw source and target mesh
Bend - move vertices to "bend" the object
Twist - move vertices to "twist" the object
23http://wiki.heroengine.com/wiki/FaceGen_Pipeline
Mesh Operation (Manipulation) Modify the geometry of the mesh, but not necessarily topology
Simplify (Decimate), Subdivide, Smooth, Convex Hull, Cut, Stitch
24http://wiki.heroengine.com/wiki/FaceGen_Pipeline
Convex Hull
㈜에이팀벤처스기술이전요청기술
25
Mesh Healing
3D 프린팅 방식에 따른 서포트 및 G-code 생성
Contents
3D Maxillofacial Reconstructive Surgery
• Mandibular Reconstruction
• Orbital Fracture Reconstruction
26
27
3D virtual surgical planning
Automatic 3D patient modeling
FEM analysis for optimization of surgical procedures
Automatic 3D patient modeling (mandible, fibula, vessels, etc.)
Virtual surgery – arrangement of bones, optimization of fibula free flap
FEM analysis – optimization of plates, screw arrangements, surgical procedures,
3D Surgical Planning
28
Preparation Time (>10 hours)
Manual Segmentation
Not specialized in maxillofacial recon. surg.
Expensive, Foreign Company (> 40,000 USD)
MimicsTM (Materialise, Belgium)
Problems of existing S/W Clinical Needs
Specialized S/W for maxillofacial recon. surg. for
Korean patients
Automation of manual process
Easy to use
Optimized virtual surgical planning
Preoperative Virtual Simulation
Prof. Jung-woo Lee (Kyunghee Univ.)
Prof. Jong Woo Choi (Asan Medical Center)
Dr. Yong-chan Lee (Bastian Seoul Hospital)
Patient-specific Surgical Guide using 3D Printing
29
3D Surgical Planning
30
1) 3D Patient Modeling
31
Mesh Healing
32
Original MeshFix Proposed method
Mesh Healing (Test Results)
33
2) 3D Surgical Planning (Semi-automatic)
34
Multi-view Display
35
Boolean Operations
36
Bone Resection
Cutting plane
Boolean Operation
(Subtraction)
37(a) Define of resection area (b) Removal of resection area
3) 3D Surgical Planning (Automatic)
38
Automatic Fibular Positioning & Resection
39
(a) Extraction of Posterior Line & Lateral Line (b) Automatic positioning of fibular segments
(c) Line Segment vector of mandibular segment
𝒎𝒑𝒊 𝒎𝒑𝒊+𝟏 𝒇𝒑𝒊 𝒇𝒑𝒊+𝟏
𝑴𝑺𝒊𝑭𝑺𝒊
(d) Line segment vector of fibular segment
M = 𝑇(𝑚𝑝𝑖−𝑓𝑝𝑖) ∙ 𝑇𝑓𝑝𝑖 ∙ 𝑅𝑓𝑚 ∙ 𝑇𝑓𝑝𝑖−1, 𝑅𝑓𝑚 ∶ Rotation around 𝐹𝑆𝑖 ×𝑀𝑆𝑖 by arccos 𝐹𝑆𝑖 ∙ 𝑀𝑆𝑖
Modeling of Surgical Cutting Guide (1)
40
Modeling of Surgical Cutting Guide (2)
41
2D Drawing Selection
Offset
Modeling of Surgical Cutting Guide (3)
42
3D Printing Results
43
기존 S/W와의비교
44
Mimics & 3-matic(Materialize co.)
Developed S/W(KIST)
PlanningAutomatic planning
of mandible reconstruction
X O
CADFunctions
Healing O O
Boolean O O
Translation O O
Rotation O O
Mate Δ O
Multithreading X O
Cutting Plane
Creation O O
Modification Δ O
Thickness Δ O
CT image projection X O
Display in CT slice O O
Contour of bone X O
View
Multi-rendering view
X O
CT slice view Δ O
Sub-view for fibula X O
MeshManagement
Mesh export O O
Color/Transparency Δ O
Transform Lock X O
User Study(Department of Oral and Maxillofacial Surgery,
Kyunghee Univ.)
• User-friendly interface
• Easy to use
- Multi-rendering view, sub-view for fibula
- Transform lock
- Reduced planning time
User Study
45
4.23 4.26 4.41
3.26 3.24 3.22
0
1
2
3
4
5
편의성 유용성 소요시간
사용자설문평가결과
KIST Mimics
대한악안면성형재건외과학회 전문가 설문조사
2016.11.4, 광주 김대중컨벤션센터
[설문 응답자]
• 소속: 이대 목동병원, 서울대 치대 임상시험센터,
단국대, 가톨릭 관동대 국제성모병원, 경희대 치대(2)
• 신분 및 연차: 교수 (2), 전임의 (3), 치과 대학원생
• 수술 경험: 무(2), 1회, 5~7회, 20회, 어시스트 2년
46
Contents
3D Maxillofacial Reconstructive Surgery
• Mandibular Reconstruction
• Orbital Fracture Reconstruction
47
3D Planning S/W for Orbital Fracture Reconstruction
48
AMC-KIST 공동연구 과제
공동 PI: 서울아산병원 성형외과 최종우 교수님
Orbital wall modeling(Semi-automatic segmentation)
Fracture display 3D analysis Patient-specific Implant design
Mirroring & Registration
Better surgical outcomeShortening surgical time in OREnhancing patient safety
49
3D Patient Modeling
Semi-Automatic Orbital Wall Modeling
기존 SW: 100장 이상의 영상에 대해 수작업
모델링 소요시간 1/10 수준으로 감소
Patient #1 Patient # 2 Patient # 3
Facial bone CT Thresholding Ethmoid 분할 Orbital wall 분할 3D model
제안 기술
3D Visualization of Patient Model
50
51
Automatic Detection of Orbital Fracture
Surgical Planning SW
3D Diagnosis
52
Measurement (length, angle, volume, ex- or enophthalmos)
Multiple display (orbit, optic nerve)3D orbit volume
Real-time Surgical Navigation (1)
53
Pre-Op. Planning
Patient
CT scanning, 3D modeling
Virtual surgical planning
Patient-specific plate
Registration
Patient 3D virtual model (plate + marker)
Intra-Op. Navigation
Real-time surgical navigation
Real-time Surgical Navigation (2)
54
Anatomical Landmark(외이도관 및 치아)
Portal forlandmark
Upper teeth model
치아부설계
Patient-Specific 광학식 추적 마커 프레임
3D Printed frame
Design SW
55
ApplicationsPlastic surgery, Orthognathic surgery, Orthopedic surgery, etc.
56
의료기기인증
57
의료기기법에 따른 의료기기 소프트웨어의 품질관리시스템 구축
품목군: 생체현상 측정기기
품목명: 의료영상 분석장치 소프트웨어(A26430.11), 2등급
• 식품의약품안전처 임상 GMP 적합인정서 획득 (2016.11)
임상시험계획승인신청
임상시험계획승인신청서
임상시험계획서
임상시험실시기관승인서 (IRB)
임상 GMP 적합인정서
기술문서 및관련 자료
제조시설/공정도
소프트웨어 품질기록, 데이터
소프트웨어 검증 및 유효성 확인 보고서
품질매뉴얼
절차서
GMP 적합인정신청서
임상 GMP 적합인정서
지침서
제품표준서
성능 및 유효성확인 자료
* GMP(Good Manufacturing Practice) – 의료기기 제조 및 품질관리 기준
기술이전관심기업: O***, D***, A***, G***, ..
58
S/W 경진대회수상대상, The 17th CDE S/W 경진대회,
2016.8 (미래창조과학부 장관상)
향후연구계획 – AI기반 3D 수술 S/W 기술
59
준비단계
환자 3D 데이터
AI수술진단
Classification
AI수술계획
치료방법추천
AI수술분석
수술결과분석
Summary
3D 환자 모델링
3D 의료 프린팅을 위한 S/W 기술
응용개발사례: 3D 악안면 재건 S/W
• 하악골 재건수술
• 안와골절 재건수술
Thank you!
61
Contact Information
Youngjun Kim, Ph.D.
- Center for Bionics, Korea Institute of Science and Technology
- E-mail: [email protected]
- Tel.: 02-958-5606
Journal Paper Publication (2016~)1. S. Kim, D. Lee, S. Park, K. Oh, S.W. Chung, Y. Kim, "Automatic segmentation of supraspinatus from MRI by internal shape fitting and
autocorrection", Computer Methods and Programs in Biomedicine, Vol. 140, pp. 165-174, Mar. 2017
2. Y. Kim, B.H. Lee, K. Mekuria, H. Cho, S. Park, J.H. Wang, D. Lee, "❍ Registration accuracy enhancement of a surgical navigation system for
anterior cruciate ligament reconstruction: A phantom and cadaveric study", The Knee, S0968-0160(16)30248-4, Feb. 2017
3. C. K. Lee, Y. Kim, N. Lee, B. Kim, D.Y. Kim, S. Yi, "Feasibility study of utilization of action camera, GoPro Hero 4, Google glass and Panasonic HX-
A100 in Spine surgery", Spine, Vol. 42, No. 4, pp. 275-280, Feb. 2017
4. Q.C. Nguyen, Y. Kim, H. Kwon, "Optimization of layout and path planning of surgical robotic system", Int’l Journal of Control, Automation and
Systems, DOI: 10.1007/s12555-015-0418-z, Jan. 2017
5. Q.C. Nguyen*, Y. Kim*, S. Park, H. Kwon, "End-effector path planning and collision avoidance for robot-assisted surgical system", Int’l Journal of
Precision Engineering and Manufacturing, *These authors contributed equally to this work, Vol. 17, No. 12, Dec. 2016
6. B.H. Lee, D.H. Kum, I.J. Rhyu, Y. Kim, H. Cho, J.H. Wang, "Clinical advantages of image-free navigation system using surface-based registration in
anatomical anterior cruciate ligament reconstruction", Knee Surgery, Sports Traumatology, Arthroscopy, Vol. 24, No. 11, pp. 3556-3564, Nov. 2016
7. J.G. Seo*, S.M. Kim, J.M. Shin, Y. Kim*, B.H. Lee, "Safety of simultaneous bilateral total knee arthroplasty using an extramedullary referencing
system: results from 2098 consecutive patients", Archives of Orthopaedic and Trauma Surgery, Vol. 136, No. 11, pp. 1615-1621, Nov. 2016
8. Y. Kim, Y.H. Na, L. Xing, R. Lee, S. Park, "Automatic deformable surface registration for medical applications by radial basis function-based robust
point-matching", Computers in Biology and Medicine, Vol. 77, No. 1, pp. 173-181, Oct. 2016
9. S.H. Park, S.W. Moon, B.H. Lee, S. Park, Y. Kim, D. Lee, S. Lim, J.H. Wang, "Arthroscopically blind anatomical anterior cruciate ligament
reconstruction using only navigation guidance: a cadaveric study", The Knee, DOI: 10.1016/j.knee.2016.02.020, Jul. 2016 (Epub ahead of print)
10. J.P. Yoon, S.W. Chung, J. Kim, H.S. Kim, H.J. Lee, W.J. Jeong, K.S. Oh, D.O. Lee, A. Seo, Y. Kim, "Intra-articular injection, subacromial injection,
and hydrodilatation for primary frozen shoulder: a randomized clinical trial", Journal of Shoulder and Elbow Surgery, Vol. 25, No. 3, pp. 376-383, Mar.
2016
11. J. Charton, L. Kim, Y. Kim, "Boolean operations by a robust, exact, and simple method between two colliding shells". Journal of Advanced
Mechanical Design, Systems, and Manufacturing, (Accepted)
12. E. Shim, Y. Kim, D. Lee, B.H. Lee, S. Woo, K. Lee, “2D-3D registration for 3D analysis of lower limb alignment in a weight-bearing condition”,
Applied Mathematics – Journal of Chinese Universities(Accepted)
13. Y. Choi*, Y. Kim*, E. Park, “Patient-specific augmentation rhinoplasty using a three-dimensional simulation program and three-dimensional printing“,
Aesthetic Plastic Surgery, (Accepted)
14. S.W. Chung, …, Y. Kim, "Serial Changes in 3-Dimensional Supraspinatus Muscle Volume following Rotator Cuff Repair", The American Journal of
Sports Medicine, (Accepted)
62