본문 바로가기
비전검사 기초 및 실무/머신비전 하드웨어

[머신비전 하드웨어편 5편] Sub Pixel 측정 원리 | 1Pixel보다 더 정밀하게 측정하는 머신비전 기술

by eins-solutionlab 2026. 7. 12.

머신비전 시스템에서 가장 많이 받는 질문 중 하나는 바로 "카메라는 Pixel 단위인데 어떻게 0.01mm 이하까지 측정할 수 있을까?"​입니다.

이미지는 Pixel(픽셀)로 구성되어 있기 때문에 이론적으로는 1Pixel보다 작은 값을 측정할 수 없어 보입니다. 하지만 실제 산업 현장에서는 Sub Pixel(서브 픽셀) 기술​을 이용하여 1Pixel보다 훨씬 작은 단위까지 정밀하게 측정합니다.

이번 글에서는 Sub Pixel의 개념부터 측정 원리, 알고리즘, 실제 적용 사례, 주의사항까지 실무 중심으로 자세히 알아보겠습니다.

Sub Pixel이란?

Sub Pixel은 말 그대로 1Pixel보다 더 작은 위치를 계산하는 기술입니다.

예를 들어 Edge가 100Pixel위치에 있다고 단순히 판단하는 것이 아니라 100.27Pixel, 100.46Pixel, 100.83Pixel처럼 소수점 단위의 위치를 계산하는 것입니다.

즉,영상은 Pixel로 저장되지만 측정은 Pixel보다 더 정밀하게 수행됩니다.

왜 Sub Pixel이 필요할까?

예를 들어 Resolution이 0.05mm/Pixel 이라고 가정해 보겠습니다.

일반 Pixel 측정이라면 최소 측정 단위는 0.05mm입니다.

하지만 Sub Pixel 알고리즘을 적용하면 0.01mm 또는 0.005mm 수준까지도 안정적으로 측정할 수 있습니다.

그래서 정밀 치수 검사에서는 Sub Pixel이 거의 필수적으로 사용됩니다.

Pixel만 사용하는 경우

Edge 위치 100Pixel 다음 이미지 101Pixel 만약 실제 Edge가 100.2Pixel 100.5Pixel 100.8Pixel로 움직여도

Pixel 단위에서는 모두 같은 위치로 인식할 수 있습니다.

즉, 미세한 변화는 감지하지 못합니다.

Sub Pixel은 어떻게 계산할까?

카메라는 단순히 흑백만 저장하는 것이 아니라 각 Pixel마다 0~255 Gray Value(밝기 값)를 저장합니다.

예를 들어 

 Pixel Gray Value
98 20
99 45
100 120
101 210
102 245

Edge 주변에서는 Gray Value가 급격히 변합니다.

Sub Pixel 알고리즘은 이 밝기 변화 곡선을 분석하여 실제 Edge 위치를 계산합니다.

Edge Detection이 중요한 이유

Sub Pixel의 핵심은 Edge Detection입니다.

정확한 Edge를 찾아야 정확한 Sub Pixel도 계산됩니다.

대표적인 Edge는 직선, 원, Hole, 외경, 내경 등입니다.

대표적인 Sub Pixel 알고리즘

1. Linear Interpolation

가장 간단한 방식입니다.

Pixel 사이를 직선으로 연결하여 Edge 위치를 계산합니다.

속도가 빠르지만 정확도는 다소 낮습니다.

2. Gaussian Fitting

Gray Value를 가우시안 곡선으로 근사합니다.

가장 많이 사용되는 방법 중 하나입니다.

정확도가 높습니다.

3. Parabolic Fitting

포물선 형태로 계산합니다.

Edge Detection에서 많이 사용됩니다.

4. Spline Interpolation

곡선을 이용한 보간 방법입니다.

매우 높은 정확도를 제공합니다.

다만 계산량이 많습니다.

머신비전 소프트웨어는 어떻게 사용할까?

대표적인 머신비전 소프트웨어는 대부분 Sub Pixel 기능을 기본 제공합니다.

예를 들어 Cognex VisionPro, MVTec HALCON, OpenCV, NI Vision, Keyence Vision

등에서 별도의 알고리즘을 구현하지 않아도 사용할 수 있습니다.

Sub Pixel 정확도는 어느 정도일까?

일반적으로 1Pixel을 10~50등분 정도까지 계산할 수 있습니다.

예를 들어 Resolution이 0.02mm/Pixel 이라면 Sub Pixel 적용 시 0.002~0.0005mm수준의 위치 계산이 가능합니다.

단,실제 정확도는조명과 렌즈 품질에 따라 달라집니다.

Sub Pixel 정확도를 높이는 방법

1. 좋은 조명 사용

균일한 조명일수록 Edge가 선명해집니다.

2. 고품질 렌즈 사용

왜곡이 적은 렌즈가 더 높은 정확도를 제공합니다.

3. Camera Calibration

왜곡을 제거하면 Sub Pixel 정확도가 향상됩니다.

4. 높은 SNR 확보

노이즈가 적은 영상이 더 좋은 결과를 제공합니다.

5. 충분한 해상도 확보

Resolution이 부족하면 Sub Pixel도 한계가 있습니다.

Sub Pixel이 필요한 분야

대표적인 적용 분야입니다.

  • 반도체 검사
  • PCB 검사
  • 자동차 부품 검사
  • 의료기기 검사
  • 디스플레이 검사
  • 정밀 가공품 검사
  • Hole 측정
  • 외경 측정
  • Gap 측정
  • Alignment 검사

Pixel Resolution과 관계

많은 사람들이 Sub Pixel을 사용하면 Resolution이 필요 없다고 생각합니다.

하지만 그렇지 않습니다.

예를 들어 0.5mm/Pixel, Resolution에서는 아무리 좋은 Sub Pixel을 사용해도 0.001mm 측정은 어렵습니다.

즉,Resolution이 충분해야 Sub Pixel도 의미가 있습니다.

실제 적용 사례

배터리 전극 폭을 측정하는 검사 장비에서 Resolution은 0.03mm/Pixel이었습니다.

Pixel만 사용할 경우 측정값이 ±0.03mm 단위로만 변했습니다.

Sub Pixel 알고리즘을 적용한 후 반복 측정 오차가 ±0.005mm 수준으로 감소하여 제품 품질 관리가 크게 향상되었습니다.

Sub Pixel 사용 시 주의사항

  • 초점(Focus)을 정확하게 맞춥니다.
  • 렌즈 왜곡을 먼저 보정합니다.
  • 조명을 일정하게 유지합니다.
  • 노이즈를 최소화합니다.
  • Camera Calibration을 먼저 수행합니다.
  • 해상도가 충분한 카메라를 선택합니다.

실패 사례

사례 1. 조명이 불안정한 경우

LED 조명의 밝기가 일정하지 않아 Edge 위치가 계속 달라졌습니다. Sub Pixel 알고리즘은 정상적으로 동작했지만 입력 영상이 불안정하여 측정값이 흔들렸습니다.

교훈: Sub Pixel의 정확도는 알고리즘보다 입력 영상 품질에 더 큰 영향을 받습니다.

사례 2. 해상도가 너무 낮은 경우

넓은 검사 영역을 한 대의 카메라로 촬영하면서 Resolution이 0.15mm/Pixel까지 낮아졌습니다. Sub Pixel을 적용해도 요구되는 ±0.01mm 공차를 만족하지 못했습니다.

교훈: Sub Pixel은 Resolution의 한계를 완전히 극복할 수는 없습니다.

사례 3. 초점이 맞지 않은 경우

렌즈 초점이 약간 벗어나 Edge가 흐려졌습니다. Pixel 측정보다 오히려 Sub Pixel 측정값의 편차가 커졌고, 초점을 다시 맞춘 후 안정적인 결과를 얻었습니다.

교훈: 선명한 Edge가 있어야 Sub Pixel도 높은 정확도를 발휘합니다.

자주 묻는 질문(Q&A)

Q1. Sub Pixel은 실제로 1Pixel보다 작은 값을 측정하는 것인가요?

엄밀히 말하면 새로운 Pixel을 만드는 것이 아니라, Pixel 밝기 변화를 분석하여 Edge의 위치를 소수점 단위로 추정하는 기술입니다.

Q2. 모든 머신비전 시스템에서 Sub Pixel을 사용하나요?

정밀 치수 측정, 위치 보정, Alignment 검사에서는 대부분 사용합니다. 단순 유무 검사에서는 필요하지 않은 경우도 있습니다.

Q3. OpenCV에서도 Sub Pixel을 사용할 수 있나요?

가능합니다. 대표적으로 cornerSubPix() 함수가 있으며, 코너 위치를 Sub Pixel 수준으로 보정할 수 있습니다.

Q4. Sub Pixel만 적용하면 측정 정확도가 항상 좋아지나요?

아닙니다. 조명, 렌즈, Camera Calibration, Resolution, 초점이 함께 최적화되어야 효과를 얻을 수 있습니다.

Q5. 어느 정도의 정확도까지 측정할 수 있나요?

시스템 구성에 따라 다르지만, 일반적으로 1Pixel의 1/10~1/50 수준까지 위치를 계산하는 경우가 많습니다. 실제 측정 정확도는 광학계와 환경에 크게 영향을 받습니다.

마무리

Sub Pixel 기술은 머신비전이 사람의 눈보다 더 정밀한 측정을 가능하게 하는 핵심 기술입니다.

하지만 높은 정확도를 얻기 위해서는 Sub Pixel 알고리즘만 중요한 것이 아니라 카메라 해상도, 렌즈 품질, 조명, Camera Calibration, Pixel Resolution​까지 함께 최적화해야 합니다.

정확한 광학 설계와 안정적인 영상 품질이 확보될 때 Sub Pixel은 최고의 성능을 발휘합니다.

다음 편에서는 광학 배율(Magnification) 계산 방법​을 통해 렌즈 배율 계산, 센서 크기와 FOV의 관계, 카메라 선택 방법까지 실무 중심으로 자세히 알아보겠습니다.