양자화는 양자 컴퓨터나 양자역학이랑 관련이 있나요?

질문

양자화라는 개념이 이해가 잘 안 갑니다. 지금 모델들이 이미 양자화됐다는데, 양자 컴퓨터가 아니어도 그게 가능한 건가요?

짧은 답

양자 컴퓨터와는 관계가 없습니다. 여기서 말하는 양자화(quantization)는 아주 세밀한 값을, 정해진 몇 개의 눈금 중 가장 가까운 값으로 바꾸는 것입니다. 일반 컴퓨터에서 하는 숫자 처리입니다.

조금 더 자세히

AI 모델 안에는 가중치라는 숫자가 수십억에서 수천억 개 들어 있습니다. 이 숫자 하나를 16비트나 32비트로 아주 세밀하게 저장하면 메모리를 많이 차지합니다. 양자화는 이 숫자들을 8비트나 4비트처럼 표현할 수 있는 값의 가짓수가 적은 형식으로 바꿔서, 메모리를 줄이고 계산을 빠르게 하는 방법입니다. 대신 조금 덜 정확해집니다.

오픈채팅방에서 나온 비유들이 잘 맞습니다.

• 마라톤 42.195km를 “약 42km”라고 하기: 1km 단위 눈금을 정해두고, 가장 가까운 눈금에 맞춘 것입니다.
• 사진의 색 수나 픽셀 수 줄이기: 멀리서 보면 비슷하지만, 가까이 보면 덜 세밀합니다.
• 숫자 반올림: 반올림도 정해진 눈금(예: 정수)에 맞추는 것이라 양자화의 한 방법입니다.

핵심은 “아무 값이나 쓰는 게 아니라, 정해둔 눈금 위의 값만 쓰게 된다” 는 것입니다.

왜 이름이 “양자”일까요

“양자(quantum)“는 라틴어로 “얼마만큼의 양”이라는 뜻입니다. 양자화는 넓게 말해 연속적인 값을 띄엄띄엄한 단계로 나누는 것이고, 이 뜻으로 여러 분야에서 쓰입니다.

• 물리학: 에너지 같은 값이 연속적이지 않고 띄엄띄엄한 값만 가진다는 것을 양자화라고 부릅니다. 이 생각은 1900년 막스 플랑크가 빛의 에너지가 특정 단위(에너지 양자)의 정수배로만 나온다고 제안하면서 시작됐고, 1905년 아인슈타인의 광양자설, 1913년 보어의 원자 모형(전자 궤도가 띄엄띄엄 떨어져 있다)으로 이어졌습니다. 1926년 슈뢰딩거의 논문 제목 “고유값 문제로서의 양자화(Quantisierung als Eigenwertproblem)“에서도 이 단어를 볼 수 있습니다.
• 신호 처리: 소리 같은 아날로그 신호를 디지털로 바꿀 때, 연속적인 전압을 0~255 같은 정해진 단계로 나타내는 것을 양자화라고 부릅니다. 1937년에 제안된 PCM(펄스 부호 변조)이 대표적인 예입니다.
• AI: 신호 처리의 뜻을 그대로 가져와, 가중치를 정해진 단계로 나타내는 것을 양자화라고 부릅니다.