K-평균
군집화

라벨 없이 비슷한 것끼리

지금까지는 정답이 붙은 데이터를 배웠다.
K-평균은 정답이 없다.

지도학습은 “이건 고양이, 저건 개” 라벨을 보고 배운다.
K-평균은 그런 라벨이 하나도 없다.

가진 건 점들의 위치, 즉 특징뿐이다.
가까이 모인 점은 비슷한 것으로, 멀리 떨어진 점은 다른 것으로 본다.
이렇게 구조만으로 묶는 방식을 비지도학습이라 한다.

그래서 답을 맞히는 게 아니라 데이터를 탐색하고 세분화하는 데 쓴다.
예를 들어 고객을 비슷한 무리로 갈라 마케팅에 활용한다.

배정하고 이동하고 반복한다

K-평균은 딱 두 동작을 번갈아 반복한다.

첫째, 배정 단계에서 각 점을 가장 가까운 중심에 붙인다.
둘째, 이동 단계에서 그 중심을 자기에게 붙은 점들의 평균 위치로 옮긴다.

옮긴 중심으로 다시 배정을 한다.
그럼 또 배정이 바뀌고, 또 평균으로 옮긴다.

이걸 돌리면 중심이 점점 덩어리 한가운데로 빨려 들어간다.
중심이 더 안 움직이면 멈추는데, 이것을 수렴이라 한다.
이름에 들어간 “평균(means)”이 바로 이 이동 단계다.

직접 돌려보기

오른쪽 Lab에서 직접 돌려본다.

반복 한 스텝을 누를 때마다 배정으로 점 색이 바뀌고 이동으로 마름모가 움직이는 일이 한 번 일어난다.

몇 번 누르면 점 색이 더 안 바뀌고 중심도 멈춘다.
그게 수렴이다. 그 순간 화면에 “수렴함”이 뜬다.

마름모가 자연스러운 세 덩어리 한가운데로 빨려 들어가는 게 보인다.
정답을 안 줬는데 구조를 스스로 찾아낸 것이다.

k는 사람이 정한다

K-평균은 군집이 몇 개인지 스스로 모른다.
k는 사람이 미리 정해줘야 한다.

같은 점구름이라도 k가 2면 둘로, 4면 넷으로 쪼갠다.
어느 쪽이 맞는지는 데이터가 안 알려준다.

그래서 적당한 k를 고르는 건 분석가의 판단이다.
관성이 꺾이는 지점을 보는 엘보우 같은 기준을 참고하되, 결국 사람이 정한다.

초기값에 민감하다

중심을 어디에 처음 뿌렸느냐에 따라 결과가 달라진다.

운 나쁘게 두 중심이 한 덩어리에 몰리면, 거기 갇혀 엉뚱하게 수렴한다.
이게 국소 최소에 빠지는 것이다.

실무에선 초기값을 바꿔 여러 번 돌리고 관성이 가장 작은 결과를 고른다.
중심을 멀찍이 흩뿌리는 k-means++ 초기화도 흔히 쓴다.

Lab에서 중심 다시 뿌리기를 눌러 시작 위치가 결과를 바꾸는 걸 직접 봐도 된다.