인터랙티브 웹아트 사이트 gradient.horse가 2026년 1월 공개된 뒤 반년 동안 60만 마리가 넘는 '말(과 말이 아닌 것)'이 그려졌다. 제작자의 표현을 빌리면 이제 야생보다 이 사이트에 더 많은 말이 산다. 누구나 브라우저에서 말 한 마리를 그려 넣을 수 있는 단순한 협업 캔버스지만, 그 규모가 커지자 웹 서비스라면 반드시 마주치는 문제가 그대로 드러났다. 아무 제약 없이 열려 있는 그리기 도구는 곧 성기 그림이나 혐오 표현 같은 반달리즘의 표적이 된다는 점이다.
제작자는 이 문제를 사람이 일일이 지우는 대신 이미지 모델을 직접 학습시켜 자동으로 걸러내는 방식으로 풀었다. 그의 평가에 따르면 이 필터는 '아주 잘' 작동한다. 그러나 같은 글에서 그는 필터의 이면도 솔직하게 인정한다. 반달리즘을 막는 그 모델이 동시에 기발한 그림들도 상당수 숨겨 버린다는 것이다. 사이트에는 이렇게 가려진 '말이 아닌 것들'을 볼 수 있는 SHOW NON-HORSES 설정이 있지만, 대부분의 사용자는 이 옵션을 켜지 않는다.
필터의 정확도가 아니라 '기본값'이 콘텐츠를 결정한다
이 짧은 회고에서 실무자가 가져갈 첫 번째 교훈은 콘텐츠 필터가 이진 판단 문제가 아니라 트레이드오프라는 사실이다. 악의적 콘텐츠(성기, 혐오 표현)를 놓치지 않으려고 재현율을 높이면, 규칙에서 벗어난 창의적 결과물까지 함께 걷어내는 오탐이 늘어난다. 말만 허용하겠다는 좁은 규칙을 이미지 모델로 강제하는 순간, '말처럼 안 생긴 진짜 좋은 그림'과 '치워야 할 낙서'를 구분하는 경계는 모델의 판단에 통째로 위임된다. 완벽한 분류기는 없으므로, 어느 쪽 실수를 감수할지는 결국 설계자가 선택하는 값이다.
두 번째 교훈은 기본값의 힘이다. 숨겨진 그림을 볼 수 있는 스위치가 엄연히 존재하는데도 대다수가 켜지 않는다는 관찰은, 사용자가 기본 상태를 좀처럼 벗어나지 않는다는 오래된 UX 경험칙을 다시 확인시켜 준다. 필터의 판단이 곧 서비스의 얼굴이 되는 이유는 알고리즘이 완벽해서가 아니라, 그 결과가 기본 화면으로 노출되고 대안 뷰는 사실상 아무도 열지 않기 때문이다. 무엇을 기본으로 보여줄지가 실제 사용자 경험의 거의 전부를 좌우한다.
제약이 만들어낸 창의성의 패턴
흥미로운 것은 사람들이 좁은 규칙 안에서 반복적으로 시도하는 주제들이다. 제작자는 성기나 욕설 같은 뻔한 위반 욕구 외에도, 스케이트보드나 트램펄린을 탄 사람, 달팽이, 해마, 밈, 사랑과 철학에 관한 짧은 글이 계속해서 등장한다고 정리했다. 그가 모아 소개한 범주에는 바다를 더한 해마, 공이나 포고스틱 위에서 뛰는 말, 애벌레와 지네처럼 줄지어 늘어선 행렬, 휠체어를 탄 사람과 말, 코끼리·고양이·양 같은 동물, 그리고 '올해의 부조리 밈'이 포함된다.
이 목록은 협업 캔버스에서 흔히 관찰되는 현상을 보여준다. 표현의 자유도를 극단적으로 좁혀 놓으면 사용자들은 그 틈을 비집고 들어가 규칙을 재해석한다. '말'이라는 단 하나의 대상만 허용하는 제약이 오히려 해마, 뛰는 말, 이동 보조기구를 얹은 말 같은 변주를 촉발한 셈이다. 개방형 도구를 설계하는 입장에서 보면, 제약은 창의성의 반대말이 아니라 창의성이 향하는 방향을 정하는 프레임에 가깝다.
동시에 이 사례는 자동 모더레이션에 전적으로 기대는 서비스가 무엇을 잃을 수 있는지도 시사한다. 필터가 안전하게 걸러낸 결과만 노출하는 구조에서는 규칙을 창의적으로 비튼 콘텐츠와 명백한 반달리즘이 같은 처분을 받기 쉽다. 이런 손실을 완전히 없앨 수는 없더라도, 걸러진 콘텐츠를 검토할 수 있는 별도 경로를 남겨 두거나 그 경로의 접근성을 높이는 선택은 설계자가 통제할 수 있는 영역이다.
결국 gradient.horse는 규모가 커진 개방형 웹 서비스가 필연적으로 마주하는 축소판이다. 무엇을 허용하고 무엇을 숨길지, 그 판단을 사람이 할지 모델이 할지, 그리고 그 결과를 기본 화면에 어떻게 배치할지는 서로 얽혀 있다. 반달리즘을 막는 데 성공한 모델이 동시에 기발한 그림을 가린다는 제작자 본인의 고백은, 콘텐츠 필터링이 정확도 지표 하나로 끝나는 문제가 아님을 담담하게 상기시킨다. 참고로 이 프로젝트를 만든 제작자는 크리에이티브 코딩과 UX/UI, 인터랙션 디자인 연구 분야에서 함께 일할 곳을 찾고 있다고 밝혔다.