본문 바로가기
Tangible UI

Touch or No Touch: Next User Interface (1/2)

by Stan1ey 2007. 12. 19.

사실 이런 문제를 고민해야 한다는 것 자체가 문제이긴 하지만, UI라는 개념.. 혹은 업종이 세간의 관심을 받게 되면서 어쩔 수 없는 일이지 싶기도 하다. 사실 무슨 UI로 조작하느냐가 아니라 어떤 유용한 기능을 어떤 이해하기 쉬운 구성과 간단한 방법으로 사용할 수 있게 하느냐가 UI design의 처음이자 끝일텐데, 요즘 들어오는 질문들은 항상 "앞으로 무슨 UI가 뜰 것 같아요?" 라는 거다. (사실 딱 세 번 정도였던가... -_-;; )

어쨌든.

그런 질문에 대한 의견은 이전의 글에서 말한 것과 같지만, Apple iPhone 이래로 달라진 것이 있다면 "혹시 Touch UI 일까요?" 라는 자문자답이 따라붙는다는 거다. iPhone 이전에도 터치방식이 없었던 것이 아니고, 아니 GUI가 시작되었을 때에 이미 Light Pen이 있었으니 터치는 HCI의 시작과 함께 시작되었다고 봐도 될꺼다. 이제와서 굳이 새로운(?) 총아로 주목받는 이유는 역시 이제까지 모호하게 정리되지 않고 있던 Touch UI 의 모범적이고 완성도있는 UI 사례를 Apple이 보여줬기 때문일 것이다. 실제로 Apple의 iPhone Human Interface Guideline을 보면 비록 하나의 제품에 올린 제한된 기능에 대한 것이라고는 해도 참 여러가지를 고민한 끝에 지르는 "야!야!야~! 터치는 이렇게 쓰는 거야!"라는 호통이 페이지마다 들린다.


사실 터치가 소위 "Next UI"의 주인공이 되리라는 것은 현재 상황에서 그저 당연해 보인다. 마치 유명한 디자이너가 "올 겨울 유행은 블랙입니다!" 하면 - 사실은 그 소리를 들은 다른 자신없는 누군가들이 그 말을 "블랙이랍니다. 그래서~" 하고 인용했기 때문일지라도 - 그 예측이 맞아떨어지듯이, Apple이 내놓은 일련의 Touch UI 제품들(iPod의 Click Wheel 과 iPhone의 Mutli-touch)의 몇년에 걸친 성공을 보면서 다른 제조사들은 홀린 듯이 Touch UI 관련 기획과 제품을 내놓고 있다.

디자인 계의 유행색 예감 -_- 과 작금의 Touch UI 유행의 차이점이 있다면, 정작 Apple은 차세대 UI가 Touch라는 소리를 한 적이 없다는 것이다. 우리가 보고 있는 것은 기계적인 Wheel에서 시행착오를 거쳐 적용된 터치 방식의 휠이고, 큰 화면의 모바일 기기에서 당연히 들어가야 할 터치기술이 각각의 기능에 맞게 잘 조정된 사례들일 뿐이지, 무슨 차세대 UI의 계시 같은 게 아니다.


무엇보다, 터치 관련 기술은 몇가지 장단점과 한계가 있을 수 있다. 우선 화면 상에서 터치를 인식하는 (터치인식의 범위를 화면으로 한정하는 건 뭐... 나름의 이유가 있다 -_- ) 기술은 흔히 알려진 감압식(感壓式; = 저항식 resistive)과 정전기식(= 정전용략방식 capacity) 방식 외에도 몇가지가 더 있다. 하나씩 UI... HTI 측면에서 장단점을 보자면 다음과 같다. (아래 목록은 Wikipedia의 도움을 받았지만, 구성은 내가 맘대로 - 즉, 어깨너머로라도 경험한 만큼만 - 바꿨다)


1. 감압식
살짝 떨어져 있는 2개의 얇은 막이 눌려 서로 닿은 점의 좌표를 X축과 Y축을 나타내는 두 저항값의 변화로 알아내는 방식이다. 물리적으로 동작하는 것인만큼 내구성 문제가 있고, 막이 2개에 중간에 공기층(혹은 기름층)까지 있다보니 원래의 화면 밝기보다 많이 어두워진다. 무엇보다 저항값 2개만 사용하므로 원칙적으로 멀티터치란 있을 수 없고(교묘하게 dual touch를 구현한 사례가 있기는 하다), 어딘가의 부품에 문제가 생기면 저항값이 어그러져 다시 calibration (주로 화면 네 귀퉁이를 찍어서) 해야 하는 경우가 생긴다.

하지만, 이 방식은 손가락이 아닌 다른 물건으로도 어쨋든 화면에 압력을 가하면 되기에 거친 사용환경에 적합한 방식이고 값도 싸므로 버리기 힘든 방식이다. 장갑을 끼던 플라스틱 막대기("stylus")를 쓰던 사용할 수 있다는 건 어떤 사용상황이든 큰 장점이 된다.


2. 정전기식
거의 안 보이는 전선들을 가로와 세로로 (서로 다른 층에) 깔아놓고 있으면 항상 정전기를 내뿜고 있는 인간의 몸이 닿았을 때 그 전기의 흐름을 감지할 수 있다. 이 경우엔 정확히 어떤 좌표에 전기가 흐르는 지를 알 수 있기 때문에 멀티터치가 가능하지만, 그것보다 그냥 감압식처럼 X, Y 좌표로 받는 게 더 싸기 때문에 그동안은 그냥 일반적인 방식으로 사용되어 왔다. 인간의 몸이나, 저항이 약한 도체로 만든 Stylus 펜은 인식될 수 있다.

하지만 역시 손가락으로만 쓸 수 있다는 건 대부분 약점으로 작용하고, 오동작을 막기 위해서 손가락이 닿았다고 생각되는 정전용량의 범위를 정해놓았기 때문에 특수한(?) 상황 - 이를테면 손이 유난히 건조한 날이라든가, 손이 젖어있다거나, 물방울 같은 것이 화면에 떨어져 있다든가 하는 - 에서는 인식이 잘 되지 않을 수 있다. 무엇보다 멀티터치를 지원하려면 좀더 여러 신호를 동시에 처리할 수 있는 비싼 칩을 써야 한다. Apple iPhone과 iPod Touch가 바로 이 방식을 사용했다. -_-
iPhone에 사용된 정전기 감지 방식의 터치 스크린

... 여기까지는 뭐 대충들 알려진 사실이다.
하지만, 앞으로의 Touch UI는 조금 다른 방식을 채택할 가능성이 있다.


3. 카메라식
영상인식을 공부하다가 HCI 분야에 관심을 보인 연구기관들이 많이 쓰는 이 방식은, 카메라에 비친 손가락과 화면의 접점을 인공지능적으로 분석하여 (즉, 그때그때 적당히 민감도를 조정해서) 찾아낸다. 사실 '카메라식'이라는 듣도보도 못한 이름으로 뭉뚱그려 버리기엔 다양한 방식이 있지만, 이 방식에는 공통적인 구조적인 단점이 있기 때문에 HTI 관점에선 그냥 묶는 게 편한 것 같다. 그것은 바로 카메라를 사용하기 때문에, 화면을 인식하려면 화면을 볼 수 있을 만큼 카메라가 멀찍이 떨어져 있어야 한다는 것이다. 요컨대 요즘 유행하는 얇은, 화면 뿐인 모바일 장치에는 이 방식이 사용될 수가 없다.

이 방식은 원래 천정에 매달려있는 프로젝터로부터 정보를 받고, 영상인식이 가능한 마커를 이용해서 그 옆에 매달려있는 카메라를 통해 신호를 보내는 식이었던 Augmented Reality (AR; 증강현실) 연구의 일환으로 시작되었기 때문에, 테이블이나 벽면에서 이루어지는 종류의 사용상황을 위해서 만들었을 뿐 소형화를 염두에 둔 것이 아니었다. (여담이지만, 이 I/O Bulb라는 컨셉은 한동안 나한테도 많은 고민꺼리를 안겨줬고, 이제 상용화 사례가 나타나고 있는 지금도 '아직 뭔가'가 더 있을 것 같아서 고민하고 있는 중이다.)

초창기의 물체인식에 손가락 인식으로 관심분야를 바꾼 사람들은, 천정에 적외선 조명을 달고 스크린 아래에 카메라를 달아 손 그림자의 뽀족한 부분(아마도 손가락)을 인식하기도 했고(이 방법으로 터치는 인식이 거의 불가능하다), 적외선 조명을 스크린 아래에 카메라와 같이 두어 반사된 적외선 빛을 인식하려고 하기도 했다(스크린도 많은 적외선을 반사하므로 설계에 따라 인식이 불가능한 부분이 있다).

Frustrated Total Internal Reflection - FTIR
그래서 나온 것이 투명체의 전반사(FTIR: Frustrated Total Internal Reflection)를 이용한 방법이다. 이 방식은 스크린에 유리판 등을 이용하고 특정 임계각도 이하로 - 즉, 유리판 단면에서 - 적외선을 넣어 그 빛이 유리판 안을 마구 튕겨 돌아다니게 하는고, 손가락 등이 거기에 밀착되었을 때 임계치가 바뀌어 그 접촉면에서 난반사되는 현상을 이용한 것이다. 훌륭한 기술의 조합이고, 이 방식은 요새 유명한 Jefferson Han의 데모Microsoft Surface Computing에 적용되어 소위 '멀티터치 대세론'를 만들어 냈다. 그렇다고 카메라식 터치인식의 단점이 어디로 사라진 것은 아니어서, 여전히 설치를 위해서는 공간이 필요하지만.
Microsoft Surface Computing
(그것도 아주 큰 공간이. -_-;; )  이 방식의 경우에는, 그 밖에도 스크린 접촉한 모든 다른 물체는 물론 남겨진 손가락 자국, 엎질러진 음료수(커피가 가장 좋을 듯)까지 죄다 인식하게 되는 문제가 있다. 물론 영상인식 모듈에서 이런저런 제한조건을 걸어 몇가지 경우를 제외할 수도 있겠지만, 그럼 인식률도 덩달아 떨어지기 때문에 사실 쉬운 일은 아니다. 또한 적외선을 인식하는 방식은 그 종류를 막론하고 외부 태양광 아래에서 사용하는 게 거의 불가능하다. 방대한 파장의 빛을 쏟아내는 태양 아래에서는 모든 종류의 광학센서가 하얗게 날아가 버리기 때문이다.

사용자 삽입 이미지
아마 FTIR 현상을 이용한 카메라식 터치인식의 극단적인 오용 사례를 보여주는 것이 오른쪽 사진이 아닐까 싶어서 불펌해왔다. 저렇게 코로 터치를 해도 당연히 인식되지만, 남겨진 개기름을 닦아내지 않으면 오작동의 여지가 있겠다. -_-;;;
(출처: 여기)

카메라식의 보완적 대안으로 자주 등장하는 것이 LPD(light position detector)라는 카메라도 아니고 빛센서도 아닌 소자를 쓰는 건데, 이 경우에도 가격이 싸다든가 프로세싱이 간편하다는 것 외에는 카메라식의 장단점을 그대로 가지고 있다. LPD를 이용해서 터치를 감지하는 사례로는 한동안 유행했던 소위 '레이저 키보드'라는 게 있으나, 이는 동적인 화면을 터치하는 방식이 아니니 자세한 언급은 하지 않기로 한다.


4. 광학센서 방식
Apple Patent - Integrated Sensing Display
애플이 2004년 7월 출원한 특허 <Integrated Sensing Display>가 공개되었을 때에 처음 든 생각은 '참 별 허무맹랑한 아이디어를 다 특허화하는구나'하는 거 였다. 카메라를 겸하는 스크린이라니, 안 그래도 따닥따닥 붙이기 힘든 픽셀 사이에 센서라니! 하고 말이다. 하지만 이후 이런저런 -_- 기술을 공부하게 되면서 LCD 화면이 불투명하지 않다든가, 적외선이 화면을 통과한다든가 하는 것을 알게 되면서 저걸 미리 '반보 빨리' 특허로 낸 연구자들이 참 존경스러워 보이기까지 한다.

사용자 삽입 이미지
이미 일본 업체에서 시험생산을 마친 이 방식은, 화면 뒤에서 적외선 빛을 뿌리고 거기에 반사된 손가락을 인식하거나, 직접 화면에 표시된 빛으로부터의 반사광을 인식하는 방식이다. 전자의 경우 별도의 전력(적외선 광원을 위한)이 필요하다는 단점이 있으나, 후자의 경우에는 화면에 표시되는 내용에 따라 인식률이 들쑥날쑥할 뿐더러, 외부 조명환경의 변화에 따라 영향(기술적 대안이 없는 건 아니지만)을 많이 받기 때문에 적외선 광원을 포함한 방식이 좀더 각광을 받는 듯 하다.



동영상을 배포한 Microsoft 사의 연구원들도 이런 직접적인 멀티터치 스크린의 가능성에 대해서는 충분히 고민하고 있는 것 같다. 적어도 카메라식보다는 상용화에 훨씬 근접한 모습임은 분명하지만, 적외선을 쓰는 한 태양광 아래에서의 인식불가문제 - 어차피 화면을 읽지도 못하겠지만 - 를 해결하지 않는 한 상용화를 위해 해결해야 하는 문제는 남아있는 셈이다.


5. 광선차단 방식
화면표시장치의 앞이나 뒤에서 터치를 인식하는 게 아니라, 화면에 적외선 빔을 상하좌우로 뿌리고 그것이 차단되는 것으로 터치를 인식하는 방식이다. 이 방식은 이전에도 몇가지 연구수준의 시험적용이 있었던 것 같지만, 현재 쉽게(?) 사용해 볼 수 있는 방법은 유럽에서만 팔리고 있는 Neonode사의 휴대폰을 구입하는 것이다.



스웨덴 회사인 Neonode가 보유하고 있는 이 특허기술은 산란하는 적외선 빔을 적당한 순서로 켜고 끔으로써 정확한 접촉점을 찾기 위한 몇가지 방법을 포함하고 있다. 특히 위 동영상에서도 볼 수 있듯이, 어느 특정 접촉점을 인식하기보다 가로세로의 움직임(stroke)을 인식하는 방식을 사용하기 때문에 대부분의 경우 인식률이 떨어지더라도 문제 없이 사용할 수 있는 UI가 채용되어 있다.
Neonode N2 - Touch Schematics

적외선을 사용하는 방식임에도 불구하고, Neonode사의 휴대폰은 태양광 아래에서도 별로 영향을 받지 않는다. 이는 적외선 LED와 센서가 화면의 옆에 가려져 있고, 프리즘과 렌즈(역할을 하는 플라스틱 조각)로 그 유효한 각도가 제한되도록 잘 설계되어 있기 때문이다.

Neonode N2
하지만 같은 이유로, 이 방식은 화면이 제품의 표면에 있을 수 없고, 약간 함몰된 외형을 가지게 된다. 오른쪽 사진에서처럼 눈에 띄게 들어가 있는 것은 초기의 모델(N2)이고, 이후에는 좀더 정도는 줄어들겠지만, 여전히 요즘의 제품디자인 트렌드는 역행하는 모습이고, 마치 공업용 제품의 모습을 갖게 되는 건 어쩔 수 없는 태생적 한계인 듯 한다.


Sensing example of FingerWorks technology (from patent)
6. 전기장 왜곡 감지 방식
개인적으로 나에게는 큰 관심을 끌었으나 그다지 성공하지 못한 비운의 터치 기술로, 지금은 애플에 인수된 FingerWorks사의 방식을 꼽을 수 있겠다. 기술에 대한 정확한 내용은 나의 이해범위를 크게 벗어나지만, 어쨋든 특정 표면위의 공간에 균등하게 전기장을 조성하고, 그 공간 안에 들어온 유전체(=손)에 의해서 전기장에 왜곡이 일어났을 때 그 정도를 감지해서, 그 물체의 모양을 알아내는 방식이라고 대략 이해할 수 있겠다.
사용자 삽입 이미지
사용자 삽입 이미지
이 방식은 물체의 모양을 나타내는 위와 같은 신호를 영상인식과 같은 방식을 이용해서 분석함으로써,접촉면 뿐만 아니라 어느 정도 표면으로부터 떨어져 있는 영역에 대해서도 인식을 가능하게 한다. 접촉된 점(들)이 아닌 손의 움직임 자체를 인식할 수 있게 해준다는 데에 다른 '터치'기술과 뚜렷한 특장점을 갖는다. 즉 심지어 어느 쪽 손의 어느 손가락으로부터 어떤 각도로 (수직으로, 혹은 기울여서) 닿았느냐를 판단할 수 있기 때문에 손 동작(hand gesture) 자체를 인식하여 명령을 내릴 수 있게 되는 것이다.

iGesture Pad from FingerWorks
FingerWork사는 이 방식을 이용한 몇가지 제품을 출시했으며, 무엇보다 multi-touch와 hand gesture를 이용한 다양한 UI 조작방법에 대한 훌륭한 사례를 만들어 주었다. 이 회사가 다름아닌 애플에 인수되고, 이후에 애플에서 iPhone 등 멀티터치 UI를 적용한 제품이 나오기 시작한 것은, 내 생각에는 FingerWorks가 가지고 있는 기술을 바로 제품에 적용하려고 한 것이 아니라, 멀티터치라는 새로운 UI 방식에 대한 그들의 노우하우를 높이 산 게 아니었을까 생각한다.

전기장 왜곡 감지 방식은 다른 제품에 비해 강한 전기장을 방출하는 것 같기는 하지만, 적어도 미국 내에서 판매가 허락되는 수준인 것 같으니 괜한 걱정인지도 모르겠다. 그 밖에 이 방식은 단점이라면, 역시 화면과 함께 사용하지 못한다는 점이 되겠다. 전기장의 미세한 변화를 감지할 수 있는 투명한 소자를 만들어낼 수 있는 기술이 나오지 않는 한, 이 방식은 화면이 아닌 곳에서 여러가지 입력을 대체하기 위한 수단으로만 고려해야 할 것이다. (그 외에도 사용설명서를 보면 물이나 다른 유전체가 제품 위에 올라가 있으면 오동작할 수 있다고 한다.)


터치를 인식하기 위한 방법에는 이외에도 여러가지 재미있는 방법이 있다.

7. 무게감지 방식
특정 표면의 모서리에 무게센서(=압력센서)를 3~4개 설치하고, 사용자가 누르는 압력에 의해 해당 표면이 기울어지면 그 압력변화를 인식해서 원래의 압력이 가해진 점을 찾는 방법이다. 이 방식은 다소 엉뚱하게도 Nintendo사의 Wii Fit 이라는 게임조작기에도 채용되었는데, 사실은 방수/방진 설계가 필요하고 온갖 금속성 도구와 장갑 낀 손으로 사용할 수 있어야 하는 공업용 장비에 적용되는 것이 적합하다.

압력감지 방식은 본질적으로 압력에 대한 것이므로 어느 정도 아날로그 값을 이용한 UI 설계가 가능하다는 점에서 매력적인 입력방식이다. 하지만 사용자와 상황에 따라 입력되는 압력값이 다르기 때문에, 이 방식은 사실 방향성만을 줄 뿐 정확한 좌표값을 제시하지 못한다. 즉, 상하좌우 화살표 정도는 입력할 수 있어도 간단한 3x4 숫자패드 조차도 구현하기 어렵다.


8. 열감지 방식
사용자 삽입 이미지
이전의 포스팅에서도 잠시 언급했지만, B&O의 Beocenter 2의 touch wheel 방식 음량 조절 장치는 일련의 열감지 센서를 배치하여 사용자의 손가락을 인식한다. (감히 해보지는 못했지만, 뜨거운 인두나 라이터 불꽃도 똑같이 인식할 것이다. -_-; ) 이 희한한 터치 감지 방식은 B&O 제품의 트레이드 마크라고 할 수 있는 멋지게 마감처리된 금속표면에 터치를 넣기 위해 고심한 결과이다. 금속판이므로 압력감지(1,7)가 불가능하고, 금속 자체가 도체이므로 정전기식(2) 혹은 전기장을 이용한 방식(6)을 사용할 수는 없다. 물론 금속이 빛을 통과(4)시키지도 않을 뿐더러, 디자인을 해치는 방식(5)이나 애당초 소형제품에 적용할 수 없는 방식(3)을 채용할 수도 없었을 것이다.

열감지 방식 자체는 반응속도가 느리며, 기온과 체온에 영향을 많이 받고, 표면재료의 물리적 특성에 따라 적용이 불가능해 지는 등 문제가 많은 방식이지만, 이 경우에는 컨셉이 분명한 고급 제품이기에 가능한 사례였다고 생각한다.


9. 소리감지 방식
또다른 재미있는 방식은 손가락이나 다른 물체가 인식해야 할 표면에 닿았을 때의 울림(흔들림 혹은 소리)을 감지하는 것이다. 마이크나 다른 진동센서를 2~3개 부착하고, 특히 튀는 갑작스런 울림이 감지되었을 때 그 미묘한 시간차이를 이용해서 삼각측량을 하면 울림의 위치를 알 수 있게 된다. (지진의 진원지를 알아내는 것과 동일한 방법이다.)

이 방식은 진동의 매질이 균등해야 하는 등 몇가지 기술적 제한점이 있으며, 방수가 가능하지만 의도적인 입력과 그렇지 않은 접촉을 구분하지 못하고, 무엇보다 경우에 따라 다른 위치에서의 입력이 같은 입력값이 되어 구분할 수 없는 경우도 있으므로 설계 단계에서부터 조작범위를 잘 정의해야 한다. 하지만 이 방식의 가장 큰 단점은 역시 접촉과 Drag만이 인식될 뿐 손가락을 대고 있는다든가(hold/dwell), 손가락이 떨어지는 것(keyUp)은 인식하지 못한다는 것이다. 울림이라는 간접적인 방법을 사용하기에 어쩔 수 없는 한계라고 생각한다.



(추가됨)
여기까지 주절주절 터치 기술을 나열했지만, 솔직히 각 기술이 가지고 있는 장단점과 차이점 중에서 UI 디자이너(UX? HTI?)가 신경써야 할 부분은 많지 않다. 어쨋든 화면에 손가락 대면 입력이 들어온다... 정도면 충분하니까. 유행하는 멀티터치 multi-touch UI를 적용할 수 있는가에 대한 것도 간단히 정리하자면 다음과 같다.

우선, 아래 방식들은 멀티터치를 적용하지 못한다. 일부 언급됐지만, 각각 다른 기술을 써서 2점 터치 dual touch 를 구현하는 건 가능할 수 있으나, 다른 입력과의 혼동 가능성이 높으므로 실용적이지 않다.
    1. 감압식
    7. 무게감지 방식
    9. 소리감지 방식

나머지 아래 방식들은 멀티터치가 가능하나, 일부는 해상도가 너무 낮으므로 접촉한 2개의 손가락이 너무 가까울 경우에는 신호를 파악하지 못할 수 있다.(예: 5, 8)
    2. 정전기식
    3. 카메라식
    4. 광학센서 방식
    5. 광선차단 방식
    6. 전기장 왜곡 감지 방식
    8. 열감지 방식


또한 정전기식(2), 전기장 왜곡 감지 방식(6), 열감지 방식(8)의 경우 손가락으로만 입력이 가능하며, 장갑을 끼거나 하면 인식률이 현저하게 떨어진다. 입력이 가능한 특수한 스타일러스가 있기는 하지만, 역시 그 스타일러스로만 입력이 가능하다는 얘기이므로 제한이 있기는 마찬가지.

나머지 방식들은 뭘로 누르던 입력이 가능하다.


이 많은 터치입력 기술이 있는 와중에, 그럼 차세대 UI의 명맥을 잇는 것은 역시 모든 사람이 입을 모으는 멀티터치 multi-touch UI일까? 거기에 대해선 조금 다른 관점에서 한번 써 보겠다.

반응형