ETRI, 주위소리와 목소리의 음높이 분석하는 ‘촉각 피치 시스템’ 개발

국내 연구진이 청각장애인들을 위해 촉각으로 소리를 인식할 수 있는 기술을 개발했다. 이로써 청각장애인들이 보다 정확한 음을 내며 원하는 목소리와 노래를 부를 수 있도록 도움을 주는 기술을 개발했다.
 
한국전자통신연구원(ETRI)은 주위 소리와 자신의 목소리의 음높이(Pitch)를 분석해 촉각 패턴으로 변환해주는‘촉각 피치 시스템’을 개발했다. 청각장애인들도 인공와우 수술을 받으면 일반인과 원활한 구어 대화가 가능할 정도로 의료와 ICT의 발전이 이뤄졌다.
 


그러나 아직까지는 의사소통에 필요한 소리의 의미를 파악할 수 있는 정도이며 음의 높낮이를 구분하는 데 한계가 있다. 이로 인해 청각장애인들이 음악을 감상하거나 노래를 부르는 활동에 많은 제약이 있었다. 이를 해결하기 위해 ETRI가 청각이 아닌 촉각 신경을 통해 소리를 들을 수 있는 기술을 개발했다.
 
음악이나 소리 등 청각 정보로부터 소리의 주파수 신호를 뽑아내, 음을 인식한 뒤, 촉각 패턴으로 만들어 착용자의 피부에 전달하는 사용자 인터페이스(UI) 기술이다. 이 기술을 활용하면 주변 소리나 자신의 목소리에서 나오는 음의 높이를 피부로 느낄 수 있다.
 
연구진이 고안한 방법은 주변에서 4옥타브 계이름‘도’소리가 들리면 사용자가 왼손에 낀 장갑을 통해 검지 첫째 마디에 진동이 느껴지도록 하는 방식이다. 이처럼 손의 구조와 인지 용이성을 설계에 반영하여 한 손에 3옥타브에 해당하는 36개의 음계를 촉각 패턴으로 표현하였다.
 
장갑 끼고 손가락 위치별 진동 느껴 음의 높낮이 파악 가능
인공와우 청각장애인 임상 연구 참여해 노래 부르기 성공

손 부위별 진동 위치에 따라 음의 높낮이를 파악할 수 있기에 주변 소리와 내 목소리의 높낮이를 촉각으로 익히는 훈련이 한 달가량 필요하다. 나아가 함께 개발된 학습 방법 및 훈련 과정을 거치면 자신의 목소리를 원하는 음에 맞춰 낼 수도 있다. 청각장애인뿐 아니라 고령인 등도 언어 및 음향 학습 보조수단으로 활용할 수 있다.
 
임상연구에는 인공와우 수술을 받은 청각장애인 2명이 참여했다. 참가자들은 약 한 달간 15시간 훈련을 통해 촉각을 이용하여 음을 이해하고 자신의 목소리로 원하는 음을 낼 수 있는 능력이 약 3배 향상되었다. 뿐만 아니라 촉각으로 훈련한 노래를 정확한 음으로 낼 수 있게 되었다.
 
기존에도 미국의 스탠포드대(Stanford), 라이스대(Rice), 페이스북(Facebook) 등 여러 기관에서 음성, 텍스트 정보를 촉각으로 전달하는 연구들이 여럿 진행되었다. 하지만 모든 정보를 촉각을 통해서만 전달할 수 있을 정도로 상용화 하기엔 아직 많은 후속 연구가 필요한 상황이었다.
 
이때 ETRI 촉각 피치 시스템은 인공와우 및 보청기 사용자들이 모든 정보가 아니라 음 높낮이라도 파악하기를 원한다는 실제 요구사항을 토대로 개발한 시스템이다. 덕분에 사용자 환경에 바로 적용할 수 있다는 장점이 있으며 임상을 통해 증명한 연구 중 최초 사례다.