ETRI, 장갑 착용해 소리 없이도 대금 선율·음정변화 느껴

ICT와 예술의 결합으로 장애인들도 물리적 장벽 없이 예술공연을 즐길 수 있을 전망이다.

한국전자통신연구원(ETRI)은 청각장애인을 위한 국악공연에서 “촉각 음정 시스템”을 이용하여 국악 악기의 음정을 실시간으로 청각장애 관람자에게 전달하는 기술을 선보였다.



최근 장애인에 대한 포용적 예술정책과 문화 다양성이 문화·예술영역에 큰 영향력을 미침에 따라 장애인의 예술 접근 방법이 다양해지고 있다.

촉각 음정 시스템은 음악이나 소리 등 청각 정보로부터 소리의 주파수 신호를 뽑아내 촉각 패턴으로 만들어 기기를 통해 피부에 전달하는 사용자 인터페이스(UI) 기술이다. 본 기술이 적용된 장갑을 착용하면 음정 변화를 손가락으로 느낄 수 있다.

ETRI는 작년, 촉각 음정 시스템을 개발해 청각장애인에게 소리를 전달한 데 이어 올해는 청각장애인을 위한 국악공연 “이음풍류”를 성공적으로 개최했다.

이음풍류는 국내 최초로 청각장애인들이 소리를 듣지 못하더라도 시각과 촉각을 통해 국악의 생생한 라이브를 즐길 수 있도록 기획되었다. 모든 곡에는 수어를 통한 감정 전달 및 해설 그리고 자막이 제공되었다.

국내 기업인 비햅틱스에서 개발한 조끼를 착용해서 연주의 박자감을 온몸으로 느끼고 ETRI의 촉각 음정 시스템이 적용된 장갑을 통해 악기의 정밀한 음정 변화를 손가락으로 느낄 수 있다. 또한, 각 악기의 선율 변화를 시각적 효과(미디어아트)와 함께 제공하여 시각적인 즐거움을 더했다.

ETRI는 국악공연과 실시간 연동을 위해 촉각 음정 시스템의 기존 촉각 패턴을 서양 음계 방식에서 국악의 음계 방식으로 변경하고 악기의 특성에 맞게 음역을 확대하는 등 기존 시스템을 최적화하였다.

연구진은 잡음 조정(노이즈 튜닝) 및 속도·떨림 보정을 통해 명확한 음정 표현을 가능케 했으며 음향-기기 간 실시간 반응속도를 높여 정확도를 향상시켰다. 또한, 공연 환경 및 상황에 따라 실시간으로 촉감의 최적화를 변경할 수 있도록 UI를 개선하여 이음풍류 공연에 제공하였다.

공연에서는 국악기 중 대금에 집중하여 대금의 세세한 음정 변화를 손가락의 촉감을 통해서 체험할 수 있었다. 총 7곡 중 대금이 포함된 4곡이 연동되어 제공되었으며, 특히 대금 솔로 공연인 김동진류대금산조에서 음정의 변화를 가장 실감 나게 느낄 수 있었다.

해외의 경우, 촉각을 이용하여 청각장애인을 위한 라이브 공연을 시도한 적이 있으나 이는 음악의 비트감을 몸으로 체감하는 수준으로 정밀한 악기에서의 음정 변화를 동시에 제공하는 방법으로는 이음풍류 공연이 세계 최초의 시도이다.

ETRI 신형철 휴먼증강연구실장은“ETRI가 개발한 기술이 실험실 환경을 벗어나 실제 공연에 도입할 기회를 얻어 기술 개발에 대한 보람을 느끼고, 나아가 기술 적용 분야에 대한 시야를 넓힐 수 있었다.”고 밝혔다.