SL2T
손과 몸, 표정의 움직임을 실시간으로 읽어 문장으로 바꿔주는 구글 딥마인드의 수어 인식 모델.
쉽게 말하면
SL2T는 카메라 앞에서 손으로 하는 수어를 실시간으로 글자로 바꿔주는 모델이다. 마치 손짓을 알아듣는 통역사가 옆에 앉아, 사람이 손과 몸으로 말하는 문장을 즉시 받아 적어주는 것과 비슷하다.
수어는 손 모양만으로 이루어지지 않는다. 손의 위치와 방향, 몸의 기울기, 눈썹과 입 모양 같은 표정까지 한꺼번에 문법 요소로 작동한다. 그래서 SL2T는 손 모양 하나만 인식하는 게 아니라 손과 몸, 얼굴의 움직임을 통째로 함께 학습해, 이 복합적인 신호를 하나의 문장으로 엮어낸다.
개인정보를 지키기 위해 처리 방식도 둘로 나뉜다. 손과 몸의 움직임을 추적하는 작업은 기기 안에서 끝내고, 이를 실제 문장으로 옮기는 무거운 계산만 서버로 보낸다. 이렇게 만들어진 결과는 구글 픽셀11의 키보드 자판과 실시간 자막 기능에 먼저 적용됐다.
기사에서 이렇게 나와요
직접 해보기
- 미국식 수어(ASL)를 지원하는 픽셀11의 키보드 앱이나 실시간 자막 기능을 연다.
- 카메라 앞에서 전하고 싶은 문장을 수어로 표현한다.
- 화면에 뜨는 자동완성 후보 중 의도한 문장을 선택해 입력을 완성한다.
- 대화 상대의 음성이나 화면 속 말을 실시간 자막으로 확인해본다.