ì œì•½ì‚¬í•ì�´ 없는 off-line 필기 í…�스트 ì�¸ì‹� 실험
abstract
off-line 필기 ��� 위한 시스템� 소개한다.
ì�´ 시스템ì�€ ì�¸ì‹� 모듈ì�´ ì „ì²´ í…�스트 ë�¼ì�¸ì�„ ì�½ì–´ì„œ 처리하는 ë¶„í• ì�´ 없는 ì ‘ê·¼ 방법(segmentation-free approach)ì�´ 특징ì�´ë‹¤.
ì „ì²˜ë¦¬, 특징 추출, 통계ì � 모ë�¸ë§�ì�„ 위한 방법들ì�„ ì†Œê°œí•˜ê³ , 작성ìž�ì—� ë�…립ì �ì�¸ 방법, 복수ì�˜ 작성ìž�, 한 명ì�˜ 작성ìž�ì�˜ 필기 ì�¸ì‹� 등ì—� 대한 실험들ë�„ ì�´ë£¨ì–´ì§ˆ 것ì�´ë‹¤.
특히, ì„ í˜• íŒ�별 í•´ì„�(linear discriminant analysis)ê³¼ allograph 문ìž� 모ë�¸, 통계ì � 언어 ì§€ì‹�ì�„ 결합한 방법ì�„ 살펴볼 것ì�´ë‹¤.
어휘 ì œí•œì�´ 없는(lexicon-off) 필기 ì�¸ì‹�ì�˜ 결과는 ì œì•ˆí•˜ëŠ” ë°©ì‹�ì�˜ 효율ì�„ ìž…ì¦�í• ê²ƒì�´ë‹¤.
off-line 필기 ��� 위한 시스템� 소개한다.
ì�´ 시스템ì�€ ì�¸ì‹� 모듈ì�´ ì „ì²´ í…�스트 ë�¼ì�¸ì�„ ì�½ì–´ì„œ 처리하는 ë¶„í• ì�´ 없는 ì ‘ê·¼ 방법(segmentation-free approach)ì�´ 특징ì�´ë‹¤.
ì „ì²˜ë¦¬, 특징 추출, 통계ì � 모ë�¸ë§�ì�„ 위한 방법들ì�„ ì†Œê°œí•˜ê³ , 작성ìž�ì—� ë�…립ì �ì�¸ 방법, 복수ì�˜ 작성ìž�, 한 명ì�˜ 작성ìž�ì�˜ 필기 ì�¸ì‹� 등ì—� 대한 실험들ë�„ ì�´ë£¨ì–´ì§ˆ 것ì�´ë‹¤.
특히, ì„ í˜• íŒ�별 í•´ì„�(linear discriminant analysis)ê³¼ allograph 문ìž� 모ë�¸, 통계ì � 언어 ì§€ì‹�ì�„ 결합한 방법ì�„ 살펴볼 것ì�´ë‹¤.
어휘 ì œí•œì�´ 없는(lexicon-off) 필기 ì�¸ì‹�ì�˜ 결과는 ì œì•ˆí•˜ëŠ” ë°©ì‹�ì�˜ 효율ì�„ ìž…ì¦�í• ê²ƒì�´ë‹¤.
1. �입
패턴 ì�¸ì‹�ì—�서 ë�„ì „í• ë§Œí•œ 분야는 필기 í…�스트ì�˜ ì�¸ì‹�ì�´ë‹¤.
아�까지는 대부분� off-line 필기 �� 시스템� 우편 번호를 �거나 �행 수표 등� 모양� 처리하는� 사용�다.
ì�´ëŸ° 시스템들ì�€ ë¶„í• ë�œ 문ìž�나 단어ì—�ë§Œ í•œì •ì �으로 사용ë�˜ê³ ìžˆê³ , ì œì•½ì‚¬í•ì�´ 없는 필기 ì�¸ì‹� 시스템ì�€ 무척 ì �다.
�것� 방대한 어휘� 대해 글�나 단어� 경계가 존재하지 않기 때문� �러한 작업� 복잡�가 올�가기 때문�다.
하지만 컴퓨터ì�˜ 계산 ëŠ¥ë ¥ì�˜ ì¦�가가 ë�” 복잡한 처리를 가능하게 하였기 때문ì—� 필기 í…�스트 ì�¸ì‹� ê¸°ìˆ ì�„ ë�” 살펴볼 만한 가치는 있다.
패턴 ì�¸ì‹�ì—�서 ë�„ì „í• ë§Œí•œ 분야는 필기 í…�스트ì�˜ ì�¸ì‹�ì�´ë‹¤.
아�까지는 대부분� off-line 필기 �� 시스템� 우편 번호를 �거나 �행 수표 등� 모양� 처리하는� 사용�다.
ì�´ëŸ° 시스템들ì�€ ë¶„í• ë�œ 문ìž�나 단어ì—�ë§Œ í•œì •ì �으로 사용ë�˜ê³ ìžˆê³ , ì œì•½ì‚¬í•ì�´ 없는 필기 ì�¸ì‹� 시스템ì�€ 무척 ì �다.
�것� 방대한 어휘� 대해 글�나 단어� 경계가 존재하지 않기 때문� �러한 작업� 복잡�가 올�가기 때문�다.
하지만 컴퓨터ì�˜ 계산 ëŠ¥ë ¥ì�˜ ì¦�가가 ë�” 복잡한 처리를 가능하게 하였기 때문ì—� 필기 í…�스트 ì�¸ì‹� ê¸°ìˆ ì�„ ë�” 살펴볼 만한 가치는 있다.
ì�´ 논문ì—�서는 어휘 ì œí•œì�´ 없는 off-lineì�˜ 필기 ì�¸ì‹�ì�„ 기본으로 한 Hidden-Markov-Modelì�„ ì†Œê°œí• ê²ƒì�´ë‹¤.
ê·¸ë¦¬ê³ ìž‘ì„±ìž�ì—� ë�…립ì �ì�¸ 방법과 복수 작성ìž�, 단ì�¼ 작성ìž�ì—� 대해 ì™„ì „í•œ ì˜�ì–´ 문장 ë�°ì�´í„°ë² ì�´ìФì—� 기반한 몇몇 실험들ì�„ ì†Œê°œí• ê²ƒì�´ë‹¤.
ì „ì²˜ë¦¬ì™€ 특징 추출ì�„ 위한 방법들ì�„ ê¸°ìˆ í• ê²ƒì�¸ë�°, 추가ì �으로 ì„ í˜• íŒ�별 í•´ì„�, allograph 문ìž� 모ë�¸, 통계ì � 언어 ì§€ì‹� 등ì�˜ ë�” ì •êµ�한 방법ë�„ 살펴볼 것ì�´ë‹¤.
ê·¸ë¦¬ê³ ìž‘ì„±ìž�ì—� ë�…립ì �ì�¸ 방법과 복수 작성ìž�, 단ì�¼ 작성ìž�ì—� 대해 ì™„ì „í•œ ì˜�ì–´ 문장 ë�°ì�´í„°ë² ì�´ìФì—� 기반한 몇몇 실험들ì�„ ì†Œê°œí• ê²ƒì�´ë‹¤.
ì „ì²˜ë¦¬ì™€ 특징 추출ì�„ 위한 방법들ì�„ ê¸°ìˆ í• ê²ƒì�¸ë�°, 추가ì �으로 ì„ í˜• íŒ�별 í•´ì„�, allograph 문ìž� 모ë�¸, 통계ì � 언어 ì§€ì‹� 등ì�˜ ë�” ì •êµ�한 방법ë�„ 살펴볼 것ì�´ë‹¤.
다ì�Œ 섹션ì—�서는 필기 ì�¸ì‹�ì—� 대한 ê´€ë ¨ 연구를 간단히 살펴볼 것ì�´ë‹¤.
우리가 ì‚¬ìš©í• ë�°ì�´í„°ë² ì�´ìФì—� 대해서는 섹션 3ì—�서 소개한다.
ê·¸ 후ì—� ì�´ì–´ì§€ëŠ” 섹션들ì—�서 ì „ì²˜ë¦¬ ê³¼ì •, 특징 추출ì�„ 위한 방법들, 통계ì � 모ë�¸ë§�ê³¼ ì�¸ì‹�ì—� 사용ë�œ ê¸°ìˆ ë“¤ì—� 대해서 ì„œìˆ í• ê²ƒì�´ë‹¤.
ì œì•ˆí•œ 방법ì�˜ 효과를 나타내기 위한 í�‰ê°€ 결과는 세션 7ì—�서 ì†Œê°œí• ê²ƒì�´ë‹¤.
우리가 ì‚¬ìš©í• ë�°ì�´í„°ë² ì�´ìФì—� 대해서는 섹션 3ì—�서 소개한다.
ê·¸ 후ì—� ì�´ì–´ì§€ëŠ” 섹션들ì—�서 ì „ì²˜ë¦¬ ê³¼ì •, 특징 추출ì�„ 위한 방법들, 통계ì � 모ë�¸ë§�ê³¼ ì�¸ì‹�ì—� 사용ë�œ ê¸°ìˆ ë“¤ì—� 대해서 ì„œìˆ í• ê²ƒì�´ë‹¤.
ì œì•ˆí•œ 방법ì�˜ 효과를 나타내기 위한 í�‰ê°€ 결과는 세션 7ì—�서 ì†Œê°œí• ê²ƒì�´ë‹¤.
2. ê´€ë ¨ 연구
지난 여러해 ë�™ì•ˆ off-line 필기 ì�¸ì‹� 분야ì—�서 ìƒ�당한 ì§„ì „ì�´ 있었다.
특히 ì �ì�€ ì–‘ì�˜ 어휘를 ì�´ìš©í•˜ëŠ” 분리ë�œ 단어를 ì�¸ì‹�하는 시스템ì�´ 우편번호나 legal amount readingì—� 사용ë�˜ì—ˆê³ , 높ì�€ ì�¸ì‹�ë¥ ì�„ 기ë¡�하였다. 그래서 처리 ì†�ë�„나 ì�¸ì‹�ì�˜ ì •í™•ë�„를 높ì�¼ 여지가 없었다 2, 8.
지난 여러해 ë�™ì•ˆ off-line 필기 ì�¸ì‹� 분야ì—�서 ìƒ�당한 ì§„ì „ì�´ 있었다.
특히 ì �ì�€ ì–‘ì�˜ 어휘를 ì�´ìš©í•˜ëŠ” 분리ë�œ 단어를 ì�¸ì‹�하는 시스템ì�´ 우편번호나 legal amount readingì—� 사용ë�˜ì—ˆê³ , 높ì�€ ì�¸ì‹�ë¥ ì�„ 기ë¡�하였다. 그래서 처리 ì†�ë�„나 ì�¸ì‹�ì�˜ ì •í™•ë�„를 높ì�¼ 여지가 없었다 2, 8.
ì�´ì™€ëŠ” 달리 방대한 ì–‘ì�˜ 단어를 사용하는 ì œí•œì�´ 없는 필기 í…�스트ì�˜ ì�¸ì‹�ì�€ 훨씬 ì–´ë µë‹¤.
ì�´ëŸ° ì�¼ë“¤ì�€ 주로 문맥 ì •ë³´ë‚˜ 단어 구간ì�˜ ì •ë³´ê°€ 없기 때문ì—� ì�¼ì–´ë‚œë‹¤. ì�´ëŸ¬í•œ ì–´ë ¤ì›€ì�€ 분리ë�œ 단어 처리를 위한 시스템 들ì—� 내재ë�˜ì–´ 나타난다.
ì�´ëŸ° ì–´ë ¤ì›€ë“¤ì—�ë�„ ë¶ˆêµ¬í•˜ê³ ì œí•œì�´ 없는 필기 í…�스트 ì�¸ì‹�ì�€ ë§Žì�´ 발달해 왔다.
ì�´ 시스템들ì�€ 주로 특징 추출(feature extract) 타입ì�´ë‚˜ ì�¸ì‹� 단계 ì „ ë˜�는 후ì—� í…�스트 ë�¼ì�¸ì�„ 분리하거나 하는 ì �ì—�서 ì°¨ì�´ê°€ 있다.
1, 18과 15� HMMs 방법� 사용하는 �스트 분리� 기반� 둔 방법과 recurrent neural network와 HMMs를 혼합한 방법� � 예시가 있다.
15ì—�서 한 실험ì�´ 단ì�¼ 작성ìž�ì—� ì�˜í•œ ë�°ì�´í„°ë² ì�´ìФì—�서 행해진 반면ì—�, 1, 18ì—� 나타난 시스템들ì�€ 복수 작성ìž�ì�˜ ë�°ì�´í„°ë¥¼ ì�´ìš©í•´ì„œ 테스트를 했다.
대규모� off-line 필기체 ��� 대한 조사는 16� 보아�.
ì�´ëŸ° ì�¼ë“¤ì�€ 주로 문맥 ì •ë³´ë‚˜ 단어 구간ì�˜ ì •ë³´ê°€ 없기 때문ì—� ì�¼ì–´ë‚œë‹¤. ì�´ëŸ¬í•œ ì–´ë ¤ì›€ì�€ 분리ë�œ 단어 처리를 위한 시스템 들ì—� 내재ë�˜ì–´ 나타난다.
ì�´ëŸ° ì–´ë ¤ì›€ë“¤ì—�ë�„ ë¶ˆêµ¬í•˜ê³ ì œí•œì�´ 없는 필기 í…�스트 ì�¸ì‹�ì�€ ë§Žì�´ 발달해 왔다.
ì�´ 시스템들ì�€ 주로 특징 추출(feature extract) 타입ì�´ë‚˜ ì�¸ì‹� 단계 ì „ ë˜�는 후ì—� í…�스트 ë�¼ì�¸ì�„ 분리하거나 하는 ì �ì—�서 ì°¨ì�´ê°€ 있다.
1, 18과 15� HMMs 방법� 사용하는 �스트 분리� 기반� 둔 방법과 recurrent neural network와 HMMs를 혼합한 방법� � 예시가 있다.
15ì—�서 한 실험ì�´ 단ì�¼ 작성ìž�ì—� ì�˜í•œ ë�°ì�´í„°ë² ì�´ìФì—�서 행해진 반면ì—�, 1, 18ì—� 나타난 시스템들ì�€ 복수 작성ìž�ì�˜ ë�°ì�´í„°ë¥¼ ì�´ìš©í•´ì„œ 테스트를 했다.
대규모� off-line 필기체 ��� 대한 조사는 16� 보아�.
ì�´ë¥¸ 단계ì—�서 í…�스트 ë�¼ì�¸ì�„ 분리하는 것ì—� ì�˜í•œ ë¬¸ì œì �ì�„ 회피하기 위해서, 9ì—�서는 ì „ì²´ í…�스트 ë�¼ì�¸ì�„ ì�¸ì‹� 모듈ì—� ìž…ë ¥í•˜ëŠ” ë¬´ë¶„í• (segmentation-free) 방법ë�„ 소개ë�˜ì–´ 있다.
ì�´ 시스템ì�€ 단ì�¼ 작성ìž�로 테스트 ë�˜ì—ˆê³ , 통계ì � 언어 ì§€ì‹�ê³¼ì�˜ 결합으로 ì „ë§�ì�´ 있는 ì�¸ì‹� 결과를 달성하였다.
작성ìž�ì—� ë�…립ì �ì�´ê³ ì œì•½ì�´ 없는 í…�스트 ì�¸ì‹�ì�„ 위한 í–¥ìƒ�ë�œ 시스템ì�´ 수백명ì�˜ 작성ìž�ì—� ì�˜í•´ 만들어진 거대한 ë�°ì�´í„°ë² ì�´ìФ10ì—�서 실험ë�œ ë‚´ìš©ì�´ 11ì—� ê¸°ìˆ ë�˜ì–´ 있다.
ì�´ì–´ì§€ëŠ” 섹션들ì—�서 ì„¤ëª…í• ì‹œìŠ¤í…œì�€ 비슷한 ì ‘ê·¼ë²•ì�„ 사용하였는ë�°, ì „ì²˜ë¦¬ì™€ 특징 추출 방법ì�´ 약간 다르다.
추가ì �으로, ê°� 문ìž� 종류ì—� ë”°ë�¼ HMMs나 통계ì � 언어 모ë�¸ì�„ 사용하는 등ì�˜ allograph 문ìž� 모ë�¸ì�„ 사용하는 것 ë¿� 아니ë�¼ 특징 벡터들ì—� 대해 ì„ í˜• íŒ�별 í•´ì„�ì�„ ì �용한 효과ì—� 대해서ë�„ 살펴보았다.
ì�´ 시스템ì�€ 단ì�¼ 작성ìž�로 테스트 ë�˜ì—ˆê³ , 통계ì � 언어 ì§€ì‹�ê³¼ì�˜ 결합으로 ì „ë§�ì�´ 있는 ì�¸ì‹� 결과를 달성하였다.
작성ìž�ì—� ë�…립ì �ì�´ê³ ì œì•½ì�´ 없는 í…�스트 ì�¸ì‹�ì�„ 위한 í–¥ìƒ�ë�œ 시스템ì�´ 수백명ì�˜ 작성ìž�ì—� ì�˜í•´ 만들어진 거대한 ë�°ì�´í„°ë² ì�´ìФ10ì—�서 실험ë�œ ë‚´ìš©ì�´ 11ì—� ê¸°ìˆ ë�˜ì–´ 있다.
ì�´ì–´ì§€ëŠ” 섹션들ì—�서 ì„¤ëª…í• ì‹œìŠ¤í…œì�€ 비슷한 ì ‘ê·¼ë²•ì�„ 사용하였는ë�°, ì „ì²˜ë¦¬ì™€ 특징 추출 방법ì�´ 약간 다르다.
추가ì �으로, ê°� 문ìž� 종류ì—� ë”°ë�¼ HMMs나 통계ì � 언어 모ë�¸ì�„ 사용하는 등ì�˜ allograph 문ìž� 모ë�¸ì�„ 사용하는 것 ë¿� 아니ë�¼ 특징 벡터들ì—� 대해 ì„ í˜• íŒ�별 í•´ì„�ì�„ ì �용한 효과ì—� 대해서ë�„ 살펴보았다.
3. ë§�ë‰ì¹˜
학습과 ì�¸ì‹�ì�„ 위한 ìž…ë ¥ ë�°ì�´í„°ëŠ” Lancaster-Oslo/Bergen ë§�ë‰ì¹˜ì—� 기반ì�„ ë‘” ì™„ì „í•œ ì˜�ì–´ 문장ì�˜ ë�°ì�´í„°ë² ì�´ìФì—�서 ì œê³µë�˜ì—ˆë‹¤.
작성�� �립� 경우 �만 아니� 복수 작성�� 대한 실험� IAM과 Bern 대학�서 수집한 필기 형태를 �용하여 �루어졌다.
ì „ì²´ ë�°ì�´í„°ë² ì�´ìŠ¤ëŠ” 다양한 í…�스트 ì¹´í…Œê³ ë¦¬ë“¤(ì‹ ë¬¸, 종êµ�, 대중 ì§€ì‹�, 소설)ê³¼ 500명 ì�´ìƒ�ì�˜ 다른 작성ìž�들ì—� ì�˜í•œ 1200종류 ì�´ìƒ�ì�˜ 필기 형태를 ë‹¤ë£¨ê³ ìžˆë‹¤.
우리는 작성ìž� ë�…립ì�¸ 경우ì�˜ 실험ì�„ 위해 250명 ì�´ìƒ�ì�˜ 작성ìž�ê°€ ë§Œë“ ì¹´í…Œê³ ë¦¬ a..fì�˜ 형태들ì�„ ì�´ìš©í–ˆë‹¤. ê·¸ë¦¬ê³ ë³µìˆ˜ 작성ìž�ì�¸ 경우ì�˜ 실험ì�„ 위해 6명ì�˜ 작성ìž�ì—� ì�˜í•´ 만들어진 c03ì�˜ ì�¼ë¶€ë¥¼ ì�´ìš©í•˜ì˜€ë‹¤.
학습과 ì�¸ì‹�ì�„ 위한 ìž…ë ¥ ë�°ì�´í„°ëŠ” Lancaster-Oslo/Bergen ë§�ë‰ì¹˜ì—� 기반ì�„ ë‘” ì™„ì „í•œ ì˜�ì–´ 문장ì�˜ ë�°ì�´í„°ë² ì�´ìФì—�서 ì œê³µë�˜ì—ˆë‹¤.
작성�� �립� 경우 �만 아니� 복수 작성�� 대한 실험� IAM과 Bern 대학�서 수집한 필기 형태를 �용하여 �루어졌다.
ì „ì²´ ë�°ì�´í„°ë² ì�´ìŠ¤ëŠ” 다양한 í…�스트 ì¹´í…Œê³ ë¦¬ë“¤(ì‹ ë¬¸, 종êµ�, 대중 ì§€ì‹�, 소설)ê³¼ 500명 ì�´ìƒ�ì�˜ 다른 작성ìž�들ì—� ì�˜í•œ 1200종류 ì�´ìƒ�ì�˜ 필기 형태를 ë‹¤ë£¨ê³ ìžˆë‹¤.
우리는 작성ìž� ë�…립ì�¸ 경우ì�˜ 실험ì�„ 위해 250명 ì�´ìƒ�ì�˜ 작성ìž�ê°€ ë§Œë“ ì¹´í…Œê³ ë¦¬ a..fì�˜ 형태들ì�„ ì�´ìš©í–ˆë‹¤. ê·¸ë¦¬ê³ ë³µìˆ˜ 작성ìž�ì�¸ 경우ì�˜ 실험ì�„ 위해 6명ì�˜ 작성ìž�ì—� ì�˜í•´ 만들어진 c03ì�˜ ì�¼ë¶€ë¥¼ ì�´ìš©í•˜ì˜€ë‹¤.
우리ì�˜ 시스템ì�„ 단ì�¼ 작성ìž�ì�¸ 경우ì—�ë�„ í�‰ê°€í•˜ê¸° 위해서 ë…¸ì�¸(Senior)들ì—�게서 수집ë�œ ë�°ì�´í„°ë² ì�´ìФì—�서 ì œê³µí•˜ëŠ” 필기 형태를 ì�´ìš©í•œ 실험ë�„ 하였다.
ì�´ ë�°ì�´í„°ë² ì�´ìŠ¤ëŠ” 단ì�¼ 작성ìž�ì—� ì�˜í•œ 25페ì�´ì§€ì�˜ 필기 í…�스트로 ì�´ë£¨ì–´ì ¸ 있으며, 웹ì—�서 공개ì �으로 ì‚¬ìš©í• ìˆ˜ 있다.
ì�´ ë�°ì�´í„°ë² ì�´ìŠ¤ëŠ” 단ì�¼ 작성ìž�ì—� ì�˜í•œ 25페ì�´ì§€ì�˜ 필기 í…�스트로 ì�´ë£¨ì–´ì ¸ 있으며, 웹ì—�서 공개ì �으로 ì‚¬ìš©í• ìˆ˜ 있다.
ë‘� ë�°ì�´í„°ë² ì�´ìФì�˜ 필기 형태는 í•´ìƒ�ë�„ 300dpiì—�서 256ì�˜ ê·¸ë ˆì�´ ë ˆë²¨ë¡œ 스캔ë�˜ì—ˆë‹¤.
Fig. 1ì�´ ê°� ë�°ì�´í„°ë² ì�´ìФì�˜ 예시를 보여준다.
Fig. 1ì�´ ê°� ë�°ì�´í„°ë² ì�´ìФì�˜ 예시를 보여준다.
4. ì „ì²˜ë¦¬
스캔 중ì�´ë‚˜ 필기ì—�서 ì§€ì†�ì �ì�¸ ì�´ë�™ìœ¼ë¡œ 형태ì�˜ ë¶€ì •í™•í•œ ì •ë ¬ì�´ ë�˜ëŠ” 것으로 ë°œìƒ�하는 ì—�러를 보완하기 위해 처ì�Œì—� 주어진 필기 í…�스트ì�˜ ì�´ë¯¸ì§€ëŠ” 비스듬하게 ë�˜ì–´ 있다.
ë”°ë�¼ì„œ ì�´ì§„í™” ë�œ ì�´ë¯¸ì§€ì�˜ 수í�‰ ë†�ë�„ì�˜ ížˆìŠ¤í† ê·¸ëž¨ì�´ ìµœì €ì�˜ 무질서ë�„를 가질 때까지 ì�´ë¯¸ì§€ë¥¼ íšŒì „ì‹œì¼œì•¼ 한다.
주ì�˜í• ì �ì�€ ì�´ ì „ì²˜ë¦¬ 단계는 IAM ë�°ì�´í„°ë² ì�´ìФì—�는 ì �ìš©í• í•„ìš”ê°€ 없다는 것ì�´ë‹¤. 작성ìž�들ì�´ ë‘� 번째 용지ì—� ìž�를 사용하게 ë�˜ì—ˆê³ 스캔ì�„ 하는 ë�™ì•ˆì—�ë�„ ê³µì‹�ì�„ 통해 ì •ë ¬ì�´ ë�˜ì—ˆê¸° 때문ì�´ë‹¤.
스캔 중ì�´ë‚˜ 필기ì—�서 ì§€ì†�ì �ì�¸ ì�´ë�™ìœ¼ë¡œ 형태ì�˜ ë¶€ì •í™•í•œ ì •ë ¬ì�´ ë�˜ëŠ” 것으로 ë°œìƒ�하는 ì—�러를 보완하기 위해 처ì�Œì—� 주어진 필기 í…�스트ì�˜ ì�´ë¯¸ì§€ëŠ” 비스듬하게 ë�˜ì–´ 있다.
ë”°ë�¼ì„œ ì�´ì§„í™” ë�œ ì�´ë¯¸ì§€ì�˜ 수í�‰ ë†�ë�„ì�˜ ížˆìŠ¤í† ê·¸ëž¨ì�´ ìµœì €ì�˜ 무질서ë�„를 가질 때까지 ì�´ë¯¸ì§€ë¥¼ íšŒì „ì‹œì¼œì•¼ 한다.
주ì�˜í• ì �ì�€ ì�´ ì „ì²˜ë¦¬ 단계는 IAM ë�°ì�´í„°ë² ì�´ìФì—�는 ì �ìš©í• í•„ìš”ê°€ 없다는 것ì�´ë‹¤. 작성ìž�들ì�´ ë‘� 번째 용지ì—� ìž�를 사용하게 ë�˜ì—ˆê³ 스캔ì�„ 하는 ë�™ì•ˆì—�ë�„ ê³µì‹�ì�„ 통해 ì •ë ¬ì�´ ë�˜ì—ˆê¸° 때문ì�´ë‹¤.
í…�스트ì—� 추가ì �ì�¸ 처리를 하기 위해서는 ê°�ê°�ì�˜ 필기 ë�¼ì�¸ë“¤ì�„ 추출해야 한다.
ì�´ê²ƒì�€ 수필 ë�¼ì�¸ì—�서 중요한 부분ì�˜ ì�´ë¯¸ì§€ë¥¼ ë¶„í• í•˜ëŠ” 것으로 가능하다.
í…�스트 ë�¼ì�¸ì�˜ ìƒ�위나 하위ì�˜ ê¸°ì¤€ì„ ê°™ì�€ 종류ì�˜ 핵심 ì§€ì—ì�€ 기준 ì„ ì�„ 나타내기 위해서 핵심 ì§€ì—ì—� ì†�하는 필수 ì„ ë“¤ì�˜ 픽셀들ì�„ 나타내는 임계치를 찾는 것으로 알 수 있다.
ì�´ì§„í™” ë�œ 수필 ì§€ì—ì�˜ 수í�‰ ë°€ë�„ ížˆìŠ¤í† ê·¸ëž¨ì�„ ì�´ìš©í•˜ëŠ” Otsu method를 ì�´ìš©í•˜ë©´ ì�´ 임계치를 ìž�ë�™ìœ¼ë¡œ êµ¬í• ìˆ˜ 있다.
ê·¸ 후 수í�‰ 투사ë�œ ížˆìŠ¤í† ê·¸ëž¨ì�˜ ê°� ë�¼ì�¸ë“¤ì�˜ ê²€ì�€ 픽셀들ì�˜ 수가 누ì �ë�œë‹¤. ê·¸ë¦¬ê³ ì�´ ì�´ë¯¸ì§€ëŠ” ì�´ 투사ë�œ ížˆìŠ¤í† ê·¸ëž¨ì�´ 최소ì�¸ ì§€ì �ì�„ ë”°ë�¼ 핵심 ì§€ì—으로 ë¶„í• ë�œë‹¤.
ì�´ê²ƒì�€ 수필 ë�¼ì�¸ì—�서 중요한 부분ì�˜ ì�´ë¯¸ì§€ë¥¼ ë¶„í• í•˜ëŠ” 것으로 가능하다.
í…�스트 ë�¼ì�¸ì�˜ ìƒ�위나 하위ì�˜ ê¸°ì¤€ì„ ê°™ì�€ 종류ì�˜ 핵심 ì§€ì—ì�€ 기준 ì„ ì�„ 나타내기 위해서 핵심 ì§€ì—ì—� ì†�하는 필수 ì„ ë“¤ì�˜ 픽셀들ì�„ 나타내는 임계치를 찾는 것으로 알 수 있다.
ì�´ì§„í™” ë�œ 수필 ì§€ì—ì�˜ 수í�‰ ë°€ë�„ ížˆìŠ¤í† ê·¸ëž¨ì�„ ì�´ìš©í•˜ëŠ” Otsu method를 ì�´ìš©í•˜ë©´ ì�´ 임계치를 ìž�ë�™ìœ¼ë¡œ êµ¬í• ìˆ˜ 있다.
ê·¸ 후 수í�‰ 투사ë�œ ížˆìŠ¤í† ê·¸ëž¨ì�˜ ê°� ë�¼ì�¸ë“¤ì�˜ ê²€ì�€ 픽셀들ì�˜ 수가 누ì �ë�œë‹¤. ê·¸ë¦¬ê³ ì�´ ì�´ë¯¸ì§€ëŠ” ì�´ 투사ë�œ ížˆìŠ¤í† ê·¸ëž¨ì�´ 최소ì�¸ ì§€ì �ì�„ ë”°ë�¼ 핵심 ì§€ì—으로 ë¶„í• ë�œë‹¤.
다양한 필기 스타ì�¼ì�´ë‚˜ 작성ìž� ì°¨ì�´ 때문ì—� ì�¸ì‹� 작업ì�„ 간단하게 하기 위해서는 필기들ì�´ ì •ê·œí™” ë�˜ì–´ì•¼ 한다.
특히 필기ì�˜ 수ì§� 위치, ì�¼ê·¸ëŸ¬ì§�ì�„ ìˆ˜ì •í•˜ëŠ” 것ì�€ ì „ì²˜ë¦¬ì—�서 ì¤‘ìš”í•˜ë‹¤ê³ íŒ�명ë�˜ì—ˆë‹¤.
추가ì �ì�¸ ì •ê·œí™”ëŠ” 필기ì�˜ í�¬ê¸°ì™€ ê·¸ë ˆì�´ ë ˆë²¨ì�˜ ê°•ë�„ë�„ 중시한다.
특히 필기ì�˜ 수ì§� 위치, ì�¼ê·¸ëŸ¬ì§�ì�„ ìˆ˜ì •í•˜ëŠ” 것ì�€ ì „ì²˜ë¦¬ì—�서 ì¤‘ìš”í•˜ë‹¤ê³ íŒ�명ë�˜ì—ˆë‹¤.
추가ì �ì�¸ ì •ê·œí™”ëŠ” 필기ì�˜ í�¬ê¸°ì™€ ê·¸ë ˆì�´ ë ˆë²¨ì�˜ ê°•ë�„ë�„ 중시한다.
ê°€ë�”ì�€ 필기 스타ì�¼ì�´ 한 ë�¼ì�¸ 안ì—�서ë�„ í�¬ê²Œ 달ë�¼ì§ˆ 수 있다는 관찰ì—�서 ì˜�í–¥ì�„ 받아서 우리는 ê°� 수필 ë�¼ì�¸ì�˜ 수ì§� 위치, ì�¼ê·¸ëŸ¬ì§� 등ì�„ ì§€ì—ì �으로 êµ�ì •í•˜ì˜€ë‹¤.
ë”°ë�¼ì„œ ê°� í–‰ì�€ 수필 ì§€ì— ì‚¬ì�´ì�˜ 공백ì�„ íƒ�색하는 방법ì�„ 통해 나누어진다.
ì•ˆì •ì �ì�¸ ì •ê·œí™” ì�¸ìž�를 계산하기ì—� 너무 ì§§ì�€ ì§€ì—ì�„ 회피하기 위해서 임계치를 사용하였다.
ë”°ë�¼ì„œ ê°� í–‰ì�€ 수필 ì§€ì— ì‚¬ì�´ì�˜ 공백ì�„ íƒ�색하는 방법ì�„ 통해 나누어진다.
ì•ˆì •ì �ì�¸ ì •ê·œí™” ì�¸ìž�를 계산하기ì—� 너무 ì§§ì�€ ì§€ì—ì�„ 회피하기 위해서 임계치를 사용하였다.
반면ì—� 수ì§� 위치와 ì�¼ê·¸ëŸ¬ì§�ì�€ 15ì—� 나온 것과 비슷한 ì„ í˜• 회귀(linear regression)를 ì�´ìš©í•œ ë² ì�´ìФë�¼ì�¸ ì¶”ì • 방법ì�„ ì�´ìš©í•´ì„œ êµ�ì •í•˜ì˜€ë‹¤. ì�¼ê·¸ëŸ¬ì§„ ê°�ë�„ì�˜ 계산ì�€ ê°�ì�˜ ë°©í–¥ì�„ 기반으로 하였다.
ë”°ë�¼ì„œ 해당 ì�´ë¯¸ì§€ëŠ” ì�´ì§„í™”ë�˜ê³ , ì�¼ê·¸ëŸ¬ì§� ì¶”ì •ì�„ 위해서 수ì§� íš�ì�´ 중요하다는 ê³ ë ¤ 하ì—� 수í�‰ ë°©í–¥ì—�서 ê²€ì�€ìƒ‰-í�°ìƒ‰, í�°ìƒ‰-ê²€ì�€ìƒ‰ 변환들ì�´ 추출ë�œë‹¤.
ê°�ë�„ ížˆìŠ¤í† ê·¸ëž¨ì—�서 누ì �ë�˜ëŠ” 모서리 기반 ë�°ì�´í„°ë¥¼ 얻기 위해서 ì •êµ�한 모서리 검출기가 사용ë�˜ì—ˆë‹¤.
ì�´ ížˆìŠ¤í† ê·¸ëž¨ì�˜ í�‰ê· ê°’ì�€ ì�¼ê·¸ëŸ¬ì§„ ê°�ë�„(slant angle)로서 사용ë�˜ì—ˆë‹¤.
ë”°ë�¼ì„œ 해당 ì�´ë¯¸ì§€ëŠ” ì�´ì§„í™”ë�˜ê³ , ì�¼ê·¸ëŸ¬ì§� ì¶”ì •ì�„ 위해서 수ì§� íš�ì�´ 중요하다는 ê³ ë ¤ 하ì—� 수í�‰ ë°©í–¥ì—�서 ê²€ì�€ìƒ‰-í�°ìƒ‰, í�°ìƒ‰-ê²€ì�€ìƒ‰ 변환들ì�´ 추출ë�œë‹¤.
ê°�ë�„ ížˆìŠ¤í† ê·¸ëž¨ì—�서 누ì �ë�˜ëŠ” 모서리 기반 ë�°ì�´í„°ë¥¼ 얻기 위해서 ì •êµ�한 모서리 검출기가 사용ë�˜ì—ˆë‹¤.
ì�´ ížˆìŠ¤í† ê·¸ëž¨ì�˜ í�‰ê· ê°’ì�€ ì�¼ê·¸ëŸ¬ì§„ ê°�ë�„(slant angle)로서 사용ë�˜ì—ˆë‹¤.
필기ì�˜ í�¬ê¸°ë¥¼ ì •ê·œí™”í•˜ê¸° 위해서 우리는 ê°� 필기 ë�¼ì�¸ì�˜ ì§€ì—ì �ì�¸ 극값(local extrema)ì�„ ì„¸ê³ ì�´ ê°’ì�„ ë�¼ì�¸ì�˜ ë„“ì�´ì™€ 비êµ�하였다.
ì¶•ì²™ ì�¸ìž�(scaling factor)는 ì„ í˜•ì �으로 ì�´ 관계ì—� 기반한다. ì�´ëŠ” ì�´ 관계가 í�´ìˆ˜ë¡� 필기 스타ì�¼ì�´ ì¢�아지기 때문ì�´ë‹¤.
마지막 ì „ì²˜ë¦¬ 단계는 다른 종류ì�˜ 펜과 종ì�´ì—� ì�˜í•œ ì°¨ì�´ë¥¼ 보완하기 위한 ê·¸ë ˆì�´ ë ˆë²¨ì�˜ ì •ê·œí™”ë¡œ ì�´ë£¨ì–´ì ¸ 있다.
ë”°ë�¼ì„œ ì�´ë¯¸ì§€ì�˜ ê·¸ë ˆì�´ ë ˆë²¨ 간격ì�€ 가장 ì–´ë‘�ìš´ ê³³ì�´ 0ì�´ ë�˜ê³ 가장 ë°�ì�€ ê³³ì�´ 255ê°€ ë�œë‹¤.
ì�´ ì „ì²˜ë¦¬ 단계ì�˜ 효과는 ë§�ë‰ì¹˜ì—�서 ì „í˜•ì �ì�¸ í…�스트 ë�¼ì�¸ì�„ ì�´ìš©í•œ 그림 3ì—� 나타나 있다.
ì¶•ì²™ ì�¸ìž�(scaling factor)는 ì„ í˜•ì �으로 ì�´ 관계ì—� 기반한다. ì�´ëŠ” ì�´ 관계가 í�´ìˆ˜ë¡� 필기 스타ì�¼ì�´ ì¢�아지기 때문ì�´ë‹¤.
마지막 ì „ì²˜ë¦¬ 단계는 다른 종류ì�˜ 펜과 종ì�´ì—� ì�˜í•œ ì°¨ì�´ë¥¼ 보완하기 위한 ê·¸ë ˆì�´ ë ˆë²¨ì�˜ ì •ê·œí™”ë¡œ ì�´ë£¨ì–´ì ¸ 있다.
ë”°ë�¼ì„œ ì�´ë¯¸ì§€ì�˜ ê·¸ë ˆì�´ ë ˆë²¨ 간격ì�€ 가장 ì–´ë‘�ìš´ ê³³ì�´ 0ì�´ ë�˜ê³ 가장 ë°�ì�€ ê³³ì�´ 255ê°€ ë�œë‹¤.
ì�´ ì „ì²˜ë¦¬ 단계ì�˜ 효과는 ë§�ë‰ì¹˜ì—�서 ì „í˜•ì �ì�¸ í…�스트 ë�¼ì�¸ì�„ ì�´ìš©í•œ 그림 3ì—� 나타나 있다.
5. 특징 추출
필기 ë�¼ì�¸ì�˜ ì „ì²˜ë¦¬ ë�œ ì�´ë¯¸ì§€ëŠ” 특징 추출 단계ì�˜ ìž…ë ¥ ë�°ì�´í„°ë¡œ 들어간다.
11ì—� ê¸°ìˆ ë�œ 것과 ìœ ì‚¬í•œ ì ‘ê·¼ë°©ë²•ì�¸ sliding window 기법ì�´ ì �ìš©ë�˜ì—ˆë‹¤.
우리ì�˜ 경우ì—�는 ì�´ë¯¸ì§€ì�˜ 높ì�´ì™€ 4ì—´ì�˜ ë„“ì�´ë¥¼ 가진 윈ë�„ìš°ê°€ 2ì—´ë§Œí�¼ ê²¹ì³�지면서 ì�´ë¯¸ì§€ì�˜ 좌측ì—�서 우측으로 ì�´ë�™í•˜ì˜€ë‹¤. ê·¸ë¦¬ê³ í•œë‘� ê°œì�˜ 기하학ì � 특징들ì�„ 추출했다.
필기 ë�¼ì�¸ì�˜ ì „ì²˜ë¦¬ ë�œ ì�´ë¯¸ì§€ëŠ” 특징 추출 단계ì�˜ ìž…ë ¥ ë�°ì�´í„°ë¡œ 들어간다.
11ì—� ê¸°ìˆ ë�œ 것과 ìœ ì‚¬í•œ ì ‘ê·¼ë°©ë²•ì�¸ sliding window 기법ì�´ ì �ìš©ë�˜ì—ˆë‹¤.
우리ì�˜ 경우ì—�는 ì�´ë¯¸ì§€ì�˜ 높ì�´ì™€ 4ì—´ì�˜ ë„“ì�´ë¥¼ 가진 윈ë�„ìš°ê°€ 2ì—´ë§Œí�¼ ê²¹ì³�지면서 ì�´ë¯¸ì§€ì�˜ 좌측ì—�서 우측으로 ì�´ë�™í•˜ì˜€ë‹¤. ê·¸ë¦¬ê³ í•œë‘� ê°œì�˜ 기하학ì � 특징들ì�„ 추출했다.
sliding window� � 열마다 다� 7가지 특징들� 계산�었다.
(1) 검�색-�색 변환� 수(window� 들어간 �스트 �미지를 �진화 한 후�)
(2) ê¸°ì¤€ì„ ì�„ ê³ ë ¤í–ˆì�„ 때ì�˜ 극값 ë¶„ì‚°ì�˜ í�‰ê· ê°’ 위치(position of the mean value of the intensity distribution)
(3) í…�스트 픽셀ì�˜ 최ìƒ�단ì—�서 ê¸°ì¤€ì„ ê¹Œì§€ì�˜ 거리
(4) í…�스트 픽셀ì�˜ 최하단ì—�서 ê¸°ì¤€ì„ ê¹Œì§€ì�˜ 거리
(5) �스트 픽셀� 최�단과 최하단 사�� 거리
(6) í…�스트 픽셀ì�˜ 최ìƒ�단과 최하단 사ì�´ì�˜ í�‰ê· 극값
(7) ì—´ì�˜ í�‰ê· 극값
필기 사ì�´ì¦ˆì�˜ ë¶„ì‚°ì—� 대해 ê²¬ê³ í•¨ì�„ ì¦�가시키기 위해서 특징 (2)-(5)는 ìƒ�단 ê¸°ì¤€ì„ ê³¼ 하단 ê¸°ì¤€ì„ ì�˜ 거리(ì§€ì— ìµœê³ ê°’ì�„ ì�´ìš©í•œ line fitting으로 계산ë�¨)를 ì�´ìš©í•´ì„œ ì •ê·œí™”ë�˜ì—ˆë‹¤.
ê·¸ 후ì—� windowì�˜ 4열마다 ëª¨ë“ íŠ¹ì§•ë“¤ì�€ í�‰ê· í™”ë�˜ì—ˆë‹¤.
(1) 검�색-�색 변환� 수(window� 들어간 �스트 �미지를 �진화 한 후�)
(2) ê¸°ì¤€ì„ ì�„ ê³ ë ¤í–ˆì�„ 때ì�˜ 극값 ë¶„ì‚°ì�˜ í�‰ê· ê°’ 위치(position of the mean value of the intensity distribution)
(3) í…�스트 픽셀ì�˜ 최ìƒ�단ì—�서 ê¸°ì¤€ì„ ê¹Œì§€ì�˜ 거리
(4) í…�스트 픽셀ì�˜ 최하단ì—�서 ê¸°ì¤€ì„ ê¹Œì§€ì�˜ 거리
(5) �스트 픽셀� 최�단과 최하단 사�� 거리
(6) í…�스트 픽셀ì�˜ 최ìƒ�단과 최하단 사ì�´ì�˜ í�‰ê· 극값
(7) ì—´ì�˜ í�‰ê· 극값
필기 사ì�´ì¦ˆì�˜ ë¶„ì‚°ì—� 대해 ê²¬ê³ í•¨ì�„ ì¦�가시키기 위해서 특징 (2)-(5)는 ìƒ�단 ê¸°ì¤€ì„ ê³¼ 하단 ê¸°ì¤€ì„ ì�˜ 거리(ì§€ì— ìµœê³ ê°’ì�„ ì�´ìš©í•œ line fitting으로 계산ë�¨)를 ì�´ìš©í•´ì„œ ì •ê·œí™”ë�˜ì—ˆë‹¤.
ê·¸ 후ì—� windowì�˜ 4열마다 ëª¨ë“ íŠ¹ì§•ë“¤ì�€ í�‰ê· í™”ë�˜ì—ˆë‹¤.
극값 ë¶„ì‚°ì�˜ í�‰ê· ê°’ì�˜ 경사ë�„ ë¿�ë§Œ 아니ë�¼ ìƒ�하단 윤곽ì�˜ ë°©í–¥ì�„ ê³ ë ¤í•˜ê¸° 위해서, 우리는 추가ì �으로 3ê°œì�˜ ë°©í–¥ 특징ì�„ 계산하였다.
ë”°ë�¼ì„œ 우리는 window ë‚´ë¶€ì—� 있는 4ê°œì�˜ 하단 윤곽ì �ê³¼ ìƒ�단 윤곽ì �, í�‰ê· ê°’ì�„ ì�´ìš©í•´ì„œ ë�¼ì�¸ì�„ ì¶”ì •í•˜ì˜€ë‹¤. ê·¸ë¦¬ê³ ë�¼ì�¸ì�˜ 위치를 ê°�ê°� (8), (9), (10)ì�˜ 특징으로 사용하였다.
ë”°ë�¼ì„œ 우리는 window ë‚´ë¶€ì—� 있는 4ê°œì�˜ 하단 윤곽ì �ê³¼ ìƒ�단 윤곽ì �, í�‰ê· ê°’ì�„ ì�´ìš©í•´ì„œ ë�¼ì�¸ì�„ ì¶”ì •í•˜ì˜€ë‹¤. ê·¸ë¦¬ê³ ë�¼ì�¸ì�˜ 위치를 ê°�ê°� (8), (9), (10)ì�˜ 특징으로 사용하였다.
ë�” ë„“ì�€ 임시 문맥ì�„ ê³ ë ¤í•´ì„œ, 우리는 ê°� 특징 벡터 요소마다 근사ì �ì�¸ 수í�‰ 파ìƒ�물(approximate horizental derivative)ì�„ 계산하였다. ë”°ë�¼ì„œ 20ì°¨ì›�ì�˜ 특징 벡터를 얻었다.(window당 10ê°œì�˜ 특징 + 10ê°œì�˜ 파ìƒ�물)
특징 벡터들ì�˜ 연관성ì�„ 줄ì�´ê³ í�´ëž˜ìФ(...)ì�˜ 분리성ì�„ ì¦�가시키기 위해서 우리는 í›ˆë ¨ê³¼ ì�¸ì‹� 단계ì�˜ ì„ í˜• íŒ�별 í•´ì„�ì�„ 통합하였다.(cf. 6)
ì„ í˜• 변환과 특징 공간ì�˜ ì°¨ì›�ì�„ 줄ì�´ëŠ” 방법ì�„ ì �용하여 ì›�형 특징 표현(........ original feature representation)ì�„ 최ì �화하였다.
ì„ í˜• 변환 A는 í›ˆë ¨ ë�°ì�´í„°ì—� 있는 class scatter matrix Swê³¼ scatter matrix Sb ê°„ì�˜ ê³ ìœ ê°’(eigenvalue) ë¬¸ì œë¥¼ 푸는 것으로 얻어진다.
ì�´ scatter matrix들ì�€ ê°� 특징 벡터가 HMMìƒ�태로 분류ë�˜ê³ 우리는 처ì�Œì—� í›ˆë ¨ ë�°ì�´í„°ì�˜ ìƒ�태ì—� 기반한 ì •ë ¬ì—� ë”°ë�¼ì„œ ì�¼ë°˜ í›ˆë ¨ì�„ 수행해야 한다. (...........................)
ì�´ scatter matirx들ì�„ ì•Œê³ ìžˆì�„ 때 LDA 변환ì�€ 다ì�Œ ê³ ìœ ê°’ ë¬¸ì œë¥¼ 푸는 것으로 ê³„ì‚°í• ìˆ˜ 있다.
ì„ í˜• 변환과 특징 공간ì�˜ ì°¨ì›�ì�„ 줄ì�´ëŠ” 방법ì�„ ì �용하여 ì›�형 특징 표현(........ original feature representation)ì�„ 최ì �화하였다.
ì„ í˜• 변환 A는 í›ˆë ¨ ë�°ì�´í„°ì—� 있는 class scatter matrix Swê³¼ scatter matrix Sb ê°„ì�˜ ê³ ìœ ê°’(eigenvalue) ë¬¸ì œë¥¼ 푸는 것으로 얻어진다.
ì�´ scatter matrix들ì�€ ê°� 특징 벡터가 HMMìƒ�태로 분류ë�˜ê³ 우리는 처ì�Œì—� í›ˆë ¨ ë�°ì�´í„°ì�˜ ìƒ�태ì—� 기반한 ì •ë ¬ì—� ë”°ë�¼ì„œ ì�¼ë°˜ í›ˆë ¨ì�„ 수행해야 한다. (...........................)
ì�´ scatter matirx들ì�„ ì•Œê³ ìžˆì�„ 때 LDA 변환ì�€ 다ì�Œ ê³ ìœ ê°’ ë¬¸ì œë¥¼ 푸는 것으로 ê³„ì‚°í• ìˆ˜ 있다.
... �
...와 ...는 S-1wSbì�˜ ê³ ìœ ê°’ê³¼ ê³ ìœ ë²¡í„°ì�´ë‹¤.
ì°¨ì›�수ì�˜ 수축ì�€ mê°œì�˜ 최대 ê³ ìœ ê°’ë“¤ì—� ì†�한 mê°œì�˜ ê³ ìœ ë²¡í„°ë¥¼ 구하는 것ì�„ ê³ ë ¤í•˜ëŠ” 것으로 얻는다.
ëª¨ë“ íŠ¹ì§• 벡터들ì�„ LDA 변환 한 후ì—� ì™„ì „ížˆ 새로운 HMM 학습ì�´ 수행ë�œë‹¤.
ì°¨ì›�수ì�˜ 수축ì�€ mê°œì�˜ 최대 ê³ ìœ ê°’ë“¤ì—� ì†�한 mê°œì�˜ ê³ ìœ ë²¡í„°ë¥¼ 구하는 것ì�„ ê³ ë ¤í•˜ëŠ” 것으로 얻는다.
ëª¨ë“ íŠ¹ì§• 벡터들ì�„ LDA 변환 한 후ì—� ì™„ì „ížˆ 새로운 HMM 학습ì�´ 수행ë�œë‹¤.
6. 통계ì � 모ë�¸ë§�ê³¼ ì�¸ì‹�
필기 í…�스트 ì�¸ì‹� 작업ì�„ 위한 ì„¤ì •, 학습, HMMsì�˜ í•´ë�… 작업ì�€ ESMERALDA 개발 환경5ì—�서 ì œê³µë�˜ëŠ” 방법들과 ë�„구들ì—� ì�˜í•´ 수행ë�œë‹¤.
HMMsì�˜ ì�¼ë°˜ì �ì�¸ 구성ì�„ 위해 우리는 512ê°œì�˜ Gaussian mixtures with diagonal covariance matrices를 ë‹´ê³ ìžˆëŠ” ê³µìœ codebookê³¼ ë°˜-ì—°ì†�ì �ì�¸ 시스템들ì�„ ì�´ìš©í•˜ì˜€ë‹¤.
기본 시스템 모ë�¸ì�„ 위해서 52ê°œì�˜ 문ìž�, 10ê°œì�˜ 숫ìž�, 12ê°œì�˜ 문장부호와 괄호, 하나ì�˜ 공백 문ìž�ê°€ 표준 Baum-Welch ìž¬ì¶”ì •ì�„ ì�´ìš©í•´ì„œ í›ˆë ¨ë�œë‹¤.
문ìž� 모ë�¸ë“¤ì�˜ 반복으로 구성ë�œ ê²°í•© 모ë�¸ì�´ ì „ì²´ í…�스트 ë�¼ì�¸ì�„ ì�¸ì‹�하기 위해서 사용ë�œë‹¤.
가장 ìœ ì‚¬í• ê²ƒ ê°™ì�€ 문ìž� ë°°ì—´ì�´ 표준 Viterbi beam-search 방법ì�„ ì�´ìš©í•´ì„œ 계산ë�œë‹¤.
필기 í…�스트 ì�¸ì‹� 작업ì�„ 위한 ì„¤ì •, 학습, HMMsì�˜ í•´ë�… 작업ì�€ ESMERALDA 개발 환경5ì—�서 ì œê³µë�˜ëŠ” 방법들과 ë�„구들ì—� ì�˜í•´ 수행ë�œë‹¤.
HMMsì�˜ ì�¼ë°˜ì �ì�¸ 구성ì�„ 위해 우리는 512ê°œì�˜ Gaussian mixtures with diagonal covariance matrices를 ë‹´ê³ ìžˆëŠ” ê³µìœ codebookê³¼ ë°˜-ì—°ì†�ì �ì�¸ 시스템들ì�„ ì�´ìš©í•˜ì˜€ë‹¤.
기본 시스템 모ë�¸ì�„ 위해서 52ê°œì�˜ 문ìž�, 10ê°œì�˜ 숫ìž�, 12ê°œì�˜ 문장부호와 괄호, 하나ì�˜ 공백 문ìž�ê°€ 표준 Baum-Welch ìž¬ì¶”ì •ì�„ ì�´ìš©í•´ì„œ í›ˆë ¨ë�œë‹¤.
문ìž� 모ë�¸ë“¤ì�˜ 반복으로 구성ë�œ ê²°í•© 모ë�¸ì�´ ì „ì²´ í…�스트 ë�¼ì�¸ì�„ ì�¸ì‹�하기 위해서 사용ë�œë‹¤.
가장 ìœ ì‚¬í• ê²ƒ ê°™ì�€ 문ìž� ë°°ì—´ì�´ 표준 Viterbi beam-search 방법ì�„ ì�´ìš©í•´ì„œ 계산ë�œë‹¤.
ì „ì²˜ë¦¬ ë�™ì•ˆ ë³´ì™„í• ìˆ˜ 없었ë�˜ 다양한 필기 ë°©ì‹�ì�˜ ì°¨ì�´ë¥¼ ê³ ë ¤í•´ì„œ 우리는 13ì—� ê¸°ìˆ ë�œ ì ‘ê·¼ë°©ì‹�ê³¼ ìœ ì‚¬í•˜ê²Œ 복수 작성ìž�와 작성ìž�ì—� ë�…립ì �ì�¸ ì�¸ì‹�ì�„ 위한 문ìž� allograph 모ë�¸ì�„ ì �용하였다.
Allograph는 íŠ¹ì • 문ìž�ì�˜ 다른 샘플(realization)ê³¼ ê°™ì�€ 문ìž�ì�˜ 하위 í•목ì�„ 나타낸다.
ì�´ê²ƒì�€ ê¸°ì¤€ì„ ì‹œìŠ¤í…œê³¼ 반대로 HMMsê°€ 사로 다른 문ìž�ì�˜ 하위 í•목ì�„ 모ë�¸ë§�하기 위해서 사용ë�œë‹¤ëŠ” 것ì�„ 뜻한다.
ë”°ë�¼ì„œ 문ìž� 당 하위 í•목ì�˜ 수와 allograph HMMsì�˜ 수는 발견ì �으로(heuristically) ê²°ì •ë�œë‹¤. 예를 들어 복수 작성ìž� 시스템ì�¼ 경우 allographì�˜ 수가 주어진 작성ìž�ì�˜ 수와 ê°™ì�Œì�„ ì¶”ì •í• ìˆ˜ 있다.
초기화를 위해서, í›ˆë ¨ ë�°ì�´í„°ëŠ” 무작위로 ì„ íƒ�ë�œ allograph HMMs로 분류ë�œë‹¤.
ëª¨ë“ ë¬¸ìž� 샘플ì�„ í›ˆë ¨í•˜ëŠ” ë�™ì•ˆ, ë³‘ë ¬ì �으로 ëª¨ë“ í•´ë‹¹í•˜ëŠ” allograph 모ë�¸ë“¤ì—�게 매개변수 ìž¬ì¶”ì •ì�´ ì �ìš©ë�œë‹¤.
ì�¼ì¹˜ í™•ë¥ ì�€ íŠ¹ì • 모ë�¸ì�˜ 매개변수가 현재 샘플ì—� 얼마나 ì˜�í–¥ì�„ 받았는지를 ê²°ì •í•œë‹¤.
ë”°ë�¼ì„œ allograph 분류는 ê³ ìœ í•˜ê²Œ ê²°ì •ë�˜ëŠ” 것ì�´ 아니ë�¼ 단지 ì�´ ê³¼ì •ì�´ soft vector ì–‘ìž�화와 ìœ ì‚¬í•œì§€ì—� ë”°ë�¼ í™•ë¥ ì �으로 ê²°ì •ë�œë‹¤.
Allograph는 íŠ¹ì • 문ìž�ì�˜ 다른 샘플(realization)ê³¼ ê°™ì�€ 문ìž�ì�˜ 하위 í•목ì�„ 나타낸다.
ì�´ê²ƒì�€ ê¸°ì¤€ì„ ì‹œìŠ¤í…œê³¼ 반대로 HMMsê°€ 사로 다른 문ìž�ì�˜ 하위 í•목ì�„ 모ë�¸ë§�하기 위해서 사용ë�œë‹¤ëŠ” 것ì�„ 뜻한다.
ë”°ë�¼ì„œ 문ìž� 당 하위 í•목ì�˜ 수와 allograph HMMsì�˜ 수는 발견ì �으로(heuristically) ê²°ì •ë�œë‹¤. 예를 들어 복수 작성ìž� 시스템ì�¼ 경우 allographì�˜ 수가 주어진 작성ìž�ì�˜ 수와 ê°™ì�Œì�„ ì¶”ì •í• ìˆ˜ 있다.
초기화를 위해서, í›ˆë ¨ ë�°ì�´í„°ëŠ” 무작위로 ì„ íƒ�ë�œ allograph HMMs로 분류ë�œë‹¤.
ëª¨ë“ ë¬¸ìž� 샘플ì�„ í›ˆë ¨í•˜ëŠ” ë�™ì•ˆ, ë³‘ë ¬ì �으로 ëª¨ë“ í•´ë‹¹í•˜ëŠ” allograph 모ë�¸ë“¤ì—�게 매개변수 ìž¬ì¶”ì •ì�´ ì �ìš©ë�œë‹¤.
ì�¼ì¹˜ í™•ë¥ ì�€ íŠ¹ì • 모ë�¸ì�˜ 매개변수가 현재 샘플ì—� 얼마나 ì˜�í–¥ì�„ 받았는지를 ê²°ì •í•œë‹¤.
ë”°ë�¼ì„œ allograph 분류는 ê³ ìœ í•˜ê²Œ ê²°ì •ë�˜ëŠ” 것ì�´ 아니ë�¼ 단지 ì�´ ê³¼ì •ì�´ soft vector ì–‘ìž�화와 ìœ ì‚¬í•œì§€ì—� ë”°ë�¼ í™•ë¥ ì �으로 ê²°ì •ë�œë‹¤.
추가ì �으로, 문ìž� ë°°ì—´ì—� 대한 ì¶”ì •ì�„ ì œê³µí• ê²ƒ ê°™ì�€ ì�¸ì‹� ê³¼ì •ì—� 통계ì � 언어 모ë�¸ì�´ 통합ë�˜ì—ˆë‹¤.
ì�¸ì§€ 처리ì�˜ 목표는 ... ì‹�ì�„ 따르는 관측ë�œ ë�°ì�´í„° xì—� 대해 ê²°í•©ë�œ 통계 모ë�¸ì�˜ í™•ë¥ ì�„ 극대화 하는 문ìž� ë°°ì—´ W^를 찾는 것ì�´ë‹¤.
위 ë°©ì •ì‹� P(w)는 문ìž� ë°°ì—´ w와 ìž…ë ¥ ë�°ì�´í„° xê°€ 문ìž� 모ë�¸ì�„ 따를 때 ì�´ 문ìž� ë°°ì—´ì�„ ê´€ì¸¡í• í™•ë¥ P(x|w)ì—� 대한 문ìž� 모ë�¸ í™•ë¥ ì�„ 나타낸다.
우리ì�˜ 경우ì—�는 absolute discounting ì�„ ì�´ìš©í•œ bi-gram언어 모ë�¸ê³¼ backing-off for smoothing of probability distributionsê°€ ì �ìš©ë�˜ì—ˆë‹¤.
ì�¸ì§€ 처리ì�˜ 목표는 ... ì‹�ì�„ 따르는 관측ë�œ ë�°ì�´í„° xì—� 대해 ê²°í•©ë�œ 통계 모ë�¸ì�˜ í™•ë¥ ì�„ 극대화 하는 문ìž� ë°°ì—´ W^를 찾는 것ì�´ë‹¤.
위 ë°©ì •ì‹� P(w)는 문ìž� ë°°ì—´ w와 ìž…ë ¥ ë�°ì�´í„° xê°€ 문ìž� 모ë�¸ì�„ 따를 때 ì�´ 문ìž� ë°°ì—´ì�„ ê´€ì¸¡í• í™•ë¥ P(x|w)ì—� 대한 문ìž� 모ë�¸ í™•ë¥ ì�„ 나타낸다.
우리ì�˜ 경우ì—�는 absolute discounting ì�„ ì�´ìš©í•œ bi-gram언어 모ë�¸ê³¼ backing-off for smoothing of probability distributionsê°€ ì �ìš©ë�˜ì—ˆë‹¤.
7. ê²°ê³¼
우리는 우리� 필기 �� 시스템� �가하기 위해 세 종류� 실험� 했다. 단� 작성�, 복수 작성�, 작성�와 �립� 경우.
ì�´ 실험들ì�˜ 문ìž� 오류율ì�€ table 1ì—� 나타나있다. 실험ì�˜ 타입ì�€ 첫 ë‘� ì—´ì—� 나와 ìžˆê³ , 언어 모ë�¸ì�„ ì �용하지 않ì�€ ì—�러율ì�€ 세 번째 ì—´ì—�, bi-gram 언어 모ë�¸ì�„ 문ìž� 수준ì—�서 사용한 결과는 네 번째 ì—´ì—�서 ì°¾ì�„ 수 있다.
언어 모ë�¸ì�€ IAM ë�°ì�´í„°ë² ì�´ìФì�˜ a..d ì¹´í…Œê³ ë¦¬ì�˜ ëª¨ë“ í…�스트를 ì�´ìš©í•˜ì—¬ ìƒ�성ë�˜ì—ˆê³ , 나머지 실험들ì—�서ë�„ ë�™ì�¼í•˜ë‹¤.
어휘 ì œí•œì�´ 없는(lexicon-free ....) 단어 ì�¸ì‹�ê³¼ 어휘ì—� 기반한 단어 ì�¸ì‹�ì�˜ 결과는 table 2ì—� 나타나 있다.
단ì�¼ 작성ìž�ì�¸ 경우ì�˜ 실험ì�€ ë…¸ì�¸(Senior) ë�°ì�´í„°ë² ì�´ìФì—�서 학습ì�„ 위해 282줄ì�˜ í…�스트를 ì‚¬ìš©í–ˆê³ í…ŒìŠ¤íŠ¸ë¥¼ 위해 141줄ì�˜ í…�스트를 사용했다. 문ìž� 수준ì�˜ bi-gram perplexity는 15.3ì�´ì—ˆë‹¤.
bi-gram 언어 모ë�¸ì�„ ë�„입하는 것으로 13.3%ì�¸ ê¸°ì¤€ì„ ì‹œìŠ¤í…œì�˜ 오류율ì�€ 12.1%까지 ê°�소하는 결과를 ì�´ë£¨ì—ˆë‹¤.
LDA 변환ë�œ 특징ì�„ ì�´ìš©í•˜ëŠ” 것으로 오류율ì�´ í�¬ê²Œ ì¦�가하지 않게 ë�œë‹¤. 심지어 LDA 변환ë�œ 특징 공간ì�´ 12까지 줄어들어ë�„ ê·¸ë ‡ë‹¤.
단� 작성� 시스템�서� 단어 오류율(table 2)� 어휘가 없는 �황�서 28.5%, 특히 1.5k 어휘�서는 10.5%�다.
ì�´ 결과들ì�€ 우리가 찾아낸 ê°™ì�€ ë�°ì�´í„°ë² ì�´ìŠ¤ë¥¼ 쓰는 ê²°ê³¼(literature ......)와 비êµ�í–ˆì�„ 때 쓸만하다. í›ˆë ¨ìš©ê³¼ 테스트용 ì…‹ì�˜ í�¬ê¸°ê°€ 다르기 때문ì—� 비êµ�하기는 ì–´ë µì§€ë§Œ.
17ì—�서 ê°� 글ìž�ì�˜ 오류율ì�€ 28.3%로 ì¸¡ì •ë�˜ì—ˆë‹¤. 어휘가 없는 경우ì—� 84.1%ì˜€ê³ , 특히 1.3k 어휘ì—�서는 16.5%였다.
15는 어휘가 있는 ìƒ�황ì—�서 6.6%ì�˜ 단어 오류율과 어휘가 없는 ìƒ�황ì—�서 41.1%ì�˜ 단어 오류율ì�„ ë³´ê³ í•˜ì˜€ë‹¤.
9ì—�서 ë³´ê³ ë�œ 어휘ì—� 기반한 단어 오류율ì�˜ ìµœê³ ì¹˜ëŠ” 15.0%였다.
우리는 우리� 필기 �� 시스템� �가하기 위해 세 종류� 실험� 했다. 단� 작성�, 복수 작성�, 작성�와 �립� 경우.
ì�´ 실험들ì�˜ 문ìž� 오류율ì�€ table 1ì—� 나타나있다. 실험ì�˜ 타입ì�€ 첫 ë‘� ì—´ì—� 나와 ìžˆê³ , 언어 모ë�¸ì�„ ì �용하지 않ì�€ ì—�러율ì�€ 세 번째 ì—´ì—�, bi-gram 언어 모ë�¸ì�„ 문ìž� 수준ì—�서 사용한 결과는 네 번째 ì—´ì—�서 ì°¾ì�„ 수 있다.
언어 모ë�¸ì�€ IAM ë�°ì�´í„°ë² ì�´ìФì�˜ a..d ì¹´í…Œê³ ë¦¬ì�˜ ëª¨ë“ í…�스트를 ì�´ìš©í•˜ì—¬ ìƒ�성ë�˜ì—ˆê³ , 나머지 실험들ì—�서ë�„ ë�™ì�¼í•˜ë‹¤.
어휘 ì œí•œì�´ 없는(lexicon-free ....) 단어 ì�¸ì‹�ê³¼ 어휘ì—� 기반한 단어 ì�¸ì‹�ì�˜ 결과는 table 2ì—� 나타나 있다.
단ì�¼ 작성ìž�ì�¸ 경우ì�˜ 실험ì�€ ë…¸ì�¸(Senior) ë�°ì�´í„°ë² ì�´ìФì—�서 학습ì�„ 위해 282줄ì�˜ í…�스트를 ì‚¬ìš©í–ˆê³ í…ŒìŠ¤íŠ¸ë¥¼ 위해 141줄ì�˜ í…�스트를 사용했다. 문ìž� 수준ì�˜ bi-gram perplexity는 15.3ì�´ì—ˆë‹¤.
bi-gram 언어 모ë�¸ì�„ ë�„입하는 것으로 13.3%ì�¸ ê¸°ì¤€ì„ ì‹œìŠ¤í…œì�˜ 오류율ì�€ 12.1%까지 ê°�소하는 결과를 ì�´ë£¨ì—ˆë‹¤.
LDA 변환ë�œ 특징ì�„ ì�´ìš©í•˜ëŠ” 것으로 오류율ì�´ í�¬ê²Œ ì¦�가하지 않게 ë�œë‹¤. 심지어 LDA 변환ë�œ 특징 공간ì�´ 12까지 줄어들어ë�„ ê·¸ë ‡ë‹¤.
단� 작성� 시스템�서� 단어 오류율(table 2)� 어휘가 없는 �황�서 28.5%, 특히 1.5k 어휘�서는 10.5%�다.
ì�´ 결과들ì�€ 우리가 찾아낸 ê°™ì�€ ë�°ì�´í„°ë² ì�´ìŠ¤ë¥¼ 쓰는 ê²°ê³¼(literature ......)와 비êµ�í–ˆì�„ 때 쓸만하다. í›ˆë ¨ìš©ê³¼ 테스트용 ì…‹ì�˜ í�¬ê¸°ê°€ 다르기 때문ì—� 비êµ�하기는 ì–´ë µì§€ë§Œ.
17ì—�서 ê°� 글ìž�ì�˜ 오류율ì�€ 28.3%로 ì¸¡ì •ë�˜ì—ˆë‹¤. 어휘가 없는 경우ì—� 84.1%ì˜€ê³ , 특히 1.3k 어휘ì—�서는 16.5%였다.
15는 어휘가 있는 ìƒ�황ì—�서 6.6%ì�˜ 단어 오류율과 어휘가 없는 ìƒ�황ì—�서 41.1%ì�˜ 단어 오류율ì�„ ë³´ê³ í•˜ì˜€ë‹¤.
9ì—�서 ë³´ê³ ë�œ 어휘ì—� 기반한 단어 오류율ì�˜ ìµœê³ ì¹˜ëŠ” 15.0%였다.
복수 작성ìž�ì�˜ 수필 ì�¸ì‹� 작업ì�„ 위해 IAM ë�°ì�´í„°ë² ì�´ìФì—�서 c03ì�˜ 하위집합ì—� 있는 440줄ì�˜ í…�스트 ë�¼ì�¸ë“¤ì�´ 학습ì�„ 위해 사용ë�˜ì—ˆê³ , 109줄ì�´ 테스트를 위해 사용ë�˜ì—ˆë‹¤.
� �스트 ��들� 6명� 다른 작성�� �해 �당히 다른 필기 스타�로 작성�었다.
� 작업� 위해서 LDA(수축� 차�수 12)를 �용한 14.2%� 오류율� 가진 문�들� 얻어졌다. �러율� allograph 모�(� 소문�마다 6개� allograph)� �용하는 것으로 13.3%까지 �소한다.
bi-gram 언어 모ë�¸ì�˜ ì�‘ìš©ì�€ 추가ì �으로 오류율ì�„ 11.1%(테스트 ì…‹ perplexity 12.0)까지 ë�” 낮춰준다.
어휘를 사용하지 않는 경우ì—� 단어 오류율ì�´ 39.0%, 421ê°œì�˜ 단어(문장부호 í�¬í•¨)를 í�¬í•¨í•˜ëŠ” 어휘를 ì �용하는 것으로 13.9%까지 떨어진다. ì�´ê²ƒì�€ 11ì—� ì¶œíŒ�ë�œ 단어 오류율 20.5%와 잘 비êµ�ë�œë‹¤.
� �스트 ��들� 6명� 다른 작성�� �해 �당히 다른 필기 스타�로 작성�었다.
� 작업� 위해서 LDA(수축� 차�수 12)를 �용한 14.2%� 오류율� 가진 문�들� 얻어졌다. �러율� allograph 모�(� 소문�마다 6개� allograph)� �용하는 것으로 13.3%까지 �소한다.
bi-gram 언어 모ë�¸ì�˜ ì�‘ìš©ì�€ 추가ì �으로 오류율ì�„ 11.1%(테스트 ì…‹ perplexity 12.0)까지 ë�” 낮춰준다.
어휘를 사용하지 않는 경우ì—� 단어 오류율ì�´ 39.0%, 421ê°œì�˜ 단어(문장부호 í�¬í•¨)를 í�¬í•¨í•˜ëŠ” 어휘를 ì �용하는 것으로 13.9%까지 떨어진다. ì�´ê²ƒì�€ 11ì—� ì¶œíŒ�ë�œ 단어 오류율 20.5%와 잘 비êµ�ë�œë‹¤.
ì�´ëŸ¬í•œ 결과들ì�€ 우리가 훨씬 ë�” ì–´ë ¤ìš´ 작성ìž�ì—� ë�…립ì �ì�¸ ì�¸ì‹�ì�„ 수행하는ë�° 힘ì�„ 주었다.
IAM ë�°ì�´í„°ë² ì�´ìФì—� 있는 a-f(약 250명ì�˜ 작성ìž�)ì�˜ 하위집합ì�´ ìž…ë ¥ ë�°ì�´í„°ë¡œ 사용ë�˜ì—ˆëŠ”ë�°, 4321ë�¼ì�¸ì�˜ í…�스트(a-dì—�서 나옴)는 í›ˆë ¨ìš©ìœ¼ë¡œ 사용ë�˜ì—ˆê³ , 1097ë�¼ì�¸ì�˜ í…�스트(e-fì—�서 나옴)는 테스트ì—� 사용ë�˜ì—ˆë‹¤.
ì�´ ê¸°ì¤€ì„ ì‹œìŠ¤í…œì�€ 단어 ì—�러율 31.3%를 달성하였다.
작성ìž� ë�…립ì �ì�¸ 경우ì—� allograph 모ë�¸ì�„ ì�‘용하는 것ì�€ 복수 작성ìž� 실험과 비êµ�해서 ëšœë ·í•œ í–¥ìƒ�ì�„ 나타내지는 않았다.
문ìž� 하나당 3ê°œì�˜ allograph를 사용하는 것ì�€ 31.1%ì�˜ 오류율ì�„ ë‹¬ì„±í–ˆê³ , 우리가 단어당 10ê°œì�˜ allograph 모ë�¸ì�„ 사용한 실험ì�„ í–ˆì�„ 때는 오류율(34.8%)ê³¼ ì�¸ì‹� ì†�ë�„ê°€ 둘 다 ë‚˜ë¹ ì¡Œë‹¤.
하지만 LDA변환� 특징� 사용했� 때�는 오류율� 29.1%로 �미가 있게 �소하였다.
추가ì �으로 언어 모ë�¸ì�„ í�¬í•¨ì‹œí‚¤ìž� 문ìž� 오류율ì�€ 훨씬 í–¥ìƒ�ë�˜ì–´ 22.2%ê°€ ë�˜ì—ˆë‹¤.(테스트 ì…‹ perplexity 12.0)
�와 같� 경우�서 어휘를 사용하지 않았� 때 단어 오류율� 60.6%였다.
IAM ë�°ì�´í„°ë² ì�´ìФì—� 있는 a-f(약 250명ì�˜ 작성ìž�)ì�˜ 하위집합ì�´ ìž…ë ¥ ë�°ì�´í„°ë¡œ 사용ë�˜ì—ˆëŠ”ë�°, 4321ë�¼ì�¸ì�˜ í…�스트(a-dì—�서 나옴)는 í›ˆë ¨ìš©ìœ¼ë¡œ 사용ë�˜ì—ˆê³ , 1097ë�¼ì�¸ì�˜ í…�스트(e-fì—�서 나옴)는 테스트ì—� 사용ë�˜ì—ˆë‹¤.
ì�´ ê¸°ì¤€ì„ ì‹œìŠ¤í…œì�€ 단어 ì—�러율 31.3%를 달성하였다.
작성ìž� ë�…립ì �ì�¸ 경우ì—� allograph 모ë�¸ì�„ ì�‘용하는 것ì�€ 복수 작성ìž� 실험과 비êµ�해서 ëšœë ·í•œ í–¥ìƒ�ì�„ 나타내지는 않았다.
문ìž� 하나당 3ê°œì�˜ allograph를 사용하는 것ì�€ 31.1%ì�˜ 오류율ì�„ ë‹¬ì„±í–ˆê³ , 우리가 단어당 10ê°œì�˜ allograph 모ë�¸ì�„ 사용한 실험ì�„ í–ˆì�„ 때는 오류율(34.8%)ê³¼ ì�¸ì‹� ì†�ë�„ê°€ 둘 다 ë‚˜ë¹ ì¡Œë‹¤.
하지만 LDA변환� 특징� 사용했� 때�는 오류율� 29.1%로 �미가 있게 �소하였다.
추가ì �으로 언어 모ë�¸ì�„ í�¬í•¨ì‹œí‚¤ìž� 문ìž� 오류율ì�€ 훨씬 í–¥ìƒ�ë�˜ì–´ 22.2%ê°€ ë�˜ì—ˆë‹¤.(테스트 ì…‹ perplexity 12.0)
�와 같� 경우�서 어휘를 사용하지 않았� 때 단어 오류율� 60.6%였다.
8. ê²°ë¡ .
우리는 ë¶„í• ì�´ 없는 off-line 수필 í…�스트 ì�¸ì‹�ì�„ 위한 시스템ì�„ 소개하였다. ê·¸ë¦¬ê³ ë‹¨ì�¼ 작성ìž�, 복수 작성ìž�, 작성ìž�ì—� ë�…립ì �ì�¸ 경우ì—� 대한 몇몇 실험ë�„ 행하였다.
어휘를 사용하지 않ì�€ 경우 단어 기반ì�¼ 때 ë¿� 아니ë�¼ 문ìž� 수준ì—�서ë�„ ìœ ë§�한 ì�¸ì‹� 결과가 얻어졌다.
ì�´ ì�¸ì‹� ì •í™•ë�„는 문ìž� 수준ì—�서 통계ì �ì�¸ 문ìž� 모ë�¸ì�„ ì �용한 ê¸°ì¤€ì„ ì‹œìŠ¤í…œì—� 비해서 ìƒ�당히 í–¥ìƒ�ë�˜ì—ˆë‹¤. ê·¸ë¦¬ê³ íŠ¹ì§• 공간ì�˜ ì„ í˜• íŒ�별 í•´ì„�ì�„ 행하는 것으로 복수 작성ìž�와 작성ìž�ì—� ë�…립ì �ì�¸ 경우ì—� 대해 ì�¸ì‹� ì •í™•ë�„ê°€ í–¥ìƒ�ë�˜ì—ˆë‹¤.
allograph 문ìž� 모ë�¸ì�„ 사용하는 것으로 ì�¸ì‹� ì •í™•ë�„ 측면ì—�서, 복수 작성ìž�ì�¸ 경우ì—� 특히, ë�” ë§Žì�€ í–¥ìƒ�ì�´ ì�´ë£¨ì–´ì§ˆ 것ì�´ë‹¤.
우리는 ë¶„í• ì�´ 없는 off-line 수필 í…�스트 ì�¸ì‹�ì�„ 위한 시스템ì�„ 소개하였다. ê·¸ë¦¬ê³ ë‹¨ì�¼ 작성ìž�, 복수 작성ìž�, 작성ìž�ì—� ë�…립ì �ì�¸ 경우ì—� 대한 몇몇 실험ë�„ 행하였다.
어휘를 사용하지 않ì�€ 경우 단어 기반ì�¼ 때 ë¿� 아니ë�¼ 문ìž� 수준ì—�서ë�„ ìœ ë§�한 ì�¸ì‹� 결과가 얻어졌다.
ì�´ ì�¸ì‹� ì •í™•ë�„는 문ìž� 수준ì—�서 통계ì �ì�¸ 문ìž� 모ë�¸ì�„ ì �용한 ê¸°ì¤€ì„ ì‹œìŠ¤í…œì—� 비해서 ìƒ�당히 í–¥ìƒ�ë�˜ì—ˆë‹¤. ê·¸ë¦¬ê³ íŠ¹ì§• 공간ì�˜ ì„ í˜• íŒ�별 í•´ì„�ì�„ 행하는 것으로 복수 작성ìž�와 작성ìž�ì—� ë�…립ì �ì�¸ 경우ì—� 대해 ì�¸ì‹� ì •í™•ë�„ê°€ í–¥ìƒ�ë�˜ì—ˆë‹¤.
allograph 문ìž� 모ë�¸ì�„ 사용하는 것으로 ì�¸ì‹� ì •í™•ë�„ 측면ì—�서, 복수 작성ìž�ì�¸ 경우ì—� 특히, ë�” ë§Žì�€ í–¥ìƒ�ì�´ ì�´ë£¨ì–´ì§ˆ 것ì�´ë‹¤.
9. acknowledgement
ì�´ 작업ì�€ German Research Foundation(DFG)ì�˜ 프로ì �트 Fi799/1ì—�서 ì›�조를 받았다.
추가ì �으로 수필 형태ì�˜ DB를 ì œê³µí•œ 대학들ì—�게 ê°�사 ì�¸ì‚¬ë¥¼ 드린다.
ì�´ 작업ì�€ German Research Foundation(DFG)ì�˜ 프로ì �트 Fi799/1ì—�서 ì›�조를 받았다.
추가ì �으로 수필 형태ì�˜ DB를 ì œê³µí•œ 대학들ì—�게 ê°�사 ì�¸ì‚¬ë¥¼ 드린다.










