팩터 투자(factor investing)는 투자의 위험과 수익을 결정하는 특정 ‘팩터(factor)’을 식별하여 이용하는 투자전략이다. 시장 요인(market factor)을 제외한 다른 요인에 대한 노출을 관리하는 투자전략으로 종종 ‘스마트 베타(smart beta)’ 투자전략으로 불린다. 본 연구는 한국 주식시장을 대상으로 시장이상현상을 활용한 팩터 투자전략의 성과를 분석한다. 시장요인, 규모요인, 가치요인, 모멘텀요인을 통제한 후에도 유의한 요인을 찾고, 그 요인을 이용한 투자성과를 분석한다. 1990년 1월 1일부터 2021년 12월 31일까지 한국거래소에 상장된 모든 종목을 대상으로 성과를 검증하고, 이후 표본 종목을 줄여나가면서 성과가 지속적으로 관측되는지 검증한다. 특히 소형주와 저유동성 종목으로 인해 성과가 어떻게 영향을 받는지 검증한다. 분석 결과는 다음과 같다. 첫째, KOSPI, KOSDAQ에 포함된 종목 전체를 대상으로 분석한 결과 비유동성, 공왜도의 무비용 포트폴리오는 통계적으로 유의한 양(+)의 투자성과를 보이고, 베타, 고유변동성, MAX 효과는 통계적으로 유의한 음(-)의 투자성과를 보인다. 둘째, 소형주를 제외할 경우 비유동성과 베타의 무비용 포트폴리오 투자성과는 유의성은 사라진다. 소형주의 효과를 제거할 경우 대부분의 시장이상현상이 유의성이 하락함을 보인 Hou, Xue, and Zhang (2020)의 연구결과와 일치한다. 그러나 소형주 제외 여부에 상관없이 공왜도, 고유변동성, MAX 효과의 무비용 포트폴리오 투자성과는 통계적으로 유의하다. 셋째, 유동성이 큰 종목을 대상으로 성과를 검증한 결과 비유동성 프리미엄과 역베타(betting against beta) 프리미엄 현상이 사라지거나 역전되는 것으로 나타났다. 그러나 유동성 기준에 상관없이 공왜도, 고유변동성, MAX 효과의 무비용 포트폴리오 투자성과는 통계적으로 유의하다. 마지막으로, 시장이상치를 이용한 팩터 투자전략의 성과를 결정짓는 중요 요인은 공매 가능 여부이다. 비유동성, 고유변동성, MAX 효과의 무비용 포트폴리오의 음(-)의 투자성과는 P10(High) 포트폴리오의 음(-)의 성과에서 기인하고, 공왜도의 무비용 포트폴리오의 양(+)의 투자성과는 P1(Low) 포트폴리오의 음(-)의 성과에서 기인한다.

 주요어 : 팩터 투자, 비유동성, 고유변동성, MAX 효과, 공왜도