알고리즘 트레이딩이란 가격, 수량 등의 매매조건을 미리 설정하고, 주가 등 시장정보 또는 해당 기업의 재무적인 정보 등이 해당조건 충족시 자동으로 주문을 제출하는 매매를 말합니다. 우리나라에서 통상 사용되는 시스템 매매나 자동화 매매와 동일한 의미입니다.
초창기에는 시장충격을 최소화하며 고객의 대량주문을 최선의 조건으로 체결시키기 위한 주문집행 알고리즘의 형태로 발생되었습니다. 예를 들어, 거래량가중평균가격(VWAP)을 목표 체결가격으로 하여 주문수량을 과거 가격, 거래량 통계자료를 활용하여 탄력적으로 제출하는 형태가 대표적인 주문집행 알고리즘입니다.
이후 수익 극대화 목적으로 고빈도 매매(High Frequency Trading) 등 다양한 알고리즘 매매 기법이 개발되어 왔습니다. 국내의 경우에도 외국인 기관 투자자 등에 의한 고빈도 알고리즘 매매가 급속히 증가하고 있으며, 미국의 Flash Crash(2010년 5월 6일) 이후 고빈도 알고리즘 매매에 대한 규제강화 필요성이 부각되고 있습니다.