小南山遺址是新石器時代遺址，位于黑龍江省饒河縣南端烏蘇里江西岸的小南山東坡上。
1971年和1991年進行兩次發掘。發現墓葬1座，系二人合葬墓，為土坑豎穴式，仰身直肢葬。墓0-土有玉器、石器、牙墜飾等隨葬品，玉器有塊、環、珠、斧、矛、匕、簪等60余件。石器以打制為主，有矛、鏃、刮削器、尖狀器，還有少量磨制石器斧、鏃。陶器主要有罐、缽兩種，多數為素面，有少量方格拍印紋、刻劃紋、篦點戳印紋。從玉器特征看，遺址的有些特征與依蘭縣倭肯哈達遺址近似，且與紅山文化有一定的文化聯系。
2019年，小南山遺址列入第八批全國重點文物保護單位。