이에 앞서 이용구 공은 국사범(國事犯)이 되었다가 풀려났고, 세월이 오래된 원안(寃案)을 풀어드리는 일로 여러 차례 정부에 편지로 질의하여 재가를 얻었다. 이 때에 와서 또 교장대리(敎長代理) 박형채(朴衡采)로 하여금 청원서를 법부(法部)에 바치게 하였더니, 법부대신(法部大臣) 조중응(趙重應)이 의안(議案)을 제출하여 내각(內閣) 토의를 거쳤는데, 송병준은 농상대신(農商大臣)으로 또한 참여하였다. 여러 차례 상주해서 오래된 원안을 탕척하라는 성지(聖旨)를 특별히 받았다.
7월 11일에 이르러서 두 분 선사(先師)의 원안을 쾌히 풀어드렸고, 같은 달 17일 신원(伸寃)된 일을 관보(官報)에 게재하였으며, 법부에서 관보 300매를 싸서 남부(南部) 미동(美洞)에 임시로 설시한 교당(敎堂)에 보냈다. 이 날 교도들이 일제히 모여서 두 분 선사의 원안이 탕척된 일에 대한 고유치성식(告由致誠式)을 행하였다. 황은(皇恩)의 망극함과 천주선사(天主先師)의 무극대덕(無極大德)을 손모아 축원하고 번갈아 만세를 불렀다. 관보를 각 지방 교당에 나누어 보내 신원치성식(伸寃致誠式)을 특별히 행하게 하고, 7월 11일을 신원기념절(伸寃紀念節)로 정하였다.
같은 해 10월 이용구 공은 염창순(廉昌淳)･박형채(朴衡采)･김사영(金士永) 등을 파견하여 제세주의 완양례(完襄禮)를 경주군(慶州郡) 가정리(柯亭里) 구미산(龜尾山) 아래에 있는 교곡(橋谷)에서 봉행하였으니, 대개 제세주가 순도(殉道)한 후 44년만이었다. 경향(京鄕) 각 포 교인 중에는 성심으로 의연금을 낸 자가 많았고 경북관찰사(慶北觀察使) 이충구(李忠求)는 경주군에 훈칙(訓飭)하여 모든 수축(修築)하는 일 등을 일제히 명령하였다. 17일, 비로소 유해(遺骸)를 봉안하고 장례의식을 마쳤다.
이 달 18일, 이용구 공은 일본국훈3등서보장(日本國勳三等瑞寶章)을 받았다.
전 조선 신황제(新皇帝)가 양위를 받은 이후로 전국 인민 중에 오해한 사람이 많았기 때문에 비도(匪徒)가 사방에서 일어나서 인명을 살해하고 재산을 약탈하는 일을 한없이 하였다. 그러자 이용구 공은 개연(慨然)히 세상을 맑고 깨끗하게할 뜻을 가지고 정부에 건의해서 자위단(自衛團)을 조직하여 각지에 파견하고는 단지 종자(從者) 몇 명만을 거느리고 일본 사람 우치다 료헤이(內田良平), 다케다 한시(武田範之) 등과 함께 각지를 순회하며 인민을 효유하고 춘천(春川)에까지 이르렀다가 돌아왔다.