Korean Institute of Information Technology
[ Article ]
The Journal of Korean Institute of Information Technology - Vol. 24, No. 10, pp.85-92
ISSN: 1598-8619 (Print) 2093-7571 (Online)
Print publication date 31 Oct 2026
Received 03 Sep 2026 Revised 23 Sep 2026 Accepted 26 Sep 2026
DOI: https://doi.org/10.14801/jkiit.2026.24.10.85

재파라미터화 엣지 합성곱과 지식 증류 기반 해양 환경에서 실시간으로 동작하는 경량 초해상화 네트워크

하은재* ; 우희조* ; 이동호* ; 서지영*
*한화시스템 판교연구소(교신저자)
*한화시스템 판교연구소
A Lightweight Super-Resolution Network for Maritime Imagery based on Re-parameterized Edge Convolution and Knowledge Distillation
Eunjae Ha* ; Heejo Woo* ; Dongho Lee* ; Jiyoung Seo*

Correspondence to: Eunjae Ha Hanwha Systems Co., Ltd., Tel.: +82-31-8091-7537, Email: hawhen@hanwha.com

초록

해양 환경에서 원거리 소형 객체는 광학 센서의 한계로 운용자의 식별 능력이 저하된다. 본 논문은 임베디드 환경에서의 실시간 처리를 목표로 하는 해양 영상용 경량 초해상화 네트워크를 제안한다. 제안 네트워크는 재파라미터화 엣지 합성곱 블록(RECB)을 적용하여 추가 연산이나 파라미터 없이 엣지 정보를 활용하여 고주파 성분을 강조하여 고해상 영상을 생성한다. 또한 해양 도메인 적응과 특징 기반 지식 증류(KD)를 결합하여 PSNR 및 추론속도를 향상 시켰다. 제안 방법은 비교 모델 중 가장 적은 파라미터로 유사한 규모의 모델과 대등한 PSNR을 달성하였으며, 임베디드 환경에서 가장 높은 추론 속도를 달성하여 실시간 해양 감시 환경에 적용 가능함을 확인하였다.

Abstract

In maritime environments, distant small objects are difficult to identify because of optical sensor limitations, reducing operators' ability to identify them. This paper proposes a lightweight super-resolution network for maritime imagery targeting real-time processing on embedded platforms. The proposed network uses a Re-parameterized Edge Convolution Block (RECB) to make use of edge information without additional computation or parameters. Maritime domain adaptation and feature-based Knowledge Distillation (KD) are also incorporated. The proposed method achieves PSNR comparable to similarly sized models while using the fewest parameters among the compared models, and achieves the real-time in the embedded environment, demonstrating its applicability to real-time maritime surveillance.

Keywords:

super-resolution, lightweight neural network, knowledge distillation, maritime imagery, embedded system

Ⅰ. 서 론

해양 감시·정찰 체계는 함정, 무인수상정, 연안 감시탑 등 다양한 플랫폼에 탑재되어 광범위한 해역을 실시간으로 관측한다. 그러나 광학 센서가 확보할 수 있는 화각과 해상도는 상충 관계에 있어, 넓은 범위를 감시할 경우 표적의 화소 수는 급격히 감소한다.

특히 원거리 선박, 부표, 소형 고속정과 같은 표적은 영상 내에서 수십 화소 이하로 표현 된다. 소형 표적은 검출률 저하와 오탐 증가로 이어 진다. 따라서 검출 이전 단계에서 표적의 해상도와 엣지 정보를 복원하는 초해상화(SR, Super-Resolution)는 해양 감시 파이프라인에서 필수적인 전처리 과정이라 할 수 있다.

딥러닝 기반 SR은 SRCNN[1]이 3계층 합성곱만으로 기존 보간 기법을 상회하는 성능을 보인 이후, 깊은 잔차 구조를 도입한 VDSR(Very Deep Super-Resolution)[2]과 EDSR(Enhanced Deep Super-Resolution network)[3], 채널 어텐션을 결합한 RCAN[4], 트랜스포머 기반의 SwinIR(Swin Transformer for Image Restoration)[5]로 발전하며 복원 품질을 지속적으로 향상시켜 왔다. 그러나 이들 모델은 수백만 개 이상의 파라미터와 높은 연산량을 요구하기 때문에, 임베디드 플랫폼에서 실시간으로 운용하기에는 부적합하다.

이러한 문제를 해결하기 위해 IMDN(Information Multi-Distillation Network)[6], RFDN(Residual Feature Distillation Network)[7], SPAN(Swift Parameter-free Attention Network)[8] 등 경량 SR 모델이 제안되었다. 이들은 특징 증류 구조나 파라미터가 없는 어텐션을 통해 연산량을 크게 줄였으나, 채널 분할·연결과 다중 분기가 생성하는 다수의 중간 텐서로 인해 메모리 접근 비용이 증가하여 임베디드 추론 환경에서는 연산량 감소분만큼의 실측 속도 이득을 얻기 어렵다. 또한 대부분 일반 벤치마크 데이터에 최적화되어 있어, 배경 대비가 낮고 표적이 작은 해양 영상의 복원에는 한계를 보인다.

본 논문은 구조적 재파라미터화, 해양 도메인 적응, 지식 증류를 결합한 경량 초해상화 네트워크를 제안한다. 여기서 해양 도메인 적응이란, 일반 영상(DIV2K, Flickr2K)으로 학습한 모델을 학습 후반부에 해양 영상만으로 추가 학습한 지도 학습 기반 파인튜닝을 의미한다. 본 논문은 제한된 파라미터로 동급 모델과 대등한 복원 품질을 유지하면서 임베디드 실시간 처리가 가능하다. 제안하는 방법은 학습 시 소벨·라플라시안 엣지 분기를 포함한 다중 분기로 표현력을 확보하고, 추론 시 이를 단일 합성곱으로 등가 병합하여 파라미터와 연산량 증가 없이 평탄한 추론 구조를 얻는다[9][10]. 또한 지식 증류(KD, Knowledge Distillation) 기법으로 고성능 teacher의 중간 표현을 경량 student에 전달하고, 해양 데이터에 대한 도메인 적응 학습을 병행하여 소형 구조에서 발생하는 복원 성능 저하를 보상한다[11][12].

본 논문의 주요 기여는 다음과 같다. 첫째, 엣지 분기와 확장-압축 분기를 병렬 학습하고 추론 시 단일 3×3 합성곱으로 병합되는 재파라미터화 엣지 합성곱 블록(RECB, Re-parameterizable Edge-oriented Convolution Block)을 통해, 학습 시의 표현력을 추론 파라미터·연산량 증가 없이 확보하고 병합 후 TensorRT 레이어 융합에 유리한 형태를 구성한다. 둘째, 해양 도메인 적응 학습과 특징 기반 KD를 결합하여 168K 규모의 소형 구조에서 발생하는 표현력 손실을 보상하고, 구성요소별 ablation을 통해 엣지 분기 0.22 dB, 도메인 적응 0.16 dB, KD 0.21 dB의 상승을 정량적으로 확인하였다. 셋째, Jetson AGX Orin 에 탑재하여 복원 결과 비교를 통해, 상위 모델과 정성적으로 구분하기 어려운 복원 품질을 유지하면서 비교 모델 중 최고 처리량(42.5 FPS)과 최소 메모리 사용량(239 MB)을 달성함을 확인하였다. 특히 30 FPS의 실시간 기준을 충족하는 모델 가운데 제안 방법이 가장 작은 파라미터 규모를 만족함을 확인하였다.

본 논문의 구성은 다음과 같다. 2장에서는 경량 초해상화, 구조적 재파라미터화, 지식 증류에 관한 관련 연구를 기술한다. 3장에서는 제안하는 네트워크의 전체 구조와 RECB, 지식 증류 학습, 해양 도메인 적응형 학습 및 배포 과정을 상세히 설명한다. 4장에서는 벤치마크와 자체 구성 해양 테스트셋에 대한 정량 비교, 정성적 복원 결과 비교, 임베디드 추론 성능, 구성요소별 ablation study 결과를 제시한다. 마지막으로 5장에서 결론과 향후 연구 방향을 기술한다.


Ⅱ. 관련 연구

2.1 경량 초해상화

경량 SR 연구는 크게 특징 재사용을 통한 파라미터 절감과 효율적인 어텐션 설계로 구분된다. IMDN은 정보 다중 증류 구조를 통해 각 단계에서 특징의 일부를 보존하고 나머지를 추가 정제함으로써 파라미터 대비 복원 품질을 높였고, RFDN은 이를 잔차 특징 증류 블록으로 재구성하여 채널 분할 연산을 1×1 합성곱으로 대체함으로써 효율을 개선하였다. SPAN은 대칭 활성함수를 이용해 파라미터가 없는 어텐션 맵을 생성하여 추가 파라미터 없이 특징을 재보정한다. 그러나 이들 구조가 공통적으로 사용하는 채널 분할·연결과 어텐션 연산은 다수의 중간 텐서를 생성하며, 메모리 대역폭이 연산 성능보다 먼저 포화되는 임베디드 환경에서는 이론 연산량 감소가 실측 지연 시간 감소로 직결되지 않는다.

2.2 구조적 재파라미터화

구조적 재파라미터화는 학습 시 다중 분기로 표현력을 확보하고 추론 시 이를 등가인 단일 합성곱으로 병합하는 기법이다. RepVGG는 3×3 합성곱, 1×1 합성곱, identity 분기를 병렬로 학습한 뒤 단일 3×3으로 병합하여, 학습 시 다중 분기의 이점과 추론 구조의 이점을 동시에 취할 수 있음을 보였다. SR 분야에서는 ECB가 이 개념을 확장하여 소벨·라플라시안 엣지 분기를 병렬 학습한 후 단일 3×3으로 병합함으로써 추가 추론 비용 없이 엣지 표현력을 강화하였다. 병합된 구조는 분기 간 동기화와 중간 텐서 저장이 사라지므로 TensorRT와 같은 추론 엔진의 레이어 융합에 특히 유리하다.

2.3 지식 증류 기반 경량화

지식 증류(KD)는 고성능 teacher의 출력과 중간 특징을 경량 student의 학습 신호로 활용하는 기법으로, FAKD는 특징 친화도 전달을 통해 SR 복원 품질을 향상시켰다. 최근 재파라미터화된 student를 teacher로부터 증류하여 작은 모델로도 우수한 성능을 달성한 사례는, 학습 시에만 개입하는 KD와 추론 비용이 없는 재파라미터화가 상호 보완적임을 보여준다. 본 논문은 이 두 기법을 해양 도메인 적응과 함께 적용하여, 임베디드 실시간성을 우선 확보하면서 소형 구조에 따른 복원 품질 저하를 최소화하고자 한다.


Ⅲ. 제안하는 경량 초해상화 네트워크

3.1 전체 네트워크 구조

제안 네트워크는 그림 1과 같이 얕은 특징 추출부(3×3), M=6개의 RECB, 전역 잔차 연결, PixelShuffle 업샘플러로 구성된다(C=48). 추론 시 각 RECB가 단일 3×3으로 병합되면 전체가 평탄(Plain) 구조가 되어 분기·연결 오버헤드가 사라지므로, TensorRT의 레이어 융합에 의한 최적 가속이 가능하다.

Fig. 1.

Proposed network structure

3.2 재파라미터화 엣지 합성곱 블록(RECB)

제안하는 RECB는 RepVGG의 identity 분기 학습과 ECB의 소벨·라플라시안 엣지 분기를 결합하고, 특징 추출 시 정보 보존을 위하여 global residual 연산 추가 및 임베디드 환경에 적합하게 ReLU 활성함수로 변경하였다. 학습 시 표준 3×3 합성곱, 1×1 합성곱으로 채널을 확장한 뒤 3×3으로 압축하는 확장-압축 분기, 고정 소벨·라플라시안 필터에 1×1 합성곱과 학습 가능한 스케일을 결합하여 방향성 경계 성분을 명시적으로 추출하는 엣지 분기, 그리고 identity 분기를 병렬로 학습하며, 출력은 네 분기 출력의 합으로 정의된다.

모든 분기가 합성곱·스칼라 곱·항등 사상만의 선형 연산이므로, 추론 시 1×1–3×3 직렬 분기는 두 커널의 합성곱으로, 엣지 분기는 채널별 필터 곱으로, identity는 중심 계수가 1인 커널로 변환한 뒤 전체를 합산하여 단일 3×3 합성곱으로 정확히 병합된다. 엣지 분기에서 학습한 경계 정보가 병합 커널에 포함되어 추가 파라미터나 연산 없이 소형·원거리 표적의 고주파 복원 성능이 향상된다.

3.3 지식 증류 학습

경량화에 따른 표현 손실을 보상하기 위해 특징 기반 KD를 적용하였다. teacher는 해양 데이터로 fine-tuning한 고성능 SR 모델을 가중치 고정으로 사용하고, student의 중간 특징을 1×1 projection으로 채널 정렬하여 teacher의 대응 특징과 정합시키며, 전체 손실은 식 (1)과 같다.

L=Lrec+λout⋅Lout+λfeat⋅Lfeat(1) 

여기서 Lrec는 SR 결과와 HR 영상 간 L1 Loss, Lout은 teacher 출력과의 L1 Loss, Lfeat는 정렬된 중간 특징 간 L2 Loss 이며, λout=0.5, λfeat=0.01로 복원 손실에 가중치를 더 주도록 하이퍼 파라미터를 설정하였다. 증류 손실함수는 학습 시에만 사용되므로 추론 구조와 속도에 영향을 주지 않는다.

3.4 도메인 적응형 학습 및 탑재

학습 데이터는 DIV2K, Flickr2K(총 3,450장)으로 초기 학습을 진행하고, 마지막 10 epoch은 자체 수집 해양 데이터(총 13,150장)으로 파인 튜닝하였다. 각 학습 데이터 셋은 학습 및 검증 데이터 6:4 비율로 구성하여 학습 수렴을 확인하였다. LR 영상은 bicubic 다운샘플링에 JPEG 압축과 Gaussian blur를 결합해 실제 해양 열화를 모사하였다. 학습 후 RECB를 병합하고 TensorRT로 최적화하여 Jetson AGX Orin에 탑재하였다.


Ⅳ. 실험 결과

4.1 실험 환경

초기 학습은 A100 GPU에서 Adam, 초기 학습률 2×10⁻⁴(200 epoch마다 절반 감쇠), 배치 32, 48×48 LR 패치, 1,000 epoch으로 수행하였다. 자체 수집 해양 데이터로 10 epoch을 추가 학습하여 Adam, 초기 학습률 2×10⁻3으로 파인 튜닝하였다. 추론 환경은 Jetson AGX Orin이다. 정량적 평가는 Y 채널 기준 PSNR/SSIM을 측정하였으며, 벤치마크 데이터셋은 Set5, Set14, BSD100, Urban100, manga109를 사용하였다. 제안하는 방법과의 비교 모델은 SRCNN, VDSR, IMDN, RFDN, SPAN, ECBSR이며, 지식 증류의 teacher로는 해양 데이터로 fine-tuning한 EDSR 기반 모델을 사용하였다.

4.2 공인 데이터셋 성능 비교

표 1은 ×4 범용 벤치마크 결과이다. 제안 방법은 167.6K 파라미터와 9.63 GMACs로 비교 모델 중 가장 작은 파라미터로 설계되었다. 유사한 크기의 ECBSR 대비 파라미터와 연산량이 약 11.0% 줄어들었으며, 그럼에도 Set5, Urban100, manga109에서 ECBSR 대비 각각 0.06 dB, 0.02 dB, 0.12 dB 높은 PSNR이 측정되었고, Set14와 BSD100에서는 각각 0.10 dB, 0.15 dB 낮아 공인 데이터셋에서 유사한 정량적 성능을 보였다. 파라미터가 약 4배, 연산량이 63.8배 큰 VDSR과 비교해서도 Set5에서 0.08 dB, Urban100에서 0.05 dB 높은 PSNR이 측정되었다. 하지만 파라미터가 4.3배 큰 IMDN과 비교했을때 데이터셋에서 0.37~0.50 dB 낮아, 네트워크 크기에 따른 복원 품질의 한계가 존재함을 확인하였다.

Quantitative comparison on benchmark datasets

4.3 해양 환경 테스트셋 성능 비교

자체 구성 해양 테스트셋(520장)에 대한 결과는 표 2와 같다. 제안 방법은 37.69 dB / 0.9088을 기록하여, 파라미터 규모가 유사한 ECBSR(37.63 dB / 0.9089) 대비 PSNR은 0.06 dB 높고 SSIM은 동등한 수준을 보였다.

Quantitative comparison on the maritime test set (520 images, ×4)

그림 2는 해양 테스트셋에 대한 ×4 복원 결과이다. 객체의 내부 구조를 포함하는 영역을 확대하여 HR, bicubic, ECBSR, RFDN, IMDN, 제안 방법 순으로 배치하였다. 확대된 영역을 보면, 가장 작은 파라미터를 가지는 제안하는 방법의 복원 결과가 다른 방법들과 비교하였을 때 유사한 성능을 가지는 것을 확인할 수 있다.

Fig. 2.

Qualitative restoration results comparison for the maritime test set (a) HR, (b) bicubic, (c) ECBSR, (d) RFDN, (e) IMDN, (f) Proposed method

정량 지표에서 제안 방법은 IMDN 대비 0.34 dB, RFDN 대비 0.31 dB 낮은 PSNR을 기록하였으나, 확대 영역을 보면, 내부 구조 복원 결과가 정성적으로 구분하기 어렵다. 이는 해양 영상의 배경이 대부분 저주파 성분의 해수면과 하늘로 구성되어 PSNR 계산 시 표적 이외의 영역이 큰 비중을 차지하기 때문이다. 따라서 0.3 dB 내외의 PSNR 격차가 운용 성능의 차이로 직결된다고 보기는 어렵다.

하지만 처리 속도의 차이는 이보다 훨씬 크다. 4.4절에서 제시하듯 IMDN와 RFDN은 실시간 기준을 충족하지 못한다. 초당 30프레임 이상의 연속 처리가 요구되는 감시 체계에서는 실시간성이 운용 가능 여부를 결정하므로, 정성적 복원 품질이 유사한 조건에서는 실시간성 만족 여부가 중요하다.

4.4 임베디드 추론 성능

표 3은 1280×1024 LR 입력의 ×4 추론 성능이다. 제안 방법은 TensorRT FP16에서 42.5 FPS로 비교 모델 중 가장 빠르며, 메모리 사용량도 239 MB로 가장 적다. 연산량이 23.76 GMACs인 RFDN이 22.1 FPS인 반면 24.49 GMACs로 오히려 연산량이 많은 SPAN이 35.1 FPS로 측정되어, 임베디드 환경에서는 GMACs보다 중간 텐서 생성과 메모리 왕복이 처리 속도에 더 큰 영향이 있음을 보여준다. 병합 후 평탄 구조를 갖는 제안 방법은 분기·연결 오버헤드가 없어 메모리 접근 병목에서 자유롭다.

Inference performance on the embedded GPU (Jetson AGX orin)

30 FPS를 실시간 운용 기준으로 볼 때 이를 충족하는 모델은 SPAN, ECBSR, 제안 방법의 세 가지이며, 이 중 제안 방법이 가장 높은 처리량과 가장 작은 파라미터 규모를 동시에 만족한다.

4.5 절제 연구

RECB의 엣지 분기를 제거한 평탄한 3×3 baseline에서 출발하여 엣지 분기, 해양 도메인 적응(DA), KD를 순차적으로 추가하며 기여도를 분석하였다.

표 4는 해양 전체 테스트셋 기준 결과이다. baseline 대비 전체 향상폭은 PSNR 0.59 dB 이며, 구성요소별 기여는 엣지 분기 0.22 dB, 해양 도메인 적응 0.16 dB, KD 0.21 dB로 측정되었다. 특히 엣지 분기는 추론 시 단일 3×3 합성곱으로 병합되어 파라미터와 연산량이 동일하게 유지되므로, 추가 추론 비용 없이 0.22 dB의 향상을 제공한다. 이는 소벨·라플라시안 기반 방향성 필터가 학습한 엣지 정보가 병합 커널에 내재화되어 해양 영상의 표적 엣지 복원에 기여함을 보여준다.

Ablation study on the full maritime test set (×4)

4.6 소형 표적 성능 평가

제안하는 방법의 소형 표적 성능 향상을 확인하기 위해 자체 해상 데이터셋(클래스: 어선, 상선, 부표)으로 학습된 D-Fine DETR 모델을 기준으로 제안하는 방법의 초해상화 전/후의 소형 표적 성능 평가를 진행하였다. 소형 표적은 COCOeval 기준 32x32 이하의 표적으로 정의하였다. 소형 표적의 정량적 평가를 위해, 32x32 이하의 소형 표적의 중심을 기준으로 영상 해상도의 1/4만큼을 crop하여 초해상화 전/후의 표적 탐지 성능을 비교하였다. 표 5에 나와 있듯이, 제안하는 방법을 사용하면 소형 표적에서 mAP 0.045 향상이 가능하다. 그림 3을 보면, 제안하는 방법 적용 후에 해상 환경에서 소형 표적의 탐지/식별 성능 향상이 가능함을 확인하였다.

Small target quantitative evaluation

Fig. 3.

Comparison of small target qualitative evaluation: (a) Input image, (b) Detection result, (c) Enlarged image of detection result , (d) Detection result enlarged image using the proposed method


Ⅴ. 결론 및 향후 과제

본 논문에서는 재파라미터화 엣지 합성곱(RECB), 해양 도메인 적응, 지식 증류를 결합한 해양 도메인에서 적용 가능한 경량 초해상화 네트워크를 제안하였다. 제안 네트워크는 167.6K 파라미터와 9.63 GMACs로 비교 모델 중 가장 작은 규모이며, 해양 테스트셋에서 37.69 dB를 기록하여 파라미터 규모가 유사한 모델과 대등한 복원 성능을 유지하면서 Jetson AGX Orin TensorRT FP16에서 42.5 FPS의 최고 처리 속도와 239 MB의 최소 메모리 사용량을 달성하였다. 구성 요소별 ablation을 통해 엣지 분기 0.22 dB, 도메인 적응 0.16 dB, 지식 증류 0.21 dB의 기여를 확인하였으며, 특히 엣지 분기는 추론 시 병합되어 추가 비용 없이 복원 성능을 향상시켰다.

향후에는 학습 가능한 엣지 필터와 표적 영역 가중 손실을 통해 소형 표적 복원 성능을 추가로 개선하고 EO/IR 융합 SR과 실제 해양 감시 시스템 실증을 계획하고 있다.

Acknowledgments

이 논문은 2023년도 정부(방위사업청)의 재원으로 국방기술진흥연구소(KRIT)의 지원을 받아 수행된 연구임 (협약번호 : KRIT-CT-23-054, 무인잠수정용 소형 장거리 고해상 수상감시정찰 기술)

References

  • C. Dong, C. C. Loy, K. He, and X. Tang, "Image super-resolution using deep convolutional networks", IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 38, No. 2, pp. 295-307, Feb. 2016. [https://doi.org/10.1109/TPAMI.2015.2439281]
  • J. Kim, J. K. Lee, and K. M. Lee, "Accurate image super-resolution using very deep convolutional networks", Proc. IEEE Conf. on Computer Vision and Pattern Recognition, Las Vegas, USA, pp. 1646-1654, Jun. 2016. [https://doi.org/10.1109/CVPR.2016.182]
  • B. Lim, S. Son, H. Kim, S. Nah, and K. M. Lee, "Enhanced deep residual networks for single image super-resolution", Proc. IEEE Conf. on Computer Vision and Pattern Recognition Workshops, Honolulu, USA, pp. 136-144, Jul. 2017. [https://doi.org/10.1109/CVPRW.2017.151]
  • Y. Zhang, K. Li, K. Li, L. Wang, B. Zhong, and Y. Fu, "Image super-resolution using very deep residual channel attention networks", Proc. 15th European Conf. on Computer Vision, Munich, Germany, pp. 294-310, Sep. 2018. [https://doi.org/10.1007/978-3-030-01234-2_18]
  • J. Liang, J. Cao, G. Sun, K. Zhang, L. Van Gool, and R. Timofte, "SwinIR: image restoration using swin transformer", Proc. IEEE/CVF Int. Conf. on Computer Vision Workshops, Montreal, Canada, pp. 1833-1844, Oct. 2021. [https://doi.org/10.1109/ICCVW54120.2021.00210]
  • Z. Hui, X. Gao, Y. Yang, and X. Wang, "Lightweight image super-resolution with information multi-distillation network", Proc. 27th ACM Int. Conf. on Multimedia, Nice, France, pp. 2024-2032, Oct. 2019. [https://doi.org/10.1007/978-3-030-67070-2_2]
  • J. Liu, J. Tang, and G. Wu, "Residual feature distillation network for lightweight image super-resolution", Proc. European Conf. on Computer Vision Workshops, Glasgow, UK, pp. 41-55, Aug. 2020. [https://doi.org/10.1007/978-3-030-67070-2_2]
  • C. Wan, H. Yu, Z. Li, Y. Chen, Y. Zou, Y. Liu, X. Yin, and K. Zuo, "Swift parameter-free attention network for efficient super-resolution", Proc. IEEE/CVF Conf. on Computer Vision and Pattern Recognition Workshops, Seattle, USA, pp. 6246-6256, Jun. 2024. [https://doi.org/10.1109/CVPRW63382.2024.00628]
  • X. Ding, X. Zhang, N. Ma, J. Han, G. Ding, and J. Sun, "RepVGG: making VGG-style convnets great again", Proc. IEEE/CVF Conf. on Computer Vision and Pattern Recognition, Nashville, USA, pp. 13733-13742, Jun. 2021. [https://doi.org/10.1109/CVPR46437.2021.01352]
  • X. Zhang, H. Zeng, and L. Zhang, "Edge-oriented convolution block for real-time super resolution on mobile devices", Proc. 29th ACM Int. Conf. on Multimedia, Chengdu, China, pp. 4034-4043, Oct. 2021. [https://doi.org/10.1145/3474085.3475291]
  • G. Hinton, O. Vinyals, and J. Dean, "Distilling the knowledge in a neural network", arXiv:1503.02531, , Mar. 2015. [https://doi.org/10.48550/arXiv.1503.02531]
  • Z. He, T. Dai, J. Lu, Y. Jiang, and S.-T. Xia, "FAKD: feature-affinity based knowledge distillation for efficient image super-resolution", Proc. IEEE Int. Conf. on Image Processing, Abu Dhabi, UAE, pp. 518-522, Oct. 2020. [https://doi.org/10.1109/ICIP40778.2020.9190917]
저자소개
하 은 재 (Eunjae Ha)

2021년 2월 : 중앙대학교 영상공학과(공학석사)

2021년 3월 ~ 현재 : 한화시스템 선임연구원

관심분야 : 딥러닝, 영상 복원

우 희 조 (Heejo Woo)

2022년 2월 : 한국공학대학교 전자공학과(공학석사)

2022년 3월 ~ 현재 : 한화시스템 선임연구원

관심분야 : 딥러닝, 객체검출, 초해상도, 영상처리

이 동 호 (Dongho Lee)

2009년 2월 : 대구대학교 정보통신공학과(공학석사)

2017년 5월 ~ 현재 : 한화시스템 전자광학체계1팀 수석연구원

관심분야 : 전자광학 시스템

서 지 영 (Jiyoung Seo)

2024년 2월 : 경북대학교 전자공학과(공학사)

2024년 7월 ~ 현재 : 한화시스템 연구원

관심분야 : 시스템제어, EO/IR

Fig. 1.

Fig. 1.
Proposed network structure

Fig. 2.

Fig. 2.
Qualitative restoration results comparison for the maritime test set (a) HR, (b) bicubic, (c) ECBSR, (d) RFDN, (e) IMDN, (f) Proposed method

Fig. 3.

Fig. 3.
Comparison of small target qualitative evaluation: (a) Input image, (b) Detection result, (c) Enlarged image of detection result , (d) Detection result enlarged image using the proposed method

Table 1.

Quantitative comparison on benchmark datasets

Method Params(K) MACs(G) Set5 Set14 BSD100 Urban100 manga109
SRCNN 69.3 63.73 28.54/.8414 25.74/.7240 25.37/.6828 22.05/.6577 25.11/.8311
VDSR 668.2 614.71 29.15/.8626 26.19/.7412 25.81/.7028 22.69/.6965 26.34/.8646
IMDN 715.2 40.89 29.64/.8694 26.46/.7492 26.04/.7090 23.11/.7150 26.84/.8740
RFDN 433.4 23.76 29.52/.8667 26.36/.7462 26.02/.7078 23.01/.7108 26.71/.8713
SPAN 2236.7 24.49 29.47/.8678 26.35/.7452 25.95/.7072 22.98/.7091 26.59/.8693
ECBSR 188.8 10.82 29.17/.8605 26.18/.7406 25.81/.7017 22.72/.6960 26.22/.8615
Proposed 167.6 9.63 29.23/.8648 26.08/.7396 25.66/.6967 22.74/.6972 26.34/.8607
Teacher 1248.1 71.76 29.65/.8699 26.46/.7492 26.08/.7112 23.22/.7207 26.89/.8746

Table 2.

Quantitative comparison on the maritime test set (520 images, ×4)

Method Params(K) MACs(G) PSNR (dB) SSIM
IMDN 715.2 40.89 38.03 .9156
RFDN 433.4 23.76 38.00 .9151
SPAN 2236.7 24.49 37.86 .9123
ECBSR 188.8 10.82 37.63 .9089
Proposed 167.6 9.63 37.69 .9088
Teacher 1248.1 71.76 38.15 .9176

Table 3.

Inference performance on the embedded GPU (Jetson AGX orin)

Method PyTorch (FPS) TRT FP16 (FPS) Mem(MB)
IMDN 14.2 26.8 312
RFDN 11.7 22.1 278
SPAN 17.6 35.1 251
ECBSR 18.9 36.3 244
Proposed 23.5 42.5 239

Table 4.

Ablation study on the full maritime test set (×4)

Method Edge DA KD PSNR
Plain 3×3 X X X 37.10
+ Edge (RECB) O X X 37.32
+ Domain adaptation O O X 37.48
+ KD (Proposed) O O O 37.69

Table 5.

Small target quantitative evaluation

Method Fishing boat
AP@50
(~32x32)
Merchant ship
AP@50
(~32x32)
Buoy
AP@50
(~32x32)
mAP@50
(~32x32)
Detection model 0.423 0.498 0.344 0.422
+ Proposed method 0.466 0.523 0.412 0.467