Zero-shot Learning, Few-shot Learning의 차이

1. 학습 데이터의 양:
   • Few-shot Learning: 각 클래스마다 몇 개 (예: 1, 5, 10개)의 학습 예제만을 사용하여 모델을 학습합니다. 핵심은 적은 양의 데이터로도 모델이 빠르게 적응하고 학습할 수 있도록 하는 것입니다.
   • Zero-shot Learning: 학습 과정에서 본 적이 없는 클래스를 테스트 시에 분류할 수 있도록 학습합니다. 즉, 특정 클래스의 학습 데이터가 전혀 없습니다.
2. 사용하는 부가 정보:
   • Few-shot Learning: 별도의 부가 정보 없이 제한된 양의 데이터를 사용하여 모델을 학습합니다.
   • Zero-shot Learning: 학습 데이터에 없는 클래스를 분류하기 위해 '사이드 정보' (예: 클래스 설명, 속성, 워드 임베딩 등)를 활용합니다. 이러한 정보를 사용하여 학습된 클래스와 학습되지 않은 클래스 사이의 연관성을 파악하고, 학습되지 않은 클래스에 대한 예측을 수행합니다.
3. 목적:
   • Few-shot Learning: 제한된 양의 데이터만을 사용하여 새로운 클래스를 빠르게 학습하고 분류하는 것이 목적입니다.
   • Zero-shot Learning: 학습 데이터셋에 존재하지 않는 클래스를 테스트 데이터셋에서 분류하는 것이 목적입니다.

결론적으로, Few-shot Learning은 적은 양의 데이터를 활용하여 모델을 빠르게 적응시키는 데 초점을 맞춘 반면, Zero-shot Learning은 학습 데이터에 없는 클래스를 분류하기 위해 추가적인 정보 (예: 클래스의 세부 설명, 속성 정보 등)를 활용하는 것이 특징입니다.

 

 

Zero-shot learning과 Mahalanobis distance는 기본적인 개념과 목적이 다르지만, 특정 문제나 적용 상황에서 둘 다 유용하게 사용될 수 있습니다. 두 기법 간의 관계를 이해하려면 각각의 기법을 개별적으로 살펴보는 것이 좋습니다.

1. Zero-shot Learning:
   • 학습 데이터에 없는 새로운 클래스를 분류하기 위한 기법입니다.
   • 학습 데이터셋에서 볼 수 없는 클래스에 대해, 그 클래스와 연관된 사이드 정보 (예: 워드 임베딩, 속성 설명 등)를 사용하여 분류합니다.
   • 주요 목적은 학습 과정에서 직접 본 적이 없는 클래스를 테스트 시에도 분류할 수 있는 능력을 개발하는 것입니다.
2. Mahalanobis Distance:
   • 데이터 포인트 간의 거리를 측정하는 방법 중 하나로, 공분산 구조를 고려하여 거리를 계산합니다.
   • 데이터가 다변량 정규 분포를 따르는 경우, Mahalanobis distance는 해당 분포의 형태와 방향성을 고려한 적절한 거리 측정 방법이 됩니다.
   • 주요 목적은 데이터 포인트 간의 상대적인 유사성을 계산하는 것이며, 이를 통해 이상치 검출, 클러스터링 등의 작업에 활용될 수 있습니다.

따라서, Zero-shot learning과 Mahalanobis distance는 기본적으로 다른 목적과 원칙을 가진 기법입니다. 그러나 특정 상황에서 Mahalanobis distance를 사용하여 데이터 포인트 간의 유사성을 측정하고, 그 결과를 바탕으로 Zero-shot learning의 성능을 향상시키는 연구가 진행될 수 있습니다.