Feature Matching Loss

지금까지 feature matching loss는 pixel loss와 동일하다고 잘못 이해하고 있었다.

 

나 울어...

Feature Matching Loss

Feature matching은 실제 이미지의 features와 생성 이미지의 features 사이의 통계적 함수를 최소화하기 위해 generator의 비용 함수에 추가된다.

종종 feature vector의 평균 사이의 L2 distance를 측정한다.

 

$$\left\| \mathbb{E}_{x~p_data}f(x)-\mathbb{E}_{z~p_z(z)}f(G(z)) \right\|_{2}^{2}$$

 

$f(x)$는 discriminator의 중간 계층 활성함수이다. 계층에서 추출된 feature vector이다.

 

Discriminator

 

Feature matching은 GAN이 훈련 동안에 불안정할 때 효과적이다.

 

---

​

연구하던 코드에 pixel loss를 집어넣고 training을 계속 돌렸었다. 그래서 결과가 계속 별로였나?

물론 feature matching loss로 바꾼다고 해서 다이나믹하게 결과가 좋아지지 않을 수도 있지만, 그래도 한 번 바꿔봐야겠다.

 

---

참조

https://towardsdatascience.com/gan-ways-to-improve-gan-performance-acf37f9f59b