Interested Article - Генеративно-состязательная сеть

Генеративно-состязательная сеть ( англ. Generative adversarial network , сокращённо GAN) — алгоритм машинного обучения без учителя , построенный на комбинации из двух нейронных сетей , одна из которых (сеть G) генерирует образцы (см. ), а другая (сеть D) старается отличить правильные («подлинные») образцы от неправильных (см. ). Так как сети G и D имеют противоположные цели — создать образцы и отбраковать образцы — между ними возникает антагонистическая игра . Генеративно-состязательную сеть описал из компании Google в 2014 году .

Использование этой техники позволяет, в частности, генерировать фотографии, которые человеческим глазом воспринимаются как натуральные изображения. Например, известна попытка синтезировать фотографии кошек, которые вводят в заблуждение эксперта, считающего их естественными фото . Кроме того, GAN может использоваться для улучшения качества нечётких или частично испорченных фотографий.

Метод

Пример повышения качества изображения посредством GAN

В системе GAN одна из сетей (сеть G, от Generator) генерирует образцы (см. ), а другая (сеть D, от Discriminator) старается отличить правильные («подлинные») образцы от неправильных (см. ) . Используя набор переменных латентного пространства , генеративная сеть пытается слепить новый образец, смешав несколько исходных образцов. Дискриминативная сеть обучается различать подлинные и поддельные образцы, а результаты различения подаются на вход генеративной сети так, чтобы она смогла подобрать лучший набор латентных параметров, и дискриминативная сеть уже не смогла бы отличить подлинные образцы от поддельных. Таким образом целью сети G является повысить процент ошибок сети D, а целью сети D является наоборот улучшение точности распознавания .

Дискриминационная сеть D, анализируя образцы из оригинальных данных и из подделанных генератором, достигает некоторой точности различения. Генератор при этом начинает со случайных комбинаций параметров латентного пространства (см. многомерное нормальное распределение ), а после оценки полученных образцов сетью D, применяется метод обратного распространения ошибки , который позволяет улучшить качество генерации, подправив входной набор латентных параметров. Постепенно искусственные изображения на выходе генеративной сети становятся всё более качественными . Сеть D реализуется как свёрточная нейронная сеть , в то время как сеть G наоборот разворачивает изображение на базе скрытых параметров.

В процессе совместного конкурентного обучения, если система достаточно сбалансирована, достигается минимаксное состояние равновесия, в котором обе сети значительно улучшили своё качество, и теперь сгенерированные изображения могут быть использованы практически как настоящие.

Идея состязательного обучения была выдвинута в 2013 году Li, Gauci и Gross . Этот метод называется также «обучением Тьюринга» , так как ставит целью пройти тест Тьюринга .

Популярные объяснения метода

Принцип состязательности в сети GAN нередко описывается через метафоры. Например, генеративная сеть уподобляется фальшивомонетчику или подделывателю картин, а дискриминативная — эксперту, который стремится распознать подделку . Другой пример — образ двух боксёров, один из которых учился у мастера, а второй вынужден подражать ученику .

В популярном приложении генерации человеческих лиц в качестве подлинных данных выступают реальные фотографии, а генеративная сеть пытается создать искусственные лица, варьируя комбинации таких латентных параметров, как цвет волос, пропорции лица, разрез глаз, форма носа, размер ушей, наличие бороды и усов и т. д.

В статьях исследователей приводятся примеры реализации GAN на базе библиотеки TensorFlow .

Применение

GAN используются для получения фотореалистичных изображений, например для элементов промышленного дизайна , дизайна интерьера , одежды, сумок, портфелей, сцен компьютерных игр и т. д. Сети GAN используются также в сети Facebook . В последнее время системы GANs стали использоваться для подготовки кадров фильмов или мультипликации . Также эти системы помогают воссоздать трёхмерную модель объекта с помощью фрагментарных изображений и улучшить изображения, полученные из астрономических наблюдений .

Примечания

  1. Goodfellow, Ian J.; Pouget-Abadie, Jean; Mirza, Mehdi; Xu, Bing; Warde-Farley, David; Ozair, Sherjil; Courville, Aaron; Bengio, Yoshua (2014). "Generative Adversarial Networks". arXiv : [ ].
  2. Salimans, Tim; Goodfellow, Ian; Zaremba, Wojciech; Cheung, Vicki; Radford, Alec; Chen, Xi (2016). "Improved Techniques for Training GANs". arXiv : [ ].
  3. Luc, Pauline; Couprie, Camille; Chintala, Soumith; Verbeek, Jakob. Semantic Segmentation using Adversarial Networks (неопр.) // NIPS Workshop on Adversarial Training, Dec , Barcelona, Spain. — 2016. — 25 November ( т. 2016 ). — arXiv : .
  4. , OpenAI , Дата обращения: 7 апреля 2016 {{ citation }} : Источник использует устаревший параметр |authors= ( справка ) . Дата обращения: 19 июля 2017. Архивировано 22 апреля 2021 года.
  5. Li, Wei; Gauci, Melvin; Gross, Roderich (July 6, 2013). . Proceedings of the 15th Annual Conference on Genetic and Evolutionary Computation (GECCO 2013) . Amsterdam, The Netherlands: ACM. pp. 223—230.
  6. Li, Wei; Gauci, Melvin; Groß, Roderich. (англ.) // Swarm Intelligence : journal. — 2016. — 30 August ( vol. 10 , no. 3 ). — P. 211—243 . — doi : .
  7. . Дата обращения: 19 июля 2017. 20 августа 2017 года.
  8. . Дата обращения: 19 июля 2017. 20 августа 2017 года.
  9. (недоступная ссылка)
  10. . Дата обращения: 19 июля 2017. 11 июля 2017 года.
  11. . Дата обращения: 19 июля 2017. 20 августа 2017 года.
  12. . Дата обращения: 14 ноября 2017. 17 ноября 2017 года.
  13. . Дата обращения: 14 ноября 2017. 15 ноября 2017 года.
  14. Greenemeier, Larry . Scientific American (20 июня 2016). Дата обращения: 31 июля 2016. 24 июля 2016 года.
  15. . web.mit.edu . Дата обращения: 19 июля 2017. 20 марта 2017 года.
  16. . 3dgan.csail.mit.edu . Дата обращения: 19 июля 2017. 27 октября 2019 года.
  17. Schawinski, Kevin; Zhang, Ce; Zhang, Hantian; Fowler, Lucas; Santhanam, Gokula Krishnan (2017-02-01). "Generative Adversarial Networks recover features in astrophysical images of galaxies beyond the deconvolution limit". arXiv : [ ].

Ссылки

  • Knight, Will. . MIT Technology Review . Дата обращения: 5 января 2017 .
Источник —

Same as Генеративно-состязательная сеть