Fat Fritz

[Alex_Zet]

Мне также знакомы выкрашенные фасады, яркие упаковки, обшарпанные стены коридоров и ни во что не верящие руководители.
Это наша суровая реальность. В то же время мне хотелось бы верить что, где то там, не так. Иначе не остается ни чего.

Если врут в ChessBase, почему тогда я вам должен верить?

[crem]

Цитата: Сообщение от Alex_Zet

Безусловно, вы на бесконечность более компетентны чем я и знаете о чем говорите.
Также, на сайте https://en.chessbase.com/post/fritz-...tz-and-goodies я читаю: -
The philosophy behind Fat Fritz has been to make it the strongest and most versatile neural network by including material from all sources with no such 'zero' restrictions, such as millions of the best games in history played by humans, games by the best engines including Stockfish, Rybka, Houdini, and more, endgame tablebases, openings, and so on. If it was deemed a possible source of improvement, ‘zero’ or not, it was used. Even millions of exclusive self-play games were created, but tweaked to create content that was more aggressive and speculative to learn from and mold its style. The only material that was not used to train Fat Fritz, out of principle, was content from the Leela project itself, as this was developed by their community for their neural networks.

перевод гугл: - Философия, лежащая в основе Fat Fritz, заключалась в том, чтобы сделать ее самой сильной и универсальной нейронной сетью, включив в нее материалы из всех источников без таких «нулевых» ограничений, как, например, миллионы лучших игр в истории, в которые играют люди, игры лучших движков, Stockfish, Rybka, Houdini и другие, настольные базы для эндшпиля, проемы и так далее. Если это считалось возможным источником улучшения, «ноль» или нет, оно использовалось. Были созданы даже миллионы эксклюзивных игр для самостоятельной игры, но они были настроены для создания контента, который был бы более агрессивным и умозрительным для изучения и формирования его стиля. Единственный материал, который не использовался для обучения Fat Fritz, из принципа, был контентом из самого проекта Leela, так как он был разработан их сообществом для их нейронных сетей.
Специально повторяю: - Единственный материал, который не использовался для обучения Fat Fritz, из принципа, был контентом из самого проекта Leela, так как он был разработан их сообществом для их нейронных сетей.

Всем известно что в бизнесе, репутация важнее денег. Если chessbase врут в статье на весь мир, неизбежно страдает их репутация и как следствие их бизнес под угрозой.
С другой стороны ни Stockfish, ни Rybka и Houdini не являются NN и следовательно заимствовать их идеи бессмысленно, кроме как указанно в статье, базы их игр.
В то же время, как указанно в статье, из принципа, что вообще ничего не использовалось был контентом из самого проекта Leela, так как он был разработан их сообществом для их нейронных сете.

Спрашивается что же тогда использовали chessbase?

Ну они не врут, просто искажают важность различных аспектов проекта. И они тут не уникальные, так делают все подряд коммерческие проекты.

Но вообще все статьи у них -- это наброс фактов (часто с искажением важности), и потом глубокомысленное "выводы делайте сами".

Например в самой первой статье, было "Fat Fritz выиграл у Johnny, у того самого которому Lc0 проиграла" [летом 2018, одну игру -- этого не написано] -- "выводы делайте сами!".

Или в последней статье: "некоторые говорят что Lc0 сильнейший движок, но на самом деле не так, stockfish всё ещё сильнейший, потому что он недавно выиграл 2 чемпионата", "а вот мы запустили матч между Fat Fritz и Stockfish -- и выиграли" [годовой давности на слабом железе]. "Выводы делайте сами!"


И тут тоже, они говорят что не использовали тренировочные партии LCZero, а вместо этого использовали мегабазы человеческих и компьютерных игр, и нет оснований им не верить.
Но они выставляют это так, будто бы это самая главная часть проекта LCZero, и вот они принципиально её не использовали чтоб быть другими, а всё что использовали -- это технические детали.

Или вот они не устают повторять, что LCZero мол придерживается по каким-то внутренним убеждениям принципа "zero", тогда как у них инновационный метод "non-zero".
Хотя в реальности во-первых мы никакого "zero" не придерживаемся, просто так получается что все попытки "non-zero" ухудшают проект.
А во-вторых "non-zero" -- это никакая не инновация, это наоборот прошедший этап. Это как считать ЭЛТ-мониторы инновацией, и говорить что у всех "сильные внутренние убеждения" пользоваться ЖКИ-мониторами а мы свободны от такого.


Или он говорит что он "создал нейронную сеть" хотя в реальности он тренирует существующую сеть существующими инструментами. Но "моя нейронная сеть" звучит солиднее.


Или вот в статье он написал что он потратил "несколько тысяч часов своего времени" -- в это я не верю, он тут сильно преувеличил. Рабочий год -- это 2000 часов рабочего времени, у него есть другая работа.
Я спросил у него откуда эти 2000 часов, он сказал что он тратил все выходные и вечера "на проект", и вообще каждый день он начитал с того что 3 часа "анализировал тренировочные партии".
Времяпровождение сомнительной полезности, надо сказать.
Ну или можно сказать что мы все тоже наблюдая за игрой Lc0 на TCEC "тратим время на проект LCZero".


Fat Fritz -- это просто одна из любительских сетей, натренированная одним человеком. Точно такое же делают многие в рамках LCZero, и FF ничем от этих попыток не отличается.

[Maratka]

crem, с самого начала было понятно, что это "дутый" проект. Да и пиарят его явно запредельными с точки зрения правдивости методами, там самая победа над SF10 - тому пример. Можете даже посудиться с ними, все шансы выиграть у вас есть (главное чтобы нашли желание и первоначальный взнос на адвоката).

Но при всем при этом, сам по себе проект имеет право на существование, т.к. они нигде не нарушили лицензию на LZ.

[Vizvezdenec]

Думаю, что даже я 1000 часов на проект Stockfish не потратил, ну или около того, а у меня как-никак топ-1 попыток написаний патчей там :D

[player-1980]

это просто взяли лилу и засунули в FF?
После установке вижу там аж 4 лилы - которая лучшая?

[sovaz1997]

Цитата: Сообщение от player-1980

это просто взяли лилу и засунули в FF?
После установке вижу там аж 4 лилы - которая лучшая?

Думаю, можно провести тест и выбрать лучшую P
Уверен, Fat Fritz 1-м не будет. А какие там версии, кстати?

[Vizvezdenec]

http://talkchess.com/forum3/viewtopi...72348&start=10
Вон там Laskos более-менее разобрал

[sovaz1997]

Цитата: Сообщение от Vizvezdenec

http://talkchess.com/forum3/viewtopi...72348&start=10
Вон там Laskos более-менее разобрал

Score of FatFritz vs lc0_T40B4_200: 6 - 27 - 67  [0.395] 100
Elo difference: -74.06 +/- 38.21
Finished match

М-да. Хуже некуда, на самом деле. Смотрю, Альберт Сильвер 2-й раз всех обманул, сначала у TCEC, затем на ChessBase... Т. е. никакого смысла нет в этом Fat Fritz с "НЕ-ZERO-обучением".
P. S. Ну и да, я думал, там будет нормальная возможность смены сети (и это можно будет делать прямо на месте, в панели анализа движка с сохранением местоположения открываемых до этого сетей). Но, похоже, они до этого не додумались. Хотя можно было бы сделать красиво. Или отдельно добавлять сети, как и движки. При этом бы выводилась какая-то информация типа размера сети и т. д. На самом деле, очевидные функции, которые такая команда могла сделать за год.

"Anyway, it is fairly clear that Fat Fritz is in the same pool of main Lc0 zero runs, and if one wants to put it harshly, is just a crippled 42850 or T40B4_200. The supervised learning brought little even style wise."

[sovaz1997]

Заметил, кстати, что они везде указывают, что движок основан на Lc0: https://www.chessbase.ru/shop/fritz/fritz-17-russian/

Цитата:

* Fat Fritz (Толстый Фритц) основан на LCZero. LCZero - это проект с открытым исходным кодом по лицензии GPL v3 со всеми соответствующими правами. Исходный код LCZero и модификации для Fat Fritz можно найти на Github.

[Vizvezdenec]

https://www.sp-cc.de/lc0-testing.htm

[Maratka]

Ну что... годичной давности сеть 32930 догнали (с учетом того, что там чуть похуже движок), а может даже на 5-10 Elo обошли.

[Кевин]

Скорость 10 кнс "Фат Фрица" с дефолтными параметрами (версия cuda) в начальной позиции - это норм, кто подскажет?

[Александр Руденко]

Цитата: Сообщение от Кевин

Скорость 10 кнс "Фат Фрица" с дефолтными параметрами (версия cuda) в начальной позиции - это норм, кто подскажет?

У меня также было

[Alex_Zet]

Руководство покупателя шахматного компьютера

Итак, вы решили обновить свой компьютер, но не знаете с чего начать? В следующей статье вы получите точные варианты для различных бюджетов, которые помогут вам пройти через лабиринт вариантов с точными настройками, разработанными, чтобы помочь вам получить максимальную отдачу от затраченных средств. С приближением Черной пятницы за углом или даже Рождеством или Ханукой, чтобы принять решение о покупках в конце года, это то, что вы хотите добавить в закладки!

Как я могу собрать лучший компьютер Fat Fritz?

Во всех случаях я пытался сбалансировать настройку, которая укладывается в определенный бюджет, а также соответствовать современному использованию как обычного движка, такого как Fritz 17 или Stockfish, так и нейронной сети, такой как Fat Fritz и Leela. (Я не включаю внешний случай, так как это будет зависеть от покупателя.) Модели и детали были исследованы в основном, и дана ссылка на их страницу в NewEgg, не для того, чтобы рекламировать магазин настолько, чтобы убедитесь, что точный предложенный пункт ясен. Во что бы то ни стало не стесняйтесь настраивать, как считаете нужным, так как это всего лишь руководство, а не каменные таблички того, что должно быть выбрано.


Конфигурация за 850 $

Вполне возможно собрать привлекательную машину с восемью ядрами и быстрым GPU для загрузки с очень небольшим количеством компромиссов. Предлагаемая машина будет использовать процессор AMD Ryzen второго поколения с восемью ядрами и 16 потоками, что составляет почти половину цены новейшего процессора третьего поколения в сочетании с очень хорошим RTX 2070 для универсального превосходного компьютера.

Processor	AMD RYZEN 7 2700 8-Core 3.2 GHz	
$170
Motherboard	ASRock Fatal1ty B450 GAMING K4	
$85
Memory	G.SKILL Ripjaws V Series 16GB (2x8GB) DDR4 3200	
$60
Storage	Team Group MS30 M.2 2280 1TB	
$100
Graphics card	GIGABYTE RTX 2070 WINDFORCE 8G (Rev 3.0)	
$400
Power supply	EVGA 500 BT 100-BT-0500-K1 500W	
$49
Total: $864

Если ваш бюджет может быть увеличен немного, подумайте о том, чтобы сначала обновить графический процессор до RTX 2070 Super, который на 15-20% быстрее, а если чуть выше, то удвоить эту память с 16 до 32 ГБ.

Конфигурация за 1400 $

Вариант 1: все из Fat Fritz

В этой ценовой категории у вас наверняка есть более интересные варианты, и многое зависит от ваших предпочтений. Одна конфигурация состояла бы в том, чтобы поддерживать 8-ядерный ЦП в первом бюджете и приложить максимум усилий для максимальной работы нейронной сети, а это означает, что вы приобретете не один, а два хороших графических процессора. Это даст вам первоклассные результаты либо с Fat Fritz, либо с Leela, но при этом даст вам очень способный процессор, способный подтолкнуть Stockfish с хорошими 13 миллионами NPS.

Processor	AMD RYZEN 7 2700 8-Core 3.2 GHz	
$170
Motherboard	MSI Performance Gaming X470 Pro Carbon	
$170
Memory	G.SKILL Ripjaws V Series 16GB (2x8GB) DDR4 3200	
$60
Storage	Team Group MS30 M.2 2280 1TB	
$100
1st Graphics card	GIGABYTE RTX 2070 WINDFORCE 8G (Rev 3.0)	
$400
2nd Graphics card	GIGABYTE RTX 2070 WINDFORCE 8G (Rev 3.0)	
$400
Power supply	EVGA SuperNOVA 850 G+, 80 Plus Gold 850W	
$129
Total: $1429

Чтобы эта конфигурация работала, материнская плата была модернизирована до лучшего выбора с хорошей поддержкой (и местом) для двух графических процессоров хорошего размера и большим блоком питания на 850 Вт. Вы можете обновить блок питания, если хотите, но аналогичная машина с двумя более быстрыми графическими процессорами и более энергоемким процессором потребляет только 600 Вт при полной нагрузке, поэтому этого должно быть достаточно для менее требовательной системы.

Что касается производительности, вы можете ожидать, что Fat Fritz достигнет 40 кбит / с (тестируется в начальной позиции) с этой настройкой с двумя графическими процессорами.

Вариант 2: Сбалансированная сборка

Тем не менее, можно также выбрать более сбалансированную сборку с гораздо более мощным процессором, но пожертвовав одним GPU. Здесь нет правильного или неправильного, и вам нужно будет решить, где находятся ваши предпочтения или приоритет.

Processor	AMD RYZEN 9 3900X 12-Core 3.8 GHz	
$529
Motherboard	ASRock Fatal1ty B450 GAMING K4	
$85
Memory	G.SKILL Ripjaws V Series 32GB (4x8GB) DDR4 3200	
$120
Storage	Team Group MS30 M.2 2280 1TB	
$100
Graphics card	MSI GeForce RTX 2070 SUPER VENTUS OC 8GB	
$490
Power supply	CORSAIR CX-M Series CX550M	
$70
Total: $1394

С этой конфигурацией вы смотрите на менее специализированную машину, увеличивая ожидаемую производительность SF до более чем 22-24 миллионов NPS, но снижая производительность Fat Fritz до 25 кпс.

Если вы хотите собрать эту машину с возможностью добавления второго графического процессора в будущем, вам потребуется потратить дополнительные $ 150, чтобы сделать этот процесс действительно жизнеспособным (сокращение ОЗУ с 32 до 16 ГБ может помочь поглотить это): как в первом В приведенной выше конфигурации «All out Fat Fritz» вы захотите изменить материнскую плату для предлагаемого набора микросхем X470 и добавить более мощный источник питания, способный справиться с этим дополнительным графическим процессором. Можно даже выбрать вариант полной мощности 1000 Вт, например EVGA SuperNOVA 1000 G2 80+ ЗОЛОТО.

Конфигурация за 2000 долларов

Наконец, если вы смотрите на более щедрый бюджет в размере до 2000 долларов, компромисса очень мало, и вы можете выбрать мощный 12-ядерный процессор, одновременно расширяя возможности двух первоклассных графических процессоров. Этот новый 12-ядерный процессор AMD Ryzen настолько быстр, что работает аналогично 16-ядерным процессорам пару лет назад.

Processor	AMD RYZEN 9 3900X 12-Core 3.8 GHz	
$529
Motherboard	MSI Performance Gaming X470 Pro Carbon	
$170
Memory	G.SKILL Ripjaws V Series 32GB (4x8GB) DDR4 3200	
$120
Storage	Team Group MS30 M.2 2280 1TB	
$100
1st Graphics card	MSI GeForce RTX 2070 SUPER VENTUS OC 8GB	
$490
2nd Graphics card	MSI GeForce RTX 2070 SUPER VENTUS OC 8GB	
$490
Power supply	EVGA SuperNOVA 1000 G2 80+ GOLD	
$149
Total: $2048

Это компьютер, который на самом деле не имеет никаких компромиссов. Вы получаете отличный очень быстрый процессор для запуска Fritz 17, Stockfish или любого другого движка, который покорит вас, в то время как вы получаете почти 50 тысяч NPS для Fat Fritz за звездную производительность. Если вы хотите немного больше тратить, подумайте об обновлении графического процессора до 2080 или даже до 2080 Super.

[Омегазеро]

Цитата: Сообщение от Alex_Zet

Вариант 2: Сбалансированная сборка

Тем не менее, можно также выбрать более сбалансированную сборку с гораздо более мощным процессором, но пожертвовав одним GPU. Здесь нет правильного или неправильного, и вам нужно будет решить, где находятся ваши предпочтения или приоритет.

Processor	AMD RYZEN 9 3900X 12-Core 3.8 GHz	
$529
Motherboard	ASRock Fatal1ty B450 GAMING K4	
$85
Memory	G.SKILL Ripjaws V Series 32GB (4x8GB) DDR4 3200	
$120
Storage	Team Group MS30 M.2 2280 1TB	
$100
Graphics card	MSI GeForce RTX 2070 SUPER VENTUS OC 8GB	
$490
Power supply	CORSAIR CX-M Series CX550M	
$70
Total: $1394

С этой конфигурацией вы смотрите на менее специализированную машину, увеличивая ожидаемую производительность SF до более чем 22-24 миллионов NPS, но снижая производительность Fat Fritz до 25 кпс.

Эта сборка единственная, где наблюдается некоторый баланс, но только по цене
Стартовая цена у 3900X и RTX 2070 SUPER одинаковая - 499$

А вот в плане энергопотребления у 3900X - 105 Ватт, у RTX 2070 SUPER - 185 Ватт
Тут полный дисбаланс

[Александр Руденко]

Вообще конечно не привычная оценка "жирного фрица " в процентах ....вроде 50% А толку нет , ничья . Да и вообще по мне так что жирный что лила 0.22 , эти движки не доработаны еще, глубина например у лилы в среднем 17 -21 и выше не тянет даже на чемпионате мира ....можно конечно сказать, что в эндшпиле больше , но и простые движки покажут за 70+ эндшпиль

[sovaz1997]

Александр Руденко, в данном случае глубины сравнивать бессмысленно и глупо.

[Alex_Zet]

Ну ладно Сток на 4 CPU, а другие?

Fat Fritz - Allie +22 -0 / Лила - Allie вcего лишь +7 -1
Fat Fritz - Stoof +23 -3 / Лила - Stoof и здесь только +15 -7

И относительно Стока результаты в пользу Fat Fritz. Инфа объективна хотя количество игр разное.

[Vizvezdenec]

Чего вообще так люди в глубину упираются?
Ну вот я помню Haakkapeliitta или как его там достигал глубин бОльших, чем SF, ну и как ему это помогало?
Тем более что самый эффективный на текущий день алгоритм мультипроцессинга почти не увеличивает глубину, зато сильно увеличивает силу игры... Что вроде бы должно людям доказать, что глубина сама по себе в принципе ерунда, но...

[Alex_Zet]

CCRL 40/4

December 7, 2019

1	Leelenstein 11.1 RTX2080	3620	+23	−23	63.8%	−81.5	68.8%	497	 

2	Fat Fritz w266 RTX2080	        3611	+19	−19	62.2%	−71.6	68.5%	788

3 Stockfish 2019-10-09 64-bit 4CPU	3608	+13	−13	72.0%	−145.0	48.5%	1969

4	Lc0 0.22.0 w49921 RTX2080	3599	+15	−15	63.8%	−82.8	65.5%	1292

5	Allie 0.5 nn49921 RTX2080	3565	+19	−19	53.0%	−19.8	67.5%	739

6	Stoofvlees II a13 RTX2080	3557	+20	−20	50.5%	−9.5	58.0%	722

7	Komodo 13.2 64-bit 4CPU	        3522	+18	−18	53.7%	−23.9	60.3%	846

8	Houdini 6 64-bit 4CPU	        3519	+8	−8	61.3%	−80.4	55.3%	5277

почему то Лила ни разу пока не выиграла у Leelenstein (+0−2=56) Будем считать что выборка мала.

[Alex_Zet]

Fat Fritz w266 RTX2080

Игры, сыгранные на RTX2080 с соотношением Leela 11,7 к Stockfish 8 на 1CPU и 3,0 к Stockfish 8 на 4CPU на тестовой машине Intel Core i7-6700K.
Это единственная версия Fat Fritz, которую тестировали.

 Leelenstein 11.1 RTX2080	3620	 26.5 − 29.5 (+1−4=51)
 Stockfish 2019-10-09 64 4CPU	3608	 46 − 35     (+14−3=64)
 Lc0 0.22.0 w49921 RTX2080      3599     39 − 42     (+3−6=72)
 Allie 0.5 nn49921 RTX2080	3565	 50 − 28     (+22−0=56)
 Stoofvlees II a13 RTX2080	3557	 55.5 − 35.5 (+23−3=65)
 Stoofvlees II a12 RTX2080	3533     74 − 50     (+31−7=86)
 Komodo 13.2 64-bit 4CPU	3522     53 − 27     (+27−1=52)
 Houdini 6 64-bit 4CPU	        3519	 56 − 25     (+33−2=46)

Реально в этом списке Fat Fritz занимает 4 строчку по силе, если конечно это не клон.

[Viktor]

Цитата: Сообщение от Alex_Zet

почему то Лила ни разу пока не выиграла у Leelenstein (+0−2=56) Будем считать что выборка мала.

А может Михайлов виноват? Это он результатами манипулирует...

[Alex_Zet]

Да видимо его рука и сюда дотянулась.

[Alex_Zet]

Как устроена нейронная сеть

Альберт Сильвер

Развернуть для просмотра

21.02.2021 - Сказать, что Fat Fritz 2 произвел фурор, - значит ничего не сказать. В этой статье автор описывает процесс ее создания как новой мощной нейронной сети, работающей внутри слегка модифицированного Stockfish. Вы также узнаете разницу между поиском и нейронной сетью, что отличает Fat Fritz от других, а также все соображения и усилия, которые потребовались для его разработки.

Если вы когда-нибудь хотели узнать подробности того, в чем разница между поиском и нейронной сетью, или проблемы такого длительного проекта, следующая статья должна дать вам гораздо более четкую картину. При этом ничего там не противоречит какой-либо части описания, сделанного в авторской стартовой статье .

Что важнее в Формуле 1? Автомобиль или водитель?

В мире шахматных машин с нейронными сетями поиск - это гоночная машина и двигатель, а нейронная сеть - это драйвер. Один только сверхбыстрый двигатель мог бы достичь рекордных скоростей, но для того, чтобы привести эту великую машину к победе, нужен хороший водитель, чтобы использовать его рассудительность и навыки. Точно так же лучший водитель в мире может лишь настолько сильно компенсировать медленную машину.

Поиск - замечательная часть любого шахматного движка, он предназначен для того, чтобы делать лучшие выводы как можно быстрее и эффективнее. Однако даже самый лучший поиск бесполезен, если у него нет четкой оценки, чтобы знать, что движется к поиску, какие расширять глубже, а какие отклонять или прекращать анализ. В мире традиционных движков поиск Stockfish - лучший в своем роде.

Тем не менее, не заблуждайтесь, используя один и тот же поиск с двумя разными нейронными сетями, можно прийти к разным выводам и проанализировать разные переходы в разные точки. Безусловно, временами будут похожие и даже идентичные основные варианты, поскольку лучший ход по-прежнему остается лучшим ходом, но даже в идеальной игре есть место для стиля и предпочтений.

И Fat Fritz 1.0, и новый Fat Fritz 2.0 используют поисковые запросы из Lc0 и Stockfish с открытым исходным кодом, и когда вы покупаете Fat Fritz, вы, конечно же, не платите за бесплатные Lc0 и Stockfish, с которыми они поставляются. Вы покупаете уникальные нейронные сети Fat Fritz, которые идут в комплекте с ними, которые предложат новые идеи, которые должны обогатить анализ любого игрока. Хотя Эло важно для измерения общей производительности, это только один аспект, и именно поэтому несколько точек зрения всегда полезны и важны. Если бы у меня был мой личный Карпов, который я мог бы проанализировать для меня, я был бы на седьмом небе от счастья, но я бы не отказался и от идеи моего личного Каспарова, не так ли?

Ниже приводится подробный отчет о том, как возникла нейронная сеть Fat Fritz 2, в котором представлены все мысли и работа, которые были вложены в ее разработку. Предварительный просмотр, которым поделились с другом и гроссмейстером, получил один комментарий: «Это большая работа». Действительно было.

Fat Fritz 2 - сеть Lc0

После успешного выпуска нейронной сети Fat Fritz 1.0 в ноябре 2019 года, которая работала в Lc0 (двоичный файл Leela Chess), я вскоре начал ее преемницу, более крупную нейронную сеть, которая также будет работать в ней.

Этот новый «Fat Fritz 2» должен был представлять собой гораздо больший набор гирь, но другого размера, чем тот, который разрабатывала Лила, и включать некоторые новые идеи. Я тестировал и тренировал различные комбинации, что заняло у меня несколько недель, пока я не нашел ту, которая работает лучше всего.

К февралю тренировка уже началась, и я ориентировочно планировал закончить ее в декабре. Сомнение было вызвано тем, что создание данных для более крупной сети занимает невероятно много времени, даже с четырнадцатью графическими процессорами 2080ti, которые я поставил для ее обслуживания. Финансовый риск здесь полностью лежал на мне, но страсть к работе всегда была ключевой движущей силой. Запланированная более крупная сеть означала более чем двукратное замедление, и с запланированными 80-90 итерациями сети мне повезло, что я смог тренировать одну каждые три дня.

NNUE или нет?

Первоначальный прогресс был стремительным, но затем, в июле 2020 года, НЯЭ начал активно распространяться в шахматном мире. Программист по имени Тануки, входящий в группу программистов сёги, работал над тем, чтобы внедрить технологию NNUE в Stockfish, как описано в статье о первоначальном выпуске.. Хотя он занимался этим в течение нескольких месяцев, на самом деле только в июле результаты начали показывать перспективы этого нового направления. Я решил попробовать, и были доступны инструменты для самостоятельного обучения. Была доступна ранняя сборка Stockfish с сетью NNUE, и результаты были впечатляющими. Я знал, что это еще ранние дни, но теперь я увидел, что мой проект может дойти до декабря и уже быть «устаревшим». Меня пытали. Я уже потратил тысячи долларов на обучение существующей нейронной сети на основе Lc0, и если бы я принял волну NNUE, все это было бы напрасно.

Должен ли я все равно закончить то, что начал? Или я должен с головой окунуться в подножку NNUE? Если бы я переключился, у меня была бы другая проблема: я мог бы прекрасно создать новую нейронную сеть, которая могла бы работать в ней, но если бы у меня не было ничего нового, что можно было бы добавить к идеям нейронных сетей, в этом не было бы смысла.

С другой стороны, Stockfish сделал это возможным, поскольку это GPL, а вся цель GPL - разрешить распространение и коммерциализацию, установив условия, в которых это должно быть сделано. Вы найдете его в проектах повсюду, от бесплатных производных, таких как Cfish, до профессиональных приложений, таких как PlayMagnus. Тем не менее, имеет смысл идти по этому пути только в том случае, если я смогу добавить реальную ценность, предложив сильную, интересную и привлекательную нейронную сеть.

Первое, что я заметил, это то, что почти все, похоже, следовали аналогичному плану построения сети в экосфере Stockfish: сеть с 256 нейронами, обученными на оценках Stockfish, генерируемых на глубине 8 слоев (четыре хода) и затем на глубине 12 слоев (шесть движется). Прогресс был стремительным, так как талантливый тренер NN, Серджио Вьери, взялся обучать тренеру, используемому сообществом. Имея в своем распоряжении огромные ресурсы, он проработал в сети Stockfish почти два месяца и, наконец, ушел в сентябре, когда уже не мог ее улучшать. Все другие попытки, которые я видел, были либо попытками повторить его успех (ни одна из них не удалось), либо улучшить его с помощью дальнейших тренировок (также ни одна из них не сделала). За исключением некоторой настройки, произведенной на выходе сети, с тех пор сеть не менялась или улучшалась.

Было предпринято несколько случайных попыток построить сети большего и меньшего размера, но все они дали скучные результаты. Фактически, результаты были настолько не впечатляющими, что на вопрос о более крупных сетях официальный Stockfish Discord, область чата сообщества, видел ответы разработчиков, такие как « Это было опробовано, но это тупик ». Я не возражал, что это было пробовали, но называть это тупиком казалось преждевременным.

Идет ва-банк

Я решил, что две вещи могут привести к чему-то действительно интересному, если они сработают. Первый - использовать оценки Fat Fritz 1.0 вместо движка, такого как Stockfish. В конце концов, не было никаких сомнений в том, что остаточные сети, представленные Deep Mind, были все же гораздо более мощными, поэтому, если бы я мог использовать оценки Fat Fritz 1.0, я мог бы получить что-то совершенно особенное. Это была важная идея, но для ее реализации мне потребовались технические знания, которых у меня не было.

Вот мой близкий друг Даниэль Уранга, который помог мне экспериментировать с таким количеством идей. Мне все еще оставалось обучать сети, делать выводы и многое другое, но он был инженером, который сделал эти эксперименты возможными. Я немедленно арендовал парк мощных графических процессоров, чтобы начать производство данных для проекта, зная, что независимо от выбора эти данные будут необходимы.

После реализации ходов и оценок Fat Fritz встал вопрос о размере нейронной сети. Выбор Stockfish из 256 нейронов был почти повсеместным, даже принятым в мире сёги, а несколько попыток с большими или меньшими сетями закончились очень разочаровывающими результатами, отставание по крайней мере на 50 Эло.

В конце концов, больше работает

Это было, безусловно, самое изнурительное расследование, которое длилось несколько недель. Я тренировал сети, используя все возможные перестановки: большие сети, меньшие сети, более глубокие сети, более мелкие сети и так далее. Все они должны были быть тщательно обучены, чтобы убедиться, что результаты заслуживают доверия, и все они должны были быть протестированы на каждом этапе в десятках тысяч игр, чтобы гарантировать надежность измерений. Тестирование только на 1000 играх означало бы, что он все еще может быть на целых 30 Эло, и я не смогу узнать, был ли мой выбор правильным.

Наконец, я определился с размером используемой сети, 512 нейронов, что вдвое больше, чем в Stockfish и других проектах. Излишне говорить, что это была настоящая находка, и она, несомненно, приведет к аналогичным усилиям других любителей и разработчиков. Его подробности можно найти в Github, и хотя это может показаться мелочью, помните, что раньше это считалось тупиком для изучения.

Тем не менее, ничто из этого не гарантировало отличного результата, только многообещающего. Я мог бы все еще выйти из всего этого с пустыми руками, далеко позади, имея только приятную «изюминку» сети, чтобы показать это и значительные финансовые потери в размере 16 000 долларов. У меня не было поддержки ни в одном из этих действий, и если бы это не удалось, то это было бы полностью из моего собственного кармана.

Тренировка и улучшение Fat Fritz 2

Первоначальное обучение заняло более девяти дней, чтобы построить сеть. И это было с быстрой 32-поточной машиной. Когда он, наконец, завершил этот этап, результаты превзошли все мои ожидания. В двоичном формате, идентичном тому, который использовал Stockfish 12, он выходил вперед в их личных матчах. Очевидно, речь шла не о том, чтобы победить Stockfish, а скорее о сети, которую он использовал. В конце концов, они оба использовали один и тот же двоичный код. Что бы ни случилось после, проект имел явный успех.

Следующий этап был самым трудным и разочаровывающим. Если бы я думал еще больше воспроизвести впечатляющий прогресс Серджио Вьери в обучении сети, используя форму обучения с подкреплением, я очень быстро избавился от заблуждений, несмотря на использование более 700 быстрых компьютерных потоков для получения специальных данных из этой новой сети NNUE.

В течение двух месяцев было создано и испытано круглосуточно более тысячи сетей , но только две сети действительно показали заметный прогресс. Вы можете себе представить, насколько это было истощающим. Я вставал посреди ночи, чтобы начать новые тесты, чтобы ни в коем случае не тратить время на компьютер. Эти усилия были предприняты с использованием специальных скриптов, которыми поделился Дитрих Каппе, неутомимый разработчик, который написал их для генерации данных в своей собственной работе.

Я боялся, что скоро кто-нибудь выйдет и возьмется за брошенную Серджио перчатку, чтобы вывести сеть Stockfish на новые высоты чудесного прогресса. Но вскоре стало ясно, что я не единственный, кто борется за его выдающуюся работу. Никому не удавалось даже сравняться с ним, не говоря уже о том, чтобы превзойти его, а у некоторых были ресурсы, которые затмевали даже мою аренду княжеского облака.

Результаты теста

Все мои тесты проводились против самого Stockfish на каждой итерации. Почему Stockfish? Потому что это стандарт, которого все должны придерживаться. Мне нужно было хотя бы знать, представляю ли я пользователям некачественный продукт. Я знал, что во многих ситуациях он будет играть по-разному, но будет ли он слабее? Это было моей заботой. Независимо от того, считают ли пользователи добавленную стоимость гарантии покупки, это, конечно, всегда индивидуальный вопрос. Если их единственная забота - это Эло, тогда нет веских причин покупать Fat fritz 2, но если вы хотите получить мощный и иной взгляд, они будут хорошо обслужены. Стоит добавить, что у меня нет ни времени, ни интереса к тестированию с рядом двигателей, отставших от сотни или более Эло. Так что в конечном итоге вполне возможно, что он победит короля, но будет менее эффективен при уничтожении остальных. Я мог бы жить с этим.

Он был протестирован в глубоком матче из десяти тысяч партий против сборки Stockfish от 11 февраля, которая с тех пор стала новой Stockfish 13. Этот матч проводился независимым тестером, который использовал фиксированную восьмиходовую книгу, взятую из База из 2,1 миллиона игр, сыгранных на LiChess в 2020 году противниками с рейтингом 2400+.



Некоторым может показаться, что сравнение силы со Stockfish - это попытка опровергнуть это, но это как раз наоборот. Он без сомнения признает, что это стандарт, которого должны придерживаться все остальные. Примечание: вывод графического интерфейса может немного сбивать с толку. Это показывает разницу в 16 Эло, а не 32.

Именно этот и другие результаты побудили заявить, что это номер 1 в своем роде. Без сомнения, это зависит от мощного поиска, обеспечиваемого проектом Stockfish с открытым исходным кодом, но если бы поиск был всем, что требовалось, то NNUE не имел бы никакого значения, и Stockfish 12 был бы скромным шагом вперед по сравнению с Stockfish 11, а не огромным прыжок на самом деле был благодаря мощному мозгу. Это сочетание отличной нейронной сети и делает ее тем, чем она является.

Fat Fritz 2 - это сеть, обученная играм и оценкам Fat Fritz с уникально большой архитектурой, которая в сочетании с фантастической Stockfish - это то, что, как мне кажется, принесет ценный анализ и идеи всем игрокам. Я безоговорочно горжусь этим.

[свернуть]

Образец его игры

Вот игра, которой поделился пользователь, использующий 36 потоков в играх 15 + 15 секунд. Между Stockfish (сборка от 11 февраля) и Fat Fritz 2 разыгрывалась классическая королевская индейка. Первые девять ходов были им скармлены, а затем они были предоставлены сами себе.
Яркая и зрелищная динамичная - https://share.chessbase.com/SharedGa...FhMsbRmBYLCont

[Alex_Zet]

Альберт Сильвер



Хотя я начал работать на полную ставку редактором и журналистом по шахматам в 2010 году, на протяжении более 25 лет я был вовлечен практически во все аспекты королевской игры, к которым я без извинений страстно увлечен.

В конце 80-х, живя во Франции, подростком я работал в знаменитом парижском шахматном магазине «Librairie St. Germain» (впоследствии ставшем «Веселыми играми») во время летних каникул, продавцом или на турнирах. работает стенд. Когда я учился в колледже в США, потрясенный отсутствием шахматной активности в Мэдисоне, штат Висконсин в то время, я взял на себя обязательство давать детям бесплатные уроки шахмат каждое воскресенье в местном книжном магазине / кофейне. Идея была встречена с большим успехом, освещена в государственной газете в специальной статье и привела к занятиям в местной YMCA.

В 90-х я переехал в Бразилию, где я развивался дальше как игрок, выиграв чемпионат Рио-де-Жанейро, а также командные соревнования, выиграв чемпионат штата, а также заняв второе место в Национальной лиге Бразилии. За этот период я ​​достиг пикового рейтинга ФИДЕ 2240.

С 1999 по 2002 год я работал дизайнером программного интерфейса в российской компании Convekta (теперь переименованной в ChessOk), где я впервые интегрировал функциональность онлайн-игры с расширенными функциями базы данных и анализа. Хотя на момент выпуска Chess Assistant 6 это не было слышно, с тех пор он стал стандартной функцией в онлайн-программах.

В 2010 году, после серии электронных писем и переговоров с Фредериком Фриделем, одним из основателей ChessBase, я был привлечен к работе в компании и работал редактором и писателем ChessBase News в качестве моей постоянной работы до 2017 года. AlphaZero от Google / DeepMind мое внимание переключилось на растущую область нейронных сетей, и позже я обучил одну, которая стала Fat Fritz .

[Виталий В.]

Интервью Сильвера о движках фет фритз. Жаль не на русском. Хотел видео вставить сюда, но что-то не получается. Ссылка на ютуб https://www.youtube.com/watch?v=1Tab...=TomaszSobczyk

[Виталий В.]

Только что нашёл в сети архив фет фритз2 с сетью. Может кто-нибудь сделать этот движок для старого процессора ssse? Ссылка на фф2: https://download.ru/files/PnRQS8nO

[Maratka]

Чем этот не устраивает?

Fat Fritz 2 by Stockfish Devs and Albert Silver (neural network)
compiler

Compiled by g++ (GNUC) 10.2.0 on MinGW64
Compilation settings include: 64bit SSSE3 SSE2
__VERSION__ macro expands to: 10.2.0

[Alvir]

Цитата: Сообщение от Виталий В.

Только что нашёл в сети архив фет фритз2 с сетью. Может кто-нибудь сделать этот движок для старого процессора ssse? Ссылка на фф2: https://download.ru/files/PnRQS8nO

Это, судя по МД5, настоящие...
http://talkchess.com/forum3/viewtopi...882739#p882739

[Maratka]

Настояшие.
Сразу проверяйте подпись.