Stockfish и его производные

[Харлампий]

Stockfish 14
Stockfish 14 для Android
https://ufile.io/f/8ardx
https://pixeldrain.com/l/ndVpnHXc#item=1

Архив предыдущих версий: https://www.dropbox.com/sh/75gzfgu7q...UfHbBr4r_RwhGa

Официальный сайт стокфиш

Обновления тестовых версий стокфиша: http://abrok.eu/stockfish/

Сборки Stockfish и CorChess от I. Ivec

Развитие движка http://tests.stockfishchess.org/tests

Stockfish_NNUE https://github.com/nodchip/Stockfish

Сети: https://www.comp.nus.edu.sg/~sergio-v/nnue/

AsmFish

Сборки от Maratka

Компиляции движков от ChessMan

Сборка Stockfish от Otodranik

Sugar от Marco Zerbinati

Shark и Orka

О Stockfish

Цитата:

Авторы движка
Двигатель Stockfish был разработан Tord Romstad, Marco Costalba и Joona Kiiski. В настоящее время он развивается и поддерживается сообществом Stockfish.

Авторы приложений
Stockfish для Mac был собран Daylen Yang. Stockfish для iOS был собран Tord Romstad.

История
Проект Stockfish начался с движка Glaurung с открытым исходным кодом, созданного Tord Romstad. В ноябре 2008 года Марко Косталба разветвил код Glaurung 2.1 и представил Stockfish 1.0. Торд и Джоона Кииски присоединились к проекту «Стилфиш», и проект «Гларунг» постепенно исчез. Тем временем, Stockfish быстро поднялся, чтобы стать самым сильным шахматным движком с открытым исходным кодом, с частыми обновлениями каждые несколько месяцев. Сегодня он остается одним из самых сильных двигателей в мире.

О GPL
Stockfish является бесплатным и распространяется в соответствии с GNU General Public License Version 3 (GPLv3). По сути, это означает, что вы можете делать практически все, что хотите, с программой, включая ее распространение среди своих друзей, делая ее доступной для загрузки с вашего веб-сайта, продавая ее (либо самостоятельно, либо как часть некоторого более крупного программного пакета ) или использовать его в качестве отправной точки для собственного программного проекта.

Единственное реальное ограничение заключается в том, что всякий раз, когда вы каким-либо образом распространяете Stockfish, вы всегда должны включать полный исходный код или ссылку на исходный код. Если вы внесете какие-либо изменения в исходный код, эти изменения также должны быть доступны в GPL.

Для получения полной информации прочитайте GPL.

[свернуть]

[Кевин]

Тюнинг поисковых констант:
https://tests.stockfishchess.org/tes...9b40b0fc95af19

[svoitsl]

Stockfish development builds compiled by I. Ivec
June 10, 2020

[alchemist888]

Цитата: Сообщение от dew

А подумайте над тем, что каждый патч стока объясняется автором (или помощником) - простыми понятными словами.. От этого и постов больше в этой теме imho Посмотрите на сети - как там безжизненн

Может быть и выглядит безжизненно, если смотреть на развитие сетей по графику. Но на самом деле проектирование и тренировка сетей довольно интеллектуальный и увлекательный процесс.

В дискорде и на github есть специальные разделы, где разработчики обсуждают идеи, тестируют и применяют их на практике.
Процесс чем-то схож с патчами для Стокфиша, когда разработчик решает затюнить параметры, а динамика само-эло тренирующейся сети покажет насколько верны были его идеи.
Также много работы ведется с самим движком, чтобы он более эффективно использовал мощности GPU и CPU.
Есть и модификации для поиска, одно из недавних позволяет LCZero лучше искать форсированные выигрыши, что улучшило игру движка в некоторых позициях, а также уменьшило количество троллинга.
Сам же тренировочный процесс не сводится к тому, что мы написали скрипт, запустили тренировку и смотрим, что получится через N-е количество игр. Происходит постоянный контроль и изменение параметров скрипта, если найдены улучшения, или тренировочный процесс идет неэффективно.

Далее по методам тренировки. С одной стороны тренировать сети можно генерируя игры, а с другой использовать базу данных игр, причем совершенно любых, хоть партии Стокфиша. Есть также возможность запускать тренировку: без книги, с дебютной книгой, на тестовых позициях, или даже в Chess 960. Можно даже модифицировать правила игры, например, чтобы за ничью давали меньше 0.5, а за победу больше 1 и смотреть, что из этого получится.
В общем, вариантов просто масса и этот процесс очень схож с творческо-исследовательской деятельностью.

[Maratka]

Прошел достаточно забавный патч.

https://tests.stockfishchess.org/tes...9b40b0fc95af43

[Maratka]

Цитата: Сообщение от alchemist888

Сам же тренировочный процесс не сводится к тому, что мы написали скрипт, запустили тренировку и смотрим, что получится через N-е количество игр. Происходит постоянный контроль и изменение параметров скрипта, если найдены улучшения, или тренировочный процесс идет неэффективно.

А теперь вопрос: как шло обучение AZ, если предположить, что они не наврали, и обучение действительно заняло четыре часа? Это где ж там контроль, и откуда время на изменение скриптов?

[magbash]

не совсем понятно, в тсес стокфиш всех опержает, а в ссс в групповос только 4.

[svoitsl]

Цитата: Сообщение от Maratka

Это где ж там контроль,

Они ж картинки красивые выкладывали, силы игры и числа игр.
разве не видели?

Цитата: Сообщение от Maratka

и откуда время на изменение

Так они ничего и не меняли наверное, как получилось так и получилось, как выяснилось - неплохо.

[alchemist888]

Цитата: Сообщение от Maratka

А теперь вопрос: как шло обучение AZ, если предположить, что они не наврали, и обучение действительно заняло четыре часа? Это где ж там контроль, и откуда время на изменение скриптов?

Ответ довольно прост. С мощностями Google менять что-то "на лету" не имеет большого смысла, если сеть полностью тренируется за 4-9 часов. Проще всего запустить одновременно, или последовательно несколько тестовых ранов с различными параметрами и посмотреть какие из них станут наиболее успешными. Мы ведь не знаем сколько модификаций скрипта было до того, как они начали тренировку последней версии AlphaZero для шахмат. Не думаю что они врут в том, что сеть обучалась всего несколько часов. Это математически обосновано с их мощностями.

С LCZero история совершенно иная. Тут, из-за нехватки ресурсов, полноценная тренировка сети проходит от полугода до года. Параллельно с основным раном запущены еще 1-2 тестовых, на которых постоянно проводятся эксперименты. Успешные модификации почти сразу же внедряются в главный проект.

[Maratka]

Цитата: Сообщение от alchemist888

С LCZero история совершенно иная. Тут, из-за нехватки ресурсов, полноценная тренировка сети проходит от полугода до года.

А я слышал, что полгода или год - это наигрывание партий. Да и то - поначалу, покуда везде были одни GTX'ы, и не было fp16 математики, которая в разы быстрее.
Кроме того, для ускорения счета (опять же, где-то кто-то писал) можно играть партии для сети 20*256, и потом на них уже учить более крупную сеть.

А так вообще (опять слышал краем уха), что обучение по имеющейся базе занимает ну не четыре часа или рядом с ним, но единицы дней. Да, это не будет идеальная сеть, т.к. партии были на другом движке, да и возможно игралось оно с другими параметрами, но это будет достаточно неплохая сеть, которую можно за месяц доучить на уже своих собственных партиях с последней версией движка (в очередной раз, на Привозе в очереди за семечками узнал).

[byan_mivv]

Author: Vizvezdenec
Date: Sat Jun 13 06:48:58 2020 +0200
Timestamp: 1592023738

Adjust history threshold for quiet moves futility pruning

This patch adjusts the threshold for futility pruning of quiet moves
using the continuation history array contHist[5], in the same way as
it is used in movepicker.

passed STC:
https://tests.stockfishchess.org/tes...6c451633a9959f
LLR: 2.94 (-2.94,2.94) {-0.50,1.50}
Total: 55984 W: 10822 L: 10552 D: 34610 Elo +1.68
Ptnml(0-2): 952, 6435, 12941, 6719, 945

passed LTC:
https://tests.stockfishchess.org/tes...6c451633a995cf
LLR: 2.96 (-2.94,2.94) {0.25,1.75}
Total: 41712 W: 5402 L: 5114 D: 31196 Elo +2.40
Ptnml(0-2): 293, 3766, 12469, 4016, 312

closes https://github.com/official-stockfis...fish/pull/2734

Bench: 4715960

https://abrok.eu/stockfish/

[byan_mivv]

Author: Joost VandeVondele
Date: Sat Jun 13 07:10:34 2020 +0200
Timestamp: 1592025034

Quantize eval to multiples of 16

Removes some excess precision, helps searchs.

Effectively reintroduces evaluation grain, with a slightly different context.
https://github.com/official-stockfis...c3598731a4eace

passed STC
LLR: 2.97 (-2.94,2.94) {-0.50,1.50}
Total: 197032 W: 37938 L: 37462 D: 121632 Elo +0.84
Ptnml(0-2): 3359, 22994, 45446, 23246, 3471
https://tests.stockfishchess.org/tes...9b40b0fc95ae53

passed LTC
LLR: 2.94 (-2.94,2.94) {0.25,1.75}
Total: 77696 W: 9970 L: 9581 D: 58145 Elo +1.74
Ptnml(0-2): 530, 7075, 23311, 7340, 592
https://tests.stockfishchess.org/tes...9b40b0fc95af43

passed LTC SMP
LLR: 2.96 (-2.94,2.94) {0.25,1.75}
Total: 64136 W: 7425 L: 7091 D: 49620 Elo +1.81
Ptnml(0-2): 345, 5416, 20228, 5718, 361
https://tests.stockfishchess.org/tes...9b40b0fc95b04c

closes https://github.com/official-stockfis...fish/pull/2733

Bench: 4939103

https://abrok.eu/stockfish/

[Vizvezdenec]

Я когда добавлял эту conthist5 пару лет назад, обещал Марко, что её можно будет в поиске использовать.
Ну вот и наконец-то
Собственно, что оно делает - у нас есть граница отсечения тихих ходов по статической оценке в виде суммы историй хода, теперь она чуть выше, зато туда добавляется эта история.

[svoitsl]

Цитата: Сообщение от Vizvezdenec

Ну вот и наконец-то

Чувствую на TCEC Лиле придет конец, если ещё и со старой сетью....
Стокфиш наверняка будет на 10-15 Эло сильнее! Монстр!

[Maratka]

От дебютов зависит. Ну и опять же, тогда, два месяца назад SF был +/- равен, но именно +/-
Т.е. если тогда был минус, то теперь - равенство, а вот если тогда равенство или SF был сильнее, то сейчас шансы весьма велики.

[Кевин]

Ещё тюнинг поисковых констант ждём: вроде бы он все тесты прошёл.

[Vizvezdenec]

Ну с прошлого финала приблизительно +15 эло.
Я уж не знаю, насколько это натранслируется в TCEC. Результат может быть вполне любой

[alchemist888]

Цитата: Сообщение от Maratka

А я слышал, что полгода или год - это наигрывание партий. Да и то - поначалу, покуда везде были одни GTX'ы, и не было fp16 математики, которая в разы быстрее.
Кроме того, для ускорения счета (опять же, где-то кто-то писал) можно играть партии для сети 20*256, и потом на них уже учить более крупную сеть.

Да, полгода - год это наигрывание партий, но наигрываются они по определенному скрипту, который устанавливается изначально, и который можно модифицировать в будущем, что и делается. Также уже во время тренировки обновляется сам клиент, и новые улучшения уже внедряются в текущий тренировочный процесс. Все это нужно для повышения качества тренировочной базы. Об этом и был мой предыдущий пост.
Затем, уже на имеющейся тренировочной базе, обучаются новые сети с нуля, которые могут быть и большего и меньшего размеров. При этом используются самые последние наработки и, обычно, несколько иные методы тренировки, которые позволяют натренировать еще более сильные сети. Вот этот процесс обычно длится от нескольких дней до месяца, в зависимости от мощностей энтузиастов.

[Maratka]

Ну тогда в общем-то понятно, почему a-b (понятно в лучшем своем представителе) прогрессирует стабильно, пусть и не набирает 3000+ Elo за месяц, а сети - рывками, застой на 3-6 месяцев вполне обычное дело, после чего резко 20-50 Elo, и опять застой на 3-6 месяцев, а то может и около года.

Отсюда и второе следствие: сети и SF идут ровно, т.к. люди не могут дать более ~одного Elo в неделю, а сети чем лучше становятся, тем сложнее их улучшить в дальнейшем.

Ну и третье, у SF огромный потенциал по внедрению патчей с весом в доли Elo, ибо соседние сети отличаются.. ну условно говоря на какие-то там стотысячные доли своих коэффициентов, но этих коэффициентов там дофига, и меняются они банальным скриптом при обучении. SF'шу это все тоже реально сделать, но понадобится не 1500 ядер, а 20-100 тысяч: тогда можно гонять патчи с проходимостью в скажем 0,2 Elo, и это не займет слишком много времени. Но сейчас это нереально: один-два патча будут идти несколько недель, и к финалу не факт, что код там не пересечется с другими патчами.

[svoitsl]

Цитата: Сообщение от alchemist888

Затем, уже на имеющейся тренировочной базе, обучаются новые сети с нуля, которые могут быть и большего и меньшего размеров

Все таки пока это весьма не отлажено, и при изменении способа тренировки сильно меняются и сами игры, поэтому просто например натрнирвать игры на сети 6х64,на них обучить сеть 10х128,натренировать ее и потом обучить сеть 20х256 и снова натренировать... такой способ вроде и не плох в теории но кажется трудно применимым.
На переобучние сети требуется до фига ресурсов (думаю что не менее трети общего объема если обучать с нуля), и может проще вообще переобучить сеть начиная с последней итерации.
К тому же может если сократить число коэффициентов сети ,обнулив маленькие числа, то можно использовать какие то более быстрые алгоритмы для разреженных матриц? Или может даже объединить 8 (64) соседних узлов в один (увеличив при этом скорость),и постепенно расщеплять нужные ?

[Кевин]

Author: xoto10
Date: Sat Jun 13 13:33:18 2020 +0200
Timestamp: 1592047998

Tuned values for search constants

Tuned search constants after many search patches since the last
successful tune.

1st LTC @ 60+0.6 th 1 :
LLR: 2.97 (-2.94,2.94) {0.25,1.75}
Total: 57656 W: 7369 L: 7036 D: 43251 Elo +2.01
Ptnml(0-2): 393, 5214, 17336, 5437, 448
https://tests.stockfishchess.org/tes...9b40b0fc95af19

SMP LTC @ 20+0.2 th 8 :
LLR: 2.95 (-2.94,2.94) {0.25,1.75}
Total: 83576 W: 9731 L: 9341 D: 64504 Elo +1.62
Ptnml(0-2): 464, 7062, 26369, 7406, 487
https://tests.stockfishchess.org/tes...9b40b0fc95b008

The changes were rebased on top of a successful patch by Viz (see #2734)
and two different ways of doing this were tested. The successful test
modified the constants in the patch by Viz in a similar manner to the
tuning run:

LTC (rebased) @ 60+0.6 th 1 :
LLR: 2.94 (-2.94,2.94) {0.25,1.75}
Total: 193384 W: 24241 L: 23521 D: 145622 Elo +1.29
Ptnml(0-2): 1309, 17497, 58472, 17993, 1421
https://tests.stockfishchess.org/tes...6c451633a995f9

Further work: the recent patch to quantize eval #2733 affects search quit
quite a bit, so doing another tune in, say, three months time might be a
good idea.

closes https://github.com/official-stockfis...fish/pull/2735

Bench 4246971

https://abrok.eu/stockfish/

[Maratka]

Интересно, на какой момент сборка SF должна уйти в TCEC, чтобы играла в финале?
Аналогично - движок и сеть LZ?

Если скажем на сегодня/вчера, то у LZ 3010 против сегодняшнего SF - это битва титанов, как по общему уровню, так и по непредсказуемости результата.

[Alvir]

Цитата: Сообщение от Maratka

Интересно, на какой момент сборка SF должна уйти в TCEC, чтобы играла в финале?
Аналогично - движок и сеть LZ?

Если скажем на сегодня/вчера, то у LZ 3010 против сегодняшнего SF - это битва титанов, как по общему уровню, так и по непредсказуемости результата.

У Lc0 есть сеть 384x30-t60-4082, которая сильнее 3010 приблизительно где-то на +10 элло, и сетка, играющая в CCC14 (384x30-2-swa-30000). Наверное играть будет кто-то из них, если, конечно, LZ выйдет в SuFi. Других альтернатив у LZ вроде нет. Если пройдёт Allie, то играть в SuFi станет сеткой LS15.

[Maratka]

Цитата: Сообщение от Alvir

У Lc0 есть сеть 384x30-t60-4082, которая сильнее 3010 приблизительно где-то на +10 элло, и сетка, играющая в CCC14 (384x30-2-swa-30000).

А насколько это доказано, что оно лучше?
Отдельно - вообще, отдельно - против SF?

Там в общем-то все очень тоненько, добраться до "тихих" коэффициентов сети на минутных контролях нереально, а грубые - они могут влиять именно что на коротком котнроле...

SF в этом плане тестируется лучше - у него есть оценка роста над собой на одном ядре, и на 8 (пусть и с половинным контролем, но 8 таки это не 1). А попутно это выявляет зависимость от пачтей, связанных именно что с мультипольном.

[Alvir]

В дискорде тест выложили :
"EinyenСегодня, в 10:08
Match: Stockfish_20031719 vs 384x30-t60-3972-20k-mlh (jio 384x30-3972-swa-20000.pb.gz)
Hardware: i7-5960X + Geforce RTX 2080
LC0 version: v0.25.1
LC0 options: --backend=cudnn-fp16
Book: Chad's 6-ply book, openings-6ply-1000.pgn order=sequential -repeat
Adjudication: 6-man TB on SSD
Software: cutechess-cli (dev-version); Ordo 1.2.6
Ordo String: ordo-win64.exe -Q -N 1 -a 0 -A "Stockfish_20031719"-D -W -n4 -s2000 -U "0,1,2,3,4,5,6,7,8,9,10" -p *.pgn -o *.txt
Results:
All 1,000 openings each match
320x24 nets: 3,550 nodes/move (1.65x 384x30nodes)
384x30 nets: 2,150 nodes/move
Stockfish: 3,000,000 nodes/move
mlh parameters: --moves-left-max-effect=0.1 --moves-left-threshold=0.5 --moves-left-slope=0.007 --moves-left-quadratic-factor=0 --moves-left-scaled-factor=1 --moves-left-constant-factor=0
[10:09]
# PLAYER : RATING ERROR POINTS PLAYED (%) CFS(%) W D L D(%)
1 sv-384x30-t60-4082 : 61.0 10.3 1169.0 2000 58.5 96 608 1122 270 56.1
2 jio-384x30-t60-3972-20k-ml: 47.6 10.3 1132.5 2000 56.6 61 588 1089 323 54.5 <-- new
3 sv-384x30-t60-3972 : 45.6 10.1 1127.0 2000 56.4 57 573 1108 319 55.4
4 sv-384x30-t60-3180 : 44.4 10.0 1123.5 2000 56.2 74 561 1125 314 56.3
5 sv-384x30-t60-3010 : 39.7 10.2 1110.5 2000 55.5 57 537 1147 316 57.4
6 lc0.net.63000 : 38.4 10.4 1107.0 2000 55.4 57 508 1198 294 59.9
7 sv-384x30-t60-3200 : 37.1 10.1 1103.5 2000 55.2 68 512 1183 305 59.1
8 sv-384x30-t60-3907 : 33.7 9.9 1094.0 2000 54.7 56 527 1134 339 56.7
9 sv-384x30-t60-2950 : 32.6 9.9 1091.0 2000 54.5 77 531 1120 349 56.0
10 sv-384x30-t60-3350: 27.2 10.0 1076.0 2000 53.8 100 501 1150 349 57.5
11 Stockfish_20031719 : 0.0 ---- 9941.5 22000 45.2 100 3683 12517 5800 56.9
12 sv-384x30-t60-3290: -27.0 9.9 924.5 2000 46.2 --- 354 1141 505 57.0"

[Rom77]

Цитата: Сообщение от Maratka

Интересно, на какой момент сборка SF должна уйти в TCEC, чтобы играла в финале?
Аналогично - движок и сеть LZ?

18.06.2020 12:00 UTC

Цитата: Сообщение от Alvir

Других альтернатив у LZ вроде нет.

Еще такой момент, что видеокарты в этом TCEC немного помощнее. V100 на 10-20 процентов быстрее, чем RTX 2080Ti из предыдущего финала.

[Maratka]

Цитата: Сообщение от Rom77

Еще такой момент, что видеокарты в этом TCEC немного помощнее. V100 на 10-20 процентов быстрее, чем RTX 2080Ti из предыдущего финала.

А есть бенчи?
У Теслы вроде бы ядер больше, но частоты (для стабильности) меньше, т.е. как бы то на то. Но в принципе, и RTX может быть быстрее: зависит от пропорции, сколько добавили ядер в процентах, и на сколько опустили частоту (тоже в процентах понятно дело).

[Maratka]

Цитата: Сообщение от Rom77

18.06.2020 12:00 UTC

Т.е. текущие сборки SF мало что успевают, там еще и 1-2 патча в общем-то могут пройти.

А у команды LZ есть сеть на примете, которая потенциально сильнее 3010, но тест которой еще не завершен?
Вот выше писали про 384x30-t60-4082: насколько велика там достоверность теста?

[Rom77]

Цитата: Сообщение от Maratka

У Теслы вроде бы ядер больше, но частоты (для стабильности) меньше, т.е. как бы то на то.

Заявленные частоты у них почти одинаковые - 1530 ГГц у Теслы, против 1545 ГГц у RTX. Но частоты могут плавать в зависимости от конфигурации видеокарты и нагрузки.

А вот тензорных ядер на Тесле заметно больше - 672 против 576.

Цитата: Сообщение от Maratka

А есть бенчи?

Можно сравнить партии в архиве прошлого и нынешнего сезона TCEC. Там есть графики скорости. К тому же нейросеть у Лилы осталась та же самая.

[Rom77]

Цитата: Сообщение от Maratka

А у команды LZ есть сеть на примете, которая потенциально сильнее 3010, но тест которой еще не завершен?
Вот выше писали про 384x30-t60-4082: насколько велика там достоверность теста?

Я почти не слежу за тестами на дискорде.

[Maratka]

Жаль.
Может кто отпишется?