LCZero

[svoitsl]

Цитата: Сообщение от Kesandr

по сравнению с сетью 40ххх кто быстрее идет?

Не будет сильно удивительно, если выяснися, что самые быстрые сети это самые маленькие, сейчас и так T60 обучается в 2 раза чаще, чем T40 и в 4 раза чаще , чем T5х.
Возможно вообще в будущем правильно было бы до обучать, а не переобучать (особенно, если алгоритм обучения немного устаканится). И может лучше (как раньше хотели) начать с малой сети, а потом ее масштабировать (при каждом снижении LR например). Но наверное что то этому мешает.

[Rom77]

Цитата: Сообщение от Kesandr

А по темпам по сравнению с сетью 40ххх кто быстрее идет? По памяти мне кажется т40 за такой примерно период времени сильнее играла. Но это не точно)

Сеть 60 на 59,6 пункта сильнее сети 40450 (сеть перед первым уменьшением LR), при равном числе позиций на ход:
https://docs.google.com/spreadsheets...#gid=620784436

И на 88 пунктов слабее при равном времени на ход (3074 против 3162), что наверное более корректно для сравнения:
https://docs.google.com/spreadsheets...#gid=849341521

Но до первого снижения LR сеть 60 ещё может подрасти.

P.S. А по времени обучения труднее сравнивать, поскольку сеть 40 прошла предобучение перед стартом.

[Bullet]

Кто и как определяет, что пора снизить LR?

[svoitsl]

А тем временем обучение сетей T57 благополучно закончилось на 57403
И столь же благополучно началось обучение сети T58

[Kesandr]

И какого уровня достигла сеть 57403? И чем будет отличаться 58 сеть от 57?

[Rom77]

Цитата: Сообщение от Bullet

Кто и как определяет, что пора снизить LR?

На этот вопрос лучше бы ответил crem. Но я предполагаю LR снизят когда более-менее стабилизируются параметры обучения, в первую очередь параметр Reg term.

[svoitsl]

Цитата: Сообщение от Kesandr

И какого уровня достигла сеть 57403?

Небольшой турнирчик с Ethereal 11.58 pext
i5-4670k (4 потока,512Мб хеша),RTX2060 fp16 (довольно большой перекос в пользу LC0), книжка balsa-top25
4-26-20

LC0 0.22 -57403 сильнее Ethereal 11.58 pext на 164.07 Эло
С другими сетями T51-56 сравнить не могу
интересно сравнить и с ld2

[SergeyMZ]

Поставил одну их последних нейросеток от Хортоса: J13B.2-178 и скорость Лилы в начальной позиции упала в 2 раза примерно. Так и должно быть?

[sovaz1997]

Цитата: Сообщение от SergeyMZ

Поставил одну их последних нейросеток от Хортоса: J13B.2-178 и скорость Лилы в начальной позиции упала в 2 раза примерно. Так и должно быть?

Да, т. к. размер этой сети больше.

[svoitsl]

Цитата: Сообщение от SergeyMZ

Так и должно быть?

Интересно было бы ещё узнать, при этом сила игры увеличилась или нет?

[Viktor]

Цитата: Сообщение от SergeyMZ

Поставил одну их последних нейросеток от Хортоса: J13B.2-178 и скорость Лилы в начальной позиции упала в 2 раза примерно. Так и должно быть?

Цитата: Сообщение от svoitsl

Интересно было бы ещё узнать, при этом сила игры увеличилась или нет?

В моем небольшом турнире движков (26 в 4 круга) эта версия показывает худший результат из всех сетей (а их в тесте 14): 35 очков (15 место).
Лучше идет из этой серии J13-410: 37 очков (11 место).
А лидируют:
1. 42850 41
2. T40B.1-94 40.5
3. T40B.4-260 40.5
4. T40B.-160 40
5. T40B.1-106 40
6. T40B.2-106 39.5

Тест продолжается. Сыграно 878 партий из 1300.
Контроль 3'+3''.

[svoitsl]

Цитата: Сообщение от svoitsl

Небольшой турнирчик с Ethereal 11.58 pext
i5-4670k (4 потока,512Мб хеша),RTX2060 fp16 (довольно большой перекос в пользу LC0), книжка balsa-top25
4-26-20
LC0 0.22 -57403 сильнее Ethereal 11.58 pext на 164.07 Эло
интересно сравнить и с ld2

Сравнил, вот такой результат
5-30-15
LC0 0.22 -ld2 сильнее Ethereal 11.58 pext на 190.85 Эло
То есть получается, что сеть ld2 сильнее сети 57403
возможно ld2 просто обучалась на 3-4 млн самых сильных играх и обогнать ее непросто (а может и не возможно)

[Maratka]

Цитата: Сообщение от svoitsl

возможно ld2 просто обучалась на 3-4 млн самых сильных играх и обогнать ее непросто (а может и не возможно)

Я думаю, что самое, что есть "непросто" - это сходу найти 3-4 млн игр среди нескольких десятков миллионов

[Alex_Zet]

У Стокфиш читаю Developed by
Tord Romstad
Marco Costalba
Joona Kiiski

У Лилы на турнире ссс читаю -
Developed by
Gary Linscott and many others

А кто это такой Gary Linscott и какой он внес реальный вклад в развитие Лилы?

В chessprogramming указанно: -
Gary Linscott initiated and announced the distributed Leela Chess Zero project in early 2018 [8]. It is an adaption of Gian-Carlo Pascutto's Leela Zero Go project, soon evolving to a strong chess playing entity following the same type of deep learning along with Monte-Carlo tree search (MCTS) techniques of AlphaZero as described in DeepMind's 2017 and 2018 papers [9] [10], but using distributed training for the weights of the deep convolutional neural network.

Гэри Линскотт инициировал и объявил о распределенном проекте Leela Chess Zero в начале 2018 года [8]. Это адаптация проекта Leela Zero Go Джана-Карло Паскутто, вскоре превратившаяся в сильную шахматистку, следуя тому же типу глубокого обучения наряду с методами поиска по дереву Монте-Карло (MCTS) AlphaZero, как описано в документах DeepMind за 2017 и 2018 годы. [9] [10], но с использованием распределенного обучения для весов глубокой сверточной нейронной сети.

Но играет то сейчас не Leela Chess Zero, а Lco в которой внесены большущие изменения.
На его страничке glinscott/leela-chess на https://github.com/glinscott/leela-chess
последние изменения датируются прошлым и позапрошлым годом. Как то не справедливо. Играет совершенно другой движок а лавровый венок Гари. А где же упоминание о crem, о других господах причастных к развитию LcO?
Хотелось бы большей конкретики по данному вопросу.

[crem]

Цитата: Сообщение от Alex_Zet

А кто это такой Gary Linscott и какой он внес реальный вклад в развитие Лилы?

Неоценимый, но ощутимый.

Он создал репозиторий в январе 2018, и объявил он нём на форуме, так что он основатель.

Также он запустил первую версию сайта lczero.org.
И в первые три месяца (с января по март 2018) он был одним из немногих (трёх?), кто пилил lczero методом скрещивания Leela Zero (Go) и генератора ходов из Stockfish.

Короче, я с ним почти не пересёкся (я пришёл в проект в марте 2018).


По поводу CCC, мы им писали несколько раз, но это не очень напрягает.
Даже список авторов Leelenstein (состоящий из одного человека) напрягает больше.
А ещё есть статьи в википедии на различных языках, там тоже обычно только Гари. Может и нечестно, но я ж не буду править. Ну и в последнее время я и так вместо того что писать код, какой-то хренью занимаюсь (ругаюсь по поводу клонов, авторства, и использования движка в коммерческих целях, и правил TCEC).

[Alex_Zet]

Цитата: Сообщение от crem

Неоценимый, но ощутимый.

Он создал репозиторий в январе 2018, и объявил он нём на форуме, так что он основатель.

Также он запустил первую версию сайта lczero.org.
И в первые три месяца (с января по март 2018) он был одним из немногих (трёх?), кто пилил lczero методом скрещивания Leela Zero (Go) и генератора ходов из Stockfish.

Короче, я с ним почти не пересёкся (я пришёл в проект в марте 2018).

Ну я сошлюсь опять же на ваш пост

Цитата: Сообщение от crem

Имея статью DeepMind и образец в виде Lc0, Lc0 можно переписать с нуля за 4-5 дней (что я и сделал полтора года назад). Не в смысле переписывать с листа, а иногда заглядывать когда что-то не работает, чтобы сравнить вывод функций и т.д.

Только со статьёй DeepMind и без образца, можно написать за несколько недель.

Насколько Lc0 отличается от AlphaZero?
Для нас AlphaZero -- это только статья, в которой описан алгоритм.


Если смотреть только на описанный алгоритм (а не на "инженерную реализацию"), насколько он совпадает у a0 и Lc0?
Где-то на 96%, я бы сказал. Кажется, что почти полный клон?
Да, но эти 4% -- это наши улучшения, которых мы добивались целый год, у нас гораздо меньше ресурсов, чем у гугла, мы быстрее не умеем, и всё равно у нас кое-что своё есть, пусть и 4%.
И кстати, все эти 4% находятся в том коде, который Allie у нас скопировал!

Если весь движек LcO это 96% совпадение с AlphaZero и 4% ваши улучшения, то при чем здесь Гэри Линскотт, если движок вы переписали с нуля?

Можно и нужно наверное упомянуть этого самого Гари как то но не более того.

[Alex_Zet]

Цитата: Сообщение от crem

По поводу CCC, мы им писали несколько раз, но это не очень напрягает.
Даже список авторов Leelenstein (состоящий из одного человека) напрягает больше.
А ещё есть статьи в википедии на различных языках, там тоже обычно только Гари. Может и нечестно, но я ж не буду править. Ну и в последнее время я и так вместо того что писать код, какой-то хренью занимаюсь (ругаюсь по поводу клонов, авторства, и использования движка в коммерческих целях, и правил TCEC).

Я бы всерьез сейчас обеспокоился и занялся авторскими правами. Тем кому положено должны быть указанны в числе разработчиков. Иначе вот такие Гари будут паразитировать вечно.

Да и с клонами без надлежащего оформления прав бороться будет очень сложно.

[Alex_Zet]

Пост целиком. В этой ему самое место.

Цитата: Сообщение от crem

Имея статью DeepMind и образец в виде Lc0, Lc0 можно переписать с нуля за 4-5 дней (что я и сделал полтора года назад). Не в смысле переписывать с листа, а иногда заглядывать когда что-то не работает, чтобы сравнить вывод функций и т.д.

Только со статьёй DeepMind и без образца, можно написать за несколько недель.

В Lc0 ничего трудного нет. Можно рассказать на словах алгоритм другому человеку, и он напишет неплохую реализацию (В отличие от стокфиша, например, где очень много мелких деталей и оптимизаций, без которых он будет играть существенно слабее).

Или то же самое другими словами:
я могу сейчас по памяти переписать Lc0 и он будет играть так же сильно. Но вряд ли кто-нибудь может переписать stockfish по памяти, потому что там очень много очень мелких важных деталей, и всех их не упомнишь.


Таким образом может показаться, что чего я возмущаюсь, если всё равно этот код так просто переписать.
На самом деле наоборот: если весь движок переписать просто, переписывание только куска простого движка -- это ещё меньшая заявка на оригинальность.



В целом вопрос уникальности, оригинальности и справедливости в мире нейросетевых движков запутанный, и поэтому мне кажется что даже если TCEC сейчас что-то всерьёз обсуждает в кулуарах (а они говорят что обсуждают), на выходе получится хрень.


Lc0 и AlphaZero

Если бы вдруг AlphaZero выкатило свой движок в TCEC, считалось ли бы Lc0 клоном?
Скорее всего да, но вопрос неоднозначный, и зависит от мелких деталей.

Хочу кстати заметить, что традиционно, заимствование идей и алгоритмов допустимо (даже сложных; единственное исключение -- запатентованные в Америке алгоритмы), а заимствование кода, даже простого -- нет. Это работает и в шахматных движках, и вообще в правопроизводстве.

И тем не менее, это ещё вопрос, допускать ли Lc0 в TCEC в качестве "уникального движка" если там есть A0.


Насколько Lc0 отличается от AlphaZero?
Для нас AlphaZero -- это только статья, в которой описан алгоритм.
Кроме алгоритма, есть много чисто инженерных задач, которые в статье не покрыты, многие из которых команде из DeepMind не надо было решать, либо надо было, но мы не знаем как они это сделали. Например:
- Использование памяти. Большая проблема для нас, но в гугле на всех машинах минимум 256GB памяти, и для них это проблемой не было (было, но они перестали что-то менять как только 256GB стало хватать на одну игру со стокфишем в формате TCEC. Напомню, у нас в TCEC 16GB).
- Всю инфраструктуру для распределённой тренировки. В гугле всё это реализовано "до нас".

Именно из-за таких инженерных задач, заимствование кода -- это совсем не то же самое что заимствование идей.


Если смотреть только на описанный алгоритм (а не на "инженерную реализацию"), насколько он совпадает у a0 и Lc0?
Где-то на 96%, я бы сказал. Кажется, что почти полный клон?
Да, но эти 4% -- это наши улучшения, которых мы добивались целый год, у нас гораздо меньше ресурсов, чем у гугла, мы быстрее не умеем, и всё равно у нас кое-что своё есть, пусть и 4%.
И кстати, все эти 4% находятся в том коде, который Allie у нас скопировал!



Lc0 и другие движки

Что теперь говорит автор Allie?

1. Скопировал алгоритм? Да он на 95% от AlphaZero!
2. А как же 5% которые наши? Так заимствование алгоритмов разрешено!
3. Скопировал не только алгоритм но и код? Да там вообще всё просто, зачем мучиться писать! И вообще его писал не ты.


Важная мысль напоследок

По поводу того, являются ли между собой клонами два движка написанные по одной и той же статье deepmind'а, мне кажется важным такой признак:

- Если два движка написаны независимо, то и развиваться они будут независимо. И тогда можно объявлять их уникальными (если только не расплодится таких очень много). Можно подсматривать идеи друг у друга, но каждый автор будет думать отдельно, как их применить. (Например, автор Ethereal подсматривает идеи у SF, и это нормально)

- Если же два движка написаны так, что портирование улучшений из одного во второй тривиально (в случае Allie вообще просто копирование файлов, но например портирование улучшений из lczero.exe в lc0.exe было бы тоже простым), если у них та же инфраструктура, короче если улучшение одного движка автоматически улучшает второй -- то это не независимые движки.

[svoitsl]

Цитата: Сообщение от crem

А ещё есть статьи в википедии на различных языках, там тоже обычно только Гари.

В русской, английской, французской и испанской Вы ЕСТЬ!!!

Нет на украинской, польской, итальянской

Цитата: Сообщение от crem

так вместо того что писать код, какой-то хренью занимаюсь (ругаюсь по поводу клонов, авторства, и использования движка в коммерческих целях, и правил TCEC).

Жаль конечно, что время тратится, но есть надежда,что хоть не зря

[Vizvezdenec]

Цитата: Сообщение от crem

Даже список авторов Leelenstein (состоящий из одного человека) напрягает больше.

Там список разработчиков стокфиша вот какой (на ССС)
Developed by
Tord Romstad
Marco Costalba
Joona Kiiski
При том, что последний из них, кто вообще касался проекта - Marco где-то месяца 4 назад, Joona ушёл ещё до того, как я присоединился, Tord вообще там в 11 или каком году покинул проект.
Это никак не актуальный "список разработчиков".
Я 100 раз писал разным модераторам и т.д., чтобы поставили их как основателей и дали просто ссылку на
https://github.com/official-stockfis...master/AUTHORS - это было бы честно по отношению к всем, но им, видимо, просто всё равно.
Т.е. sg и VoyagerOne, которые на двоих переписали чуть ли не весь поиск, или snicolet, который всю оценку перелопатил и привёл в современный вид - это вообще фиг знает кто такие, хотя последний сейчас как бы лидер проекта фактический заодно.

[ALEKS]

Цитата: Сообщение от Vizvezdenec

Там список разработчиков стокфиша вот какой (на ССС)
Developed by
Tord Romstad
Marco Costalba
Joona Kiiski
При том, что последний из них, кто вообще касался проекта - Marco где-то месяца 4 назад, Joona ушёл ещё до того, как я присоединился, Tord вообще там в 11 или каком году покинул проект.
Это никак не актуальный "список разработчиков".
Я 100 раз писал разным модераторам и т.д., чтобы поставили их как основателей и дали просто ссылку на
https://github.com/official-stockfis...master/AUTHORS - это было бы честно по отношению к всем, но им, видимо, просто всё равно.
Т.е. sg и VoyagerOne, которые на двоих переписали чуть ли не весь поиск, или snicolet, который всю оценку перелопатил и привёл в современный вид - это вообще фиг знает кто такие, хотя последний сейчас как бы лидер проекта фактический заодно.

[dew]

Цитата: Сообщение от Vizvezdenec

Это никак не актуальный "список разработчиков".

http://tests.stockfishchess.org/users

ну хоть у нас все ровно

[Vizvezdenec]

Цитата: Сообщение от dew

http://tests.stockfishchess.org/users

ну хоть у нас все ровно

Он опять забаговал - патчи за последний месяц удвоились. У меня нет 6000 тестов и у sg нет 5500.

[dew]

Цитата: Сообщение от Vizvezdenec

Он опять забаговал - патчи за последний месяц удвоились. У меня нет 6000 тестов и у sg нет 5500.

так и у меня бывают удвоения доната процессорных мощностей - но потом все приходит к адекватным цифрам.. я к тому что и количество моих воркеров может удвоится - особенно в момент наплыва китайцев (а потом все приходит на круги своя)

[svoitsl]

тут вот ещё какие то сети есть, кто хочет может проверить
Однако думаю, что если игры одни и те же, то сети большей размерности силу не увеличат, разве что - перспективу, вот если такие сети ещё по обучать на 10-20 млн собственных играх, то толк будет

[Омегазеро]

Мудрый jhortos продолжает тренировать сети

320x24b: J13B.3 is from cyclical LR training on a megawindow of lowest LR T40 games. The cycle is 20k training steps long and has a high LR of 0.0005 and a low of 0.00002, with exponential decay from high to low point. The peak LR decays slightly each cycle. Starting at step 40k nets will be posted at each LR low point (one every 20k steps).

J13B.3-180 - http://data.lczero.org/files/networks-contrib/J13B.3-180
J13B.3-160 - http://data.lczero.org/files/networks-contrib/J13B.3-160
J13B.3-140 - http://data.lczero.org/files/networks-contrib/J13B.3-140
J13B.3-120 - http://data.lczero.org/files/networks-contrib/J13B.3-120
J13B.3-100 - http://data.lczero.org/files/networks-contrib/J13B.3-100

320x24b: J13B.4 is from cyclical LR training on a megawindow of lowest LR T40 games. It is similar to J13B.3 except that the peak LR is much higher (0.002) and the cycle is longer (30k steps).

J13B.4-90 - http://data.lczero.org/files/networks-contrib/J13B.4-90
J13B.4-60 - http://data.lczero.org/files/networks-contrib/J13B.4-60

Берите протестировать, очень интересные результаты!

P.S. Скептики обещали годичный застой. Как видите, используя игры 40, можно тренировать новые сети с новыми результатами

[svoitsl]

Цитата: Сообщение от Омегазеро

новыми результатами

результаты несомненно новые, но ведь нужно что бы они были были лучшими, а тут могут быть сомнения, вот если бы продолжить обучение этих новых больших сетей, то может они и стали бы лучшими, но русурсов может не хватить , да и резона тоже

[Corrs]

получил письмо, а ответить нечего...

Цитата:

Мне кажется, в Лильке надо подкрутить конфиг при ДОЛГОМ АНАЛИЗЕ, чтобы она давала больше времени второму, третьему ходу.
А то, например, в последнем прогоне первому ходу отдано 97.6% процента времени. Куда это годится?
Вот такие параметры под подозрением:
CPuct
CPuctBase
CPuctFactor
PolicyTemperature

прошу знающих людей проконсультировать по этому вопросу и рассказать про указанные параметры

[crem]

Цитата: Сообщение от Corrs

получил письмо, а ответить нечего...

прошу знающих людей проконсультировать по этому вопросу и рассказать про указанные параметры

Ни один из этих параметров на время размышления над ходом не влияет.

96% времени на первый ход -- такого не должно быть.
Возможно движок перед первым ходом занимается чем-нибудь долгим (например если это opencl, то тестирует разные конфигурации, или если это cudnn но файл с сетью где-нибудь на дискете, то долго читает).

[Corrs]

crem, вы не поняли, не над первым ходом, а над первой линией
речь идёт не про матч движков, а про бесконечный анализ

Вот дам пример из оболочки Нибблер

Nodes: 21.9M, N/s: 9.2k, Time: 16m 54s

-1.54 Kf8 a4 Ne7 Nd4 Bxf3 Re1 Ndc6 Nxf3 Kg8 a5 b5 Nce5 Rc8 Re4 Qf6 Ra3 b4 Rb3 h6 Nxc6 Nxc6 Rc4 Kh7 Qe1 Nxa5 Qe4+ g6 Rxc8 Rxc8 Rxb4 Qe7 Ne5 h5 Rb5 Qc7 c3 a6 Rb4 Kg7 Kc2 Re8 d4 Rc8 h3 Qd8 Kb1 Qf6 Ka2 Qf2 Ra4 Rb8 Nd3 Qc2 Rxa5 Qb3+ Kb1 Qd1+ Nc1 Rxb2+ (N: 53.96% [11.8M], P: 3.54%)
-1.58 Rb8 Nd4 b5 Nd2 Bd7 g3 Qd6 Re1 Kf8 N4b3 Nb6 Ne4 Qe7 g4 Rc8 a3 h6 Nec5 Be8 Ka2 Kg8 Re2 Bc6 Bxc6 Nxc6 Rf1 Nd5 c3 a5 d4 Qf6 Qg2 Qg6 h4 h5 g5 Kh7 Qf3 Rc7 Nd3 (N: 23.26% [5.1M], P: 1.29%)
-1.58 h5 a4 Kf8 Re1 Kg8 Nd4 Ne7 a5 b5 Ne5 Bxf3 a6 h4 Re4 Qf6 gxf3 Rh5 f4 b4 Ra5 Nd5 f5 Rc8 Ng4 Qe7 (N: 19.88% [4.4M], P: 8.54%)
-1.61 Rc8 a4 h5 Re1 Rh6 Nd4 Kf8 a5 Be8 axb6 axb6 g3 Qc7 Bxd5 exd5 Ne3 Rf6 Qg2 Qe7 Re2 Qc5 Nb3 Qd6 Qxd5 Rf1+ Nc1 Qxd5 (N: 1.34% [294k], P: 6.24%)
-1.66 Ke7 Nd4 Nf6 a4 Bxf3 a5 Rb8 axb6 axb6 Ra7+ Rb7 Rxb7+ Nxb7 Nxf3 Nc5 Nxb6 Qb4 Nc4 Ra8 Nfe5 Kf8 g4 Na4 Kc1 Nxb2 Qb6 (N: 0.20% [44.4k], P: 2.01%)
-1.66 f6 Nd4 Kf7 a4 Rf8 g3 Qc7 Re1 Nb4 a5 Rb8 axb6 axb6 Bxc6 Nbxc6 Nb5 Qd7 Nxb6 Qe7 Nc3 Kg8 Nc4 (N: 0.17% [38.1k], P: 1.7%)
-7.09 Ne7 Bxc6+ Kf8 Qxf4 Kg8 Bxa8 Kf8 a4 Nc8 a5 Ke8 axb6 axb6 Rd1 (N: 0.17% [37.1k], P: 20.57%)

здесь более-менее сбалансировано, но часто на первой линии 95-97%