LCZero

[Виндхук]

Цитата: Сообщение от svoitsl

не хилый GPU будет при большой сети нам давать 10 -15 knps на lc0, но такая Лила уж ни как не побьёт Стокфиша даже 9

Ни чего прогресс не стоит на месте, скоро TPU будут стоить копейки!

[svoitsl]

В играх с другими движками рейтинг Лилы серьезно просел
По этому тесту на целых 100 Эло
По этому тесту на 43 Эло
Причем возможно, что падение рейтинга превосходит точность его определения и поэтому является вполне достоверным.
Причем это уже далеко не первое падение за последние дни.

[Vizvezdenec]

Цитата: Сообщение от Виндхук

Ни чего прогресс не стоит на месте, скоро TPU будут стоить копейки!

Учитывая, что TPU и прочие подобного рода вещи хороши для майнинга, они вряд ли будут стоить копейки вообще хоть когда-нибудь.

[Виндхук]

Цитата: Сообщение от svoitsl

Однако перспективы что то не очень радужные, но вот обучим Лилу 44 млн игр (к весне следующего года)

Если сообщество будет расти, то обучить должны гораздо раньше. Вон, новый чел пришел с десятью GTX1080, пишет что шпарит по 7 игр в минуту, а в топ листе за сегодня у него уже почти 15000 игр.

[svoitsl]

Цитата: Сообщение от Виндхук

Если сообщество будет расти,

дело не в сообществе, я хотел обратить внимание, что даже если сеть и удастся доучить до хорошего уровня (пусть через месяц или через год), то отсутствие нормальных (соответствующих) процессоров может быть препятствием в превышении рейтинга Стокфиша. На сети 15х192 и то knps нет уж и велико, а на большей сети может быть и меньше, а А0 имела оборудование на 80 knps на большой сети.
Лила наверное неплохо подойдет разве что адвансерам.
Ну и для турниров с большим контролем, типа ТСЕС

[Виндхук]

Да я вас прекрасно понял. Но давайте надеяться на лучшее.

[svoitsl]

Цитата: Сообщение от Bullet

Где можно достать DLL-ки для запуска CUDNN версии?

теперь их достать можно тут
Ну и lc0 к ним (ну то есть наоборот конечно )
Пишут что с кучей настроек
Вот бы ещё и клиента допилить.... дело пошло бы веселее ...

[crem]

Цитата: Сообщение от Maratka

crem, и еще один, чисто организационный вопрос:
Нельзя ли проводить у вас контрольные матчи с классическими движками, дабы видеть не виртуальные попугаи рейтинга, а реальный Elo в сравнении с классическим движками?
Т.е. рейтинг роста "над собой" пусть будет, но он все же мягко говоря слабо отражает реальность, т.к. из-за ошибок в описании шахматных правил мы де-факто получили, что этот рейтинг показывает силу игры не в шахматы, а в некую шахматоподобную игру, очень близкую к шахматам, но все же не являющейся шахматами.
Ну и конечно же начало отчета от нуля тоже в корне неверно, ибо любой человек, которому только что объяснили правила игры абсолютно точно выиграет матч у LZ, которая все что может - ходить по правилам, т.к. даже не имея опыта, человек будет стараться что-то там скомбинировать, а не просто себе переставить фигуру на случайную клетку.


____
желательно совместить обнуление рейтинга с переобучением сети.

Игры с другими движками проводить сложнее, но народ пытается. Например тут:

https://docs.google.com/spreadsheets...#gid=399642950
(игры проводятся на https://www.twitch.tv/ccls)

Или тут: https://docs.google.com/spreadsheets...Sg0/edit#gid=0

Или вот сводная таблица по разным попыткам оценить реальный рейтинг:
https://docs.google.com/spreadsheets...#gid=471397986
(там в табе Info можно перейти на страницу оригинала каждой оценки)

[Vizvezdenec]

У Лилы ещё проблема в том, что специализированное железо (т.е. видеокарты) используется для майнинга. Поэтому дешёвым оно в принципе быть не может.
Более того, видеокарты жрут весьма много Ватт, что на длинной дистанции решает больше, чем изначальная цена железки.
Вот и выходит, что из потребительского сектора топовое железо на Лилу на данный момент (типа 1080 TI) стоит и изначально, и по амортизации куда дороже условного 16-ядерного AMD Threadripper... А в таком соотношении железа Лиле очень далеко до топовых движков на вменяемых временных контролях.
Более того, увеличение размера нейросети даже на 80 видеокарте её очень сильно тормознёт, а уж на более слабом железе так и вовсе похоронит.
Ну и мне лично кажется, что даже адвансерам предпочтительнее использовать альфабету, хотя бы по той причине, что нейронка, конечно, позиционный гений, но тактики она зевает куда хуже, чем любой 3к эло движок (а это же далеко не самые сильные движки), и даже если её использовать как главный движок, всё равно варианты стокфишем проверять придётся, потому что будет очень неприятно напороться на какие-нибудь форсированно проигрышные варианты, которые Лила просто зевнёт по ходу дела.
Да и уже сейчас если смотреть, то топовые адвансеры толком ничьи клепают, https://www.iccf.com/event?id=66745 - 96% ничьих при том, что 2 года назад было меньше 80! Видимо, движки усилились настолько, что при корректировке их игры человеком и большом времени на ход обыграть уже практически их нереально.

[svoitsl]

Эксперимент с LC0 удался, новая версия снова прибавила на целых 26 Эло до 3137 (с 3111)
И это все на старой доброй 315 сети (а то новые сети что то колбасит, что даже смотреть не хочется)

[Maratka]

Ни разу он не удался.
Правильно - когда тот же движок растет с разной (т.е. более новой/лучшей) сетью.
А тут банальное увеличение скорость счета. Того же эффекта можно достичь и заменой ну скажем моего FX-8350 на Core 8700x, и так само без замены сети.

[svoitsl]

Цитата: Сообщение от Maratka

Правильно - когда тот же движок растет с разной (т.е. более новой/лучшей) сетью.

удача или неудача любого эксперимента зависит от его целей, если цель достигнута значит он удачный, то что вы пишите не являлось целью эксперимента.
ТО что сеть замедлила рост своего рейтинга. так это вполне возможно, что так и должно быть.
для A0 тоже требовалось порядка 30 млн игр чтобы подняться с 3200 до 3450 Эло и это на большей сети и при большей производительности TPU

[Maratka]

Цитата: Сообщение от svoitsl

для A0 тоже требовалось порядка 30 млн игр чтобы подняться с 3200 до 3450 Эло и это на большей сети и при большей производительности TPU

Тем хуже: на мЕньшей сети партии у LZ наигрывались бы быстрее. У AZ было конечно еще быстрее, но это вызвано не тонкостью алгоритма, а железом, заточенным под математику, а не умеющим выполнять математику в фоне выполнения основной задачи - расчета и накладывания текстур.

[svoitsl]

Цитата: Сообщение от Maratka

сети партии у LZ наигрывались бы быстрее

так на меньшей сети нужного рейтинга не наиграешь, сколько не наигрывай
"Но народ не унывает - гордо смотрим мы вперед"

Говорят 1.5 Эло/сеть это просто замечательно...
А я помечтаю....
В день по 4 сети,значит 6 Эло в день
А если в месяце 30 дней то значит 180 Эло за месяц...
Эх... мечтать не вредно (вредно не мечтать)

[svoitsl]

интересны последние результаты тестов сети 380 (и число не плохое...)
По этому тесту рейтинг составил целых 3069 и вырос на 109 Эло по сравнению с 376 сетью (2960 Эло) и почти достиг рейтинга Stockfish3 (3070)

В вот тут та же 380 сеть упала на целых 34 Эло с 2996 (сеть 375) достигнув всего то 2962 Эло

То есть разница в оценках превышает 100 Эло, что значительно больше точности тестов

По моему,ещё не закончившемуся, турниру экспериментальной Lc0 c Deep rybka 4.1 sse42 x64 рост не наблюдаться (если сравнить в моим тестом почти двухнедельной давности)

[Rom77]

Цитата: Сообщение от svoitsl

По этому тесту рейтинг составил целых 3069 и вырос на 109 Эло по сравнению с 376 сетью (2960 Эло) и почти достиг рейтинга Stockfish3 (3070)

Потому что, "LCZero engine replaced with LC0"



P.S.Началась перетренировка (пока в тестовом режиме). Решили начать с самого нуля, без предыдущих партий:
http://testserver.lczero.org/
http://testtraining.lczero.org/#scalars

[svoitsl]

Цитата: Сообщение от Rom77

Потому что,

Спасибо, а слона то я и не приметил....
Значит очередной мухлеж....
а самом деле получается сеть просела до 3069 -(3137-2914)=2846 Эло (очень грубо)

[svoitsl]

Ну что ж мой домашний турнирчик из 25 партий закончился, и не так плохо, как вначале ожидалось
Играли Deep Rybka 4.1 sse42 x64 и экспериментальная LC0 с 380 сетью, контроль 5'+20", CPU i4670 GPU Gt730
результат 13.5:11.5 в пользу Рыбы (+7-5=13)
Lc0 оказалась слабее Рыбы на 28 Эло
Рейтинг Рыбы я не нашел, но вроде бы 3149 Эло,значит рейтинг Lc0 c id380 3121!!!
так что рост все же какой то вроде есть

Если сравнить с моим предыдущим турниром, то рост составил 101 Эло,но доля сети тут получается совсем не велика... и это за 2 недели
А если учесть что сама Lc0 стала играть за это время на 130 Эло лучше,то получим что сеть имеет -19 Эло

[Maratka]

Цитата: Сообщение от Rom77

P.S.Началась перетренировка (пока в тестовом режиме). Решили начать с самого нуля, без предыдущих партий:

А как бы попасть на тренировку именно этой сети, а не на старую сеть, которая явно находится в стадии стагнации?

[Maratka]

Цитата: Сообщение от svoitsl

Ну что ж мой домашний турнирчик из 25 партий закончился

25 партий - это погрешность в разы выше разницы в рейтинге.
Я вот кручу по 50 партий (на данный момент - точка затора - пройти уровень Deep Shredder 10), и то ничего не утверждаю.. Да, есть тенденция в сторону улучшения мозга сети LZ, но - лишь тенденция, и делать выводы не берусь.

Прошлый мой матч показал преимущество DS10 ~100 Elo (при рейтинге сети в 5800) - думаю подождать до рейтинга 6100, текущих ~5900 явно не хватит для выводов, ибо погрешность перекроет результат матча.

[svoitsl]

Цитата: Сообщение от Maratka

А как бы попасть на тренировку именно этой сети

Тренировка именно этой сети "закрытая", хотя и на неё попасть можно.
Но вот не уверен, что стоит, она же тестовая, то есть та, коей и должна быть первая сеть 6х64, но таковой не стала. То есть, после нахождения и исправления ошибок эта сеть скорее всего будет достоянием истории и начато обучение уже третей сети, и вот она конечно будет публичная и вы уж точно на неё попадете

[Bullet]

Какую цель преследуют разработчики движка последние несколько миллионов игр? Почему не перейти на сеть побольше? Очевидно, что текущая сеть 15*192 близка к своему "потолку"

[Rom77]

Видимо уже забили на неё, из-за скорого перехода на новую тренировочную платформу. Так, немного двигают туда-сюда параметры тестирования, правят мелкие баги, смотрят что получится:

Развернуть для просмотра

Цитата:

● Rule 50 plane normalization was finally introduced. This is done entirely training side, no client changes required.
● Batch normalization betas are now being trained rather than always being 0. This should expand the networks capacity to learn. In order to avoid client changes this means weights files will now have less 0's in them (all current clients should support this change).
● More frequent test steps during training (but train/test data separation is not yet there). This includes a new test step before the first training step in each run.

Цитата:

Reduced LR from 0.00005 to 0.00002 to see if it helps move the graphs in a better direction. (Rule 50 weights will probably decrease even more slowly with this change, but increasing the LR to where they would move quickly seems an nonviable option at this point, may need to wait until a viable bootstrap alternative is available to switch to.)

Цитата:

Applied test-train split to allow for better tracking of whether things are actually going to plan or not...

Цитата:

Further reduced LR to deal with the reduced batch size. Also increased steps due to the reduced batch size.

[свернуть]

[svoitsl]

Кажется мазохизм закончился, и "обучение" на основном сервере пока остановлено, но есть надежда, что на следующей неделе, как раз к суперфиналу TCEC, может начаться снова.
Все баги найдут и дай Бог исправят, всякие полезные коэффициенты оптимизируют, хорошо бы они оказались не в противоречии с теорией.
И обучение начнется снова.... Ну дай Бог...
И вполне возможно, что на ТСЕС 13 LC0 попадет таки в во второй дивизион.

[Виндхук]

Цитата: Сообщение от svoitsl

Кажется мазохизм закончился, и "обучение" на основном сервере пока остановлено

А по чему тогда количество сыгранных игр растёт?

[svoitsl]

Цитата: Сообщение от Виндхук

А по чему тогда количество сыгранных игр растёт?

Это потому , что я ошибся, просто рейтинг резко упал, вот подумал , что все остановили, а на самом деле эксперимент в самом разгаре
На сколько упадет рейтинг если....
Но уже, правда, скачать прогу не предлагают, значит скоро будет новая

[svoitsl]

По уточненному саморейтингу получается, что новая тестовая сеть не сильно то лучше старой
И не очень я понимаю шахматного смысла отрицательного рейтинга.

[sovaz1997]

Получается, что сеть сыграла хуже, чем генератор случайных ходов. Рейтинг - понятие относительное и то, что он может быть отрицательным - это вполне нормально.

[svoitsl]

Цитата: Сообщение от sovaz1997

Получается, что сеть сыграла хуже, чем генератор случайных ходов.

Но вот как это возможно?
Мне приходит на ум только то, что она стала играть в поддавки

[Maratka]

Цитата: Сообщение от svoitsl

И не очень я понимаю шахматного смысла отрицательного рейтинга.

Что тут непонятного? В поддавки никогда не играли с детьми (либо кокгда сами были ребенком - со взрослыми)?