LCZero

[Rom77]

Цитата: Сообщение от Viktor

Материнские платы с двумя разъемами:
http://www.hardcoregames.biz/dual-socket-motherboards/
Для Лилы имеет ли значение в использовании?

Для Лилы в настоящее время - нет. Ей и одного процессора достаточно. Для обычнах ab движков - да. Им каждое ядро важно.

[svoitsl]

Цитата: Сообщение от Rom77

Ей и одного процессора достаточно

Ей бы неплохо парочку RTX....
Такое впечатление,что обучение 40 сети несколько притормозилось, всего порядка 0.5 млн. игр в сутки....
На данный момент менее 46 млн игр,и если пойдет так, то на конец марта будет всего 53-54 млн
Да и общее впечатление от неё пока не более как осторожный оптимизм.

[svoitsl]

Закончился очередной турнир (SF и LC0) сети 41541
(остальные по 300)
32930 119.11 (132-33-135)
33004 154.14 (168-43-89)
41052 177.22 (171-30-99)
41214 168.4 (168-33-99)
41369 143.07 (160-43-97)
41414 129.61 (149-42-109)
41453 105.00 +/-32 (140-52-108)
41500 142.05 +/-27 (199-44-157)
41508 115.23 +/-27 (189-61-150)
41541 136.97 +/-27 (196-46-158)
(у четырех последних движок новый 0.21 и 400 игр, для остальных 0.20.2 и 300 игр)
Такое впечатление,что быстрой рост силы игры прекратился,а может быть и вообще какой либо.

[Maratka]

Цитата: Сообщение от svoitsl

Да и общее впечатление от неё пока не более как осторожный оптимизм.

А как Вы хотели?
Показываешь одному из разработчиков проблемную партию, а он даже не пытается понять, в чем проблема. Так и пишет: хочешь мол, сам смотри, мне не интересно/некогда.
Спрашиваешь у разработчика, что для LZ лучше: AMD в OpenCL с FP16, или nVidia (CUDA, FP32) - ответа просто нет. Ну так и откуда ему быть, не барское это дело - бенчи замерять. Потребитель должен сам пойти, купить, проверить, и если ожидания не оправдываются - вернуть в магазин, и взять альтернативное решение.
Спрашиваешь, можно ли доучить сеть 4xx, дабы она нормально пешку проводила - ответа опять нет. И тоже все понятно, на кой леший ему про это думать, когда через полгода, в сети 60 это заведомо будет исправлено.

Отсюда выводы: все пущено на самотек. Доказать себе и всем, что ИИ движок класса AAA возможен доказали, а его практическая реализация оставлена на очень сильно "когда-нить потом", возможно и на "никогда".

[sovaz1997]

Цитата: Сообщение от Maratka

А как Вы хотели?
Показываешь одному из разработчиков проблемную партию, а он даже не пытается понять, в чем проблема. Так и пишет: хочешь мол, сам смотри, мне не интересно/некогда.
Спрашиваешь у разработчика, что для LZ лучше: AMD в OpenCL с FP16, или nVidia (CUDA, FP32) - ответа просто нет. Ну так и откуда ему быть, не барское это дело - бенчи замерять. Потребитель должен сам пойти, купить, проверить, и если ожидания не оправдываются - вернуть в магазин, и взять альтернативное решение.
Спрашиваешь, можно ли доучить сеть 4xx, дабы она нормально пешку проводила - ответа опять нет. И тоже все понятно, на кой леший ему про это думать, когда через полгода, в сети 60 это заведомо будет исправлено.

Отсюда выводы: все пущено на самотек. Доказать себе и всем, что ИИ движок класса AAA возможен доказали, а его практическая реализация оставлена на очень сильно "когда-нить потом", возможно и на "никогда".

Складывается ощущение, что Вы заплатили за продукт "Leela Chess Zero" и требуете от них техподдержку...

Давайте честно: LCZero - это не коммерческий проект. Это всего лишь хобби для разработчиков. Люди не получают денег за работу над LCZero и требовать от разработчиков чего-либо нельзя. Можно предлагать, но не требовать. Либо же, если есть возможность и желание, участвовать в разработке. Без глубокого понимания продукта никто не имеет морального права ругать разработчиков. Исключения заставляют только коммерческие продукты. LCZero - свободный и бесплатный продукт с открытым исходным кодом. Если бы не crem, вряд ли бы это продукт стал таким, какой он есть. Да, возможно, кто-то бы адаптировал LeelaGo под шахматы. Но это уже другая история. У нас же Лила дошла до невероятного уровня развития - практически до уровня Stockfish и здесь можно лишь сказать "Спасибо" разработчикам.

[Maratka]

Цитата: Сообщение от sovaz1997

Складывается ощущение, что Вы заплатили за продукт "Leela Chess Zero" и требуете от них техподдержку...

Зачем придумывать то, чего нет?
Об этом я написал вполне конкретно и думаю понятно:

Цитата: Сообщение от Maratka

Вы мне не нанялись, да и сам проект LZ Ваш, а не мой: не хотите/не можете - ну значит пусть будет так, как есть.

Цитата: Сообщение от sovaz1997

Можно предлагать, но не требовать.

А где я требую? Я попросил, отказали. Ну нет, так и нет.

Цитата: Сообщение от sovaz1997

У нас же Лила дошла до невероятного уровня развития - практически до уровня Stockfish и здесь можно лишь сказать "Спасибо" разработчикам.

Да, неплохо развилась. О чем и написал:

Цитата: Сообщение от Maratka

Доказать себе и всем, что ИИ движок класса AAA возможен доказали

Так что никаких проблем нет:
Crem (и остальные) делают что хотят, а потребители решают, пользоваться этим продуктом или нет.

[Maratka]

Добавлю еще чуть мысли

Если бы LZ не "зевал", то уже и сейчас имел бы +40-50 ELO сверх SF на железе TCEC.
Обосновываю: из 10 побед SF ~8 - это не выигрыш благодаря пересчету, а выигрыш благодаря абсолютно идиотским подставам LZ. Если засчитать эти партии как ничьи, то от SF нужно отнять 4 очка, которые добавить LZ. Т.е. счет не 50,5/49,5, а 46,5/53,5, и разница в 24 ELO в пользу LZ.
К этому можно добавить два поражения LZ в известных дисбалансах, вида три ферзя, и QRvRRBBPP, которые LZ явно не учился играть, и выйдет как раз около сорока.

Но проблема в том, что... гм... х.з, куда повернет новая сеть в очередном витке своего обучения. Скажем сеть 4xx понимает три ферзя на доске, но однобоко проводит пешку. Как по мне - это даже хуже. И заранее, до запуска обучения исправить это как минимум непросто: ведь нужно знать болячки заранее, а их в практическом смысле чуть меньше бесконечности, т.е. захардкодить их невозможно.

[sovaz1997]

Цитата: Сообщение от Maratka

Добавлю еще чуть мысли

Если бы LZ не "зевал", то уже и сейчас имел бы +40-50 ELO сверх SF на железе TCEC.
Обосновываю: из 10 побед SF ~8 - это не выигрыш благодаря пересчету, а выигрыш благодаря абсолютно идиотским подставам LZ. Если засчитать эти партии как ничьи, то от SF нужно отнять 4 очка, которые добавить LZ. Т.е. счет не 50,5/49,5, а 46,5/53,5, и разница в 24 ELO в пользу LZ.
К этому можно добавить два поражения LZ в известных дисбалансах, вида три ферзя, и QRvRRBBPP, которые LZ явно не учился играть, и выйдет как раз около сорока.

Но проблема в том, что... гм... х.з, куда повернет новая сеть в очередном витке своего обучения. Скажем сеть 4xx понимает три ферзя на доске, но однобоко проводит пешку. Как по мне - это даже хуже. И заранее, до запуска обучения исправить это как минимум непросто: ведь нужно знать болячки заранее, а их в практическом смысле чуть меньше бесконечности, т.е. захардкодить их невозможно.

Здесь согласен. Думаю, здесь изменение поиска может помочь. Если просто обучать по-новой, результаты могут, конечно, улучшиться. Но подобные проблемы, скорее всего, останутся и точечные изменения мало на что повлияют.

[Maratka]

Цитата: Сообщение от crem

Test30 славится тем, что очень плохо играет, когда у одной стороны два ферзя. Она думает, что это очень плохо. Поэтому вариант, что стокфиш решится на второго ферзя, она не рассматривает.
Я не знаю, почему, но скорее всего такие позиции очень редко появлялилсь в тренировочных партиях. Пару раз в начале тренировки возможно не повезло и два ферзя проиграли, а в дальнейшем лила таких позиций избегала (оно если и не избегать случается не так уж и часто).

Вопрос по самообучению: в чем проблема увеличить уровень "шума" (либо и вовсе, включить его, если он вдруг выключен), дабы обучалка делала в т.ч. и ошибочные (с точки зрения текущих знаний сети) ходы?

Ибо иначе ведь действительно получается, что если несколько раз после проведения второго ферзя партии закончились поражением (ну скажем потому, что обратная сторона ставила форсированный мат в 3 хода), то сеть обучилась ферзя не проводить (хотя понятно, что причиной поражения стал не лишний ферзь, а имеющаяся на момент провода пешки позиция), а потому не знает, как играть, когда этот дисбаланс возникает.

Теперь представим себе вариант, что это не третий ферзь, а пятый/пятая ладья/слон/конь. Даже суммарно, это бывает на 2-3 порядка реже, чем дополнительный ферзь. Т.е. знаний сети в этих позициях вероятно строгий нуль. А если посмотреть какие-то закрученные дисбалансы, вида 4 легких фигуры против ферзя с ладьей, 5-6 пешек против ладьи и т.д., то набирается в сумме весьма приличная дыра.

"Шумок" же с ненулевой вероятностью заставит LZ проводить коня, а не ферзя (это помимо того, что само собой научил бы ставить третьего ферзя на доску), и решит, как кажется много проблем с дисбалансами: проиграет в пятый раз - ну значит проиграет, от этого хуже не станет, а если вдруг выиграет , то получим не 5:0 в пользу стороны, где 1 ферзь против двух, а 4:1, а значит и повышенную вероятность в следующей обучающей партии поставить ферзя. Все то же самое с 3 vs 2 ладьи (конь, слон).

[Alex_Zet]

Когда игрался матч AZ - Сток, то какая сеть играла? Ведь наверняка как то обозначалась.

[svoitsl]

Цитата: Сообщение от Maratka

то набирается в сумме весьма приличная дыра.

А вот нужно ли эту дыру заделывать.....
ведь как вы уже писали на это потребуется до.... (очень много) игр
А результат будет не очень высоким, ну прибавит сеть ещё 50 Эло да и только
Тут всем правит статистика и надо попытаться добиться повышения силы игры не увеличивая их число, при этом вполне возможно пожертвовать частично случайностью. И первый ход например сделать не случайным, а всегда конкретным (те же 20 возможных ходов).
И например попытаться по экспериментировать с 800 ходами, может вначале и 400 хватит, а потом например сделать 2000 (сделать функцией от числа игр)

[Maratka]

Цитата: Сообщение от svoitsl

А вот нужно ли эту дыру заделывать.....
ведь как вы уже писали на это потребуется до.... (очень много) игр

Писал. Мог быть прав, но мог и ошибиться. Без комментариев crem тут рулить тяжело, ибо нет ориентиров, а crem не хочет разбираться с проблемными партиями, потому патовая ситуация: ждем год-два, авось тогда ориентиры обозначатся. Сейчас же - абсолютный пат, ибо неизвестно куда будет двигаться LZ.

Цитата: Сообщение от svoitsl

А результат будет не очень высоким, ну прибавит сеть ещё 50 Эло да и только

Весьма вероятно. Лично я допускаю и рост над собой в 200 ELO, но это очень не то же самое, что рост над SF. Причины объяснял уже раз десять.

Цитата: Сообщение от svoitsl

Тут всем правит статистика и надо попытаться добиться повышения силы игры не увеличивая их число, при этом вполне возможно пожертвовать частично случайностью. И первый ход например сделать не случайным, а всегда конкретным (те же 20 возможных ходов).

Уверен, что Гугл, с их потрясающими мощностями вывел если не оптимальное, до весьма близкое к нему число, и что-то радикально изменить - нереально, ибо неразумно.

[Maratka]

Цитата: Сообщение от Alex_Zet

Когда игрался матч AZ - Сток, то какая сеть играла? Ведь наверняка как то обозначалась.

Бог Вам в помощь, попутный ветер, и семь футов под килем: ищите, и да прибутет с Вами Сила!

[svoitsl]

Цитата: Сообщение от Maratka

вывел если не оптимальное, до весьма близкое к нему число

пока ещё не удалось даже полноценно все сделать "как гугл", так что о пате пока говорить рано, а вот провести эксперимент на небольшой сети вполне можно, даже на 6х64, да и не стояла у Гугла задачи как то уж сильно оптимизировать.
(однако, смотря как падает число помощников и число игр, это будет не просто)

Цитата: Сообщение от Alex_Zet

наверняка как то обозначалась.

так она была одна (публично анонсированная) по этому могла и не иметь специального названия.

[svoitsl]

Закончился очередной турнир (SF и LC0) сети 41585

32930 119.11 (132-33-135)
33004 154.14 (168-43-89)
41052 177.22 (171-30-99)
41214 168.4 (168-33-99)
41369 143.07 (160-43-97)
41414 129.61 (149-42-109)
41453 105.00 +/-32 (140-52-108)
41500 142.05 +/-27 (199-44-157)
41508 115.23 +/-27 (189-61-150)
41541 136.97 +/-27 (196-46-158)
41585 99.95 +/-27 (177-65-158)
(у четырех последних движок новый 0.21 и 400 игр, для остальных 0.20.2 и 300 игр)
такое впечатление что эта сеть (41585) может оказаться довольно сильной

[svoitsl]

кстати и новый блог подоспел
В общем благодаря разработчикам и помощникам прогресс не остановим.
Где нибудь летом наверное удастся новую сеть натренировать

[Maratka]

Цитата: Сообщение от svoitsl

Где нибудь летом наверное удастся новую сеть натренировать

Натренировать ее можно и сейчас. Вопрос в том, будет ли выхлоп.

_____
Какие были явные проблемы в сети 11250? Вроде бы никто их особо и не замечал.
Сеть 3xx же имеет дыру с тремя ферзями.
Сеть 4xx - с проходной пешкой.
Что вылезет в 6xx? А никто собственно и не знает, ибо узнать это можно только после выполнения хотя бы половины тренировки, когда сеть заиграет на уровне хотя бы движков из второй десятки, и появится возможность после проведения партий с ними собрать статистику косяков.

[svoitsl]

Цитата: Сообщение от Maratka

Натренировать ее можно и сейчас.

если придерживаться нулевого принципа то скорее всего так сразу может и не получиться,так как придется заново наигрывать кучу новых партий, вот если бы можно было бы использовать старые (при необходимости их отобрать) то тогда это бы заметно ускорило процесс.
К тому же многочисленные анонсированные эксперименты ещё вроде бы не закончены, поэтому начинать учить большую сеть ещё рановато
(да и текущую - 40-ю тоже наверное хотелось бы доучить, может 50 Эло и будут, несмотря на все ошибки,найденные и ещё не найденные)

[sovaz1997]

Maratka, похоже, уже исправили эту проблему с проходной

[svoitsl]

Цитата: Сообщение от sovaz1997

эту проблему с проходной

да и проблема то мелкая,встречается наверное раз на 1000 игр,да и вообще думаю чаще лучше сперва взять фигуру и сразу ферзя поставить, да и не так часто бывает в реальной игре 3 ферзя

[sovaz1997]

Self-play пошел вверх. Посмотрим, что из этого выйдет

[svoitsl]

Цитата: Сообщение от sovaz1997

Self-play пошел вверх

Он часто поначалу идет вверх, но потом несколько раз "уточняется" и в сухом остатке мало что остается

[sovaz1997]

svoitsl, посмотрите график. Уже несколько сетей с ростом.

[sovaz1997]

Тесты Лилы в удобном виде: http://mind-research.com/LeelaChess/DiscordTestDB/

[Maratka]

Цитата: Сообщение от sovaz1997

Maratka, похоже, уже исправили эту проблему с проходной

Не исправили, а нарисовали костыль. Как сами и признались - не идеально, сам по себе костыль не идеален.

Цитата: Сообщение от svoitsl

да и проблема то мелкая,встречается наверное раз на 1000 игр,

Оно бывает в каждой первой партии.
Это вроде как написать правило, согласно которому не существует длинной рокировки: движок никуда не денется, и будет играть во вполне себе шахматы, только вот уровень его будет далеко не тот.

[Maratka]

Цитата: Сообщение от svoitsl

да и вообще думаю чаще лучше сперва взять фигуру и сразу ферзя поставить

А потом подумать, зачем на ферзь, из-за которого у соперника пат, и зачем мы брали фигуру, ибо опять из-за этого пат?

Занятная логика!

[sovaz1997]

Maratka, сейчас костыль - в следующих сетях уже реальное исправление

Цитата: Сообщение от Maratka

Это вроде как написать правило, согласно которому не существует длинной рокировки: движок никуда не денется, и будет играть во вполне себе шахматы, только вот уровень его будет далеко не тот.

Нет, это не так: совершенно разный уровень влияния на силу игры.

[Maratka]

Цитата: Сообщение от sovaz1997

Maratka, сейчас костыль - в следующих сетях уже реальное исправление

Следующие сети переучивать черт знает сколько времени.
Напомню, что проблема пропуска скрытых шахов была исправлена в коде через несколько дней после ее обнаружения и публикации, но вот сеть натаскивалась на это где-то месяц-полтора.

[sovaz1997]

Maratka, главное, чтобы прогресс был от переобучения. О он есть. Конечно, одним самообучением не обходится: улучшается и сам движок.

[svoitsl]

Цитата: Сообщение от Maratka

Напомню, что проблема пропуска скрытых шахов была исправлена

Значит в принципе можно отобрать уже существующие игры с высоким уровнем игры и без ошибок и тем самым существенно сократить ресурсы для обучения новой сети.
А если сейчас все хорошо протестировать (все многочисленные гипер параметры),то все ресурсы можно пустить на обучение (и таким образом игр будет около 1 млн с в сутки) и к середине июня уже будет сеть на 100-150 Эло сильнее :-)