28.09.2020, 08:51 | #6961 |
Мастер
Регистрация: 11.08.2017
Адрес: Киров
Сообщений: 912
Сказал(а) спасибо: 888
Поблагодарили 1,197 раз(а) в 632 сообщениях
Репутация: 132
|
Re: LCZero
Цитата: Сообщение от Rom77
В общем, можно сказать, что по теоретической пиковой производительности новые видеокарты поколения 30xx примерно на 10 - 30 процентов быстрее ближайших к ним по цене видеокарт поколения 20xx в используемых для шахмат режимах. Как будет на реальных видеокартах, узнаем позже.
Кроме того, была проведена некоторая оптимизация кода. Она уже смешана и появится в следующей версии Лилы. Наибольший эффект от неё получат большие сети и быстрые видеокарты. Вот результаты тестирования скорости в поз/сек, в том числе и с новой видеокартой RTX 3090, до и после оптимизации кода. Тесты проведены для батча по умолчанию (256 позиций в пакете отправляемом процессором на видеокарту) и для батча из 1024 позиций. Код:
ankan 24.09.2020 @Chad , @Navs , @Sciolto , @felix312 RTX 3090 reviews are out, so I can share lc0 benchmark result with 3090 (sorry I don't have access to 3080 yet). Here are results before/after a smaller optimization I am working on (https://github.com/LeelaChessZero/lc0/pull/1428) : lc0 benchmark with sv-3010 network (384x30), default settings (minibatch-size=256) --------------------------------------------- GPU baseline optimized perf gain (%) --------------------------------------------- Titan RTX 17443 20084 15.1 RTX 3090 26820 29767 11.0 A100 41785 48815 16.8 minibatch-size=1024, all other settings default: --------------------------------------------- GPU baseline optimized perf gain (%) --------------------------------------------- Titan RTX 20211 23003 13.8 RTX 3090 33032 36924 11.8 A100 52732 59134 12.1 Note that all results are with custom_winograd path. These big GPUs need even bigger network size / batch size to fully utilize the hardware (e.g: see 23% perf improvement on GA100 going from batch size of 256 to 1024) |
2 пользователя(ей) сказали cпасибо: | alchemist888 (28.09.2020), Jeweller (28.09.2020) |
28.09.2020, 11:30 | #6962 |
2 разряд
Регистрация: 24.01.2018
Сообщений: 351
Сказал(а) спасибо: 481
Поблагодарили 311 раз(а) в 153 сообщениях
Репутация: 56
|
Re: LCZero
alchemist888, Вы не могли бы пояснить (если знаете), почему принят подход "выбирать лучшую сеть"?
если есть несколько тестов, их результаты можно агрегировать и получить один объективный список вместо подхода с суммированием субъективных мнений это не предложение и не критика - интересно понять логику такого подхода |
28.09.2020, 13:04 | #6964 |
КМС
Регистрация: 25.04.2019
Сообщений: 674
Сказал(а) спасибо: 293
Поблагодарили 641 раз(а) в 345 сообщениях
Репутация: 61
|
Re: LCZero
Цитата: Сообщение от Jeweller
alchemist888, Вы не могли бы пояснить (если знаете), почему принят подход "выбирать лучшую сеть"?
если есть несколько тестов, их результаты можно агрегировать и получить один объективный список вместо подхода с суммированием субъективных мнений Проект LCZero позиционирует себя, как некое сообщество. По тестам нередки ситуации, когда нет однозначного результата, или данных не хватает, чтобы перекрыть погрешность. В таких случаях и проводятся голосования. Также голосовалки запускают и по другим причинам, например когда принимается решение удалить базу тренировочных партий старых тестовых ранов, дабы освободить место на сервере и не платить за дополнительные хранилища. |
Пользователь сказал cпасибо: | Jeweller (28.09.2020) |
28.09.2020, 13:50 | #6965 |
2 разряд
Регистрация: 24.01.2018
Сообщений: 351
Сказал(а) спасибо: 481
Поблагодарили 311 раз(а) в 153 сообщениях
Репутация: 56
|
Re: LCZero
Цитата: Сообщение от alchemist888
Сначала несколько главных тестеров и другие желающие тестируют сети и настройки движка в разных условиях...
|
28.09.2020, 15:16 | #6966 |
КМС
Регистрация: 25.04.2019
Сообщений: 674
Сказал(а) спасибо: 293
Поблагодарили 641 раз(а) в 345 сообщениях
Репутация: 61
|
Re: LCZero
Цитата: Сообщение от Jeweller
набор этих разных условий не стандартизирован, для упрощения последующей агрегации (и некоторой экстраполяции на более длинный контроль) ?
|
Пользователь сказал cпасибо: | Jeweller (28.09.2020) |
28.09.2020, 15:43 | #6967 |
Гроссмейстер
Регистрация: 20.01.2019
Сообщений: 1,067
Сказал(а) спасибо: 2
Поблагодарили 701 раз(а) в 343 сообщениях
Репутация: 92
|
Re: LCZero
Цитата: Сообщение от Rom77
Кроме того, была проведена некоторая оптимизация кода. Она уже смешана и появится в следующей версии Лилы. Наибольший эффект от неё получат большие сети и быстрые видеокарты
https://github.com/LeelaChessZero/lc...ag/v0.26.3-rc1 Residual block fusion optimization for cudnn backend, that depends on custom_winograd=true. Enabled by default only for networks with up to 384 filters in fp16 mode and never in fp32 mode. Default can be overridden with --backend-opts=res_block_fusing=false to disable (or =true to enable). New experimental cuda backend without cudnn dependency (cuda-auto, cuda and cuda-fp16 are available). Цитата: Сообщение от alchemist888
выход сети 384x30-t60-4155.pb.gz пришелся на 2020-06-18 09:22. А дедлайн для отправки движка в финал TCEC 18 был назначен на 2020-06-18 12:00. То есть 4155 даже теоретически не смогла бы пройти тесты для сравнения
Цитата:
4155 могла быть включена в голосование как "последняя сеть, натренированная перед дедлайном"
|
28.09.2020, 16:09 | #6968 |
Гроссмейстер
|
Re: LCZero
Цитата: Сообщение от Омегазеро
Residual block fusion optimization for cudnn backend, that depends on custom_winograd=true. Enabled by default only for networks with up to 384 filters in fp16 mode and never in fp32 mode. Default can be overridden with --backend-opts=res_block_fusing=false to disable (or =true to enable).
New experimental cuda backend without cudnn dependency (cuda-auto, cuda and cuda-fp16 are available).
__________________
PGN Spy - top tournaments |
28.09.2020, 17:48 | #6969 |
Мастер
Регистрация: 11.08.2017
Адрес: Киров
Сообщений: 912
Сказал(а) спасибо: 888
Поблагодарили 1,197 раз(а) в 632 сообщениях
Репутация: 132
|
Re: LCZero
Цитата: Сообщение от Переяслав
Я правильно понял, что для 1060 нет смысла обновляться, т.к. все равно fp16 у меня не работает?
|
28.09.2020, 17:50 | #6970 |
Гроссмейстер
|
Re: LCZero
Цитата: Сообщение от Rom77
Хотя можно попробовать принудительно включить, как здесь указано, и проверить.
__________________
PGN Spy - top tournaments |
28.09.2020, 18:35 | #6972 |
Гроссмейстер
Регистрация: 19.04.2017
Сообщений: 4,734
Сказал(а) спасибо: 1,204
Поблагодарили 2,853 раз(а) в 1,885 сообщениях
Репутация: 159
|
Re: LCZero
Цитата: Сообщение от Переяслав
Я правильно понял, что для 1060 нет смысла обновляться, т.к. все равно fp16 у меня не работает?
|
28.09.2020, 22:30 | #6974 |
Гроссмейстер
Регистрация: 20.01.2019
Сообщений: 1,067
Сказал(а) спасибо: 2
Поблагодарили 701 раз(а) в 343 сообщениях
Репутация: 92
|
Re: LCZero
Borg выкатил новую сеть на cuda 11 с последними изменениями
https://ci.appveyor.com/api/buildjob...vidia-cuda.zip Анкан рекомендует пробовать эту версию с новым --backend=cuda-fp16 Навс сообщает, что скорость у него увеличилась с 19631 до 27073 (у него две 2070 карты, насколько я помню) Цитата: Сообщение от Jeweller
набор этих разных условий не стандартизирован, для упрощения последующей агрегации (и некоторой экстраполяции на более длинный контроль) ?
Трудно стандартизировать дебютные наборы, не проводя тестов на их сбалансированность и репрезентативность Кстати, в отличие от Алхимика гуру честно признают, что на S18 отправили не ту сеть. И предложены способы, как избежать ошибки. Другое дело, насколько они сработают в данном случае... Вот что пишет zz4032 Made a checklist back then after S18 how the unsuccessful network submission could have been avoided 1) SPRT of networks to get high confidence data. 2) Short tests or benchmarks on TCEC hardware. 3) Analysis of LTC games for blunders 4) Scaling/LTC tests I guess this time we've done it all except (2) |
28.09.2020, 22:59 | #6975 |
Эксперт
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
|
Re: LCZero
Барышня, все что Вы пишете - это хорошо, если оно есть.
Вопрос: доказано, что оно есть на момент, когда нужно принять решение: первое? Второе: те, кто принимает решение - его приняли в пользу той версии движка и/или сети, которые Вы продвигаете? |
28.09.2020, 23:05 | #6976 |
Гроссмейстер
Регистрация: 30.05.2018
Адрес: Севастополь
Сообщений: 4,022
Сказал(а) спасибо: 56
Поблагодарили 5,294 раз(а) в 2,673 сообщениях
Репутация: 216
|
Re: LCZero
Только вот нигде не вижу, чтобы "гуру" написал, что нужно было отправить 4155, которой на тот момент было 2 часа.
И если бы он написал такой идиотизм - никаким "гуру" бы он не был. Да и кто ему вообще такое знание выдал? Вы? Авторитетное мнение
__________________
Развернуть для просмотра[свернуть] |
2 пользователя(ей) сказали cпасибо: | Maratka (28.09.2020), Барков Кирилл (28.09.2020) |
28.09.2020, 23:10 | #6977 |
Эксперт
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
|
Re: LCZero
Цитата: Сообщение от Vizvezdenec
Только вот нигде не вижу, чтобы "гуру" написал, что нужно было отправить 4155, которой на тот момент было 2 часа.
Сейчас, за ~10 часов до начала очередного финала вопрос... тот же, но уже на другом витке спирали: версии движка и номер сети LZ? И назвать их нужно вот прямо сейчас, когда я пишу свое сообщение (а момент написания движок форума фиксирует). |
28.09.2020, 23:14 | #6978 |
Гроссмейстер
Регистрация: 30.05.2018
Адрес: Севастополь
Сообщений: 4,022
Сказал(а) спасибо: 56
Поблагодарили 5,294 раз(а) в 2,673 сообщениях
Репутация: 216
|
Re: LCZero
Так вроде бы в этот раз сделали по-человечески - провели SPRT, что-то там ещё. Что получилось - то и отправили.
__________________
Развернуть для просмотра[свернуть] |
28.09.2020, 23:25 | #6979 |
Эксперт
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
|
Re: LCZero
Цитата: Сообщение от Vizvezdenec
Так вроде бы в этот раз сделали по-человечески - провели SPRT, что-то там ещё. Что получилось - то и отправили.
Пишет Вам ханща, что нада так, как она хатеть имет волю! А ана хотеть имеет так, чтобы сеть для LZ был такой, какой всегда выигрывать против любая соперник, да? Или ты чурка недоруский не понимать, что LZ - есть очень сила бальшой, и его если переиграть - то абман, патому как это просто абман по дезайн, патому как LZ праигать не мажет никак, патаму как он сразу все знают, что он лучши, чем все другие, каторые против ниго играют! |
29.09.2020, 12:52 | #6981 |
Эксперт
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
|
Re: LCZero
Цитата: Сообщение от Омегазеро
Повторяю еще раз
Цитата: 4155 могла быть включена в голосование как "последняя сеть, натренированная перед дедлайном" Т.е. кто-то из команды LZ должен был сидеть и "пасти" сервер на предмет появления новой сети. Т.е. в той или иной степени периодически поглядывать на сервер. Понятно, что каждый час туда бегать нереально, но сделаем поблажку, пусть будет даже каждые полчаса, т.е. через полчаса после появления сети о ней узнали в команде LZ. Потом попросить ее протестировать, на что тоже нужно время: нужно пойти, и написать запрос. Предположим, что люди, которые это делают сидели за ПК, и ничем не занимались. Тогда они вполне смогли состряпять это запрос минут за десять. Иначе - запрос был бы позже. А люди, которые это тестируют, должны были тоже сидеть, и пасти - не появился ли запрос на новую сеть. Пусть те же полчаса. И люди эти заведомо свободны, ничем не заняты, находятся дома (карантин ведь, хоть и не во всех странах), ПК у них тоже простаивает. Как следствие, через полчаса после появления запроса они могут запустить турнир. Не все понятно. Но 10% из тех, кто участвует в принципе в этом голосовании возможно и смогут. Затем они ждут, пока турнирчик закончится, и выкладывают результаты. А команда LZ в свою очередь должна сидеть, и пасти "есть ли результаты", после чего прочитать их, осмыслить, и принять решение, какую сеть выпускать на турнир, имея неполные данные по тестированию (мы же помним, что только 10% участников смогли проверить эту сеть). И на все на это - 2 часа 38 минут, с момента физического появления сети. Барышня, Вам самой не смешно? |
29.09.2020, 14:00 | #6985 |
Эксперт
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
|
Re: LCZero
Дороги у нас нормально делаются. Трасса "Таврида" например строится явно не по принципу "лишь бы быстрее сдать". Да и во дворах у нас когда асфальт меняют, то сильно не спешат: ломают старый, но обломки не убирают (зачем?), а по ним каточком - выходит отличная подушка. Потом сверху щебня, чтобы забить полости между теми раскрошенными обломками, ну и далее пошел асфальтоукладчик. Нормально, лет тридцать продержится без проблем.
Вот как у вас с асфальтом - я не знаю. |
29.09.2020, 20:06 | #6988 |
3 разряд
Регистрация: 09.04.2019
Сообщений: 197
Сказал(а) спасибо: 1,130
Поблагодарили 248 раз(а) в 109 сообщениях
Репутация: 56
|
Re: LCZero
Цитата: Сообщение от Alvir
Ну так какую сеть отправили, кто знает?
P.S. Сам себе не ответишь-никто не оценит |
29.09.2020, 21:56 | #6989 |
Гроссмейстер
Регистрация: 20.01.2019
Сообщений: 1,067
Сказал(а) спасибо: 2
Поблагодарили 701 раз(а) в 343 сообщениях
Репутация: 92
|
Re: LCZero
Цитата: Сообщение от Alvir
Final Test Report Код:
# PLAYER : RATING ERROR POINTS PLAYED (%) CFS(%) W D L D(%) 1 stockfish-280920-vnni512 : 21 28 81.0 150 54.0 67 38 86 26 57.3 2 Lc0-J92-190-MLH-slope 0.004 : 7 53 24.0 50 48.0 56 10 28 12 56.0 3 Lc0-J92-210-MLH-slope 0.004 : 0 52 23.5 50 47.0 73 9 29 12 58.0 4 Lc0-J92-220-MLH-slope 0.004 : -28 54 21.5 50 43.0 --- 7 29 14 58.0 Ведь многотысячные тесты дали обратный результат Успокаивает одно - Стокфиш все равно выиграет! Разрыв в 15 Эло слишком велик Цитата: Сообщение от Maratka
И на все на это - 2 часа 38 минут, с момента физического появления сети.
Барышня, Вам самой не смешно? То есть практика посылки непроверенных файлов "на удачу" является довольно распространенной. Чья бы корова мычала |
29.09.2020, 22:02 | #6990 |
Эксперт
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
|
Re: LCZero
Цитата: Сообщение от Омегазеро
Аргументом в пользу этой сети был в основном этот тест на длинном контроле
На тот самом ресурсе, где голосование и проводилось. |
Здесь присутствуют: 4 (пользователей: 0 , гостей: 4) | |
|
|